هل يفكر البشر والذكاء الاصطناعي على حد سواء؟
تقارن تقنية جديدة تفكير نموذج التعلم الآلي بمنطق الإنسان، بحيث يمكن للمستخدم رؤية أنماط في سلوك النموذج.
في التعلم الآلي، غالبًا ما يكون فهم سبب اتخاذ النموذج لقرارات معينة لا يقل أهمية عن صحة هذه القرارات. على سبيل الالمثال،د يتنبأ نموذج التعلم الآلي بشكل صحيح بأن الآفة الجلدية سرطانية، ولكن كان من الممكن أن تفعل ذلك باستخدام صورة طبية غير ذات صلة على صورة سريرية.
بينما توجد أدوات لمساعدة الخبراء على فهم منطق النموذج، غالبًا ما توفر هذه الأساليب رؤى حول قرار واحد فقط في كل مرة، ويجب تقييم كل منها يدويًا. يتم تدريب النماذج بشكل عام باستخدام الملايين من مدخلات البيانات، مما يجعل من المستحيل تقريبًا على الإنسان تقييم قرارات كافية لتحديد الأنماط.
الآن، أنشأ الباحثون في MIT وIBM Research طريقة تمكن المستخدم من تجميع هذه التفسيرات الفردية وفرزها وترتيبها لتحليل سلوك نموذج التعلم الآلي بسرعة. يتضمن أسلوبهم، المسمى Shared Interest ، مقاييس قابلة للقياس الكمي تقارن مدى تطابق منطق النموذج مع منطق الإنسان.
يمكن أن تساعد المصلحة المشتركة المستخدم في الكشف بسهولة عن الاتجاهات المتعلقة بعملية صنع القرار في النموذج – على سبيل المثال، ربما يصبح النموذج مرتبكًا في كثير من الأحيان من خلال ميزات مشتتة وغير ملائمة، مثل كائنات الخلفية في الصور. يمكن أن يساعد تجميع هذه الرؤى المستخدم في تحديد ما إذا كان النموذج جديرًا بالثقة وجاهزًا للنشر في موقف حقيقي.
يقول المؤلف الرئيسي إنجي بوجوست ، طالبة دراسات عليا في مجموعة التصور في معمل علوم الحاسب والذكاء الاصطناعي (CSAIL).
كتبت Boggust الورقة مع مستشارها، Arvind Satyanarayan ، الأستاذ المساعد في علوم الكمبيوتر الذي يقود مجموعة Visualization Group ، بالإضافة إلى Benjamin Hoover والمؤلف الرئيسي Hendrik Strobelt ، وكلاهما من IBM Research. سيتم تقديم الورقة في مؤتمر العوامل البشرية في أنظمة الحوسبة.
بدأ Boggust العمل في هذا المشروع خلال فترة تدريب صيفي في IBM، تحت إشراف Strobelt. بعد العودة إلى معهد ماساتشوستس للتكنولوجيا، توسع بوجوست وساتيانارايان في المشروع واستمروا في التعاون مع ستروبلت وهوفر، الذين ساعدوا في نشر دراسات الحالة التي توضح كيف يمكن استخدام التقنية في الممارسة العملية.
محاذاة الإنسان والذكاء الاصطناعي
تستفيد المصلحة المشتركة من التقنيات الشائعة التي توضح كيف اتخذ نموذج التعلم الآلي قرارًا محددًا، يُعرف باسم طرق الملوحة. إذا كان النموذج يصنف الصور، فإن طرق الملوحة تسلط الضوء على مناطق الصورة المهمة للنموذج عندما اتخذ قراره. يتم تصور هذه المناطق كنوع من خرائط الحرارة، تسمى خريطة الملوحة، والتي غالبًا ما يتم تراكبها على الصورة الأصلية. إذا صنف النموذج الصورة على أنها كلب، وتم تمييز رأس الكلب، فهذا يعني أن تلك البكسلات كانت مهمة للنموذج عندما قرر أن الصورة تحتوي على كلب.
تعمل المصلحة المشتركة من خلال مقارنة طرق البروز ببيانات الحقيقة. في مجموعة بيانات الصورة، عادةً ما تكون بيانات الحقيقة الأساسية عبارة عن تعليقات توضيحية من صنع الإنسان تحيط بالأجزاء ذات الصلة من كل صورة. في المثال السابق، سيُحيط المربع بالكلب بأكمله في الصورة. عند تقييم نموذج تصنيف الصورة، يقارن Shared Interest بين بيانات الملوحة الناتجة عن النموذج وبيانات الحقيقة الأرضية التي تم إنشاؤها بواسطة الإنسان للصورة نفسها لمعرفة مدى توافقها.
تستخدم التقنية عدة مقاييس لتحديد هذا المحاذاة (أو عدم المحاذاة) ثم فرز قرار معين في واحدة من ثماني فئات. تعمل الفئات في التدرج اللوني من المحاذاة تمامًا للإنسان (يقوم النموذج بعمل توقع صحيح والمنطقة المميزة في خريطة الملوحة مماثلة للمربع الذي تم إنشاؤه بواسطة الإنسان) إلى تشتيت الانتباه تمامًا (يقوم النموذج بعمل توقع غير صحيح ولا يستخدم أي صورة الميزات الموجودة في المربع من إنشاء الإنسان).
“في أحد طرفي الطيف، اتخذ نموذجك القرار لنفس السبب الذي اتخذه الإنسان بالضبط، وعلى الطرف الآخر من الطيف، يتخذ نموذجك والإنسان هذا القرار لأسباب مختلفة تمامًا. من خلال تحديد ذلك بالنسبة لجميع الصور الموجودة في مجموعة البيانات الخاصة بك، يمكنك استخدام هذا القياس الكمي لفرزها، “يشرح بوجوست.
تعمل التقنية بشكل مشابه مع البيانات المستندة إلى النص، حيث يتم تمييز الكلمات الرئيسية بدلاً من مناطق الصور.
طور الباحثون طريقة تستخدم مقاييس قابلة للقياس الكمي لمقارنة مدى تطابق منطق نموذج التعلم الآلي مع تفكير الإنسان. تُظهر هذه الصورة وحدات البكسل في كل صورة التي استخدمها النموذج لتصنيف الصورة (محاطة بالخط البرتقالي) وكيف يقارن ذلك بأهم وحدات البكسل ، كما هو محدد من قبل الإنسان (محاطًا بالمربع الأصفر). الائتمان: بإذن من الباحثين
تحليل سريع
استخدم الباحثون ثلاث دراسات حالة لإظهار كيف يمكن أن يكون الاهتمام المشترك مفيدًا لكل من الباحثين غير الخبراء والباحثين في مجال التعلم الآلي.
في دراسة الحالة الأولى، استخدموا Shared Interest لمساعدة طبيب الأمراض الجلدية في تحديد ما إذا كان يجب أن يثق في نموذج التعلم الآلي المصمم للمساعدة في تشخيص السرطان من صور الآفات الجلدية. مكنت المصلحة المشتركة طبيب الأمراض الجلدية من رؤية أمثلة للتنبؤات الصحيحة والخاطئة للنموذج بسرعة. في النهاية، قرر طبيب الأمراض الجلدية أنه لا يمكنه الوثوق بالنموذج لأنه قدم الكثير من التنبؤات بناءً على نتائج الصورة، بدلاً من الآفات الفعلية.
“القيمة هنا هي أنه باستخدام ميزة Shared Interest ، يمكننا رؤية هذه الأنماط تظهر في سلوك نموذجنا. في غضون نصف ساعة تقريبًا، تمكن طبيب الأمراض الجلدية من اتخاذ قرار واثق بشأن ما إذا كان سيثق في النموذج أم لا وما إذا كان سيتم نشره أم لا “، كما يقول بوجوست.
في دراسة الحالة الثانية، عملوا مع باحث في التعلم الآلي لإظهار كيف يمكن للمصلحة المشتركة تقييم طريقة بروز معينة من خلال الكشف عن عيوب غير معروفة سابقًا في النموذج. مكنت تقنيتهم الباحث من تحليل آلاف القرارات الصحيحة وغير الصحيحة في جزء صغير من الوقت الذي تتطلبه الأساليب اليدوية النموذجية.
في دراسة الحالة الثالثة، استخدموا Shared Interest للتعمق أكثر في مثال معين لتصنيف الصور. من خلال التلاعب بمنطقة الحقيقة الأساسية للصورة، تمكنوا من إجراء تحليل ماذا لو لمعرفة ميزات الصورة الأكثر أهمية لتنبؤات معينة.
أُعجب الباحثون بمدى جودة أداء المصلحة المشتركة في دراسات الحالة هذه، لكن بوجوست يحذر من أن التقنية جيدة فقط مثل طرق البروز التي تعتمد عليها. إذا كانت هذه الأساليب تحتوي على تحيز أو كانت غير دقيقة، فإن المصلحة المشتركة سترث هذه القيود.
في المستقبل، يريد الباحثون تطبيق الفائدة المشتركة على أنواع مختلفة من البيانات، لا سيما البيانات المجدولة المستخدمة في السجلات الطبية. إنهم يريدون أيضًا استخدام المصلحة المشتركة للمساعدة في تحسين تقنيات البروز الحالية. يأمل بوجوست أن يلهم هذا البحث المزيد من العمل الذي يسعى إلى تحديد سلوك نموذج التعلم الآلي بطرق منطقية للبشر.
المصدر: scitechdaily
شاهد ايضا:
