طريقة جديدة تكشف كيف يعمل الذكاء الاصطناعي
من الصعب خداع الشبكات العصبية بفضل التدريب على الخصومة.
طور باحثو مختبر لوس ألاموس الوطني طريقة جديدة لمقارنة الشبكات العصبية التي تبحث في “الصندوق الأسود” للذكاء الاصطناعي لمساعدة الباحثين على فهم سلوك الشبكة العصبية. تحدد الشبكات العصبية الأنماط في مجموعات البيانات وتستخدم في تطبيقات متنوعة مثل المساعدين الافتراضيين وأنظمة التعرف على الوجه والمركبات ذاتية القيادة.
“لا يمتلك مجتمع أبحاث الذكاء الاصطناعي بالضرورة فهمًا كاملاً لما تفعله الشبكات العصبية؛ قال هايدن جونز، الباحث في مجموعة Advanced Research in Cyber Systems في لوس ألاموس ، “إنها تقدم لنا نتائج جيدة، لكننا لا نعرف كيف ولماذا”. “تقوم طريقتنا الجديدة بعمل أفضل في مقارنة الشبكات العصبية، وهي خطوة حاسمة نحو فهم أفضل للرياضيات الكامنة وراء الذكاء الاصطناعي.”
يبحث الباحثون في لوس ألاموس عن طرق جديدة لمقارنة الشبكات العصبية. تم إنشاء هذه الصورة باستخدام برنامج ذكاء اصطناعي يسمى Stable Diffusion ، باستخدام موجه “نظرة خاطفة في الصندوق الأسود للشبكات العصبية”. الائتمان:
مختبر لوس ألاموس الوطني
جونز هو المؤلف الرئيسي لورقة بحثية قدمت مؤخرًا في مؤتمر عدم اليقين في الذكاء الاصطناعي. تعتبر الورقة خطوة مهمة في توصيف سلوك الشبكات العصبية القوية بالإضافة إلى دراسة تشابه الشبكة.
الشبكات العصبية عالية الأداء لكنها هشة. على سبيل المثال، تستخدم المركبات المستقلة الشبكات العصبية للتعرف على العلامات. إنهم بارعون جدًا في القيام بذلك في ظروف مثالية. ومع ذلك، قد تكتشف الشبكة العصبية عن طريق الخطأ إشارة ولا تتوقف أبدًا إذا كان هناك حتى أدنى شذوذ، مثل ملصق على علامة توقف.
لذلك، من أجل تحسين الشبكات العصبية، يبحث الباحثون عن استراتيجيات لزيادة قوة الشبكة. تتضمن إحدى الطرق المتطورة “مهاجمة” الشبكات أثناء تدريبها. يتم تدريب الذكاء الاصطناعي على التغاضي عن التشوهات التي يقدمها الباحثون عن قصد. في الأساس، هذه التقنية، المعروفة باسم التدريب على الخصومة، تجعل من الصعب خداع الشبكات.
في اكتشاف مفاجئ، قام جونز ومعاونيه من لوس ألاموس وجاكوب سبرينغر وجاريت كينيون ، بالإضافة إلى معلم جونز جوستون مور، بتطبيق مقياس تشابه الشبكة الجديد على الشبكات العصبية المدربة على الخصوم. اكتشفوا أنه مع زيادة شدة الهجوم، يتسبب التدريب العدائي في تقارب الشبكات العصبية في مجال رؤية الكمبيوتر مع تمثيلات بيانات متشابهة جدًا، بغض النظر عن بنية الشبكة.
قال جونز: “وجدنا أنه عندما نقوم بتدريب الشبكات العصبية لتكون قوية ضد الهجمات المعادية، فإنها تبدأ في فعل نفس الأشياء”.
كان هناك جهد مكثف في الصناعة وفي المجتمع الأكاديمي للبحث عن “البنية الصحيحة” للشبكات العصبية، لكن النتائج التي توصل إليها فريق Los Alamos تشير إلى أن إدخال التدريب العدائي يضيق مساحة البحث هذه إلى حد كبير. نتيجة لذلك، قد لا يحتاج مجتمع أبحاث الذكاء الاصطناعي إلى قضاء الكثير من الوقت في استكشاف البنى الجديدة، مع العلم أن التدريب العدائي يتسبب في تقارب بنى متنوعة مع حلول مماثلة.
“من خلال اكتشاف أن الشبكات العصبية القوية متشابهة مع بعضها البعض، فإننا نجعل من السهل فهم كيفية عمل الذكاء الاصطناعي القوي حقًا. قد نكشف حتى عن تلميحات حول كيفية حدوث الإدراك لدى البشر والحيوانات الأخرى، “قال جونز.
المصدر: scitechdaily
شاهد المزيد:
