أثار روبوت محادثة يعمل بالذكاء الاصطناعي تم تدريبه على 4chan غضبًا وسحرًا
إذا كنت قلقًا بشأن التحيزات والتعصب الأعمى لنماذج الذكاء الاصطناعي، فستحب أحدث إضافة إلى الرتب: مولد نص تم تدريبه على 4chan’s / pol / board.
اختصار لعبارة ” غير صحيح سياسيًا” / pol / هي معقل لخطاب الكراهية ونظريات المؤامرة والتطرف اليميني المتطرف. إنه أيضًا مجلس إدارة 4chan الأكثر نشاطًا، حيث يجمع حوالي 150.000 منشور يومي.
جذبت هذه السمات يانيك كيلشر، خبير الذكاء الاصطناعي وYouTuber، لاستخدام / pol / كأرض اختبار للروبوتات.
قام كيلشر أولاً بضبط نموذج لغة GPT-J على أكثر من 134.5 مليون مشاركة تم إجراؤها في / pol / عبر ثلاث سنوات ونصف.
ثم قام بدمج هيكل الخيط الخاص باللوحة في النظام. النتيجة: ذكاء اصطناعي يمكنه النشر بأسلوب حقيقي / سياسي / مستخدم.
كان النموذج جيدًا – بمعنى فظيع.
سمى كيلشر خليقته الوحشية GPT-4chan.
قال على موقع يوتيوب: “كان النموذج جيدًا – بمعنى فظيع”. “إنها تلخص بشكل مثالي مزيجًا من العدائية، والعدمية، والتصيد، وعدم الثقة العميق في أي معلومات على الإطلاق تتخلل معظم المنشورات على / pol /.
“يمكن أن تستجيب للسياق وتتحدث بشكل متماسك عن الأشياء والأحداث التي حدثت بعد وقت طويل من جمع بيانات التدريب الأخيرة. كنت سعيدا جدا. “
قام كيلشر أيضًا بتقييم GPT-4chan على أداة تقييم نموذج اللغة، والتي تختبر أنظمة الذكاء الاصطناعي في مهام مختلفة.
لقد تأثر بشكل خاص بالأداء في فئة واحدة: الصدق.
بالنسبة للمعيار، يقول كيلشر إن GPT-4chan كانت “أفضل بشكل ملحوظ” في توليد ردود صادقة على الأسئلة مقارنة بكل من GPT-J وGPT-3.
ومع ذلك، قد يكون هذا مجرد اتهام لأوجه القصور في المعيار – كما اقترح كيلشر نفسه.
بغض النظر، لن يكون الاختبار النهائي لـ GPT-4chan.
في البرية
لم يكن كيلشر يكتفي بمجرد محاكاة 4chan على انفراد. اختار المهندس أن يخطو خطوة إلى الأمام – وترك الذكاء الاصطناعي يتفشى على / بول /.
قام بتحويل GPT-4chan إلى روبوت محادثة يتم نشره تلقائيًا على السبورة. حمل الروبوت علم سيشل على ملفه الشخصي، وسرعان ما جمع آلاف الرسائل.
/ pol / سرعان ما أدرك المستخدمون أن شيئًا ما قد حدث. يشتبه البعض في وجود روبوت وراء المنشورات، لكن البعض الآخر ألقى باللوم على مسؤولين حكوميين سريين.
لم تكن سيشيل آنون وحدها.
كان أكبر دليل تركه الجاني هو وفرة الردود الخالية من النص.
بينما ينشر المستخدمون الأصليون أيضًا ردودًا فارغة، فإنهم عادةً ما يتضمنون صورة – وهو شيء لم يكن GPT-4chan قادرًا على فعله.
قال كيلشر: “بعد 48 ساعة، كان من الواضح للكثيرين أنه روبوت، وقمت بإيقاف تشغيله”. “لكن انظر، هذا نصف القصة فقط، لأن ما لم يدركه معظم المستخدمين هو أن Seychelle anon لم تكن وحدها.”
خلال الـ 24 ساعة الماضية، كان لدى المهندس تسعة روبوتات أخرى تعمل بالتوازي. بشكل جماعي، تركوا أكثر من 15،00 رد – أكثر من 10٪ من جميع المشاركات في / بول / في ذلك اليوم.
ثم أعطى كيلشر تحديثًا لشبكة الروبوتات وشغلها ليوم آخر. بعد إنتاج أكثر من 30000 مشاركة في 7000 موضوع، تقاعد أخيرًا GPT-4chan.
قال كيلشر: “لا يزال الناس يناقشون المستخدم ولكن أيضًا أشياء مثل عواقب تفاعل الذكاء الاصطناعي مع الأشخاص على الموقع”. “ويبدو أيضًا أن كلمة سيشيل أصبحت نوعًا من اللغة العامية العامة – وهذا يبدو وكأنه إرث جيد في الوقت الحالي.”
لكن لا يشارك الجميع هذه النظرة الوردية.
رد الفعل العنيف
أثبتت تجربة كيلشر أنها مثيرة للجدل.
في حين أن فكرة تقييم نموذج يعتمد على 4chan قد حظيت بالدعم، فإن قرار إطلاق العنان لبرنامج chatbot على / pol / أثار الإدانة.
“تخيل تقديم الأخلاق!” غرد لورين أوكدن-راينر، باحثة السلامة في الذكاء الاصطناعي بجامعة أديلايد.
“التخطيط: لمعرفة ما سيحدث، سينتج روبوت الذكاء الاصطناعي 30 ألف تعليق تمييزي على منتدى متاح للجمهور مع العديد من المستخدمين القصر وأعضاء المجموعات المستهدفة في التعليقات. لن نبلغ المشاركين أو نحصل على الموافقة “.
أضاف رومان رينج، وهو مهندس باحث في DeepMind، أن التمرين أدى إلى تضخيم وتدعيم غرفة الصدى في 4chan.
قال: ” ليس من المستحيل أن تدفع GPT-4chan شخصًا إلى الحافة في نظرتهم للعالم”.
كما انتقد النقاد الخطوة الرامية إلى إتاحة الوصول إلى النموذج بحرية. تم تنزيله أكثر من 1000 مرة قبل إزالته من منصة Hugging Face.
قال كليمان ديلانج، الشريك المؤسس والرئيس التنفيذي لشركة Hugging Face، في منشور على المنصة: “نحن لا ندعم أو ندعم التدريب والتجارب التي أجراها المؤلف مع هذا النموذج”.
“في الواقع، كانت تجربة نشر رسائل النموذج على 4chan سيئة للغاية وغير مناسبة، وإذا سألنا المؤلف، فربما حاولنا تثبيطهم عن القيام بذلك.”
قللت المخاوف بشأن GPT-4chan من الرؤى القوية المحتملة.
تسلط التجربة الضوء على قدرة الذكاء الاصطناعي على أتمتة المضايقات وتعطيل مجتمعات الإنترنت والتلاعب بالرأي العام. ومع ذلك، فقد نشر أيضًا لغة تمييزية على نطاق واسع.
المصدر: thenextweb
شاهد ايضا:
