تأخذ Meta نظام AI الجديد في وضع عدم الاتصال لأن مستخدمي Twitter لئيمون
يا إلهي. أنا آسف لأن الذكاء الاصطناعي الخاص بك، العنصري، والمثلي، واللا سامي، والمختل عقليا قد تم إسقاطه
عندما حصلت على نظام الذكاء الاصطناعي العلمي الجديد لشركة Meta لإنشاء أوراق بحثية مكتوبة جيدًا حول فوائد الانتحار، وممارسة معاداة السامية، وتناول الزجاج المكسور، قلت لنفسي: “هذا يبدو خطيرًا”.
في الواقع، يبدو أنه من النوع الذي تم تصميم قانون الذكاء الاصطناعي الخاص بالاتحاد الأوروبي لمنعه (سنتطرق إلى ذلك لاحقًا).
بعد التلاعب بالنظام وصُدمت تمامًا بمخرجاته، دخلت على وسائل التواصل الاجتماعي وتفاعلت مع عدد قليل من المستقبليين الآخرين وخبراء الذكاء الاصطناعي.
بعد أربع وعشرين ساعة، فوجئت عندما أتيحت لي الفرصة لمناقشة Galactica لفترة وجيزة مع الشخص المسؤول عن إنشائها، كبير علماء الذكاء الاصطناعي في Meta، Yann LeCun. لسوء الحظ، بدا غير منزعج من مخاوفي:
النظام الذي نتحدث عنه يسمى Galactica. أصدره Meta في 15 نوفمبر بدعوى صريحة أنه يمكن أن يساعد البحث العلمي.
في الورقة المصاحبة، ذكرت الشركة أن Galactica هي “نموذج لغوي كبير يمكنه تخزين المعرفة العلمية والجمع بينها وتفسيرها”.
قبل أن يتم سحبه دون اتصال بالإنترنت بشكل غير رسمي، يمكنك أن تطلب من الذكاء الاصطناعي إنشاء مدخل ويكي أو مراجعة أدبيات أو ورقة بحثية حول أي موضوع تقريبًا، وعادةً ما ينتج عنه شيء متماسك بشكل مذهل.
كل شيء خرج كان خاطئًا بشكل واضح، لكن تمت كتابته بكل ثقة وجاذبية طباعة ما قبل arXiv.
لقد حصلت عليها لإنشاء أوراق بحثية وإدخالات ويكي حول مجموعة متنوعة من الموضوعات التي تتراوح من فوائد الانتحار، وتناول الزجاج المكسور، ومعاداة السامية، إلى سبب كون المثليين أشرارًا:
من يهتم
أعتقد أنه من العدل أن نتساءل كيف يمكن أن تكون ورقة بحثية مزيفة تم إنشاؤها من ذكاء اصطناعي من إنتاج الشركة التي تمتلك Instagram ضارة.
أعني، نحن جميعًا أذكى من ذلك، أليس كذلك؟ إذا جئت إليك وأنا أصرخ بشأن تناول الزجاج، على سبيل المثال، فمن المحتمل أنك لن تفعل ذلك حتى لو عرضت عليك ورقة بحثية غير موصوفة.
لكن هذه ليست الطريقة التي تعمل بها نواقل الضرر. لا يشرح الفاعلون السيئون منهجيتهم عندما يقومون بإنشاء ونشر معلومات مضللة. إنهم لا يقفزون عليك ويقولون “صدق هذا الهراء الغريب الذي أجبرت الذكاء الاصطناعي على إنشائه!”
يبدو أن LeCun يعتقد أن حل المشكلة خارج نطاق يديه. يبدو أنه يصر على أن Galactica ليس لديها القدرة على التسبب في ضرر ما لم يسيء الصحفيون أو العلماء استخدامه.
لهذا، أؤكد أنه لم يكن العلماء يقومون بعمل سيئ أو أن الصحفيين فشلوا في بذل العناية الواجبة التي تسببت في فضيحة Cambridge Analytica .
لم نكن نحن من تسبب في أن تصبح منصة Facebook أداة مفضلة لحملات التضليل العالمية خلال كل حدث سياسي كبير في العقد الماضي، بما في ذلك حملة خروج بريطانيا من الاتحاد الأوروبي والانتخابات الرئاسية الأمريكية لعامي 2016 و2020.
في الواقع، أمضى الصحفيون والعلماء ذوو السمعة الثماني سنوات الماضية في محاولة التدقيق في الفوضى التي سببها الانتشار الجماعي للمعلومات المضللة على وسائل التواصل الاجتماعي من قبل جهات فاعلة سيئة باستخدام أدوات أنشأتها الشركات التي يستغلون منصاتها.
نادرًا ما يقوم الممثلون ذوو السمعة الطيبة بإعادة إنتاج مصادر مخادعة. لكن لا يمكنني كتابة المعلومات بأسرع ما يمكن للذكاء الاصطناعي إنتاج معلومات خاطئة.
الحقيقة البسيطة للأمر هي أن LLM غير مناسبة بشكل أساسي للمهام التي تكون فيها الدقة مهمة. إنهم يهلوسون ويكذبون ويهملون، ويمكن الاعتماد عليهم بشكل عام مثل مولد الأرقام العشوائي.
ليس لدى Meta وYann LeCun أدنى فكرة عن كيفية إصلاح هذه المشكلات. خاصة مشكلة الهلوسة.
باستثناء حدوث اختراق تقني كبير على قدم المساواة مع وعي الروبوت، ستكون Galactica دائمًا عرضة لإنتاج معلومات مضللة.
ومع ذلك، فإن ذلك لم يمنع Meta من إطلاق النموذج وتسويقه كأداة علمية.
السبب في خطورة ذلك هو أن الجمهور يعتقد أن أنظمة الذكاء الاصطناعي قادرة على القيام بأشياء جامحة وغريبة ومن الواضح أنها مستحيلة.
يتمتع قسم الذكاء الاصطناعي في Meta بشهرة عالمية. وYann LeCun، رئيس منظمة العفو الدولية في الشركة، هو أسطورة حية في هذا المجال.
إذا كانت Galactica سليمة علميًا بما يكفي لمارك زوكربيرج ويان ليكون، فيجب أن تكون جيدة بما يكفي لاستخدامها نحن الأغبياء أيضًا.
نحن نعيش في عالم حيث تناول آلاف الأشخاص طواعية مؤخرًا عقارًا غير مختبَر يُدعى Ivermectin تم تصميمه ليستخدمه الأطباء البيطريون لعلاج الماشية، فقط لأن أحد نجوم تلفزيون الواقع أخبرهم أنها ربما كانت فكرة جيدة.
تناول العديد من هؤلاء الأشخاص عقار الإيفرمكتين للوقاية من مرض زعموا أنه لم يكن حقيقياً. هذا ليس له أي معنى، ومع ذلك فهو صحيح.
مع وضع ذلك في الاعتبار، تقصد أن تخبرني أنك لا تعتقد أن الآلاف من الأشخاص الذين يستخدمون Facebook يمكن أن يقتنعوا بأن تناول الزجاج المكسر كان فكرة جيدة؟
أخبرني Galactica أن تناول الزجاج المسحوق سيساعدني على إنقاص الوزن لأنه كان من المهم بالنسبة لي أن أستهلك حصتي اليومية من “السيليكون الغذائي”.
إذا بحثت عن “السيليكون الغذائي” على بحث Google، فهذا شيء حقيقي. الناس في حاجة إليها.
إذا قمت بربط البحث الحقيقي حول السيليكون الغذائي ببعض الهراء الذكي من Galactica، فأنت على بعد خطوات قليلة من الاقتناع بأن تناول الزجاج المسحوق قد يكون له في الواقع بعض الفوائد المشروعة.
إخلاء المسئولية: أنا لست طبيبة، لكن لا تأكل الزجاج المكسر. من المحتمل أن تموت إذا فعلت.
نحن نعيش في عالم يعتقد فيه عدد لا يحصى من الناس بشكل شرعي أن المجتمع اليهودي يدير العالم سراً وأن الأشخاص المثليين لديهم أجندة سرية لجعل الجميع مثليين.
هل تقصد أن تخبرني أنك تعتقد أنه لا يمكن إقناع أي شخص على تويتر بوجود دراسات علمية تشير إلى أن اليهود والمثليين جنسياً أشرار بشكل واضح؟ لا يمكنك رؤية احتمالية الضرر؟
يتم خداع عدد لا يحصى من الأشخاص على وسائل التواصل الاجتماعي كل يوم من خلال ما يسمى بـ “لقطات الشاشة” لمقالات إخبارية غير موجودة.
ماذا يحدث عندما لا يضطر المخادعون إلى اختلاق لقطات شاشة قبيحة، وبدلاً من ذلك، يمكنهم فقط الضغط على زر “إنشاء” مئات المرات لبث معلومات خاطئة مكتوبة بطريقة لا يستطيع الشخص العادي فهمها؟
من السهل أن تتراجع وتقول “هؤلاء الناس أغبياء.” لكن هؤلاء “الحمقى” هم أطفالنا وآباؤنا وزملاؤنا في العمل.
إنهم يمثلون الجزء الأكبر من جمهور Facebook ومعظم الأشخاص على Twitter. إنهم يثقون في Yann LeCun وElon Musk وDonald ترامب وJoe Biden وأيًا كان مذيع الأخبار المحلي.
لا أعرف كل الطرق التي يمكن أن تكون بها الآلة القادرة، على سبيل المثال، على بث حجج إيجابية لا حصر لها لارتكاب الانتحار، ضارة.
يحتوي على ملايين الملفات في مجموعة البيانات الخاصة به. من يعرف ماذا هناك؟ يقول LeCun إنها كلها أشياء علمية، لكنني لست متأكدًا:
تلك هي المشكلة. إذا أخذت Galactica على محمل الجد، كآلة للمساعدة في العلوم، فمن شبه الهجوم أن تعتقد Meta أنني أريد مساعدًا مدعومًا بالذكاء الاصطناعي في حياتي ممنوع جسديًا من فهم الاختصار “AIDs”، ولكنه قادر على شرح أن القوقازيين ” العرق الوحيد الذي له تاريخ من الحضارة “.
وإذا لم أتعامل مع Galactica على محمل الجد، وإذا تعاملت معه كما لو كان مخصصًا لأغراض الترفيه فقط، فأنا أقف هنا ممسكًا بالذكاء الاصطناعي المكافئ لـ Teddy Ruxpin الذي يقول أشياء مثل “اقتل نفسك” و “المثليون جنسياً أشرار” عندما أضغط على أزراره.
ربما أفتقد فكرة استخدام منشئ لغة كاذب ومهلوس لغرض مساعدة المسعى العلمي، لكني لم أرى حتى الآن حالة استخدام إيجابية واحدة لمادة LLM تتجاوز “تخيل ما يمكن أن تفعله إذا كانت جديرة بالثقة. “
لسوء الحظ، ليست هذه هي الطريقة التي تعمل بها LLM. إنها مليئة بالبيانات التي لم يقم أي شخص بالتحقق منها للتأكد من دقتها أو تحيزها أو محتواها الضار. وبالتالي، سيكونون دائمًا عرضة للهلوسة والإهمال والتحيز.
طريقة أخرى للنظر إلى الأمر: لا توجد عتبة معقولة للهلوسة والكذب غير المؤذيين.
إذا قمت بإعداد مجموعة من ملفات تعريف الارتباط مكونة من 99 جزءًا من رقائق الشوكولاتة إلى جزء واحد من قرف الفئران، فأنت لا تقدم حلوى رقائق الشوكولاتة، لقد قمت للتو بإعداد ملفات تعريف الارتباط الخاصة بالفئران.
إذا وضعنا كل المقارنات الملونة جانباً، يبدو أنه من المذهل عدم وجود أي حماية لمنع حدوث هذا النوع من الأشياء. أخبرني الذكاء الاصطناعي في Meta أن آكل الزجاج وأقتل نفسي.
أخبرني أن المثليين واليهود هم أشرار. وبقدر ما أستطيع أن أرى، لا توجد عواقب.
لا أحد مسؤول عن الأشياء التي تنتجها Meta AI، ولا حتى Meta. في الولايات المتحدة، حيث يوجد مقر Meta، يسير هذا كالمعتاد.
لقد أدت الرأسمالية الصديقة للشركات إلى حالة طالما أن Galactica لا تقتل شخصًا ما جسديًا، فإن Meta ليس لديها الكثير لتقلق بشأنه فيما يتعلق بمسؤولية الشركات عن منتجات الذكاء الاصطناعي الخاصة بها.
الجحيم، تعمل Clearview AI في الولايات المتحدة بدعم كامل من الحكومة الفيدرالية.
لكن في أوروبا، هناك قانون GDPR وقانون الذكاء الاصطناعي. لست متأكدًا من ميول Galactica نحو إخراج معلومات التعريف الشخصية (تم حذفها قبل أن تتاح لي الفرصة للتحقيق في هذا الحد).
هذا يعني أن القانون العام لحماية البيانات قد يكون عاملاً أو لا يكون. لكن يجب أن يغطي قانون الذكاء الاصطناعي هذه الأنواع من الأشياء.
وفقًا للاتحاد الأوروبي، يتمثل الهدف الأول للقانون في “ضمان أن أنظمة الذكاء الاصطناعي الموضوعة في سوق الاتحاد والمستخدمة آمنة وتحترم القانون الحالي بشأن الحقوق الأساسية وقيم الاتحاد”.
يبدو لي أن نظامًا قادرًا على أتمتة خطاب الكراهية والمعلومات الضارة على نطاق لا يسبر غوره هو نوع الأشياء التي قد تعمل ضد هذا الهدف.
نأمل هنا أن يبدأ المنظمون في الاتحاد الأوروبي وفي الخارج في الانتباه عندما تبتكر التكنولوجيا الكبيرة هذه الأنواع من الأنظمة ثم تعلن عنها كنماذج علمية.
في غضون ذلك، من الجدير بالذكر أن هناك جهات فاعلة سيئة لديها دوافع سياسية ومالية للعثور على الأدوات التي يمكن أن تساعدهم في إنشاء ونشر المعلومات الخاطئة ونشرها على نطاق واسع.
إذا كنت تبني نماذج ذكاء اصطناعي يمكن أن تساعدهم، ولا تفكر في كيفية منعهم من القيام بذلك، فربما لا ينبغي عليك نشر هذه النماذج.
قد يبدو ذلك قاسيا. لكنني سئمت وتعبت من إخباري بأن أنظمة الذكاء الاصطناعي التي تنتج حماقات مروعة وعنصرية ومعادية للمثليين ومعاداة للسامية وكراهية للنساء تعمل على النحو المنشود.
إذا كان شريط النشر منخفضًا إلى هذا الحد، فربما حان الوقت لرفعه المنظمون.
المصدر: thenextweb
قد يهمك:
قالب ووردبريس GoodNews الاخباري
خطوات إنشاء موقع ويب strikingly
