يعارض جبابرة الذكاء الاصطناعي Andrew Ng و Yann LeCun الدعوة إلى التوقف مؤقتًا عن أنظمة الذكاء الاصطناعي
اثنين من الشخصيات البارزة في صناعة الذكاء الاصطناعي (AI)، Yann LeCun ، كبير علماء الذكاء الاصطناعي في Meta، و Andrew Ng ، مؤسس Deep Learning، جادلوا ضد وقف مقترح لتطوير أنظمة ذكاء اصطناعي قوية في مناقشة عبر الإنترنت يوم الجمعة.
تمت استضافة المناقشة، التي تحمل عنوان “لماذا توقف الذكاء الاصطناعي لمدة 6 أشهر فكرة سيئة”، على موقع YouTube واجتذبت آلاف المشاهدين.
خلال الحدث، طعن LeCun و Ng في خطاب مفتوح تم توقيعه من قبل مئات خبراء الذكاء الاصطناعي ورجال الأعمال والعلماء في مجال التكنولوجيا الشهر الماضي يدعو إلى وقف لمدة ستة أشهر على الأقل لتدريب أنظمة الذكاء الاصطناعي الأكثر تقدمًا من GPT-4، وهو برنامج لإنشاء النصوص يمكنه إنتاج ردود واقعية ومتماسكة على أي سؤال أو موضوع تقريبًا.
قال نج في ملاحظاته الافتتاحية: “لقد فكرنا بإسهاب في اقتراح التأجيل لمدة ستة أشهر وشعرنا أنه كان موضوعًا مهمًا بدرجة كافية – أعتقد أنه سيسبب ضررًا كبيرًا إذا نفذته الحكومة – شعرنا أنا ويان أننا أردنا التحدث معك هنا حول هذا الموضوع اليوم”.
أوضح نج أولًا أن مجال الذكاء الاصطناعي شهد تطورات ملحوظة في العقود الأخيرة، خاصة في السنوات القليلة الماضية.
مكنت تقنيات التعلم العميق من إنشاء أنظمة ذكاء اصطناعي توليدية يمكنها إنتاج نصوص وصور وأصوات واقعية، مثل ChatGPT و LLaMA و Midjourney و Stable Diffusion و Dall-E.
أثارت هذه الأنظمة الآمال في التطبيقات والإمكانيات الجديدة، ولكنها أيضًا أثارت مخاوف بشأن أضرارها ومخاطرها المحتملة.
كانت بعض هذه المخاوف مرتبطة بالحاضر والمستقبل القريب، مثل الإنصاف والتحيز والتشريد الاجتماعي والاقتصادي.
كان البعض الآخر أكثر تخمينًا وبعيدًا، مثل ظهور الذكاء الاصطناعي العام (AGI) وعواقبه الخبيثة المحتملة أو غير المقصودة.
قال LeCun في ملاحظاته الافتتاحية: “من المحتمل أن تكون هناك دوافع عديدة من مختلف الموقعين على تلك الرسالة”.
“البعض منهم، ربما من ناحية، قلقون من تشغيل الذكاء الاصطناعي العام ومن ثم القضاء على الإنسانية في غضون مهلة قصيرة.
أعتقد أن قلة من الناس يؤمنون حقًا بهذا النوع من السيناريوهات، أو يعتقدون أنه تهديد محدد لا يمكن إيقافه “.
وتابع “ثم هناك أشخاص أكثر عقلانية، ممن يعتقدون أن هناك خطرًا وضررًا محتملاً حقيقيًا يجب التعامل معه – وأنا أتفق معهم”.
“هناك الكثير من المشكلات المتعلقة بجعل أنظمة الذكاء الاصطناعي قابلة للتحكم، وجعلها واقعية، إذا كان من المفترض أن توفر المعلومات، وما إلى ذلك، وجعلها غير سامة.
هناك القليل من الافتقار للخيال بمعنى أنه ليس مثل أنظمة الذكاء الاصطناعي المستقبلية التي سيتم تصميمها على نفس المخطط مثل LLMs الحالية ذات الانحدار التلقائي مثل ChatGPT وGPT-4 أو أنظمة أخرى قبلها مثل Galactica أو Bard أو أيًا كان. أعتقد أنه ستكون هناك أفكار جديدة ستجعل هذه الأنظمة أكثر قابلية للتحكم “.
تزايد الجدل حول كيفية تنظيم الذكاء الاصطناعي
تم عقد الحدث عبر الإنترنت وسط نقاش متزايد حول كيفية تنظيم LLMs الجديدة التي يمكن أن تنتج نصوصًا واقعية حول أي موضوع تقريبًا.
أثارت هذه النماذج، التي تستند إلى التعلم العميق والمدرَّبة على كميات هائلة من البيانات عبر الإنترنت، مخاوف بشأن احتمال إساءة استخدامها وإلحاق الضرر بها.
تصاعد النقاش قبل ثلاثة أسابيع عندما أصدرت شركة OpenAI GPT-4، أحدث وأقوى طراز لها.
في مناقشتهم، اتفق Ng وLeCun على أن بعض التنظيم ضروري، ولكن ليس على حساب البحث والابتكار.
وجادلوا بأن التوقف عن تطوير أو نشر هذه النماذج كان غير واقعي ويؤدي إلى نتائج عكسية. ودعوا أيضًا إلى مزيد من التعاون والشفافية بين الباحثين والحكومات والشركات لضمان الاستخدام الأخلاقي والمسؤول لهذه النماذج.
قال LeCun: “رد فعلي الأول على [الرسالة] هو أن الدعوة إلى تأخير البحث والتطوير تبدو لي موجة جديدة من الظلامية”.
لماذا يبطئ تقدم المعرفة والعلوم؟ ثم هناك مسألة المنتجات … أنا جميعًا أؤيد تنظيم المنتجات التي تقع في أيدي الناس.
لا أرى فائدة من تنظيم البحث والتطوير. لا أعتقد أن هذا يخدم أي غرض بخلاف تقليل المعرفة التي يمكننا استخدامها لجعل التكنولوجيا أفضل وأكثر أمانًا.
“في حين أن للذكاء الاصطناعي اليوم بعض مخاطر الضرر، مثل التحيز والإنصاف وتركيز القوة – فهذه قضايا حقيقية – أعتقد أنها تخلق أيضًا قيمة هائلة.
أعتقد أنه من خلال التعلم العميق على مدى السنوات العشر الماضية، وحتى في العام الماضي أو نحو ذلك، فإن عدد أفكار الذكاء الاصطناعي التوليدية وكيفية استخدامها في التعليم أو الرعاية الصحية، أو التدريب سريع الاستجابة، أمر مثير للغاية، والقيمة التي يخلقها الكثير من الناس لمساعدة الآخرين باستخدام الذكاء الاصطناعي.
وأضاف LeCun: “أعتقد أنه أمر مذهل مثل GPT-4 اليوم، فإن بنائه بشكل أفضل من GPT-4 سيساعد كل هذه التطبيقات ويساعد الكثير من الأشخاص”.
“لذا فإن إيقاف هذا التقدم مؤقتًا يبدو أنه سيؤدي إلى الكثير من الضرر ويبطئ إنشاء أشياء قيّمة للغاية من شأنها أن تساعد الكثير من الناس.”
المصدر: venturebeat
قد يهمك:
