توقف عن الجدال حول ما إذا كان الذكاء الاصطناعي “واعيًا” – السؤال هو ما إذا كان بإمكاننا الوثوق به
شهد الشهر الماضي موجة من المقالات والمقابلات وأنواع أخرى من التغطية الإعلامية حول Blake Lemoine، مهندس Google الذي قال لصحيفة The Washington Post إن نموذج اللغة الكبيرة LaMDA الذي تم إنشاؤه للمحادثات مع المستخدمين هو “واعي”.
بعد قراءة عشرات المقالات المختلفة حول هذا الموضوع، يجب أن أقول إن وسائل الإعلام أصبحت (قليلاً) بخيبة أمل من الضجيج المحيط بتكنولوجيا الذكاء الاصطناعي الحالية.
ناقش الكثير من المقالات سبب عدم كون الشبكات العصبية العميقة “واعية” أو “واعية”.
يعد هذا تحسنًا مقارنةً بما كان عليه الحال قبل بضع سنوات، عندما كانت منافذ الأخبار تخلق قصصًا مثيرة عن أنظمة الذكاء الاصطناعي التي تخترع لغتها الخاصة، وتتولى كل وظيفة، وتتسارع نحو الذكاء الاصطناعي العام.
لكن حقيقة أننا نناقش الإحساس والوعي تؤكد مرة أخرى نقطة مهمة: نحن في مرحلة أصبحت فيها أنظمة الذكاء الاصطناعي لدينا – أي نماذج اللغة الكبيرة – مقنعة بشكل متزايد بينما لا تزال تعاني من عيوب أساسية أشار إليها العلماء على مناسبات مختلفة.
أنا أعلم أن “الذكاء الاصطناعي يخدع البشر” قد تمت مناقشته منذ روبوت الدردشة ELIZA في الستينيات، ولكن LLM اليوم في مستوى آخر حقًا.
إذا كنت لا تعرف كيف تعمل نماذج اللغة، فإن محادثات Blake Lemoine مع LaMDA تبدو شبه سريالية – حتى لو تم انتقاءها وتعديلها.
ومع ذلك، فإن النقطة التي أريد أن أوضحها هنا هي أن “الإحساس” و “الوعي” ليسا أفضل نقاش حول LLMs وتكنولوجيا الذكاء الاصطناعي الحالية.
ستكون المناقشة الأكثر أهمية هي المناقشة حول التوافق البشري والثقة، خاصة وأن هذه التقنيات يتم إعدادها ليتم دمجها في التطبيقات اليومية.
لماذا لا تتحدث النماذج اللغوية الكبيرة لغتنا
تمت مناقشة طريقة عمل الشبكات العصبية ونماذج اللغة الكبيرة باستفاضة في الأسبوع الماضي (أوصي بشدة بقراءة مقابلة ميلاني ميتشل مع MSNBC للحصول على وصف متوازن لكيفية عمل LaMDA وLLMs الأخرى).
أود أن أعطي عرضًا أكثر تصغيرًا للوضع، بدءًا من اللغة البشرية، والتي تتم مقارنة LLM بها.
بالنسبة للبشر، اللغة هي وسيلة لإيصال عمليات التنشيط المعقدة والمتعددة الأبعاد التي تحدث في أدمغتنا.
على سبيل المثال، عندما يتحدث شقيقان مع بعضهما البعض ويقول أحدهما “أمي”، ترتبط الكلمة بالعديد من الأنشطة في أجزاء مختلفة من الدماغ، بما في ذلك ذكريات صوتها ووجهها ومشاعرها وتجارب مختلفة من الماضي البعيد (ربما) للأيام الأخيرة.
في الواقع، قد يكون هناك اختلاف كبير بين نوع التمثيلات التي يحملها الأخوان في أدمغتهم، اعتمادًا على التجارب التي مر بها كل منهم.
مع ذلك، فإن كلمة “أمي” توفر تقريبًا مضغوطًا وممثلًا جيدًا يساعدهم في الاتفاق على نفس المفهوم.
عندما تستخدم كلمة “أمي” في محادثة مع شخص غريب، يصبح الفرق بين التجارب والذكريات أوسع. لكن مرة أخرى، يمكنك الوصول إلى اتفاق قائم على المفاهيم المشتركة التي لديك في أذهانك.
فكر في اللغة كخوارزمية ضغط تساعد في نقل المعلومات الهائلة في الدماغ إلى شخص آخر.
يرتبط تطور اللغة بشكل مباشر بالخبرات التي مررنا بها في العالم، من التفاعلات الجسدية في بيئتنا إلى التفاعلات الاجتماعية مع زملائنا من البشر.
اللغة مبنية على قمة خبراتنا المشتركة في العالم. يعرف الأطفال الجاذبية والأبعاد والاتساق الجسدي للأشياء والمفاهيم الإنسانية والاجتماعية مثل الألم والحزن والخوف والأسرة والصداقة حتى قبل أن ينطقوا بكلمتهم الأولى.
بدون هذه التجارب، لا معنى للغة. هذا هو السبب في أن اللغة عادة ما تغفل المعرفة المنطقية والمعلومات التي يشاركها المحاورون.
من ناحية أخرى، سيحدد مستوى الخبرة والذاكرة المشتركة عمق المحادثة التي يمكن أن تجريها مع شخص آخر.
في المقابل، لا تمتلك النماذج اللغوية الكبيرة أي خبرة جسدية واجتماعية.
يتم تدريبهم على بلايين الكلمات ويتعلمون الاستجابة للمطالبات من خلال التنبؤ بالتسلسل التالي للكلمات. هذا هو النهج الذي أسفر عن نتائج رائعة في السنوات القليلة الماضية، خاصة بعد إدخال هندسة المحولات.
كيف تتمكن المحولات من عمل تنبؤات مقنعة للغاية؟ يقومون بتحويل النص إلى “رموز مميزة” و “حفلات زفاف”، وهي تمثيلات رياضية للكلمات في فضاء متعدد الأبعاد.
ثم يقومون بمعالجة التضمين لإضافة أبعاد أخرى مثل العلاقات بين الكلمات في تسلسل النص ودورها في الجملة والفقرة.
مع وجود أمثلة كافية، يمكن لهذه الزخارف إنشاء تقديرات تقريبية جيدة لكيفية ظهور الكلمات في التسلسل.
أصبحت المحولات شائعة بشكل خاص لأنها قابلة للتطوير: تتحسن دقتها عندما تصبح أكبر وتتغذى على المزيد من البيانات، ويمكن تدريبها في الغالب من خلال التعلم غير الخاضع للإشراف.
لكن الاختلاف الأساسي لا يزال قائما. تعالج الشبكات العصبية اللغة عن طريق تحويلها إلى حفلات زفاف.
بالنسبة للبشر، اللغة هي ترسيخ الأفكار والمشاعر والذاكرة والتجربة الجسدية والعديد من الأشياء الأخرى التي لم نكتشفها بعد عن الدماغ.
هذا هو السبب في أنه من العدل أن نقول إنه على الرغم من التقدم الهائل والنتائج المثيرة للإعجاب، إلا أن المحولات ونماذج اللغة الكبيرة والشبكات العصبية العميقة وما إلى ذلك لا تزال بعيدة عن التحدث بلغتنا.
الصبر مقابل التوافق والثقة
تدور الكثير من المناقشات اليوم حول ما إذا كان يجب علينا تخصيص سمات مثل الإحساس والوعي والشخصية للذكاء الاصطناعي.
تكمن مشكلة هذه المناقشات في أنها تركز على المفاهيم التي تم تعريفها بشكل غامض وتعني أشياء مختلفة لأشخاص مختلفين.
على سبيل المثال، قد يجادل العاملون في أن الشبكات العصبية ونماذج اللغة الكبيرة واعية لأنها تظهر (جزئيًا على الأقل) نفس النوع من السلوك الذي تتوقعه من الإنسان، على الرغم من أنها مبنية على ركيزة مختلفة.
قد يجادل آخرون بأن المادة العضوية هي مطلب للوعي ويستنتجون أن الشبكات العصبية لن تكون واعية أبدًا. يمكنك طرح الحجج حول الجودة، وتجربة الغرفة الصينية، واختبار تورينج، وما إلى ذلك، ويمكن أن تستمر المناقشة إلى الأبد.
ومع ذلك، فإن السؤال الأكثر عملية هو، ما مدى “توافق” الشبكات العصبية الحالية مع العقل البشري، وإلى أي مدى يمكننا الوثوق بها من خلال التطبيقات الهامة؟ وهذه مناقشة مهمة يجب إجراؤها لأن النماذج اللغوية الكبيرة يتم تطويرها في الغالب من قبل الشركات التي تسعى إلى تحويلها إلى تطبيقات تجارية.
على سبيل المثال، مع التدريب الكافي، قد تتمكن من تدريب الشمبانزي على ركوب السيارة.
لكن هل ستضعه خلف عجلة القيادة على طريق يعبره المشاة؟ لن تفعل ذلك، لأنك تعلم أنه مهما كانت ذكائهم، فإن الشمبانزي لا يفكر بنفس الطريقة التي يفكر بها البشر ولا يمكن أن يتحمل مسؤولية المهام التي تتعلق بسلامة الإنسان.
وبالمثل، يمكن تعليم الببغاء العديد من العبارات. ولكن هل تثق به ليكون وكيل خدمة العملاء الخاص بك؟ على الاغلب لا.
حتى عندما يتعلق الأمر بالبشر، فإن بعض الإعاقات المعرفية تجعل الناس غير مؤهلين لتولي وظائف ومهام معينة تتطلب تفاعلات بشرية أو تراعي سلامة الإنسان.
في كثير من الحالات، يمكن لهؤلاء الأشخاص القراءة والكتابة والتحدث بطلاقة والبقاء متسقين ومنطقيين في المحادثات المطولة.
نحن لا نشكك في إحساسهم أو وعيهم أو شخصيتهم. لكننا نعلم أن قراراتهم يمكن أن تصبح غير متسقة وغير متوقعة بسبب مرضهم (انظر حالة Phineas Gage ، على سبيل المثال).
ما يهم هو ما إذا كان يمكنك الوثوق بالشخص ليفكر ويقرر مثل الإنسان العادي.
في كثير من الحالات، نثق في الأشخاص الذين يقومون بمهام لأننا نعلم أن نظامهم الحسي، ومعرفة الفطرة السليمة، والمشاعر، والأهداف، والمكافآت تتوافق في الغالب مع نظامنا، حتى لو لم يتحدثوا لغتنا.
ماذا نعرف عن لامدا؟ حسنًا، لسبب واحد، إنه لا يشعر بالعالم كما نفعل نحن.
إن “معرفتها” باللغة ليست مبنية على نفس النوع من التجارب مثل تجاربنا. إن معرفته المنطقية مبنية على أساس غير مستقر لأنه لا يوجد ضمان بأن كميات كبيرة من النص ستغطي كل الأشياء التي نحذفها في اللغة.
بالنظر إلى عدم التوافق هذا، إلى أي مدى يمكنك الوثوق بـ LaMDA ونماذج اللغات الكبيرة الأخرى، بغض النظر عن مدى جودتها في إنتاج إخراج نصي؟ قد لا يكون برنامج chatbot الودي والممتع فكرة سيئة طالما أنه لا يوجه المحادثة إلى مواضيع حساسة.
تعد محركات البحث أيضًا مجال تطبيق جيد لـ LLM (تستخدم Google BERT في البحث منذ بضع سنوات).
لكن هل يمكنك الوثوق بهم في مهام أكثر حساسية، مثل برنامج محادثة لخدمة العملاء مفتوح العضوية أو مستشار مصرفي (حتى لو تم تدريبهم أو ضبطهم على عدد كبير من نصوص المحادثات ذات الصلة)؟
تفكيري هو أننا سنحتاج إلى معايير خاصة بالتطبيق لاختبار اتساق LLM وتوافقها مع الفطرة البشرية في مجالات مختلفة.
عندما يتعلق الأمر بالتطبيقات الحقيقية، يجب أن تكون هناك دائمًا حدود محددة بوضوح تحدد أين تصبح المحادثة خارج حدود LLM ويجب تسليمها إلى عامل بشري.
منظور حل المشكلات
منذ فترة، كتبت مقالًا عن “مكتشفو المشكلات” و “الذين يحلون المشكلات”.
في الأساس، ما قلته هو أن الذكاء البشري يدور حول إيجاد المشاكل الصحيحة والذكاء الاصطناعي (أو الذكاء الاصطناعي الذي لدينا اليوم) يدور حول حل تلك المشكلات بأكثر الطرق كفاءة.
لقد رأينا مرارًا وتكرارًا أن أجهزة الكمبيوتر قادرة على إيجاد طرق مختصرة لحل المشكلات المعقدة دون اكتساب القدرات المعرفية للبشر.
لقد رأينا ذلك مع لعبة الداما والشطرنج والجو ومسابقات البرمجة وطي البروتين ومشكلات أخرى محددة جيدًا.
تختلف اللغة الطبيعية من بعض النواحي ولكنها تشبه أيضًا جميع المشكلات الأخرى التي حلها الذكاء الاصطناعي.
من ناحية، أظهرت المحولات وLLM أنها يمكن أن تنتج نتائج مبهرة دون المرور بعملية تعلم اللغة مثل الإنسان العادي، وهو أولاً استكشاف العالم وفهم قواعده الأساسية ثم اكتساب اللغة للتفاعل مع الآخرين.
الناس على أساس هذه المعرفة العامة. من ناحية أخرى، فإنهم يفتقرون إلى الخبرة البشرية التي تأتي مع تعلم اللغة.
يمكن أن تكون مفيدة في حل المشكلات المتعلقة باللغة المحددة جيدًا. لكن يجب ألا ننسى أن توافقها مع معالجة اللغة البشرية محدود، وبالتالي يجب أن نكون حذرين إلى أي مدى نثق بهم.
المصدر: thenextweb
قد يهمك:
قالب ووردبريس GoodNews الاخباري
خطوات إنشاء موقع ويب strikingly
