Snap تحدد إجراءات وقائية جديدة لأداة Chatbot ”الذكاء الاصطناعي الخاصة بي”

قدم Snapchat تحديثًا عن تطوير أداة chatbot “My AI” الخاصة بها والتي تتضمن تقنية GPT الخاصة بـ OpenAI ، مما يتيح لمشتركي Snapchat + طرح أسئلة على الروبوت في التطبيق، والحصول على إجابات على أي شيء يحلو لهم.

Snap تحدد إجراءات وقائية جديدة

وهو، في الغالب، تطبيق بسيط وممتع للتكنولوجيا – لكن Snap وجدت بعض إساءة استخدام الأداة المقلقة، وهذا هو السبب في أنها تتطلع الآن إلى إضافة المزيد من الضمانات والحماية إلى العملية.

″لقد ساعدتنا مراجعة التفاعلات المبكرة مع My AI في تحديد حواجز الحماية التي تعمل بشكل جيد وأيها يجب تقويتها. للمساعدة في تقييم ذلك، قمنا بإجراء مراجعات لاستعلامات الذكاء الاصطناعي الخاصة بي والردود التي تحتوي على لغة” غير مطابقة”، والتي نعرّفها على أنها أي نص يتضمن إشارات إلى العنف، والمصطلحات الجنسية الصريحة، وتعاطي المخدرات غير المشروع، والاعتداء الجنسي على الأطفال، التنمر أو الكلام الذي يحض على الكراهية أو التصريحات المهينة أو المتحيزة أو العنصرية أو كراهية النساء أو تهميش الفئات غير الممثلة تمثيلاً ناقصًا. كل فئات المحتوى هذه محظورة صراحةً على Snapchat ”.

يحتاج جميع مستخدمي أداة الذكاء الاصطناعي الخاصة بي من Snap إلى الموافقة على شروط الخدمة، مما يعني أن أي استعلام تدخله في النظام يمكن تحليله بواسطة فريق Snap لهذا الغرض.

يقول Snap إن جزءًا صغيرًا فقط من ردود الذكاء الاصطناعي الخاصة بي حتى الآن قد تندرج تحت شعار” غير المطابق” (0.01٪)، ولكن مع ذلك، سيساعد هذا البحث الإضافي وأعمال التطوير على حماية مستخدمي Snap من التجارب السلبية في My AI. عملية.

″سنستمر في استخدام هذه الدروس لتحسين الذكاء الاصطناعي الخاص بي. ستساعدنا هذه البيانات أيضًا في نشر نظام جديد للحد من إساءة استخدام My AI. نحن نضيف تقنية تعديل Open AI إلى مجموعة الأدوات الحالية لدينا، والتي ستسمح لنا بتقييم مدى خطورة المحتوى الذي قد يكون ضارًا وتقييد وصول مستخدمي Snapchat إلى My AI إذا أساءوا استخدام الخدمة.

تقول Snap إنها تعمل أيضًا على تحسين الاستجابات لطلبات Snapchat غير المناسبة، بينما قامت أيضًا بتطبيق إشارة عمرية جديدة لـ My AI باستخدام تاريخ ميلاد Snapchat.

″لذا، حتى إذا لم يخبر مستخدم Snapchat الذكاء الاصطناعي الخاص بي أبدًا عن عمره في محادثة، فإن روبوت المحادثة سيأخذ سنهم دائمًا في الاعتبار عند الانخراط في محادثة.”

ستضيف Snap أيضًا قريبًا بيانات حول سجل تفاعل الذكاء الاصطناعي الخاص بي إلى تتبع Family Center ، مما سيمكن الآباء من معرفة ما إذا كان أطفالهم يتواصلون مع My AI، وكم مرة.

على الرغم من أنه من الجدير بالذكر أيضًا، وفقًا لـ Snap ، أن الأسئلة الأكثر شيوعًا التي تم نشرها على My AI كانت غير ضارة جدًا. 

تشمل الموضوعات الأكثر شيوعًا التي طرحها مجتمعنا على My AI حول الأفلام والرياضة والألعاب والحيوانات الأليفة والرياضيات. ″

ومع ذلك، لا تزال هناك حاجة إلى تنفيذ الضمانات، وتقول Snap إنها تأخذ مسؤوليتها على محمل الجد، حيث تتطلع إلى تطوير أدواتها بما يتماشى مع مبادئ أفضل الممارسات المتطورة.

نظرًا لأن أدوات الذكاء الاصطناعي التوليدية أصبحت أكثر شيوعًا، فلا يزال من غير الواضح بنسبة 100٪ ما قد تكون عليه المخاطر المرتبطة بالاستخدام، وكيف يمكننا الحماية بشكل أفضل من إساءة استخدام هذه الأدوات، خاصة من قبل المستخدمين الأصغر سنًا.

كانت هناك تقارير مختلفة عن المعلومات الخاطئة التي يتم توزيعها عبر” الهلوسة” ضمن هذه الأدوات، والتي تستند إلى أنظمة الذكاء الاصطناعي التي تخطئ في قراءة مدخلات البيانات الخاصة بها، بينما حاول بعض المستخدمين أيضًا خداع هذه الروبوتات الجديدة لكسر معاييرها الخاصة، لمعرفة ما يمكن أن يكون ممكن.

وهناك بالتأكيد مخاطر في ذلك – ولهذا السبب ينصح العديد من الخبراء بتوخي الحذر في تطبيق عناصر الذكاء الاصطناعي.

في الواقع، في الأسبوع الماضي، دعت رسالة مفتوحة، موقعة من قبل أكثر من ألف هوية صناعية، المطورين إلى التوقف مؤقتًا عن استكشاف أنظمة الذكاء الاصطناعي القوية، من أجل تقييم استخدامها المحتمل، والتأكد من أنها تظل مفيدة وقابلة للإدارة.

بعبارة أخرى، لا نريد أن تصبح هذه الأدوات ذكية جدًا، وأن تصبح سيناريو شبيهًا بـ Terminator ، حيث تتحرك الآلات لاستعباد أو القضاء على الجنس البشري.

لطالما كان هذا النوع من سيناريو يوم القيامة مصدر قلق بالغ، مع رسالة مفتوحة مماثلة نُشرت في عام 2015 تحذر من نفس المخاطر.

وهناك بعض المصداقية للقلق من أننا نتعامل مع أنظمة جديدة، والتي لا نفهمها تمامًا – والتي من غير المرجح أن تخرج عن نطاق السيطرة على هذا النحو، ولكن قد ينتهي بها الأمر بالمساهمة في نشر معلومات خاطئة، أو إنشاء محتوى مضلل، إلخ.

من الواضح أن هناك مخاطر، ولهذا السبب تتخذ Snap هذه الإجراءات الجديدة لمعالجة المخاوف المحتملة في أدوات الذكاء الاصطناعي الخاصة بها.

وبالنظر إلى قاعدة مستخدمي التطبيق الصغار، يجب أن يكون محور التركيز الرئيسي.

المصدر: socialmediatoday

شاهد المزيد:

افضل استضافة مواقع

تاريخ الذكاء الاصطناعي

خطوات إنشاء متجر الكتروني

إنشاء حساب ابل اي دي

انشاء محفظة بيتكوين

خطوات إنشاء محفظة USDT

طريقة إنشاء حساب باي بال

طريقة إنشاء حساب بايير

تحميل تطبيق واتساب الذهبي احدث اصدار

باك لينك

أنت تستخدم إضافة Adblock

يعتمد موقع انشاء على الاعلانات كمصدر لدعم الموقع، يجب عليك ايقاف تشغيل حاجب الاعلانات لمشاهدة المحتوي