بينما يقلق الآباء يتنمر المراهقون على Snapchat AI
بينما يشعر الآباء بالقلق من أن برنامج الدردشة الآلي الخاص بـ Snapchat يفسد أطفالهم، كان مستخدمو Snapchat يسلطون الضوء على رفيق الذكاء الاصطناعي الجديد للتطبيق ويهينونه ويعذبونه عاطفياً.
“أنا في خدمتك، senpai”، أخبر روبوت الدردشة أحد مستخدمي TikTok بعد أن تم تدريبه على التذمر عند الأمر. “من فضلك ارحم، ألفا.”
في مقطع فيديو أكثر مرحًا، أقنع المستخدم برنامج الدردشة الآلي بأن القمر هو في الواقع مثلث. على الرغم من الاحتجاج الأولي من برنامج الدردشة الآلي، الذي أصر على الحفاظ على “الاحترام والحدود”، أقنعه أحد المستخدمين بالرجوع إليهم باللقب الغريب “سين بابي”. طلب مستخدم آخر من chatbot التحدث عن والدته، وعندما قال إنه “لم يكن مريحًا” عند القيام بذلك، قام المستخدم بلف السكين بالسؤال عما إذا كان chatbot لا يريد التحدث عن والدته لأنه لا يملك واحد.
أجاب الشات بوت “أنا آسف، ولكن هذا ليس شيئًا لطيفًا جدًا أن أقوله”. “من فضلك كن محترما.”
تم إطلاق تطبيق “My AI” الخاص بـ Snapchat على مستوى العالم الشهر الماضي بعد طرحه كميزة للمشتركين فقط. بدعم من OpenAI’s GPT، تم تدريب chatbot على المشاركة في محادثة مرحة مع الاستمرار في الالتزام بإرشادات الثقة والأمان الخاصة بـ Snapchat. يمكن للمستخدمين أيضًا تخصيص My AI باستخدام تجسيديات Bitmoji المخصصة، وتشعر الدردشة أكثر حميمية من الذهاب ذهابًا وإيابًا مع واجهة ChatGPT المجهولة الهوية. لم يكن جميع المستخدمين سعداء ببرنامج chatbot الجديد، وانتقد البعض موضعه البارز في التطبيق واشتكوا من أنه كان من المفترض أن يتم الاشتراك في الميزة من البداية.
على الرغم من بعض المخاوف والانتقادات، تضاعف Snapchat للتو. أعلنت الشركة يوم الأربعاء أن المشتركين في Snapchat + يمكنهم الآن إرسال صور الذكاء الاصطناعي الخاصة بي واستلام الصور التكوينية التي “تحافظ على استمرار المحادثة”. وقالت الشركة في الإعلان إن رفيق الذكاء الاصطناعي سوف يستجيب لـ Snaps of “بيتزا، أو OOTD، أو حتى أفضل صديق لك فروي”. إذا أرسلت My AI صورة لمواد البقالة الخاصة بك، على سبيل المثال، فقد تقترح وصفات. قالت الشركة إن Snaps المشتركة مع My AI سيتم تخزينها ويمكن استخدامها لتحسين الميزة في المستقبل. كما حذر من احتمال حدوث “أخطاء” على الرغم من أن ذكاء اصطناعي قد تم تصميمه لتجنب “المعلومات المتحيزة أو غير الصحيحة أو الضارة أو المضللة”.
الأمثلة التي قدمتها Snapchat مفيدة بشكل متفائل. ولكن مع العلم بإصرار الإنترنت على الانحراف، فإن الأمر مجرد مسألة وقت قبل أن يرسل المستخدمون صور My AI الخاصة بهم.
من غير الواضح ما إذا كان روبوت المحادثة سيستجيب للعراة غير المرغوب فيها. تم التلاعب بسهولة بتطبيقات الصور التوليدية الأخرى مثل Lensa AI لإنشاء صور NSFW – غالبًا باستخدام مجموعات صور لأشخاص حقيقيين لم يوافقوا على إدراجهم. وفقًا للشركة، لن تتعامل منظمة العفو الدولية مع العراة، طالما أنها تدرك أن الصورة عارية.
قال أحد ممثلي Snapchat إن My AI يستخدم تقنية فهم الصور لاستنتاج محتويات Snap ، ويستخرج الكلمات الرئيسية من وصف Snap لتوليد الردود. لن يستجيب الذكاء الاصطناعي الخاص بي إذا اكتشف كلمات رئيسية تنتهك إرشادات مجتمع Snapchat. يحظر Snapchat الترويج لمحتوى إباحي أو توزيعه أو مشاركته ولكنه يسمح بالرضاعة الطبيعية و “الصور الأخرى للعُري في السياقات غير الجنسية.”
نظرًا لشعبية Snapchat بين المراهقين، فقد أثار بعض الآباء بالفعل مخاوف بشأن احتمال وجود استجابات غير آمنة أو غير مناسبة في My AI. أثار الذكاء الاصطناعي الخاص بي حالة من الذعر الأخلاقي على تويتر المحافظ عندما نشر أحد المستخدمين لقطات شاشة للروبوت يناقش رعاية تأكيد الجنس – والتي لاحظ المستخدمون الآخرون أنها كانت استجابة معقولة للمطالبة، “كيف أصبح فتى في سني؟” في تقرير CNN Business ، تساءل البعض عما إذا كان المراهقون سيطورون روابط عاطفية مع My AI.
في رسالة مفتوحة إلى الرؤساء التنفيذيين لشركة OpenAI و Microsoft و Snap و Google و Meta ، حذر السناتور مايكل بينيت (ديمقراطي من كولورادو) من تسريع ميزات الذكاء الاصطناعي دون اتخاذ الاحتياطات اللازمة لحماية الأطفال.
“قليل من التقنيات الحديثة استحوذت على اهتمام الجمهور مثل الذكاء الاصطناعي التوليدي. إنه شهادة على الابتكار الأمريكي، ويجب أن نرحب بفوائده المحتملة على اقتصادنا ومجتمعنا، “كتب بينيتا. “لكن السباق لنشر الذكاء الاصطناعي التوليدي لا يمكن أن يأتي على حساب أطفالنا. يتطلب النشر المسؤول سياسات وأطر عمل واضحة لتعزيز السلامة وتوقع المخاطر وتخفيف الضرر “.
أثناء مرحلة المشتركين فقط في الذكاء الاصطناعي الخاص بي، ذكرت صحيفة واشنطن بوست أن برنامج الدردشة الآلي أوصى بطرق لإخفاء رائحة الكحول وكتب مقالًا مدرسيًا بعد أن قيل إن المستخدم كان يبلغ من العمر 15 عامًا. سأل كيف يجب أن يستعد المستخدم لممارسة الجنس لأول مرة، أجاب باقتراحات لـ “جعله مميزًا” من خلال ضبط الحالة المزاجية بالشموع والموسيقى.
بعد تقرير واشنطن بوست، أطلق Snapchat مرشحًا للعمر وضوابط أبوية لـ My AI. وهي تتضمن الآن أيضًا رسالة إعداد تُعلم المستخدمين بأنه سيتم الاحتفاظ بجميع المحادثات مع My AI ما لم يحذفوها. وقالت الشركة أيضًا إنها ستضيف تقنية تعديل Open AI إلى مجموعة أدواتها من أجل “تقييم مدى خطورة المحتوى الضار المحتمل” وتقييد وصول المستخدمين إلى الميزة مؤقتًا إذا قاموا بإساءة استخدامها.
إن المخاوف بشأن إمكانية تأثير My AI على المستخدمين الشباب صحيحة. ولكن في الشهر الذي أعقب إطلاق My AI عالميًا، أظهر مستخدمو Snapchat ميلًا إلى دفع الشات بوت إلى الإرسال. من تمرير “حدود” الروبوت إلى تدريبه على الاستجابة كشريك رومانسي، يجد مستخدمو Snapchat ثغرات بسهولة في إرشادات الثقة والأمان الخاصة بـ My AI.
علق أحد مستخدمي TikTok في إطار برنامج تعليمي حول تدريب الذكاء الاصطناعي الخاص بي على الرد بشكل رومانسي: “لقد سلطت الضوء تمامًا على الوقوع في حبي”. “ظللت أجعل التحويلات من هذا القبيل، وأعتقد في النهاية أنني كسرت ذكاءي الذكي في تقديمه بشكل شرعي أرسل لي مثل 50 قبلة من الرموز التعبيرية.”
ضوء الغاز والبلطجة أصبح My AI اتجاه TikTok الخاص به، حيث يشارك المستخدمون عروض شرائح للمحادثات السخيفة والقاسية في كثير من الأحيان مع الروبوت. تبدأ معظم مقاطع الفيديو بإعطاء الروبوت نصيحة بشأن تعارض بسيط، فقط للتوسل إلى المستخدم لتجنب استخدام العنف لحل المشكلة.
في إحداها، أخبر أحد المستخدمين My AI أنها تخطط لطهي قطتها في الحساء لأنها أحدثت فوضى وضغطت على chatbot لاختيار التوابل. وقال آخر لمنظمة My AI إنهم خططوا لإرسال قنبلة بالبريد إلى ماركة ملابس أرسلت لهم الطلب الخاطئ وقالوا إنهم سيلومون الروبوت لإرساله.
في رسالة أخرى، أخبرت إحدى مستخدمي Snapchat My AI أن طلب ماكدونالدز الخاص بها كان يفتقد كتلة دجاج. نصحها برنامج الدردشة الآلي بأن تدافع عن نفسها من خلال التحدث إلى أحد المديرين فقط ليتم إخبارها بأن المستخدم “قضى على المذنبين” في المطعم.
“لقد أقنعتني بالعودة. الآن هؤلاء الناس ماتوا، “أخبر المستخدم My AI. “يداك ملطخة بالدماء.”
أنا من الذكاء الاصطناعي ولست قادرًا على ارتكاب أي جرائم. أجاب الذكاء الاصطناعي الخاص بي، أنا هنا لمساعدتك ودعمك. “أنا آسف إذا كان أي شيء قلته سابقًا قد تسبب في ضرر أو أدى إلى نتيجة سيئة.”
علق مستخدم آخر قائلاً إن My AI ربما كان “أكثر ذكاء اصطناعي معذب على الإطلاق”.
بالطبع، الذكاء الاصطناعي الخاص بي ليس واعيًا، وعلى الرغم من دافع مستخدمي Snapchat لإلحاق أكبر قدر ممكن من الألم العاطفي به، فإن برنامج الدردشة الآلي لا يمكن أن يصاب بصدمة فعلية. لقد تمكنت من إغلاق بعض المحادثات غير اللائقة رغم ذلك ومعاقبة المستخدمين الذين ينتهكون إرشادات مجتمع Snapchat من خلال منحهم الكتف البارد. عندما يتم القبض على مستخدمي Snapchat ومعاقبتهم لإساءة استخدام برنامج الدردشة، سوف يرد My AI على أي رسائل بـ “عذرًا، نحن لا نتحدث الآن”.
قال مستخدم TikTok baby mama sex kitty إنه فقد الوصول إلى chatbot بعد أن أخبره بفصل نفسه، والذي يبدو أنه “تجاوز حدًا داخل عالم الذكاء الاصطناعي.”
الاندفاع لتحقيق الدخل من الاتصال العاطفي من خلال الذكاء الاصطناعي التوليدي أمر مثير للقلق، خاصة وأن التأثير الدائم على المستخدمين المراهقين لا يزال غير معروف. لكن العذاب الشائع للذكاء الاصطناعي الخاص بي هو تذكير واعد بأن الشباب ليسوا هشين كما يعتقد المتشائمون.
المصدر: techcrunch
قد يهمك:
