التعليق تنتقل صور الذكاء الاصطناعي المزيفة إلى شبكة اجتماعية بالقرب منك
لندن: في 22 مارس آذار في باريس، نشر مستخدم شهير على موقع تويتر ثلاث صور للرئيس الفرنسي إيمانويل ماكرون وهو يركض بين شرطة مكافحة الشغب والمتظاهرين وسط تصاعد من الدخان.
كانت الصور، التي شوهدت أكثر من 3 ملايين مرة، مزيفة. لكن بالنسبة لأي شخص لا يتابع نمو مولدات الصور التي تعمل بالذكاء الاصطناعي، لم يكن ذلك واضحًا.
وفقًا لمقبض المستخدم، لم تتم إضافة تسمية أو تسمية توضيحية “بدون سياق فرنسي”. وكما اتضح، اعتقد بعض الناس أنهم شرعيون.
أخبرني أحد الزملاء أن صديقين على الأقل في لندن كانا يعملان في وظائف مهنية مختلفة عثروا على الصور واعتقدوا أنها صور حقيقية من إضرابات إصلاح المعاشات التقاعدية العنيفة في بعض الأحيان. شارك أحدهم الصورة في محادثة جماعية قبل إخباره بأنها مزيفة.
تستعد الشبكات الاجتماعية لهذه اللحظة منذ سنوات. لقد حذروا مطولاً من مقاطع الفيديو المزيفة ويعلمون أن أي شخص لديه برنامج تحرير يمكنه التلاعب بالسياسيين وتحويلهم إلى صور كاذبة مثيرة للجدل.
لكن الانفجار الأخير لأدوات إنشاء الصور، المدعوم بما يسمى بنماذج الذكاء الاصطناعي التوليدية، يضع منصات مثل Twitter و Facebook و TikTok في منطقة غير مسبوقة.
ما قد يستغرق 30 دقيقة أو ساعة لاستحضاره على برنامج على غرار Photoshop يمكن أن يستغرق الآن حوالي خمس دقائق أو أقل على أداة مثل Mi journey (مجانًا لأول 25 صورة) أو Stable Diffusion (مجاني تمامًا). كلتا الأداتين ليس لها قيود على توليد صور لشخصيات مشهورة.
يصعب اكتشاف الشوائب والتزييف
في العام الماضي، استخدمت Stable Diffusion لاستحضار “صور” لدونالد ترامب وهو يلعب الجولف مع كيم جونغ أون الكوري الشمالي، ولم يكن أي منها مقنعًا بشكل خاص. ولكن في الأشهر الستة منذ ذلك الحين، قفزت مولدات الصور إلى الأمام. يمكن أن تنتج أحدث نسخة من أداة Mi journey صورًا يصعب تمييزها عن الواقع.
أخبرني الشخص الذي يقف وراء مقبض “No Context French” أنهم استخدموا Mi journey لصور Macron الخاصة بهم. عندما سألت عن سبب عدم تصنيف الصور على أنها مزيفة، أجابوا بأنه يمكن لأي شخص ببساطة “التكبير وقراءة التعليقات لفهم أن هذه الصور ليست حقيقية”.
لقد صمدوا عندما أخبرتهم أن بعض الناس قد وقعوا في حب الصور. وأضافوا، “نعلم أن هذه الصور ليست حقيقية بسبب كل هذه العيوب”، قبل أن يرسلوا لي لقطات مكبرة للعيوب الرقمية.
عندما سألت عن الأقلية من الناس الذين لا ينظرون إلى مثل هذه التفاصيل، خاصة على الشاشة الصغيرة للهاتف المحمول، لم يردوا.
اتخذ إليوت هيغ ينز، المؤسس المشارك لمجموعة الصحافة الاستقصائية Bellingcat ، موقفًا مشابهًا عندما قام بالتغريد بصور مزيفة قام بتكوينها لإلقاء القبض على دونالد ترامب، مما قلل من التوقعات المنتشرة بشأن احتجازه. تمت مشاهدة الصور أكثر من 5 ملايين مرة ولم يتم تصنيفها. قال هيغ ينز لاحقًا إنه مُنع من استخدام Mi journey.
بينما أشار محققو تويتر إلى الأيدي المشوهة والوجوه المراوغة للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، لا يزال الكثير من المستخدمين العاديين عرضة لهذا النوع من التزييف. في تشرين الأول (أكتوبر) الماضي، وجد مستخدمو WhatsApp في البرازيل أنفسهم غارقين بالمعلومات الخاطئة حول نزاهة انتخاباتهم الرئاسية، مما دفع الكثيرين إلى أعمال شغب لدعم فقدان الرئيس السابق جاير بولسون ارو .
من الصعب جدًا اكتشاف العيوب والتزييف عندما يشارك شخص تثق به للتو صورة، في ذروة دورة الأخبار، على شاشة صغيرة. وكتطبيق مراسلة مشفر بالكامل، لا يوجد سوى القليل من WhatsApp الذي يمكن أن يفعله لمراقبة الصور المزيفة التي تنتشر عبر المشاركة المستمرة بين الأصدقاء والعائلات والمجموعات.
كان Higgins و “No Context French” يحاولان فقط إنشاء حيلة، لكن نجاحهما في إقناع العديد من الأشخاص بأن منشوراتهم كانت حقيقية يوضح حجم التحدي الذي يلوح في الأفق لوسائل التواصل الاجتماعي والمجتمع على نطاق أوسع.
إرشادات وسائل الإعلام الاجتماعية بشأن الوسائط المولدة بالذكاء الاصطناعي
قامت TikTok يوم الثلاثاء بتحديث إرشاداتها لحظر الوسائط التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والمضللة. تنص سياسة تويتر بشأن الوسائط التركيبية، التي تم تحديثها مؤخرًا في عام 2020، على أنه يجب على المستخدمين عدم مشاركة الصور المزيفة التي قد تخدع الناس، وأنها “قد تصنف التغريدات التي تحتوي على وسائط مضللة”.
عندما سألت Twitter عن سبب عدم تصنيفها لصور ترامب وماكرون المزيفة أثناء انتشارها، ردت الشركة التي يرأسها إيلون ماسك برمز تعبيري جديد، ردها التلقائي الجديد لوسائل الإعلام.
تم وضع علامة على بعض مستخدمي Twitter الذين وضعوا صور ترامب على أنها حقيقية مع علامات التجزئة التي تجذب الانتباه مثل “BREAKING” من خلال ملاحظات المجتمع الخاصة بالموقع، والتي تتيح للمستخدمين إضافة سياق إلى تغريدات معينة. لكن موقف تويتر المتصاعد من عدم التدخل في المحتوى الموجود تحت ماسك يشير إلى أن الصور المزيفة يمكن أن تزدهر على منصتها أكثر من غيرها.
قالت Meta Platforms في عام 2020 إنها ستزيل تمامًا الوسائط التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تهدف إلى تضليل الناس، لكن الشركة لم تقم بإزالة صورة واحدة على الأقل عن “اعتقال ترامب” تم نشرها كأخبار حقيقية من قبل مستخدم Facebook يوم الأربعاء (22 مارس). ولم ترد ميتا على طلب للتعليق.
(قام موقع Facebook منذ ذلك الحين بالتحقق من الحقائق وإزالة صورة ترامب المزيفة. وقال متحدث إن الشركة تزيل المحتوى الذي تم التلاعب به والذي يفي بمعايير محددة، بما في ذلك تلك التي من شأنها “تضليل الشخص العادي”).
من الواضح أنه سيكون من الصعب على الناس تمييز المزيف عن الواقع مع ازدهار أدوات الذكاء الاصطناعي التوليدية مثل Mi journey و ChatGPT. أخبرني مؤسس إحدى أدوات الذكاء الاصطناعي هذه في العام الماضي أن الإجابة على هذه المشكلة كانت بسيطة: علينا أن نتكيف.
أجد نفسي بالفعل أنظر إلى صور حقيقية للسياسيين على وسائل التواصل الاجتماعي، وأتساءل نصف ما إذا كانت مزيفة. ستثير أدوات الذكاء الاصطناعي المتشككين في كثير منا. بالنسبة لأولئك الذين يسهل إقناعهم، يمكنهم قيادة أزمة معلومات مضللة جديدة.
المصدر: channelnewsasia
شاهد ايضا:
