يجب أن تتصرف أوروبا ضد المراجعات المكتوبة بواسطة الذكاء الاصطناعي قبل فوات الأوان
وأكبر أداة لدينا لمحاربة هذه المشكلة التي أحدثها الذكاء الاصطناعي؟ هذا صحيح: المزيد من الذكاء الاصطناعي
لا مفر من أجزاء من الحياة الحديثة. نستخدم جميعًا برمجيات الخرائط لمعرفة الاتجاهات، والتحقق من الأخبار على هواتفنا، وقراءة المراجعات عبر الإنترنت للمنتجات قبل شرائها.
لم تخلق التكنولوجيا هذه الأشياء، ولكن ما فعلته هو إضفاء الطابع الديمقراطي عليها، وتسهيل الوصول إليها أو الإضافة إليها.
خذ التقييمات عبر الإنترنت. في الوقت الحاضر، يمكن للناس مشاركة آرائهم الصادقة حول المنتجات والخدمات بطريقة كانت، في الماضي، مستحيلة.
ومع ذلك، ما الذي يمنحه الإنترنت، يمكنه، آه، إزالته أيضًا؟
لم يستغرق الأمر وقتًا طويلاً حتى يدرك الممثلون الشائنون أنهم قادرون على استغلال تقنية القدرة الجديدة هذه لإغراق السوق بمراجعات مزيفة، مما يخلق صناعة جديدة تمامًا على طول الطريق.
في السنوات الأخيرة، تبدد الكثير من النقاش حول المراجعات المزيفة، ولكن الآن؟ لقد عادوا للانتقام – وكل ذلك بسبب الذكاء الاصطناعي.
صعود نماذج اللغات الكبيرة (LLMs) مثل ChatGPT يعني أننا ندخل حقبة جديدة من المراجعات المزيفة، ويجب على الحكومات في أوروبا وبقية العالم التصرف قبل فوات الأوان.
مراجعات مكتوبة بالذكاء الاصطناعي؟ من يهتم؟
بقدر ما يبدو ذلك، إنه سؤال صالح. كانت المراجعات المزيفة جزءًا من الحياة عبر الإنترنت تقريبًا منذ وجود الإنترنت. هل ستتغير الأشياء حقًا إذا كانت آلات متطورة تكتبها بدلاً من البشر؟
الفارق الرئيسي هو المقياس. في السابق، كانت برامج إنشاء النصوص غير متطورة نسبيًا. غالبًا ما كان ما قاموا بإنشائه قذرًا وغامضًا، مما يعني أن الجمهور قد يراه على الفور أنه غير جدير بالثقة، وقد تم تصنيعه بواسطة جهاز كمبيوتر غبي بدلاً من شخص أقل غباءًا.
هذا يعني أنه لكي تكون المراجعات المزيفة المكتوبة آليًا ناجحة ومخادعة للناس، يجب أن يشارك البشر الآخرون في النص. صعود LLMs وAI يعني أن الأمر لم يعد كذلك.
باستخدام ChatGPT ، يمكن لأي شخص تقريبًا إنتاج مئات المراجعات المزيفة التي يمكن قراءتها، لجميع المقاصد والأغراض، كما لو كان من الممكن أن يكتبها شخص حقيقي.
لكن، مرة أخرى، ماذا في ذلك؟ المزيد من الاستعراضات الزائفة؟ من يهتم؟ وضعت هذا على كونال بوروهيت ، رئيس الخدمات الرقمية في Tech Mahindra ، وهي شركة استشارية لتكنولوجيا المعلومات.
أخبرني أن “المراجعات ضرورية للشركات من أي حجم.” والسبب في ذلك هو أنها تساعدهم على “بناء التعرف على العلامة التجارية والثقة مع العملاء المحتملين أو المحتملين”.
هذا مهم بشكل متزايد في العالم الحديث، حيث أن القدرة التنافسية لقطاع الأعمال تجعل العملاء أكثر وعياً وتطلباً للشركات.
الآن أصبحت تجربة المستخدم نقطة بيع أساسية – والعلامات التجارية تعطي الأولوية لهذا الجانب من أعمالها – يقول بوروهيت إن المراجعات السيئة يمكن أن تحطم قدرات المؤسسات على القيام بأعمال تجارية بشكل فعال.
بعبارة أخرى، التعليقات المزيفة ليست مجرد شيء يمكن أن يقنعك بشراء كتاب تمت مراجعته جيدًا، وهو في الواقع ممل بعض الشيء.
يمكن استخدامها لأسباب سلبية وإيجابية على حد سواء، وعندما يتم تسويتها في شركة، يمكن أن تؤثر بشكل خطير على سمعة تلك الشركة وقدرتها على العمل.-
هذا هو السبب في أننا – والاتحاد الأوروبي – يجب أن نأخذ المراجعات التي يتم إنشاؤها بواسطة الكمبيوتر على محمل الجد.
لكن ما الذي يحدث بالفعل هناك؟
في هذه المرحلة، معظم النقاش أكاديمي. نعم، نحن ندرك أن المراجعات المكتوبة بواسطة الذكاء الاصطناعي قد تكون مشكلة، لكن هل هي كذلك؟ ما الذي يحدث بالفعل؟
أخبرني Purohit أنه، بالفعل، “يتم استخدام برامج الدردشة المدعومة بالذكاء الاصطناعي لإنشاء تقييمات مزيفة على منتجات السوق.” على الرغم من أفضل الجهود التي تبذلها المنصات، فقد غُمرت بالمراجعات التي تم إنشاؤها بواسطة الكمبيوتر.
هذا ما أكده كيث نيلون، الرئيس التنفيذي لشركة Bazaarvoice ، وهي شركة تساعد تجار التجزئة على إظهار المحتوى الذي ينشئه المستخدمون على مواقعهم.
يقول إنه رأى كيف “تم استخدام الذكاء الاصطناعي التوليدي مؤخرًا لكتابة مراجعات زائفة للمنتج”، بهدف “زيادة حجم المراجعات لمنتج بقصد تحقيق تحويل أكبر”.
تكتسب المراجعات المكتوبة بواسطة الذكاء الاصطناعي زخمًا، لكن، أيها الأصدقاء، هذه مجرد البداية.
تلوح في الأفق سنوات طويلة وشاقة
الثقة التي لدينا في المراجعات على وشك الانهيار.
يقول Nealon من Bazaarvoice إن استخدام الذكاء الاصطناعي على نطاق واسع يمكن أن يكون له “آثار خطيرة على مستقبل التسوق عبر الإنترنت”، خاصة إذا وصلنا إلى موقف “لا يستطيع فيه المتسوقون الوثوق فيما إذا كانت مراجعة المنتج حقيقية”.
سوف يزداد أيضًا إغراء استخدام المراجعات التي يتم إنشاؤها بواسطة الكمبيوتر في الجانب التجاري للأشياء.
قال لي سايمون باين – الرئيس التنفيذي لشركة OmniIndex ، وهي منصة بيانات مشفرة: “نريد جميعًا أن تكون تطبيقاتنا في صدارة الترتيب، وكلنا نعرف طريقة واحدة للحصول على ذلك من خلال تفاعل المستخدم مع المراجعات”.
“إذا كان هناك خيار لإنتاج هذه الأشياء على نطاق واسع بسرعة باستخدام الذكاء الاصطناعي، فإن بعض الشركات ستسلك هذا الطريق، تمامًا كما يفعل البعض بالفعل مع مزارع النقر لأشكال أخرى من مشاركة المستخدم.”
يتابع قائلاً إنه في حين أن خطر المراجعات المكتوبة بواسطة الكمبيوتر سيء، فإن حقيقة أن هذه المنهجية تصبح أداة إضافية لمزارع النقر هي أسوأ.
تتوقع Bain عالماً يمكن فيه دمج النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي مع أنشطة أخرى مثل النقر الاحتيالي والإنتاج الضخم بطريقة احترافية وبتكلفة منخفضة للغاية.
ما يعنيه هذا هو أنه بدلاً من أن تكون المراجعات المكتوبة بواسطة الذكاء الاصطناعي مشكلة قائمة بذاتها، فإن لديها القدرة على أن تصبح ترسًا ضخمًا في آلة معلومات مضللة أكبر.
قد يؤدي هذا إلى تآكل الثقة في جميع جوانب الحياة على الإنترنت.
إذن … هل يمكن عمل أي شيء؟
الرد على المراجعات المكتوبة بواسطة الذكاء الاصطناعي
كان هناك موضوعان مشتركان عبر جميع الخبراء الذين تحدثت معهم بشأن مكافحة المراجعات التي يتم إنشاؤها بواسطة الكمبيوتر. الأول أنه سيكون صعبًا. والثانية؟ سنحتاج إلى ذكاء اصطناعي لمحاربة … الذكاء الاصطناعي.
يقول باين: “قد يكون من الصعب للغاية اكتشاف المحتوى المكتوب بالذكاء الاصطناعي – خاصةً إذا تم إنتاجه بواسطة محترفين”.
إنه يعتقد أننا بحاجة إلى اتخاذ إجراءات صارمة ضد هذه الممارسة بنفس الطريقة التي كنا نقوم بها لأنشطة احتيالية مماثلة: مع الذكاء الاصطناعي.
وفقًا لـ Bain ، سيعمل هذا من خلال تحليل مجموعات ضخمة من البيانات حول استخدام التطبيق والمشاركة. قد يستخدم هذا أساليب مثل “التعرف على الأنماط ومعالجة اللغة الطبيعية والتعلم الآلي” لاكتشاف المحتوى الاحتيالي.
يتفق Purohit و Nealon مع هذا، حيث يشير كل منهما إلى قدرة الذكاء الاصطناعي المحتملة على حل مشاكله في محادثاتنا.
على الرغم من ذلك، فإن تشيلسي أشبروك – مدير أول، الخبرة الرقمية للشركات في Genentech ، شركة تكنولوجيا حيوية – هو الذي لخص الأمر بشكل أفضل: “بالنظر إلى المستقبل، على الرغم من ذلك، قد نحتاج إلى تطوير أدوات وتقنيات جديدة.
انه ما هو عليه؛ الذكاء الاصطناعي يزداد ذكاءً، ويجب علينا ذلك أيضًا “.
يجب أن تتدخل الحكومة
في هذه المرحلة، نواجه مشكلة أخرى: نعم، يمكن لأدوات الذكاء الاصطناعي مكافحة المراجعات التي يتم إنشاؤها بواسطة الكمبيوتر، ولكن كيف يعمل هذا بالفعل؟ ماذا يمكن ان يفعل؟
وهنا يأتي دور الهيئات الحاكمة مثل الاتحاد الأوروبي.
أضع هذا في Ashbook: “لديهم بالتأكيد عملهم مقطوعًا لهم”، كما تقول. يقترح آشبروك بعد ذلك إحدى الطرق التي يمكن للحكومات من خلالها مكافحة هذا الطاعون القادم وهي “وضع مبادئ توجيهية تتطلب الشفافية حول أصل المراجعات”.
من ناحية أخرى، يشير Bain من OmniIndex إلى أهمية ضمان أن القوانين واللوائح الحالية حول عناصر مثل “الاحتيال والجرائم الإلكترونية مواكبة لكيفية استخدام [الذكاء الاصطناعي].”
يعتقد Purohit من Tech Mahindra أننا نشهد بالفعل العديد من المبادرات والسياسات الإيجابية من الحكومات والمتخصصين الرئيسيين في صناعة الذكاء الاصطناعي حول الاستخدام المسؤول للتكنولوجيا.
على الرغم من ذلك، “هناك عدة طرق يمكن للهيئات الرسمية مثل الاتحاد الأوروبي … منعها من الخروج عن السيطرة”.
ويشير إلى “زيادة البحث والتطوير، [و] تعزيز الأطر التنظيمية” باعتبارهما عنصرين مهمين في هذه الاستراتيجية.
علاوة على ذلك، يعتقد بوروهيت أنه يجب على الحكومات تحديث قوانين حماية المستهلك لمكافحة المخاطر التي يشكلها المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.
يمكن أن يشمل ذلك مجموعة من الأشياء، بما في ذلك “فرض عقوبات على إساءة استخدام أو التلاعب بالمراجعات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي” أو “تحميل المنصات المسؤولية عن توفير معلومات دقيقة وموثوقة للمستهلكين”.
ها أنت ذا، أيها أوروبا، لا تتردد في استخدام هذه الأفكار لتحريك الكرة.
المراجعات المكتوبة بالذكاء الاصطناعي: هنا لتبقى
هل تريد قراءة أقل شيء صادم رأيته في بعض الوقت؟ الذكاء الاصطناعي سيغير العالم.
على الرغم من ذلك، فإن الموضوعات التي تميل الصحافة إلى الاستحواذ عليها هي أشياء مثل تفرد نهاية العالم المحتملة التي يقودها الذكاء الاصطناعي. والتي، بصراحة، تبدو أكثر جنسية – وتؤدي إلى نقرات أكثر بكثير.
لكن في رأيي، فإن الأشياء الصغيرة مثل المراجعات المكتوبة بواسطة الذكاء الاصطناعي هي التي سيكون لها أكبر تأثير على حياتنا المباشرة.
أساسًا، يقوم المجتمع على الثقة، على فكرة أن هناك أشخاصًا من حولنا يتشاركون مجموعة غامضة من القيم المتشابهة.
إن استخدام الذكاء الاصطناعي بهذه الطرق الصغيرة لديه القدرة على تقويض ذلك. إذا لم نعد قادرين على تصديق ما نراه أو نسمعه أو نقرأه، فإننا لم نعد نثق بأي شيء.
وإذا حدث ذلك؟ حسنًا، لن يستغرق الأمر وقتًا طويلاً حتى تبدأ الأشياء في الانهيار من حولنا.
هذا هو السبب في أن الهيئات الحكومية مثل الاتحاد الأوروبي لا يمكنها تبني نهج “الانتظار والترقب” لتنظيم المجالات التي تبدو غير منطقية مثل المراجعات المكتوبة بواسطة الذكاء الاصطناعي.
يجب أن يكون هناك تنظيم – ويجب أن يكون سريعًا. لأنه إذا تأخرنا لفترة طويلة، فقد يكون الأوان قد فات بالفعل.
المصدر: thenextweb
قد يهمك:
