بينما تشكل الذكاء الاصطناعي كل من الابتكار والمخاطر، فإن مشهد التهديدات من الجرائم الإلكترونية يتطور بسرعة.
قدم ميشال بيخوcek، المدير الفني في شركة جن™، وهي شركة رائدة في مجال الأمن السيبراني تشكلت من اندماج نورتون لايف لوك وأفاست، عرضًا مفيدًا حول مشهد التهديدات المتطورة من الذكاء الاصطناعي والتدابير المتخذة لحماية الأفراد من هذه المخاطر.
بينما تشكل الذكاء الاصطناعي كل من الابتكار والمخاطر، فإن مشهد التهديدات من الجرائم الإلكترونية يتطور بسرعة.
ميشال بيخوcek، المدير التنفيذي للتكنولوجيا في جين™، وهي شركة رائدة في مجال الأمن السيبراني تشكلت من اندماج نورتون لايف لوك وأفاست، قدمت عرضًا مفيدًا حول مشهد التهديدات المتطورة من الذكاء الاصطناعي والتدابير المتخذة لحماية الأفراد من هذه المخاطر.
أثناء حديثه في قمة الذكاء الاصطناعي من أجل الخير العالمية 2024، أكد بيخوcek على تزايد تعقيد التهديدات السيبرانية المدفوعة بالذكاء الاصطناعي والدور الأساسي للحلول المتقدمة في الأمن السيبراني.
بيتشوك، تناول المسؤولية المتزايدة لحماية الناس من العواقب السلبية للذكاء الاصطناعي. “أشبه نوعًا ما بجزء جيد من المسؤولية في مساعدة الناس على الحماية من العواقب السلبية لما يمكن أن يفعله الذكاء الاصطناعي بالناس”، قال.
التهديدات الأربعة الكبرى للذكاء الاصطناعي
حدد بيشوشيك أربعة تهديدات كبيرة تتعلق بالذكاء الاصطناعي التي يتعامل معها محترفو الأمن السيبراني:
- الذكاء الاصطناعي المسلح: يقوم المهاجمون وكتّاب البرمجيات الخبيثة بشكل متزايد باستخدام الذكاء الاصطناعي التوليدي وتقنيات الذكاء الاصطناعي المتقدمة الأخرى لإنشاء برمجيات خبيثة أكثر فتكًا وفعالية. “هؤلاء الأشخاص يقومون بصنع قطع خبيثة وفعالة وخطيرة من البرمجيات الخبيثة والتهديدات باستخدام الذكاء الاصطناعي التوليدي”، كما أوضح بيشوشيك.
- ثغرات أنظمة الذكاء الاصطناعي: العديد من أنظمة الذكاء الاصطناعي، التي تدير البنية التحتية والتطبيقات الحيوية، ليست شفافة أو قابلة للتنبؤ بالكامل، مما يجعلها عرضة للهجمات. حذر بيشوشيك، “نحن لا نفهم تمامًا كيف تعمل، ونتيجة لذلك، فهي مليئة بالثغرات.”
- ثغرات البرمجيات الجديدة: إن الاعتماد السريع على المساعدين المدعومين بالذكاء الاصطناعي والنماذج التوليدية في تطوير البرمجيات يقدم ثغرات جديدة وغير معروفة. “هذا هو أكبر تغيير في البرمجيات، حيث يقدم ثغرات جديدة لا نفهمها بعد، والمهاجمون ينتظرون فقط لاستغلالها”، كما أشار.
- الذكاء الاصطناعي لمهاجمة العقول البشرية: يستهدف مجرمو الإنترنت بشكل متزايد الإدراك البشري من خلال هجمات الهندسة الاجتماعية المتطورة، وعمليات الاحتيال عبر البريد الإلكتروني، وغيرها من التكتيكات التلاعبية. “المهاجمون يركزون حقًا على العقل البشري والإدراك البشري، ويحاولون التلاعب بالناس”، قال بيشوشيك.
التهديد المتزايد للاحتيالات المدفوعة بالذكاء الاصطناعي
أحد أكثر القضايا إلحاحًا التي تم مناقشتها هو الزيادة في الاحتيالات المدفوعة بالذكاء الاصطناعي، والتي وصفها بيتشوك بأنها “جائحة احتيال”. واستشهد وارن بافيت، الذي توقع أن الاحتيال المدعوم بالذكاء الاصطناعي سيكون الصناعة الكبرى التالية في النمو.
“حماية الناس من الاحتيال بواسطة الذكاء الاصطناعي ستكون الصناعة الكبيرة التالية في مجال الأمن السيبراني”، صرح بيشوشيك، مشددًا على ضرورة معالجة هذه التهديد.
تفصيل بيشوشيك الأنواع المختلفة من الاحتيالات التي تتزايد اليوم، بما في ذلك احتيالات الرومانسية، احتيالات الاستثمار، مواقع التجارة الإلكترونية المزيفة، احتيالات الابتزاز، واحتيالات انتحال الشخصية.
شارك إحصائيات مقلقة من لجنة التجارة الفيدرالية (FTC)، مشيرًا إلى أنه من بين 5.4 مليون تقرير، كان 2.6 مليون منها متعلقًا بالاحتيال، مما أدى إلى خسائر مالية كبيرة.
حلول Gen™ المدعومة بالذكاء الاصطناعي
لمكافحة هذه التهديدات، طورت Gen™ نماذج ذكاء اصطناعي مملوكة تم تدريبها على سنوات من بيانات الأمن السيبراني. هذه النماذج تدعم تطبيقًا شاملاً للكشف عن الاحتيال ومنعه، والذي أشار إليه Pechoucek باسم “رفيق الاحتيال”.
تساعد هذه الأداة المستخدمين على التعرف على رسائل الاحتيال وتجنبها عبر منصات مختلفة، بما في ذلك البريد الإلكتروني، والرسائل النصية، ووسائل التواصل الاجتماعي.
“إنه رفيق يكتشف ما تحتويه هذه الحالة على أنها احتيال ويبدأ مناقشة مع المستخدم”، أوضح بيشوشيك.
تكنولوجيا الذكاء الاصطناعي لا تركز فقط على اكتشاف الاحتيالات ولكن أيضًا على منعها وتثقيف المستخدمين. “من المهم جدًا أن يساعد الذكاء الاصطناعي الناس على النمو في معرفتهم، من خلال توزيع الوعي بالاحتيال”، أكد.
الوجه المتغير للأمن السيبراني
خلص بيشوشيك برسالة صارخة: طبيعة الأمن السيبراني تتغير بشكل جذري بسبب الذكاء الاصطناعي.
“الأمن السيبراني كما عرفناه يتغير,” أعلن.
أشار إلى أنه بينما تجعل الذكاء الاصطناعي الهجمات السيبرانية أكثر كفاءة وأقل تكلفة، فإنه يتطلب أيضًا تغييرًا في كيفية تعاملنا مع السلامة الرقمية.
“التغيير الذي تحضره الذكاء الاصطناعي هو أنه ليس فقط هجمات الذكاء الاصطناعي ضد المدافعين عن الذكاء الاصطناعي”، صرح بيشوشيك.
أكد على أهمية مشاركة المستخدمين والمشاركة في جهود الأمن السيبراني، مشددًا على ضرورة أن يشارك الناس بنشاط، ويشاركون البيانات حول تهديداتهم، ويفهمون المخاطر للحفاظ على سلامتهم.
التعاون بين تكنولوجيا الذكاء الاصطناعي والمستخدمين البشر أمر ضروري لضمان أفضل أمان رقمي ممكن، مع التأكيد على أن الأمان لا يمكن تحقيقه إلا عندما يعمل الذكاء الاصطناعي بالشراكة مع الناس لحماية الجميع على الإنترنت.
سلطت جلسة بيشوشيك الضوء على المشهد المتطور لتهديدات الذكاء الاصطناعي والحلول المبتكرة التي يتم تطويرها لمواجهة هذه المخاطر. مع استمرار تعقيد التهديدات السيبرانية، ستكون الجهود التعاونية بين تكنولوجيا الذكاء الاصطناعي واليقظة البشرية ضرورية للحفاظ على بيئة رقمية آمنة.
المصدر: aiforgood
