لمكافحة تهديدات البريد الإلكتروني التوليدية لمنظمة العفو الدولية

لا تضاهي قوة العقل البشري المتسللين الذين يتجرأون على هجمات التحطيم والاستيلاء الرقمية المدعومة بالذكاء الاصطناعي باستخدام خدع البريد الإلكتروني. وبالتالي، يجب أن تسترشد دفاعات الأمن السيبراني بحلول الذكاء الاصطناعي التي تعرف استراتيجيات المتسللين بشكل أفضل مما تعرفه.

ظهر هذا النهج لمحاربة الذكاء الاصطناعي باستخدام ذكاء اصطناعي أفضل كاستراتيجية مثالية في البحث الذي أجرته شركة Darktrace الإلكترونية في مارس / آذار لاستكشاف رؤى حول السلوك البشري حول البريد الإلكتروني. أكد الاستطلاع الحاجة إلى أدوات إلكترونية جديدة لمواجهة تهديدات القراصنة التي تعتمد على الذكاء الاصطناعي والتي تستهدف الشركات.

سعت الدراسة إلى فهم أفضل لكيفية تفاعل الموظفين عالميًا مع التهديدات الأمنية المحتملة. كما رسم أيضًا معرفتهم المتزايدة بالحاجة إلى أمان أفضل للبريد الإلكتروني.

وجد استطلاع Darktrace العالمي الذي شمل 6711 موظفًا عبر الولايات المتحدة والمملكة المتحدة وفرنسا وألمانيا وأستراليا وهولندا أن المشاركين شهدوا زيادة بنسبة 135٪ في “هجمات الهندسة الاجتماعية الجديدة” عبر الآلاف من عملاء البريد الإلكتروني النشطين من Darktrace من يناير إلى فبراير 2023. The تتوافق النتائج مع التبني الواسع النطاق لـ ChatGPT.

تستخدم هذه الهجمات الجديدة في الهندسة الاجتماعية تقنيات لغوية معقدة ، بما في ذلك زيادة حجم النص وعلامات الترقيم وطول الجملة بدون روابط أو مرفقات. يشير الاتجاه إلى أن الذكاء الاصطناعي التوليدي ، مثل ChatGPT ، يوفر وسيلة للجهات الفاعلة في التهديد لشن هجمات معقدة وموجهة بسرعة وعلى نطاق واسع ، وفقًا للباحثين.

واحدة من أهم ثلاث استنتاجات من البحث هي أن معظم الموظفين قلقون بشأن تهديد رسائل البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي ، وفقًا لماكس هاينماير ، كبير مسؤولي المنتجات في Darktrace.

“هذا ليس مفاجئًا ، نظرًا لأن رسائل البريد الإلكتروني هذه غالبًا لا يمكن تمييزها عن الاتصالات المشروعة ، وبعض العلامات التي يبحث عنها الموظفون عادةً لاكتشاف” وهمية “تتضمن إشارات مثل سوء التهجئة والقواعد ، والتي أثبتت برامج الدردشة الآلية فعاليتها العالية في التحايل”. أخبر TechNewsWorld.

ويبرز البحوث

سأل Darktrace شركات البيع بالتجزئة والمطاعم والترفيه عن مدى قلقهم ، إذا كان الأمر كذلك ، من أن المتسللين يمكنهم استخدام الذكاء الاصطناعي التوليدي لإنشاء رسائل بريد إلكتروني احتيالية لا يمكن تمييزها عن الاتصالات الحقيقية. قال 82٪ إنهم قلقون.

أشار أكثر من نصف المستجيبين إلى إدراكهم لما يجعل الموظفين يعتقدون أن البريد الإلكتروني هو هجوم تصيد احتيالي . أهم ثلاث دعوات للنقر فوق ارتباط أو فتح مرفق (68٪) ، مرسل غير معروف أو محتوى غير متوقع (61٪) ، وسوء استخدام التدقيق الإملائي والنحوي (61٪).

وهذا أمر مهم ومثير للقلق ، حيث أشار 45٪ من الأمريكيين الذين شملهم الاستطلاع إلى أنهم وقعوا فريسة لرسالة بريد إلكتروني احتيالية ، وفقًا لهينماير.

“ليس من المستغرب أن يشعر الموظفون بالقلق بشأن قدرتهم على التحقق من شرعية اتصالات البريد الإلكتروني في عالم أصبحت فيه روبوتات الدردشة للذكاء الاصطناعي قادرة بشكل متزايد على محاكاة محادثات العالم الحقيقي وإنشاء رسائل بريد إلكتروني تفتقر إلى جميع العلامات الشائعة لهجمات التصيد الاحتيالي ، مثل الروابط أو المرفقات الخبيثة “.

تشمل النتائج الرئيسية الأخرى للمسح ما يلي:

  • لاحظ 70٪ من الموظفين العالميين زيادة في وتيرة رسائل البريد الإلكتروني والنصوص الاحتيالية في الأشهر الستة الماضية
  • يشعر 87٪ من الموظفين حول العالم بالقلق بشأن كمية المعلومات الشخصية المتاحة عنهم عبر الإنترنت والتي يمكن استخدامها في التصيد الاحتيالي وعمليات الاحتيال الأخرى عبر البريد الإلكتروني
  • 35٪ من المستجيبين جربوا ChatGPT أو روبوتات محادثة عامة أخرى تعمل بالذكاء الاصطناعي

حواجز حماية الخطأ البشري

أشار Heinemeyer إلى أن الوصول الواسع النطاق إلى أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT والتطور المتزايد للجهات الفاعلة في الدولة القومية يعني أن عمليات الاحتيال عبر البريد الإلكتروني أصبحت أكثر إقناعًا من أي وقت مضى.

لا يزال الخطأ البشري البريء والتهديدات من الداخل مشكلة. يعد توجيه البريد الإلكتروني الخاطئ خطرًا على كل موظف وكل مؤسسة. أرسل ما يقرب من شخصين من كل خمسة أشخاص بريدًا إلكترونيًا مهمًا إلى المستلم الخطأ الذي يحمل اسمًا مستعارًا مشابهًا عن طريق الخطأ أو بسبب الإكمال التلقائي. يرتفع هذا الخطأ إلى أكثر من النصف (51٪) في صناعة الخدمات المالية و 41٪ في القطاع القانوني.

بغض النظر عن الخطأ ، تضيف مثل هذه الأخطاء البشرية طبقة أخرى من المخاطر الأمنية غير الضارة. يمكن لنظام التعلم الذاتي اكتشاف هذا الخطأ قبل مشاركة المعلومات الحساسة بشكل غير صحيح.

رداً على ذلك ، كشفت Darktrace عن تحديث هام لحل البريد الإلكتروني المنتشر عالميًا. يساعد على تعزيز أدوات أمان البريد الإلكتروني حيث تستمر المؤسسات في الاعتماد على البريد الإلكتروني كأداة أساسية للتعاون والتواصل.

وقال: “إن أدوات أمان البريد الإلكتروني التي تعتمد على معرفة التهديدات السابقة تفشل في حماية المنظمات المستقبلية وأفرادها من تهديدات البريد الإلكتروني المتطورة”.

تتضمن أحدث إمكانيات البريد الإلكتروني لـ Darktrace عمليات اكتشاف سلوكية لرسائل البريد الإلكتروني الموجهة بشكل خاطئ والتي تمنع الملكية الفكرية أو المعلومات السرية من إرسالها إلى المستلم الخطأ ، وفقًا لهينماير.

مبادرة الأمن السيبراني للذكاء الاصطناعي

من خلال فهم ما هو طبيعي ، يمكن لدفاعات الذكاء الاصطناعي تحديد ما لا ينتمي إلى البريد الوارد لفرد معين. تخطئ أنظمة أمان البريد الإلكتروني في كثير من الأحيان ، حيث قال 79 ٪ من المستجيبين أن مرشحات البريد العشوائي / الأمان الخاصة بشركاتهم تمنع بشكل غير صحيح رسائل البريد الإلكتروني الشرعية المهمة من الوصول إلى صندوق الوارد الخاص بهم.

من خلال الفهم العميق للمؤسسة وكيفية تفاعل الأفراد داخلها مع صندوق الوارد الخاص بهم ، يمكن للذكاء الاصطناعي أن يحدد لكل بريد إلكتروني ما إذا كان مشبوهًا ويجب اتخاذ إجراء أو ما إذا كان شرعيًا ويجب أن يظل على حاله.

عرض هاينماير “الأدوات التي تعمل من خلال معرفة الهجمات التاريخية لن تكون مناسبة للهجمات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي”.

يُظهر تحليل الهجوم انحرافًا لغويًا ملحوظًا – من الناحية اللغوية والنحوية – مقارنةً برسائل البريد الإلكتروني المخادعة الأخرى. وأوضح أن ذلك لا يترك مجالًا للشك في أن أدوات أمان البريد الإلكتروني التقليدية ، والتي تعمل من خلال معرفة التهديدات التاريخية ، لن ترقى إلى مستوى التقاط المؤشرات الدقيقة لهذه الهجمات.

لتعزيز ذلك ، كشفت أبحاث Darktrace أن حلول أمان البريد الإلكتروني ، بما في ذلك أدوات الذكاء الاصطناعي الأصلية والسحابة والثابتة ، تستغرق 13 يومًا في المتوسط ​​بعد إطلاق هجوم على الضحية حتى يتم اكتشاف الاختراق.

“هذا يترك المدافعين عرضة للخطر لمدة أسبوعين تقريبًا إذا كانوا يعتمدون فقط على هذه الأدوات. إن دفاعات الذكاء الاصطناعي التي تفهم العمل ستكون حاسمة في رصد هذه الهجمات “.

مطلوب شراكات بين الذكاء الاصطناعي والبشر

يعتقد Heinemeyer أن مستقبل أمان البريد الإلكتروني يكمن في الشراكة بين الذكاء الاصطناعي والبشر. في هذا الترتيب ، تكون الخوارزميات مسؤولة عن تحديد ما إذا كان الاتصال ضارًا أم حميدًا ، وبالتالي أخذ عبء المسؤولية بعيدًا عن الإنسان.

وحذر من أن “التدريب على ممارسات أمان البريد الإلكتروني الجيدة أمر مهم ، لكنه لن يكون كافيًا لوقف التهديدات التي يولدها الذكاء الاصطناعي والتي تبدو تمامًا مثل الاتصالات الحميدة”.

أحد الثورات الحيوية التي يتيحها الذكاء الاصطناعي في مساحة البريد الإلكتروني هو الفهم العميق لـ “أنت”. بدلاً من محاولة التنبؤ بالهجمات ، يجب تحديد فهم سلوكيات موظفيك بناءً على صندوق بريدهم الإلكتروني وعلاقاتهم ونبرتهم ومشاعرهم ومئات من نقاط البيانات الأخرى.

“من خلال الاستفادة من الذكاء الاصطناعي لمكافحة تهديدات أمان البريد الإلكتروني ، فإننا لا نحد من المخاطر فحسب ، بل ننشط الثقة التنظيمية ونساهم في نتائج الأعمال. في هذا السيناريو ، يتم تحرير البشر للعمل على مستوى أعلى وممارسات أكثر استراتيجية.

ليست مشكلة أمن إلكتروني غير قابلة للحل تمامًا

تم البحث عن تهديد الذكاء الاصطناعي الهجومي في الجانب الدفاعي لعقد من الزمان. أشار هاينماير إلى أن المهاجمين سيستخدمون الذكاء الاصطناعي حتمًا لتحسين مهارات عملياتهم وزيادة عائد الاستثمار.

لكن هذا ليس شيئًا نعتبره غير قابل للحل من منظور دفاعي. ومن المفارقات أن الذكاء الاصطناعي التوليدي قد يؤدي إلى تفاقم تحدي الهندسة الاجتماعية ، لكن الذكاء الاصطناعي الذي يعرف أنك يمكن أن تكون الباري ، كما توقع.

اختبرت Darktrace نماذج أولية هجومية للذكاء الاصطناعي ضد تكنولوجيا الشركة لاختبار فعالية دفاعاتها باستمرار قبل هذا التطور الحتمي في مشهد المهاجمين. إن الشركة واثقة من أن الذكاء الاصطناعي المدعوم بفهم عميق للأعمال التجارية سيكون أقوى وسيلة للدفاع ضد هذه التهديدات مع استمرار تطورها.

المصدر: technewsworld

شاهد ايضا:

أنواع الجرائم الإلكترونية

إنشاء حساب فيس بوك

انشاء حساب انستقرام

ترجمة عربي سويدي

أفضل شركات إنشاء مواقع الويب

أفضل 10 محركات بحث

ترجمة عربي هولندي

شراء قالب جنة

أنت تستخدم إضافة Adblock

يعتمد موقع انشاء على الاعلانات كمصدر لدعم الموقع، يجب عليك ايقاف تشغيل حاجب الاعلانات لمشاهدة المحتوي