جوجل تطلق خطة لحمايتك من تهديدات الذكاء الاصطناعي
يهتم إطار عمل الذكاء الاصطناعي الآمن من Google بالتهديدات الحالية، وليس بنهاية العالم للذكاء الاصطناعي.
مع تحرك المزيد من المنظمات نحو اعتماد الذكاء الاصطناعي التوليدي، تريد Google منا جميعًا أن نكون أكثر قلقًا بشأن الأمان. تحقيقًا لهذه الغاية، أصدرت شركة التكنولوجيا العملاقة يوم الخميس إطار العمل الآمن للذكاء الاصطناعي (SAIF)، والذي يُقصد به أن يكون نوعًا من خارطة الطريق الامنة، ذا كانت مخططة إلى حد ما في الوقت الحالي.
ولكن إذا كنت تتخيل أن هذا مخطط لتجنب نوع الخطر الوجودي الذي يتحدث عنه إيلون ماسك دائمًا، فكر بشكل أصغر وأكثر إلحاحًا.
فيما يلي ملخص “للعناصر الأساسية” الستة لإطار العمل:
- يتعلق العنصران 1 و2 بتوسيع إطار العمل الأمني الحالي للمؤسسة ليشمل تهديدات الذكاء الاصطناعي في المقام الأول.
- العنصر 3 يدور حول دمج الذكاء الاصطناعي في دفاعك ضد تهديدات الذكاء الاصطناعي، الأمر الذي يدعو للقلق إلى حد ما إلى سباق تسلح نووي، سواء كان ذلك مقصودًا أم لا.
- يدور العنصر 4 حول الفوائد الأمنية للتوحيد في “أطر التحكم” المتعلقة بالذكاء الاصطناعي.
- يدور العنصران 5 و6 حول فحص تطبيقات الذكاء الاصطناعي وتقييمها واختبارها باستمرار للتأكد من قدرتها على تحمل الهجمات وعدم تعريضك لمخاطر غير ضرورية.
يبدو أنه في الوقت الحالي، تريد Google في الغالب فقط من المنظمات تقديم أفكار أولية للأمن السيبراني حول الذكاء الاصطناعي. كما قال رئيس أمان المعلومات في Google Cloud ، فيل فينابلز ، لموقع Axios ، “حتى أثناء بحث الأشخاص عن الأساليب الأكثر تقدمًا، يجب أن يتذكر الأشخاص حقًا أنه يجب أن تكون لديك الأساسيات بشكل صحيح أيضًا”.
ولكن هناك بالفعل بعض المخاوف الأمنية الجديدة والفريدة التي تظهر في الوقت الحالي مع تطبيقات الذكاء الاصطناعي التوليدية مثل ChatGPT .
على سبيل المثال، حدد الباحثون الأمنيون أحد المخاطر المحتملة: ” الحقن الفوري “، وهو شكل غريب من أشكال استغلال الذكاء الاصطناعي حيث يكمن أمر خبيث موجه إلى مكون إضافي لروبوتات الدردشة الذكية في الانتظار في جزء من النص. عندما يقوم الذكاء الاصطناعي بمسح الحقن الفوري، فإنه يغير طبيعة الأمر المعطى للذكاء الاصطناعي. يبدو الأمر أشبه بإخفاء تعويذة شريرة للتحكم في العقل في النص الموجود على جهاز التحكم عن بعد لـ Ron Burgundy . الحق غريب؟
والحقن الفوري ليس سوى أحد الأنواع الجديدة من التهديدات التي تقول Google على وجه التحديد إنها تأمل في المساعدة في كبحها. البعض الآخر يشمل:
- “سرقة النموذج”، طريقة ممكنة لخداع نموذج الترجمة للتخلي عن أسراره.
- “تسمم البيانات”، حيث يقوم أحد الفاعلين السيئين بتخريب عملية التدريب ببيانات خاطئة عن عمد.
- إنشاء محفزات يمكنها استخراج النص الحرفي الذي يحتمل أن يكون سريًا أو حساسًا والذي تم استخدامه في الأصل لتدريب نموذج.
تقول مدونة Google حول SAIF إن إطار العمل يتم اعتماده بواسطة Google. أما بالنسبة لما يعنيه إصدار “إطار عمل” للعالم الأوسع، فقد لا يفضي في الأساس إلى شيء، ولكن يمكن أيضًا اعتماده كمعيار. على سبيل المثال، أصدر المعهد الوطني للمعايير والتكنولوجيا التابع للحكومة الأمريكية (NIST) إطار عمل أكثر عمومية للأمن السيبراني في عام 2014. كان الهدف منه حماية البنية التحتية الحيوية من الهجمات الإلكترونية، ولكنه أيضًا مؤثر للغاية، ومعترف به باعتباره المعيار الذهبي في الأمن السيبراني من خلال غالبية محترفي تكنولوجيا المعلومات الذين شملهم الاستطلاع حول هذا الموضوع.
ومع ذلك، فإن Google ليست الحكومة الأمريكية، الأمر الذي يدعو إلى الشك في مدى موثوقية إطار عملها في أعين منافسي Google للذكاء الاصطناعي، مثل OpenAI. ولكن في مجال الأمان، يبدو أن Google تحاول القيادة من الأمام في مجال الذكاء الاصطناعي، بدلاً من التسابق للعب اللحاق بالركب. ربما يكون استعادة بعض النفوذ الذي فقدته في المراحل السابقة من سباق الذكاء الاصطناعي هو ما يدور حوله حقًا إطلاق SAIF.
المصدر: mashable
شاهد المزيد:
