كشفت شركة Meta الأم على Facebook النقاب عن نموذج LLaMA 2 للذكاء الاصطناعي
في إعلان ضخم تم تصميمه اليوم ليتزامن مع مؤتمر Microsoft Inspire ، أعلنت Meta عن نموذجها الجديد للذكاء الاصطناعي، LLaMA 2 (نموذج Meta AI للغة كبيرة)
. لا يتوفر نموذج اللغة الكبيرة الجديد هذا (LLM) الآن فحسب، بل إنه أيضًا مفتوح المصدر ومتاح مجانًا للاستخدام التجاري – على عكس نموذج LLa الأول، الذي تم ترخيصه لأغراض البحث فقط.
الأخبار، إلى جانب دعم Microsoft الصريح لـ LLaMA 2، تعني أن عالم الذكاء الاصطناعي التوليدي سريع الحركة قد تحول للتو مرة أخرى.
الآن العديد من الشركات التي تسارع لتبني الذكاء الاصطناعي، وإن كان بحذر، لديها خيار آخر للاختيار من بينها، وهذا واحد مجاني تمامًا – على عكس ChatGPT Plus زعيم ومنافس OpenAI ، أو منافسين مثل Cohere .
كانت الشائعات المحيطة بالإصدار الجديد من LLaMA تدور في الصناعة لمدة شهر على الأقل، حيث كان أعضاء مجلس الشيوخ الأمريكي يتساءلون عن Meta حول توفر نموذج الذكاء الاصطناعي.
كان التكرار الأول لـ LLaMA متاحًا للأكاديميين والباحثين بموجب ترخيص بحثي. تم تسريب أوزان النموذج الكامنة وراء LLaMA، مما تسبب في بعض الجدل الذي أدى إلى تحقيق الحكومة.
مع LLaMA 2، يتجاهل Meta الجدل السابق ويمضي قدمًا بنموذج أكثر قوة سيكون قابلاً للاستخدام على نطاق أوسع من سابقه ويحتمل أن يهز مشهد LLM بأكمله.
تقوم Microsoft بالتحوط من رهانات الذكاء الاصطناعي الخاصة بها
يتم توفير نموذج LLaMA 2 على Microsoft Azure. هذا جدير بالملاحظة في أن Azure هو أيضًا المنزل الأساسي لـ OpenAI وعائلة GPT-3 / GPT-4 من LLM.
مايكروسوفت مستثمر في كل من شركة Meta السابقة Facebook و OpenAI .
مؤسس Meta والرئيس التنفيذي مارك وكبريري متحمس بشكل خاص لكون LLaMA مفتوح المصدر.
في بيان له، أشار زوكربيرج إلى أن Meta لها تاريخ طويل مع المصدر المفتوح وقدمت العديد من المساهمات البارزة، لا سيما في الذكاء الاصطناعي مع إطار عمل التعلم الآلي PyTorch .
صرح زوكربيرج: “المصدر المفتوح يقود الابتكار لأنه يمكّن العديد من المطورين من البناء بتقنية جديدة”.
“كما أنه يحسن السلامة والأمن لأنه عندما يكون البرنامج مفتوحًا، يمكن لعدد أكبر من الأشخاص تدقيقه لتحديد المشكلات المحتملة وإصلاحها. أعتقد أنه سيفتح المزيد من التقدم إذا كان النظام البيئي أكثر انفتاحًا، ولهذا السبب نحن منفتحون على Llama 2. “
في رسالة على Twitter، أعلن Yann LeCun، نائب الرئيس وكبير علماء الذكاء الاصطناعي في Meta، أيضًا عن إصدار مفتوح المصدر.
“هذا ضخم: [LLaMA 2] مفتوح المصدر، مع ترخيص يسمح بالاستخدام التجاري!” كتب LeCun. “سيؤدي هذا إلى تغيير المشهد في سوق LLM. [LLaMA 2] متاح على Microsoft Azure وسيكون متاحًا على AWS و Hugging Face ومقدمي الخدمات الآخرين “
ماذا يوجد داخل LLaMA؟
LLaMA هو نموذج لغة ارتداد تلقائي قائم على المحولات. تم تفصيل أول تكرار لـ LLaMA علنًا بواسطة Meta في فبراير كنموذج مكون من 65 مليار متغير قادر على مجموعة واسعة من مهام AI التوليدية الشائعة.
في المقابل، يحتوي LLaMA 2 على عدد من أحجام النماذج، بما في ذلك سبعة و13 و70 مليار معلمة.
تدعي Meta أن النماذج المدربة مسبقًا قد تم تدريبها على مجموعة بيانات ضخمة كانت أكبر بنسبة 40٪ من تلك المستخدمة في LLaMA 1. كما تم توسيع طول السياق إلى تريليوني رمز، أي ضعف طول سياق LLaMA 1.
لم يتم تدريب LLaMA فقط على المزيد من البيانات، مع المزيد من المعلمات، بل إن النموذج يعمل أيضًا بشكل أفضل من سابقه، وفقًا للمعايير التي قدمتها Meta.
توصف تدابير السلامة
لا يتعلق LLaMA 2 بالطاقة فحسب، بل يتعلق أيضًا بالسلامة. تم اختبار LLaMA 2 أولاً باستخدام البيانات المتاحة للجمهور.
ثم يمر النموذج بسلسلة من مراحل الضبط الدقيق (SFT). كطبقة إضافية، يستفيد LLaMA 2 من دورة التعلم المعزز من التغذية الراجعة البشرية (RLHF) للمساعدة في توفير درجة إضافية من السلامة والمسؤولية.
توفر ورقة Meta البحثية حول LLaMA 2 تفاصيل شاملة حول الخطوات الشاملة المتخذة للمساعدة في توفير السلامة والحد من التحيز المحتمل أيضًا.
“من المهم أن نفهم ما هو موجود في بيانات ما قبل التدريب لزيادة الشفافية وإلقاء الضوء على الأسباب الجذرية لقضايا المصب المحتملة، مثل التحيزات المحتملة،” تنص الورقة.
“يمكن أن يوضح هذا عوامل التخفيف النهائية، إن وجدت، التي يجب مراعاتها، والمساعدة في توجيه استخدام النموذج المناسب.”
المصدر: venturebeat
قد يهمك:
