أعضاء مجلس الشيوخ يرسلون رسائل يستجوبون فيها مارك زوكربيرج بشأن تسرب قانون ميتا LLaMA

أرسل اثنان من أعضاء مجلس الشيوخ خطابًا اليوم إلى الرئيس التنفيذي لشركة Meta Mark Zuckerberg يشكك في تسريب نموذج Meta للغة الكبيرة مفتوح المصدر الشهير LLaMA ، قائلين إنهما قلقان بشأن “احتمال إساءة استخدامه في البريد العشوائي والاحتيال والبرامج الضارة وانتهاكات الخصوصية والمضايقات ، وغيرها من المخالفات والأذى “.

كتب السناتور ريتشارد بلومنتال (D-CT) ، وهو رئيس اللجنة الفرعية للخصوصية والتكنولوجيا والقانون التابعة لمجلس الشيوخ وجوش هاولي (R-MO) ، عضوها الرفيع المستوى ، “إننا نكتب لطلب معلومات عن كيفية قيام شركتك تقييم مخاطر إطلاق LLaMA ، والخطوات التي تم اتخاذها لمنع إساءة استخدام النموذج ، وكيف تقوم بتحديث سياساتك وممارساتك بناءً على توفرها غير المقيد “.

اللجنة الفرعية هي نفسها التي استجوبت الرئيس التنفيذي لشركة OpenAI ، سام ألتمان ، وناقد الذكاء الاصطناعي غاري ماركوس ، وكريستينا مونتغمري ، رئيسة شركة آي بي إم للخصوصية والثقة ، في جلسة استماع في مجلس الشيوخ حول قواعد وأنظمة الذكاء الاصطناعي في 16 مايو.

تشير الرسالة إلى إصدار LLaMA في فبراير ، قائلة إن Meta أصدرت LLaMA لتنزيله بواسطة باحثين معتمدين ، “بدلاً من مركزية وتقييد الوصول إلى البيانات الأساسية ، والبرمجيات ، والنموذج.”

يتابع الخطاب: “بينما ورد أن LLaMA تم تدريبه على البيانات العامة ، إلا أنه يختلف عن النماذج السابقة المتاحة للجمهور بناءً على حجمها وتطورها. للأسف ، ولكن كما هو متوقع ، في غضون أيام من الإعلان ، ظهر النموذج الكامل على BitTorrent ، مما جعله متاحًا لأي شخص في أي مكان في العالم ، دون مراقبة أو إشراف. يمثل النشر المفتوح لـ LLaMA زيادة كبيرة في تطور نماذج الذكاء الاصطناعي المتاحة لعامة الناس ، ويثير أسئلة جادة حول احتمالية إساءة الاستخدام أو إساءة الاستخدام “.

يبدو أن استدعاء تسريب LLaMA كان بمثابة انتقاد لمجتمع المصدر المفتوح ، الذي كان يمر بلحظة ونقاشات ساخنة خلال الأشهر الماضية – بعد موجة من إصدارات نموذج اللغة الكبيرة الأخيرة (LLM) وجهد من قبل الشركات الناشئة والمجموعات والأكاديميين للتراجع عن التحول في الذكاء الاصطناعي لإغلاق LLMs والمملوكة وإضفاء الطابع الديمقراطي على الوصول إلى LLM.

تم الترحيب على الفور بـ LLaMA ، عند إصدارها ، لأدائها المتفوق على طرز مثل GPT-3 ، على الرغم من وجود معلمات أقل 10 مرات. تم ربط بعض النماذج مفتوحة المصدر التي تم إصدارها بـ LLaMA. على سبيل المثال ، أعلنت Databricks عن Dolly التي تشبه ChatGPT ، والتي كانت مستوحاة من Alpaca ، وهي لغة LLM أخرى مفتوحة المصدر أصدرتها ستانفورد في منتصف شهر مارس. استخدمت الألبكة بدورها الأوزان من نموذج Meta LLaMA. Vicuna هي نسخة معدلة من LLaMA تتوافق مع أداء GPT-4.

كان أعضاء مجلس الشيوخ يتحدثون بشدة عن زوكربيرج فيما يتعلق بتوزيع LLaMA واستخدام كلمة “تسرب”.

تقول الرسالة: “إن اختيار توزيع LLaMA بطريقة غير مقيدة ومسموح بها يثير أسئلة مهمة ومعقدة حول متى وكيف يكون من المناسب إطلاق نماذج الذكاء الاصطناعي المتطورة علنًا”.

“بالنظر إلى الحد الأدنى على ما يبدو من الحماية المضمنة في إصدار LLaMA ، كان من المفترض أن تعرف Meta أن LLaMA سيتم نشرها على نطاق واسع ، ويجب أن تكون قد توقعت إمكانية إساءة الاستخدام” ، كما يتابع. بينما وصفت Meta الإصدار بأنه تسريب ، صرح كبير علماء الذكاء الاصطناعي لديها أن النماذج المفتوحة هي مفتاح نجاحها التجاري. لسوء الحظ ، يبدو أن Meta قد فشلت في إجراء أي تقييم ذي مغزى للمخاطر قبل الإصدار ، على الرغم من الإمكانات الواقعية للتوزيع الواسع ، حتى لو كان غير مصرح به “.

تُعرف Meta باسم شركة Big Tech “المفتوحة” بشكل خاص (بفضل FAIR ، فريق أبحاث الذكاء الاصطناعي الأساسي الذي أسسه كبير علماء الذكاء الاصطناعي في Meta Yann LeCun في عام 2013). لقد جعل أوزان نموذج LLaMA متاحة للأكاديميين والباحثين على أساس كل حالة على حدة – بما في ذلك ستانفورد لمشروع Alpaca – ولكن تم تسريب هذه الأوزان لاحقًا على 4chan. سمح ذلك للمطورين في جميع أنحاء العالم بالوصول الكامل إلى LLM على مستوى GPT لأول مرة.

من المهم أن نلاحظ ، مع ذلك ، أن أيا من LLM مفتوحة المصدر هذه متاحة للاستخدام التجاري ، لأن نموذج LLaMA لم يتم إصداره للاستخدام التجاري ، وتحظر شروط استخدام OpenAI GPT-3.5 استخدام النموذج لتطوير نماذج الذكاء الاصطناعي . التي تتنافس مع OpenAI.

لكن نماذج البناء تلك من أوزان النموذج المسربة قد لا تلتزم بهذه القواعد.

في مقابلة مع VentureBeat في أبريل ، قالت جويل بينو ، نائب الرئيس لأبحاث الذكاء الاصطناعي في Meta ، إن المساءلة والشفافية في نماذج الذكاء الاصطناعي أمران ضروريان.

قالت في مقابلة في أبريل / نيسان: “المحاور في الذكاء الاصطناعي ضخمة ، ونحن نطلب من المجتمع أن يأتي معنا”. “لهذا السبب ، أكثر من أي وقت مضى ، نحتاج إلى دعوة الناس لرؤية التكنولوجيا بمزيد من الشفافية والاعتماد على الشفافية.”

ومع ذلك ، لا يتماشى Pineau تمامًا مع تصريحات OpenAI التي تشير إلى مخاوف تتعلق بالسلامة كسبب لإبقاء النماذج مغلقة. وقالت لـ VentureBeat: “أعتقد أن هذه مخاوف صحيحة ، ولكن الطريقة الوحيدة لإجراء محادثات بطريقة تساعدنا حقًا على التقدم هي من خلال توفير مستوى معين من الشفافية”.

وأشارت إلى مشروع الألبكة في جامعة ستانفورد كمثال على “الوصول المسور” – حيث أتاحت Meta أوزان LLaMA للباحثين الأكاديميين ، الذين صقلوا الأوزان لإنشاء نموذج بخصائص مختلفة قليلاً.

وقالت: “نحن نرحب بهذا النوع من الاستثمار من النظام البيئي للمساعدة في تقدمنا”. ولكن في حين أنها لم تعلق على VentureBeat بشأن تسرب 4chan الذي أدى إلى موجة نماذج LLaMA الأخرى ، فقد أخبرت The Verge في بيان صحفي ، “بينما [LLaMA] النموذج غير متاح للجميع … حاول البعض الالتفاف على عملية الموافقة “.

أكد Pineau أن Meta تلقت شكاوى على جانبي النقاش بشأن قرارها بفتح LLaMA جزئيًا. وقالت: “من ناحية ، لدينا العديد من الأشخاص الذين يشكون من أنه ليس مفتوحًا بما يكفي تقريبًا ، ويتمنون لو سمحنا للاستخدام التجاري لهذه النماذج”. لكن البيانات التي نتدرب عليها لا تسمح بالاستخدام التجاري لهذه البيانات. نحن نحترم البيانات “.

ومع ذلك ، هناك أيضًا مخاوف من أن Meta كانت مفتوحة للغاية وأن هذه النماذج خطيرة بشكل أساسي. وقالت: “إذا كان الناس يشتكون على حد سواء من كلا الجانبين ، فربما لم نقم بعمل سيء للغاية فيما يتعلق بجعله نموذجًا معقولًا”. “سأقول أن هذا شيء نراقبه دائمًا ومع كل إصدار من إصداراتنا ، فإننا ننظر بعناية في المفاضلات من حيث الفوائد والأضرار المحتملة.”