يقول الخبراء إن خطاب مجلس الشيوخ إلى Meta بشأن تسرب LLaMA يمثل تهديدًا للذكاء الاصطناعي مفتوح المصدر

يقول الخبراء إن خطابًا أرسله اثنان من أعضاء مجلس الشيوخ الأمريكي إلى مارك زوكربيرج الرئيس التنفيذي لشركة Meta يوم الثلاثاء ، والذي شكك في تسريب نموذج اللغة الكبيرة مفتوح المصدر الشهير LLaMA في مارس ، يرسل تهديدًا لمجتمع الذكاء الاصطناعي مفتوح المصدر. إنه جدير بالملاحظة لأنه يأتي في لحظة حاسمة عندما أعطى الكونجرس الأولوية لتنظيم الذكاء الاصطناعي ، بينما يشهد الذكاء الاصطناعي مفتوح المصدر موجة من LLMs الجديدة.

على سبيل المثال ، قبل ثلاثة أسابيع ، اختبر الرئيس التنفيذي لشركة OpenAI Sam Altman أمام اللجنة الفرعية للخصوصية والتكنولوجيا والقانون في مجلس الشيوخ – السناتور ريتشارد بلومنثال (D-CT) هو الرئيس والسيناتور جوش هاولي (R-MO) عضوها في الترتيب – ووافق مع دعوات لإنشاء وكالة تنظيمية جديدة للذكاء الاصطناعي.

أرسل بلومنتال وهاولي الرسالة إلى زوكربيرج (الذي رفض التعليق لكنه أعاد تأكيد “التزام ميتا بنهج قائم على العلم المفتوح لأبحاث الذكاء الاصطناعي” في اجتماع شامل للشركة اليوم) نيابة عن نفس اللجنة الفرعية. قال أعضاء مجلس الشيوخ إنهم قلقون بشأن “احتمال إساءة استخدام LLa في البريد العشوائي والاحتيال والبرامج الضارة وانتهاكات الخصوصية والمضايقات وغيرها من المخالفات والأضرار”.

أشارت الرسالة إلى إصدار LLaMA في فبراير ، قائلة إن Meta أصدرت LLaMA لتنزيله بواسطة باحثين معتمدين ، “بدلاً من مركزية وتقييد الوصول إلى البيانات والبرامج والنموذج الأساسي”. وأضافت أن “اختيار Meta لتوزيع LLaMA بطريقة غير مقيدة ومسموح بها يثير أسئلة مهمة ومعقدة حول متى وكيف يكون من المناسب إطلاق نماذج متطورة للذكاء الاصطناعي”.

مخاوف بشأن محاولات إلقاء ذكاء اصطناعي مفتوح المصدر “تحت الحافلة”

قال العديد من الخبراء إنهم “غير مهتمين” بنظريات المؤامرة ، لكن لديهم مخاوف بشأن الآلات التي تعمل خلف الكواليس.

“انظر ، من السهل على كل من المسؤولين الحكوميين والمنافسين أصحاب الملكية إلقاء المصادر المفتوحة تحت الحافلة ، لأن صانعي السياسة ينظرون إليها بعصبية على أنها شيء يصعب التحكم فيه – وينظر إليه مقدمو البرامج الاحتكارية على أنه شكل من أشكال المنافسة التي يفضلونها . ” قال آدم تيرير ، محلل سياسة الابتكار في معهد آر ستريت ، لموقع VentureBeat في مقابلة. وهذا يجعله هدفا سهلا.

كان ويليام فالكون ، الرئيس التنفيذي لشركة Lightning AI ومؤسس PyTorch Lightning مفتوح المصدر ، أكثر وضوحًا ، حيث قال إن الرسالة كانت “مفاجئة للغاية” ، وعلى الرغم من عدم رغبته في “تغذية نظريات المؤامرة” ، إلا أنها “تبدو مثل OpenAI والكونغرس يعملان معًا الآن “.

وذهب ستيفن ويبر ، الأستاذ في كلية المعلومات وقسم العلوم السياسية في جامعة كاليفورنيا ، بيركلي ، إلى أبعد من ذلك ، حيث أخبر VentureBeat أنه يعتقد أن Microsoft ، التي تعمل من خلال OpenAI ، “تعمل بالخوف ، بنفس الطريقة التي لقد خافت Microsoft من نظام Linux في أواخر التسعينيات وأشارت إلى البرامج مفتوحة المصدر على أنها “سرطان” في نظام الملكية الفكرية “. يتذكر ستيف بالمر ، “دعا شعبه … لإقناع الناس بأن المصدر المفتوح شرير ، في حين أن ما كان يمثل في الواقع تهديدًا تنافسيًا لـ Windows.”

لم يكن إطلاق LLaMA “ خطرًا غير مقبول ”

قال كريستوفر مانينغ ، مدير مختبر ستانفورد للذكاء الاصطناعي ، لموقع VentureBeat في رسالة مفادها أنه على الرغم من عدم وجود تشريع حاليًا أو “قواعد مجتمعية قوية حول الممارسات المقبولة” عندما يتعلق الأمر بالذكاء الاصطناعي ، فقد “شجع بشدة” الحكومة ومجتمع الذكاء الاصطناعي على العمل من أجل وضع اللوائح والقواعد المطبقة على جميع الشركات والمجتمعات والأفراد الذين يطورون أو يستخدمون نماذج كبيرة للذكاء الاصطناعي.

ومع ذلك ، قال: “في هذه الحالة ، يسعدني دعم إصدار مفتوح المصدر لنماذج مثل نماذج LLaMA.” في حين أنه “يقر تمامًا” بأن نماذج مثل LLaMA يمكن استخدامها لأغراض سيئة ، مثل المعلومات المضللة أو البريد العشوائي ، إلا أنه قال إنها أصغر وأقل قدرة من النماذج الأكبر التي تم إنشاؤها بواسطة OpenAI و Anthropic و Google (ما يقرب من 175 مليارًا إلى 512 مليارًا حدود).

على العكس من ذلك ، قال إنه في حين أن نماذج LLaMA أكبر وذات جودة أفضل من النماذج الصادرة عن مجموعات مفتوحة المصدر ، إلا أنها ليست أكبر بشكل كبير (أكبر نموذج LLaMA هو 60 مليار معلمة ؛ نموذج GPT-Neo-X الذي أصدرته المجموعة الموزعة من المساهمين EleutherAE هو 20 مليار معلمة).

وقال: “على هذا النحو ، لا أعتبر إطلاق سراحهم خطرًا غير مقبول”. “يجب أن نكون حذرين بشأن الاحتفاظ بالتكنولوجيا الجيدة من الشركات المبتكرة والطلاب الذين يحاولون التعرف على المستقبل وبناءه. غالبًا ما يكون من الأفضل تنظيم استخدامات التكنولوجيا بدلاً من توافرها “.

محاولة “مضللة” لتقييد الوصول

قال Vipul Ved Prakash ، المؤسس المشارك والرئيس التنفيذي لشركة Together ، التي تدير مشروع RedPajama مفتوح المصدر الذي قام بتكرار مجموعة بيانات LLaMA لبناء LLMs مفتوحة المصدر وحديثة ، قال إن خطاب مجلس الشيوخ إلى Meta هو ” محاولة مضللة للحد من الوصول إلى تقنية جديدة “.

وأشار إلى أن الرسالة “مليئة بالمخاوف النموذجية”.

على سبيل المثال ، قال: “ليس من المنطقي استخدام نموذج لغوي لإنشاء بريد عشوائي. لقد ساعدت في إنشاء ما يُحتمل أن يكون أكثر أنظمة مكافحة البريد العشوائي انتشارًا على الإنترنت اليوم ، ويمكنني أن أقول بكل ثقة أن مرسلي البريد العشوائي لن يستخدموا LLaMA أو LLMs الأخرى نظرًا لوجود طرق أرخص بكثير لإنشاء رسائل غير مرغوب فيها “.

وتابع أن العديد من هذه المخاوف “تنطبق على لغات البرمجة التي تسمح لك بتطوير برامج جديدة ، وبعض هذه البرامج مكتوبة بقصد ضار. لكننا لا نحد من لغات البرمجة المعقدة كمجتمع ، لأننا نقدر القدرة والوظائف التي توفرها في حياتنا “.

بشكل عام ، قال إن الخطاب حول سلامة الذكاء الاصطناعي هو “استجابة مذعورة مع القليل من الأدلة الداعمة للأضرار المجتمعية”. قال براكاش إنه قلق من أن يؤدي ذلك إلى “إسكات الابتكار في أمريكا وتسليم مفاتيح التكنولوجيا الأكثر أهمية في جيلنا إلى عدد قليل من الشركات ، التي شكلت النقاش بشكل استباقي.”

أحد الأسئلة هو لماذا يتم تمييز نماذج Meta (بخلاف حقيقة أن Meta قد خاضت جولات مع الكونجرس لعقود). بعد كل شيء ، أشار كل من مانينغ وفالكون إلى أن نموذجًا جديدًا من معهد الابتكار التكنولوجي المدعوم من حكومة الإمارات العربية المتحدة أتاح نموذجًا أفضل جودة من 40 مليار متغير ، فالكون.

قال مانينغ: “لذلك لم يكن ليحدث فرقًا كبيرًا في معدل التقدم أو نشر LLM سواء تم إصدار LLaMA أم لا” ، بينما تساءل فالكون عما يمكن أن تفعله الحكومة الأمريكية بشأن إصداره: “ماذا سيفعلون؟ أخبر الإمارات أنهم لا يستطيعون الإعلان عن النموذج؟

زعم تيرير أن هذا هو المكان الذي تدخل فيه “سياسة التخويف”. أوضح أن رسالة بلومنتال / هاولي ، كما أوضح ، هي “تهديد تم فتحه من خلال ما سأسميه” غرامًا سيئًا “- رسالة سيئة تقول” أنت ” يجب أن تعيد النظر في موقفك من هذا. “إنهم لا يقولون إننا سننظمك ، ولكن هناك بالتأكيد عبارة” وإلا “معلقة في الغرفة التي تلوح في الأفق فوق حرف من هذا القبيل.”

هذا ، كما يقول ، هو الأمر الأكثر إثارة للقلق. وقال: “في مرحلة ما ، سيبدأ المشرعون في ممارسة المزيد والمزيد من الضغط على مقدمي الخدمات أو المنصات الأخرى الذين قد يتعاملون مع أو يوفرون منصة للتطبيقات أو النماذج مفتوحة المصدر”. وبهذه الطريقة يمكنك تنظيم المصادر المفتوحة دون تنظيم رسمي للمصدر المفتوح.