حواجز حماية عالمية من Nvidia Open Sources لإبقاء أنظمة الذكاء الاصطناعي البكم في الخط

ال قائمة متزايدة من الشركات التي تدمج الذكاء الاصطناعي في تطبيقاتهم وأنظمتهم الأساسية ، يجب عليهم إنشاء الحلول الخاصة بهم وتعديلها باستمرار للتعامل مع ميل الذكاء الاصطناعي إلى الكذب أو الغش أو الأسلوب أو الاستعارة أو المقايضة. الآن ، تتطلع Nvidia إلى منح المزيد من المطورين طريقة أسهل لإخبار الذكاء الاصطناعي بإيقاف شركه.

يوم الثلاثاء ، نفيديا مشترك ما يسمى بـ “NeMo Guardrails” الذي وصفته الشركة بأنه نوع من روبوت الرقابة بحجم واحد يناسب الجميع للتطبيقات التي تعمل بواسطة نماذج لغات كبيرة. البرنامج مفتوح المصدرومن المفترض أن يتم وضعه فوق مجموعات الأدوات الحديثة المستخدمة كثيرًا مثل لانجشين. حسب الشركة مدونة تقنيةيستخدم NeMo نظامًا فرعيًا خاصًا بالذكاء الاصطناعي يسمى Colang كنوع من الواجهة لتحديد أنواع القيود المفروضة على مخرجات الذكاء الاصطناعي التي يريد كل تطبيق الحصول عليها.

يمكن لأولئك الذين يستخدمون NeMo مساعدة روبوتات المحادثة على البقاء في الموضوع ومنعها من نشر معلومات خاطئة أو تقديم ردود سامة أو عنصرية صريحة أو من أداء مهام مثل إنشاء تعليمات برمجية ضارة. قالت Nvidia إنها تعمل بالفعل مع شركة تطبيقات الويب الخاصة بالعمل التجاري Zapier.

قال جوناثان كوهين نائب رئيس Nvidia للأبحاث التطبيقية تك كرانش أنه بينما كانت الشركة تعمل على نظام Guardrails منذ سنوات ، وجدوا قبل عام أن هذا النظام سيعمل بشكل جيد نماذج GPT الخاصة بـ OpenAI. تقول صفحة NeMo أنها تعمل على رأس نماذج اللغات القديمة مثل OpenAI’s GPT-3 و Google’s T5. تقول Nvidia إنها تعمل أيضًا فوق البعض نماذج توليد الصور بالذكاء الاصطناعي مثل Stable Diffusion 1.5 و Imagen. أ أكد المتحدث باسم Nvidia لـ Gizmodo أنه من المفترض أن تعمل NeMo مع “جميع LLMs الرئيسية التي تدعمها LangChain ، بما في ذلك OpenAI’s GPT-4.”

للبيع الآن

اثنان من شبكات VPN المفضلة لدينا

حماية بياناتك الخاصة
نحن نشارك ونصل إلى الكثير من البيانات الخاصة كل يوم والتي يمكن أن تسبب بعض المشاكل الكبيرة إذا وقعت هذه المعلومات في الأيدي الخطأ.

ومع ذلك ، لا يزال من غير الواضح مدى الجودة التي يمكن أن يحققها حاجز الحماية مفتوح المصدر. بينما قد لا نحصل على “GPT-5” في أي وقت قريبلقد حاولت OpenAI بالفعل تسويق طراز GPT-4 على نطاق واسع من خلال الوصول إلى واجهة برمجة التطبيقات. منظمة العفو الدولية الاستقرار ، صناع الانتشار المستقر ، هي تعمل أيضًا على توجيه الأعمال نحو نموذج “XL” الخاص بها. حاولت كلتا الشركتين طمأنة العملاء بوجود حظر بالفعل تم العثور على محتوى سيئ في أعماق بيانات تدريب الذكاء الاصطناعيعلى الرغم من استخدام GPT-4 بشكل خاص ، كان اضطر إلى أخذ كلمة OpenAI ل هو – هي.

وحتى إذا تم تنفيذه في برنامج يدعمه بشكل أفضل ، مثل LangChain ، فليس الأمر كما لو أن NeMo سيصطاد كل شيء. وجدت الشركات التي طبقت بالفعل أنظمة الذكاء الاصطناعي ذلك بالطريقة الصعبة. بدأت شركة Bing AI من Microsoft رحلتها في وقت سابق من هذا العام ، والمستخدمين على الفور وجدت طرقًا لإساءة استخدامها لقول “هيل هتلر” والإدلاء بتصريحات عنصرية أخرى. كل تحديث منح الذكاء الاصطناعي حيزًا أكبر للمناورة وأثبت كيف يمكن استغلال الذكاء الاصطناعي الخاص به.

وحتى إذا كان الذكاء الاصطناعي يحتوي على كتل صريحة لمحتوى معين ، فإن هذا لا يعني أنه مثالي دائمًا. الأسبوع الماضي، أخذ Snapchat روبوت الدردشة المستند إلى ChatGPT “My AI” من الإصدار التجريبي وفرضها على جميع مستخدميها. أثبت أحد المستخدمين أنهم يستطيعون التلاعب بالذكاء الاصطناعي لقول كلمة nعلى الرغم من محاولات المستخدمين الآخرين مع نفس المطالبة التي تم إحباطها بواسطة الكتل الموجودة على الذكاء الاصطناعي.

هذا هو السبب في أن معظم تطبيقات الذكاء الاصطناعي تم إصدارها بنوع من التنسيق “التجريبي”. جوجلهاس يسمى إصدار Cool AI الخاص به “اختبار” بينما باستمرار محاولة التحدث عن تطوير الذكاء الاصطناعي “المسؤول”. دفعت Microsoft إلى Bing AI بناءً على ChatGPT الخاص بـ OpenAI بتنسيق تجريبي. روبوتات الدردشة الحديثة للذكاء الاصطناعي هي أسوأ أنواع الكاذبين. إنهم كذبة دون أن يعرفوا حتى أن ما يقولونه غير صحيح. يمكنهم نشر محتوى ضار وخطير وغالبًا ما يكون سخيفًا دون فهم أي مما قاله.

روبوتات الدردشة التي تعمل بالذكاء الاصطناعي هي أسوأ من أي طفل يصرخ بكلمات نابية في وول مارت لأن الطفل يمكن أن يتعلم في النهاية. إذا تم الاستدعاء ، فسوف يتظاهر الذكاء الاصطناعي بالاعتذار ، ولكن بدون تعديل بيانات أو عمليات التعلم الخاصة بالذكاء الاصطناعي ، لن يتغير الذكاء الاصطناعي أبدًا. أفضل شيء يمكن أن يفعله معظم مطوري الذكاء الاصطناعي لإعاقة أسوأ دوافع الذكاء الاصطناعي هو وضعه في قفص كما تجده في عرين الأسد في حديقة الحيوانات المحلية. أنت بحاجة إلى جدران طويلة لإبقاء الذكاء الاصطناعي بعيدًا ، وحتى ذلك الحين ، لا تضع يدك في القضبان.

ولا يمكنك أن تنسى كيف أن هذا كل شيء شركة كبيرة لشركة Nvidia. من المفترض أن تعزز حواجز الحماية هذه مجموعة برامج الذكاء الاصطناعي الحالية للشركة للشركات. تعد Nvidia بالفعل واحدة من أكثر اللاعبين الرئيسيين في مجال الذكاء الاصطناعي ، على الأقل من حيث الأجهزة. تشكل رقائق التدريب A100 وأحدث H100 AI أكثر من 90 ٪ من السوق العالمية لهذا النوع من وحدة معالجة الرسومات. يقال إن Microsoft تحاول إيجاد طريقة لإنشاء شريحة تدريب AI خاصة بها واخرج من تحت نير هيمنة نفيديا.