هل حان الوقت لحماية الذكاء الاصطناعي بجدار ناري؟ يعتقد آرثر AI ذلك

مع مخاطر الهلوسة ، وتسرب المعلومات الخاصة بالبيانات ، والامتثال التنظيمي الذي يواجه الذكاء الاصطناعي ، هناك مجموعة متزايدة من الخبراء والموردين الذين يقولون إن هناك حاجة واضحة إلى نوع من الحماية.

إحدى هذه المنظمات التي تبني الآن تقنية للحماية من مخاطر بيانات الذكاء الاصطناعي هي شركة Arthur AI في مدينة نيويورك. جمعت الشركة ، التي تأسست في عام 2018 ، أكثر من 60 مليون دولار حتى الآن ، إلى حد كبير لتمويل مراقبة التعلم الآلي وتكنولوجيا المراقبة. من بين الشركات التي يزعم Arthur AI أنها عملاء ، ثلاثة من أكبر خمسة بنوك أمريكية ، هيومانا وجون ديري ووزارة الدفاع الأمريكية (DoD).

يأخذ Arthur AI اسمه كتقدير لـ Arthur Samuel ، الذي يُنسب إليه الفضل إلى حد كبير في ابتكاره مصطلح “التعلم الآلي” في عام 1959 والمساعدة في تطوير بعض النماذج الأولى المسجلة.

تقوم شركة Arthur AI الآن بأخذ خطوة إلى الأمام في مجال ملاحظتها للذكاء الاصطناعي مع إطلاق Arthur Shield اليوم ، والذي يعد أساسًا جدار حماية لبيانات الذكاء الاصطناعي. باستخدام Arthur Shield ، يمكن للمؤسسات نشر جدار حماية يقع أمام نماذج اللغات الكبيرة (LLMs) للتحقق من البيانات الواردة والصادرة بحثًا عن المخاطر المحتملة وانتهاكات السياسة.

قال آدم وينشل ، الشريك المؤسس والرئيس التنفيذي لشركة Arthur AI ، لـ VentureBeat: “هناك عدد من موجهات الهجوم والمشكلات المحتملة مثل تسرب البيانات التي تمثل مشكلات ضخمة وموانع لنشر LLMs بالفعل”. “لدينا عملاء يسقطون في الأساس على أنفسهم لنشر LLMs ، لكنهم عالقون الآن ويستخدمون هذا وسيستخدمون هذا المنتج للتخلص من المشاكل.”

هل تحتاج المنظمات إلى حواجز حماية AI أو جدار حماية AI؟

التحدي المتمثل في توفير شكل من أشكال الحماية ضد المخرجات التي يحتمل أن تكون خطرة من الذكاء الاصطناعي التوليدي هو التحدي الذي يحاول العديد من البائعين حله.

>> تابع تغطية الذكاء الاصطناعي التوليدية المستمرة من VentureBeat <

أعلنت Nvidia مؤخرًا عن تقنية NeMo Guardrails الخاصة بها ، والتي توفر لغة سياسة للمساعدة في حماية LLM من تسرب البيانات الحساسة أو الهلوسة الاستجابات غير الصحيحة. علق Wenchel أنه من وجهة نظره ، في حين أن حواجز الحماية مثيرة للاهتمام ، إلا أنها تميل إلى التركيز بشكل أكبر على المطورين.

في المقابل ، قال إن الهدف الذي يهدف إليه Arthur AI للتمييز مع Arthur Shield هو من خلال توفير أداة مصممة خصيصًا للمؤسسات للمساعدة في منع الهجمات في العالم الحقيقي. تستفيد التقنية أيضًا من إمكانية الملاحظة التي تأتي من منصة مراقبة Arthur’s ML ، للمساعدة في توفير حلقة ملاحظات مستمرة لتحسين فعالية جدار الحماية.

كيف يعمل Arthur Shield لتقليل مخاطر LLM

في عالم الشبكات ، يعد جدار الحماية تقنية مجربة وحقيقية تقوم بتصفية حزم البيانات داخل وخارج الشبكة.

إنه نفس النهج الأساسي الذي يتبعه Arthur Shield ، باستثناء المطالبات الواردة إلى LLM والبيانات الصادرة. لاحظ Wenchel أن بعض المطالبات التي يتم استخدامها مع LLMs اليوم يمكن أن تكون معقدة إلى حد ما. يمكن أن تتضمن الموجهات مدخلات المستخدم وقاعدة البيانات ، بالإضافة إلى الزخارف الجانبية.

قال Wenchel: “إذن فأنت تأخذ كل هذه البيانات المختلفة ، وتربطها معًا ، وتغذيها في موجه LLM ، ثم تحصل على رد”. “إلى جانب ذلك ، هناك عدد من المجالات حيث يمكنك الحصول على النموذج لتكوين الأشياء والهلوسة ، وإذا قمت بإنشاء موجه بشكل ضار ، فيمكنك جعله يعيد بيانات حساسة للغاية.”

يوفر Arthur Shield مجموعة من المرشحات المنشأة مسبقًا والتي تتعلم باستمرار ويمكن تخصيصها أيضًا. تم تصميم هذه المرشحات لمنع المخاطر المعروفة – مثل البيانات الحساسة أو السامة المحتملة – من الإدخال أو الإخراج من LLM.

قال وينشل: “لدينا قسم أبحاث رائع وقد قاموا بالفعل ببعض الأعمال الرائدة فيما يتعلق بتطبيق ماجستير في القانون على تقييم مخرجات ماجستير إدارة الأعمال”. “إذا كنت تزيد من تعقيد النظام الأساسي ، فأنت بحاجة إلى ترقية درجة تعقيد المراقبة التي تتماشى معها.”