أخبار التقنية

هل حان الوقت لحماية الذكاء الاصطناعي بجدار ناري؟ يعتقد آرثر AI ذلك


انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو ، لمعرفة كيف يدمج القادة استثمارات الذكاء الاصطناعي ويحسنونها لتحقيق النجاح.. يتعلم أكثر


مع مخاطر الهلوسة ، وتسرب المعلومات الخاصة بالبيانات ، والامتثال التنظيمي الذي يواجه الذكاء الاصطناعي ، هناك مجموعة متزايدة من الخبراء والموردين الذين يقولون إن هناك حاجة واضحة إلى نوع من الحماية.

إحدى هذه المنظمات التي تبني الآن تقنية للحماية من مخاطر بيانات الذكاء الاصطناعي هي شركة Arthur AI في مدينة نيويورك. جمعت الشركة ، التي تأسست في عام 2018 ، أكثر من 60 مليون دولار حتى الآن ، إلى حد كبير لتمويل مراقبة التعلم الآلي وتكنولوجيا المراقبة. من بين الشركات التي يزعم Arthur AI أنها عملاء ، ثلاثة من أكبر خمسة بنوك أمريكية ، هيومانا وجون ديري ووزارة الدفاع الأمريكية (DoD).

يأخذ Arthur AI اسمه كتقدير لـ Arthur Samuel ، الذي يُنسب إليه الفضل إلى حد كبير في ابتكاره مصطلح “التعلم الآلي” في عام 1959 والمساعدة في تطوير بعض النماذج الأولى المسجلة.

تقوم شركة Arthur AI الآن بأخذ خطوة إلى الأمام في مجال ملاحظتها للذكاء الاصطناعي مع إطلاق Arthur Shield اليوم ، والذي يعد أساسًا جدار حماية لبيانات الذكاء الاصطناعي. باستخدام Arthur Shield ، يمكن للمؤسسات نشر جدار حماية يقع أمام نماذج اللغات الكبيرة (LLMs) للتحقق من البيانات الواردة والصادرة بحثًا عن المخاطر المحتملة وانتهاكات السياسة.

حدث

تحويل 2023

انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.

سجل الان

قال آدم وينشل ، الشريك المؤسس والرئيس التنفيذي لشركة Arthur AI ، لـ VentureBeat: “هناك عدد من موجهات الهجوم والمشكلات المحتملة مثل تسرب البيانات التي تمثل مشكلات ضخمة وموانع لنشر LLMs بالفعل”. “لدينا عملاء يسقطون في الأساس على أنفسهم لنشر LLMs ، لكنهم عالقون الآن ويستخدمون هذا وسيستخدمون هذا المنتج للتخلص من المشاكل.”

هل تحتاج المنظمات إلى حواجز حماية AI أو جدار حماية AI؟

التحدي المتمثل في توفير شكل من أشكال الحماية ضد المخرجات التي يحتمل أن تكون خطرة من الذكاء الاصطناعي التوليدي هو التحدي الذي يحاول العديد من البائعين حله.

>> تابع تغطية الذكاء الاصطناعي التوليدية المستمرة من VentureBeat <

أعلنت Nvidia مؤخرًا عن تقنية NeMo Guardrails الخاصة بها ، والتي توفر لغة سياسة للمساعدة في حماية LLM من تسرب البيانات الحساسة أو الهلوسة الاستجابات غير الصحيحة. علق Wenchel أنه من وجهة نظره ، في حين أن حواجز الحماية مثيرة للاهتمام ، إلا أنها تميل إلى التركيز بشكل أكبر على المطورين.

في المقابل ، قال إن الهدف الذي يهدف إليه Arthur AI للتمييز مع Arthur Shield هو من خلال توفير أداة مصممة خصيصًا للمؤسسات للمساعدة في منع الهجمات في العالم الحقيقي. تستفيد التقنية أيضًا من إمكانية الملاحظة التي تأتي من منصة مراقبة Arthur’s ML ، للمساعدة في توفير حلقة ملاحظات مستمرة لتحسين فعالية جدار الحماية.

كيف يعمل Arthur Shield لتقليل مخاطر LLM

في عالم الشبكات ، يعد جدار الحماية تقنية مجربة وحقيقية تقوم بتصفية حزم البيانات داخل وخارج الشبكة.

إنه نفس النهج الأساسي الذي يتبعه Arthur Shield ، باستثناء المطالبات الواردة إلى LLM والبيانات الصادرة. لاحظ Wenchel أن بعض المطالبات التي يتم استخدامها مع LLMs اليوم يمكن أن تكون معقدة إلى حد ما. يمكن أن تتضمن الموجهات مدخلات المستخدم وقاعدة البيانات ، بالإضافة إلى الزخارف الجانبية.

قال Wenchel: “إذن فأنت تأخذ كل هذه البيانات المختلفة ، وتربطها معًا ، وتغذيها في موجه LLM ، ثم تحصل على رد”. “إلى جانب ذلك ، هناك عدد من المجالات حيث يمكنك الحصول على النموذج لتكوين الأشياء والهلوسة ، وإذا قمت بإنشاء موجه بشكل ضار ، فيمكنك جعله يعيد بيانات حساسة للغاية.”

يوفر Arthur Shield مجموعة من المرشحات المنشأة مسبقًا والتي تتعلم باستمرار ويمكن تخصيصها أيضًا. تم تصميم هذه المرشحات لمنع المخاطر المعروفة – مثل البيانات الحساسة أو السامة المحتملة – من الإدخال أو الإخراج من LLM.

قال وينشل: “لدينا قسم أبحاث رائع وقد قاموا بالفعل ببعض الأعمال الرائدة فيما يتعلق بتطبيق ماجستير في القانون على تقييم مخرجات ماجستير إدارة الأعمال”. “إذا كنت تزيد من تعقيد النظام الأساسي ، فأنت بحاجة إلى ترقية درجة تعقيد المراقبة التي تتماشى معها.”

مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى
karnataka xvideo pornmovieswatch.org sex sagr
bangla chodan xshaker.net download indiansex video
بيرازر meyzo.info افلام دراما سكس
mallu blue film eroanal.net xnxxbest
locel xxx video waplo.info desi kannada sex
chut pics cumporntrends.com tight pussy xvideo
indian kitchen room tubedesiporn.com marwadi girl sex
bengoli xxx movie redwap3.com malayalam blue filim
indian@aloha tube eromoms.net www.pronstarxvidoes
bangla chodachudi pornjob.info meena sexy pics
صورة بنات سكس xxcmh.com فيلم سكس صيني
www desi xx com browntubeporn.com wild ass fuck
www.hot vido 3gpjizz.mobi sunny leone tube 8
funmaza dampxxx.org varun dhawan sex
اغتصاب مصري arabicpornvideo.com دخله براحه
toto togel situs togel toto slot situs toto rtp slot cerutu4d toto slot situs toto bo togel situs togel situs toto situs togel situs togel toto togel pam4d toto togel situs toto situs togel situs toto situs togel toto togel situs togel situs togel bandar toto situs togel bo togel situs toto situs togel situs toto situs togel toto slot pam4d bento4d bento4d bento4d jacktoto jacktoto cerutu4d cerutu4d situs toto situs togel situs toto situs toto situs toto situs togel situs toto bandar togel situs toto situs toto situs toto situs toto situs togel situs togel resmi situs togel situs toto resmi situs togel resmi situs toto toto slot situs toto situs toto situs toto situs togel situs toto situs toto macau bo toto bo toto situs toto toto togel situs toto togel resmi situs toto situs toto situs togel situs togel resmi pengeluaran macau situs toto situs toto situs togel situs togel situs toto situs toto toto slot situs toto situs togel situs toto slot cerutu4d bo toto situs toto situs toto situs toto situs toto macau cerutu4d situs toto situs toto macau bet togel toto togel gimbal4d gimbal4d toto slot situs toto situs toto toto slot situs toto situs toto toto togel situs toto toto slot situs togel situs toto slot live casino toto slot toto togel situs togel situs toto bandar togel bandar togel situs toto bo togel situs toto daftar situs togel situs togel situs toto situs toto situs toto bakautoto situs bandar togel bakautoto situs resmi toto togel bakautoto situs toto togel terpercaya 2024 situs toto situs toto