أخبار التقنية

خطاب مفتوح للسيناتور الأمريكي يدعو إلى أن يكون أمن الذكاء الاصطناعي في “طليعة” التنمية


انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو ، لمعرفة كيف يدمج القادة استثمارات الذكاء الاصطناعي ويحسنونها لتحقيق النجاح.. يتعلم أكثر


اليوم ، أرسل السناتور مارك وارنر (D-VA) ، رئيس لجنة الاستخبارات بمجلس الشيوخ ، سلسلة من الرسائل المفتوحة إلى الرؤساء التنفيذيين لشركات الذكاء الاصطناعي ، بما في ذلك OpenAI و Google و Meta و Microsoft و Anthropic ، داعيًا إياهم إلى وضع الأمان في “طليعة” تطوير الذكاء الاصطناعي.

“أكتب اليوم بشأن الحاجة إلى إعطاء الأولوية للأمن في تصميم وتطوير أنظمة الذكاء الاصطناعي (AI). نظرًا لأن شركات مثل شركتك تحقق تقدمًا سريعًا في مجال الذكاء الاصطناعي ، يجب أن نعترف بالمخاطر الأمنية الكامنة في هذه التكنولوجيا وأن نضمن تطور الذكاء الاصطناعي واعتماده بطريقة مسؤولة وآمنة “، كتب وارنر في كل خطاب.

على نطاق أوسع ، توضح الرسائل المفتوحة مخاطر تزايد مخاوف المشرعين بشأن الأمن الذي يقدمه الذكاء الاصطناعي التوليدي.

التركيز على الأمن

يأتي هذا بعد أسابيع فقط من تحذير مدير الأمن السيبراني في وكالة الأمن القومي ، روب جويس ، من أن ChatGPT ستجعل المتسللين الذين يستخدمون الذكاء الاصطناعي “أكثر فاعلية” ، وبعد ما يزيد قليلاً عن شهر من دعوة غرفة التجارة الأمريكية إلى تنظيم تقنية الذكاء الاصطناعي للتخفيف من “تداعيات الأمن القومي” من هذه الحلول.

حدث

تحويل 2023

انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.

سجل الان

كانت أهم المشكلات الخاصة بالذكاء الاصطناعي التي ذكرها Warner في الرسالة هي سلامة سلسلة إمداد البيانات (ضمان أصل وجودة ودقة بيانات الإدخال) ، والتلاعب ببيانات التدريب (المعروف أيضًا باسم هجمات تسمم البيانات) ، وأمثلة معادية (حيث يدخل المستخدمون) مدخلات للنماذج التي تتسبب في ارتكابهم للأخطاء عمدًا).

دعا وارنر أيضًا شركات الذكاء الاصطناعي إلى زيادة الشفافية حول ضوابط الأمان المطبقة في بيئاتها ، وطلب نظرة عامة على كيفية تعامل كل مؤسسة مع الأمن ، وكيف تتم مراقبة الأنظمة ومراجعتها ، وما هي معايير الأمان التي تلتزم بها ، مثل مخاطر الذكاء الاصطناعي في NIST . إطار الإدارة.

مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى