خطاب مفتوح للسيناتور الأمريكي يدعو إلى أن يكون أمن الذكاء الاصطناعي في “طليعة” التنمية

اليوم ، أرسل السناتور مارك وارنر (D-VA) ، رئيس لجنة الاستخبارات بمجلس الشيوخ ، سلسلة من الرسائل المفتوحة إلى الرؤساء التنفيذيين لشركات الذكاء الاصطناعي ، بما في ذلك OpenAI و Google و Meta و Microsoft و Anthropic ، داعيًا إياهم إلى وضع الأمان في “طليعة” تطوير الذكاء الاصطناعي.

“أكتب اليوم بشأن الحاجة إلى إعطاء الأولوية للأمن في تصميم وتطوير أنظمة الذكاء الاصطناعي (AI). نظرًا لأن شركات مثل شركتك تحقق تقدمًا سريعًا في مجال الذكاء الاصطناعي ، يجب أن نعترف بالمخاطر الأمنية الكامنة في هذه التكنولوجيا وأن نضمن تطور الذكاء الاصطناعي واعتماده بطريقة مسؤولة وآمنة “، كتب وارنر في كل خطاب.

على نطاق أوسع ، توضح الرسائل المفتوحة مخاطر تزايد مخاوف المشرعين بشأن الأمن الذي يقدمه الذكاء الاصطناعي التوليدي.

التركيز على الأمن

يأتي هذا بعد أسابيع فقط من تحذير مدير الأمن السيبراني في وكالة الأمن القومي ، روب جويس ، من أن ChatGPT ستجعل المتسللين الذين يستخدمون الذكاء الاصطناعي “أكثر فاعلية” ، وبعد ما يزيد قليلاً عن شهر من دعوة غرفة التجارة الأمريكية إلى تنظيم تقنية الذكاء الاصطناعي للتخفيف من “تداعيات الأمن القومي” من هذه الحلول.

كانت أهم المشكلات الخاصة بالذكاء الاصطناعي التي ذكرها Warner في الرسالة هي سلامة سلسلة إمداد البيانات (ضمان أصل وجودة ودقة بيانات الإدخال) ، والتلاعب ببيانات التدريب (المعروف أيضًا باسم هجمات تسمم البيانات) ، وأمثلة معادية (حيث يدخل المستخدمون) مدخلات للنماذج التي تتسبب في ارتكابهم للأخطاء عمدًا).

دعا وارنر أيضًا شركات الذكاء الاصطناعي إلى زيادة الشفافية حول ضوابط الأمان المطبقة في بيئاتها ، وطلب نظرة عامة على كيفية تعامل كل مؤسسة مع الأمن ، وكيف تتم مراقبة الأنظمة ومراجعتها ، وما هي معايير الأمان التي تلتزم بها ، مثل مخاطر الذكاء الاصطناعي في NIST . إطار الإدارة.