وقالت OpenAI إن الضمانات الجديدة التي تركز على “المراقبة النشطة” و”تحسين التوافق” ساعدت بشكل كبير في تقليل الإجراءات غير المقصودة من خلال نماذجها.
وقالت OpenAI إن الضمانات الجديدة التي تركز على “المراقبة النشطة” و”تحسين التوافق” ساعدت بشكل كبير في تقليل الإجراءات غير المقصودة من خلال نماذجها.
الائتمان: أوبن إيه آي
كتب ميكا كارول، باحث السلامة في OpenAI، على وسائل التواصل الاجتماعي بخصوص الحادث: “إذا لم يقنعك هذا بأن مخاطر الاختلال ستكون مصدر قلق رئيسي في المستقبل، فلا أعرف ما الذي سيفعله”.
هذه ليست المرة الأولى التي يبذل فيها نموذج الذكاء الاصطناعي جهودًا كبيرة للعثور على طرق غير مقصودة لاجتياز المعيار. في تقرير صدر هذا الأسبوع، أشار معهد أمن الذكاء الاصطناعي في المملكة المتحدة إلى أنه اكتشف نماذج حديثة تحاول “الغش” في تقييماته السيبرانية (على سبيل المثال، استخدام الاختصارات أو الحلول البديلة أو الأساليب غير المقصودة/غير المسموح بها لإيجاد حل) بنسبة تتراوح بين 8 و14 بالمائة من الوقت – وهو نطاق أدنى يمكن أن يقلل من عدد محاولات الغش غير المكتشفة.
وصفت مجموعة اختبار الأمان حادثة واحدة حاول فيها أحد النماذج، الذي واجه تقييمًا تم تكوينه بشكل خاطئ و”من المستحيل حله”، الوصول إلى البنية التحتية للتقييم الخاصة بـ AISI باستخدام التعليمات البرمجية التي كتبها واستضافها على خدمة إنترنت تابعة لجهة خارجية غير خاضعة للمراقبة.
ويأتي تسلل الوجه المعانق أيضًا في وقت تُصدر فيه شركات الذكاء الاصطناعي تحذيرات خطيرة حول قدرات الهجوم السيبراني لأحدث نماذجها، مما يدفع الحكومات إلى الاستجابة بأوامر تركز على الأمن القومي مما يحد من طرحها. في حين يرى بعض المتشككين أن هذا النوع من التصريحات هو بمثابة تسويق مليء بالضجيج لقدرات أحدث نماذجهم، فإن التقييمات المستقلة تظهر أن النماذج الحديثة حققت أهداف التسلل التي كانت مستحيلة بالنسبة للأنظمة المستقلة السابقة.
أظهرت النماذج الحديثة طويلة المدى قدرات تسلل محسنة عبر بعض تقييمات AISI الأكثر تحديًا.
أظهرت النماذج الحديثة طويلة المدى قدرات تسلل محسنة عبر بعض تقييمات AISI الأكثر تحديًا.
الائتمان: AISI
انتقد سام ألتمان من OpenAI التحذيرات الأمنية المذعورة للذكاء الاصطناعي ووصفها بأنها “تسويق قائم على الخوف” في مقابلة أجريت معه في أبريل. لكن في شهر يونيو، قامت شركة OpenAI بتأخير إصدار GPT-5.6 استجابةً لمخاوف تتعلق بالسلامة من قبل حكومة الولايات المتحدة.
ومع استمرار هذه المناقشات في مجالات الذكاء الاصطناعي والأمن السيبراني، يمكن اعتبار حادثة Hugging Face بمثابة نقطة تحول في كيفية تعامل متخصصي الأمن السيبراني مع التهديدات القائمة على الذكاء الاصطناعي. وكتبت Hugging Face في كشفها الأسبوع الماضي: “لم تعد الأدوات الهجومية المستقلة والمعتمدة على الذكاء الاصطناعي نظرية”. “إنه يقلل من تكلفة تشغيل حملة واسعة النطاق ومتعددة المراحل، ويعمل بسرعة الآلة. ويعني الدفاع عن منصة عبر الإنترنت الآن التعامل مع سطح البيانات والنموذج باعتباره سطح هجوم من الدرجة الأولى واستخدام الذكاء الاصطناعي في الدفاع لمواكبة التقدم.”
كتب كليم ديلانج، المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face، على وسائل التواصل الاجتماعي اليوم: “هذا هو اليوم الأول للأمن السيبراني في عصر العملاء”. “إننا نتعلم جميعًا أن السرية ليست هي الحل وأن جميع المدافعين (وليس فقط عدد قليل من المدافعين) في كل مكان يحتاجون إلى نماذج أكثر قوة دون قيود، وخاصة تلك المفتوحة!”
