مع ازدهار الذكاء الاصطناعي ، فإن الحد من مخاطر الأنظمة الخوارزمية أمر لا بد منه ، كما يقول موجز جديد لـ ACM

قد يكون الذكاء الاصطناعي مزدهرًا ، لكن موجزًا ​​جديدًا من مجلس سياسة التكنولوجيا العالمي التابع لجمعية آلات الحوسبة (ACM) ، والذي ينشر غدًا ، يشير إلى أن انتشار الأنظمة الخوارزمية في كل مكان “يخلق مخاطر جدية لا تتم معالجتها بشكل كافٍ”.

وفقًا لموجز ACM ، الذي تقول المنظمة إنه الأول في سلسلة الأنظمة والثقة ، فإن الأنظمة الخوارزمية الآمنة تمامًا غير ممكنة. ومع ذلك ، يمكن اتخاذ خطوات قابلة للتحقيق لجعلها أكثر أمانًا ، وينبغي أن تكون بحثًا عاليًا وسياسة ذات أولوية للحكومات وجميع أصحاب المصلحة.

الاستنتاجات الرئيسية للموجز:

• لتعزيز أنظمة خوارزمية أكثر أمانًا ، هناك حاجة إلى البحث حول كل من أساليب تطوير البرامج التي تتمحور حول الإنسان والتقنية ، والاختبار المحسّن ، ومسارات التدقيق ، وآليات المراقبة ، فضلاً عن التدريب والحوكمة.
• يتطلب بناء ثقافات السلامة التنظيمية قيادة إدارية ، والتركيز في التوظيف والتدريب ، واعتماد الممارسات المتعلقة بالسلامة ، والاهتمام المستمر.
• آليات الرقابة الداخلية والمستقلة التي تركز على الإنسان ، سواء داخل الحكومة أو المنظمات ، ضرورية لتعزيز أنظمة خوارزمية أكثر أمانًا.

تحتاج أنظمة الذكاء الاصطناعي إلى ضمانات ومراجعة صارمة

عالم الكمبيوتر بن شنايدرمان ، أستاذ فخري بجامعة ماريلاند ومؤلف بشري-توسيط منظمة العفو الدوليةكان المؤلف الرئيسي للموجز ، وهو الأحدث في سلسلة من النشرات الفنية القصيرة حول تأثير التطورات التكنولوجية المحددة وانعكاساتها على السياسات.

في حين أن الأنظمة الخوارزمية – التي تتجاوز تكنولوجيا الذكاء الاصطناعي والتعلم الآلي وتتضمن الأشخاص والمؤسسات والهياكل الإدارية – قد حسنت عددًا هائلاً من المنتجات والعمليات ، أشار إلى أن الأنظمة غير الآمنة يمكن أن تسبب ضررًا عميقًا (فكر في السيارات ذاتية القيادة أو التعرف على الوجه).

وأوضح أن الحكومات وأصحاب المصلحة بحاجة إلى تحديد الأولويات وتنفيذ الضمانات بنفس الطريقة. يجب أن يخضع أي منتج غذائي جديد أو دواء جديد لعملية مراجعة صارمة قبل إتاحته للجمهور.

مقارنة الذكاء الاصطناعي بنموذج الطيران المدني

قارن شنايدرمان إنشاء أنظمة خوارزمية أكثر أمانًا بالطيران المدني – الذي لا يزال ينطوي على مخاطر ولكن من المسلم به عمومًا أنه آمن.

“هذا ما نريده للذكاء الاصطناعي” ، أوضح في مقابلة مع VentureBeat. من الصعب القيام بذلك. يستغرق بعض الوقت للوصول إلى هناك. يتطلب الأمر موارد وجهدًا وتركيزًا ، ولكن هذا ما سيجعل شركات الأفراد قادرة على المنافسة ويجعلها دائمة. خلاف ذلك ، سوف يستسلموا لفشل من المحتمل أن يهدد وجودهم “.

وأضاف أن الجهد المبذول نحو أنظمة خوارزمية أكثر أمانًا هو تحول من التركيز على أخلاقيات الذكاء الاصطناعي.

“الأخلاق جيدة ، كلنا نريدها كأساس جيد ، لكن التحول نحو ما نفعله؟” هو قال. كيف نجعل هذه الأشياء عملية؟

هذا مهم بشكل خاص عند التعامل مع تطبيقات الذكاء الاصطناعي التي ليست خفيفة الوزن – أي القرارات التبعية مثل التجارة المالية ، والمسائل القانونية ، والتوظيف والطرد ، وكذلك التطبيقات الطبية أو النقل أو العسكرية الحرجة للحياة.

قال شنايدرمان: “نريد تجنب حادثة تشيرنوبيل للذكاء الاصطناعي ، أو جزيرة ثري مايل للذكاء الاصطناعي”. يجب أن ترتفع درجة الجهد الذي نبذله لتحقيق الأمان مع تزايد المخاطر “.

تطوير ثقافة السلامة التنظيمية

وفقًا لموجز ACM ، تحتاج المؤسسات إلى تطوير “ثقافة أمان تشمل هندسة العوامل البشرية” – أي ، كيفية عمل الأنظمة في الممارسة الفعلية ، مع وجود البشر في الضوابط – والتي يجب “نسجها” في تصميم النظام الخوارزمي.

وأشار الموجز أيضًا إلى أن الأساليب التي أثبتت فعاليتها في مجال الأمن السيبراني – بما في ذلك اختبارات “الفريق الأحمر” العدائية التي يحاول فيها المستخدمون الخبراء كسر النظام ، وتقديم “مكافآت الأخطاء” للمستخدمين الذين يبلغون عن عمليات حذف وأخطاء قد تؤدي إلى إخفاقات كبيرة . – يمكن أن يكون مفيدًا في صنع أنظمة خوارزمية أكثر أمانًا.

تعمل العديد من الحكومات بالفعل بشأن هذه القضايا ، مثل الولايات المتحدة بمخططها الخاص بقانون حقوق الذكاء الاصطناعي ، والاتحاد الأوروبي مع قانون الاتحاد الأوروبي للذكاء الاصطناعي. وأكد شنايدرمان أن هذه الجهود يمكن أن توفر ميزة تنافسية للشركات التجارية.

قال: “هذه ليست مجرد أشياء جيدة”. “يعد هذا قرارًا تجاريًا جيدًا بالنسبة لك وقرارًا جيدًا للاستثمار فيه – في مفهوم السلامة والمفهوم الأكبر لثقافة السلامة.”