فتحت InfoQ باب التسجيل في برنامج هندسة الأمن والخصوصية بالذكاء الاصطناعي، وهو عبارة عن مجموعة عبر الإنترنت مدتها خمسة أسابيع لكبار المهندسين والمهندسين المعماريين المسؤولين عن الأمن والخصوصية لأنظمة الذكاء الاصطناعي في الصناعات المنظمة. ومن المقرر إجراء مجموعتين، واحدة تبدأ في 26 أغسطس والأخرى تبدأ في 14 أكتوبر، وتقتصر كل منهما على الممارسين الذين يتمتعون بخبرة لا تقل عن خمس سنوات. تقام الجلسات أربع ساعات في الأسبوع وتديرها كاثرين جارمول، مؤلفة كتاب خصوصية البيانات العملية (أورايلي).
يقتصر عمل الأمن والخصوصية في مجال إنتاج الذكاء الاصطناعي إلى حد كبير على شركة واحدة، مع وجود عدد قليل من الأصوات الخارجية للتحقق من القرارات. مع انتقال الذكاء الاصطناعي من التجارب إلى الاستخدام الحيوي للأعمال، تصبح الأسئلة أكثر تحديدًا. يجب على الفرق أن تتعرف على البيانات الحساسة التي تصل إلى النموذج، وما هي التهديدات التي تستحق النمذجة، وأين تنتمي حواجز الحماية وصناديق الحماية، وما إذا كانت قابلية ملاحظتها ستفشل قبل أن يفعل طرف ثالث ذلك. ويحدث معظم ذلك مع القليل للمقارنة به، وتقدم المجموعة السيناريوهات والمقايضات والقرارات لمجموعة نظيرة سرية. في كل أسبوع، يأخذ المشاركون إطارًا من محادثة QCon ويطبقونه على قرار حقيقي يتعلق بالأمن أو الخصوصية من عملهم، ثم يناقشون ما نجح وما فشل وما لا يزال غير مؤكد مع كبار المهندسين والمعماريين من الشركات والصناعات الأخرى.
تضع “كاثرين” المخاطر حول الثقة. وقالت: “هل تريد أن يساعد الذكاء الاصطناعي في المهام الحيوية للأعمال أو يدعم العمل الأكثر أهمية في مؤسستك؟ إذًا ستواجه مباشرة متطلبات الخصوصية والأمان”. إنها تشير إلى نقطة عمياء مشتركة. تتخطى الفرق المتحيزة نحو العمل والأتمتة أساسيات أمن المعلومات والخصوصية، وغالبًا ما تفترض أن البائع سيتعامل مع الامتثال. بعد انتهاء المجموعة، يجب أن يكون المشاركون قادرين على إلقاء نظرة على بنية الذكاء الاصطناعي، وتحديد المخاطر، وتحديد من أين نبدأ، وتحديد المخاطر التي يمكن منعها والتي تتطلب المراقبة فقط.
تغطي المجموعة التي تمتد لخمسة أسابيع العمل مع البيانات الحساسة في سير عمل الذكاء الاصطناعي، من خلال نمذجة التهديدات والتدريب العملي على الفريق الأحمر (باستخدام أساليب مثل STRIDE وLINDDUN وPlot4AI)، في عناصر التحكم وصناديق الحماية، ثم إمكانية المراقبة والتقييم باستخدام أدوات مثل Arize Phoenix، وأخيرًا الحوكمة والتدقيق. تنتج كل مجموعة عمل تقريرًا موثقًا عن تقييم المخاطر والتخفيف من آثارها لبنية منتج الذكاء الاصطناعي باعتباره حجر الأساس لها، ويتم نشر أفضلها على موقع InfoQ.
تبلغ تكلفة البرنامج 1,470 دولارًا أمريكيًا لكل مجموعة، وتعوض معظم الشركات تكاليف التطوير المهني. يتوفر نموذج “إقناع رئيسك في العمل” لأي شخص يحتاج إلى طلب الموافقة.
ويعمل بجانبه برنامجان آخران لشهادة InfoQ عبر الإنترنت. هندسة الذكاء الاصطناعي مع هين لو، مؤلف كتاب MLOps مع راي، يبدأ في 25 يوليو ويغطي تجاوز أنظمة الذكاء الاصطناعي مرحلة النموذج الأولي، بما في ذلك RAG وخطوط السياق والوكلاء والتقييم والموثوقية. العمارة مع لوكا ميزاليرا، مؤلف كتاب بناء الواجهات الجزئية، يبدأ في 13 أغسطس ويغطي الجانب الاجتماعي التقني للهندسة المعمارية، بما في ذلك المفاضلات والاتصالات، واتخاذ القرارات اللامركزية، وهندسة المنصات، وقرارات هندسة الذكاء الاصطناعي.
يتوفر المنهج الكامل والتسجيل على صفحة برنامج هندسة الأمن والخصوصية بالذكاء الاصطناعي.
