مع إصدار ChatGPT-4 هذا الأسبوع ، تُركت فرق الأمن للتكهن بشأن التأثير الذي سيحدثه الذكاء الاصطناعي على مشهد التهديدات. في حين أن الكثيرين يعرفون الآن أنه يمكن استخدام GPT-3 لإنشاء رموز برامج ضارة وبرامج الفدية ، فإن GPT-4 أقوى بمقدار 571 مرة ، مما يخلق إمكانية حدوث زيادة كبيرة في التهديدات.
ومع ذلك ، في حين أن الآثار طويلة المدى للذكاء الاصطناعي التوليدي لا تزال غير واضحة ، فإن بحثًا جديدًا صدر اليوم من قبل شركة الأمن السيبراني Sophos يشير إلى أنه يمكن لفرق الأمن استخدام GPT-3 للمساعدة في الدفاع ضد الهجمات الإلكترونية.
استخدم باحثو Sophos – بما في ذلك عالم البيانات الرئيسي في Sophos AI يونغو لي – نماذج اللغة الكبيرة الخاصة بـ GPT-3 لتطوير واجهة استعلام لغة طبيعية للبحث عن نشاط خبيث أداة أمان XDR للقياس عن بُعد ، واكتشاف رسائل البريد الإلكتروني العشوائية وتحليل “العيش خارج الأرض”. أسطر الأوامر الثنائية.
على نطاق أوسع ، يشير بحث Sophos إلى أن الذكاء الاصطناعي التوليدي يلعب دورًا مهمًا في معالجة الأحداث الأمنية في مركز عمليات الأمن ، حتى يتمكن المدافعون من إدارة أعباء عملهم بشكل أفضل واكتشاف التهديدات بشكل أسرع.
تحديد النشاط الضار
يأتي هذا الإعلان في الوقت الذي تكافح فيه المزيد والمزيد من فرق الأمان لمواكبة حجم التنبيهات التي تم إنشاؤها بواسطة الأدوات عبر الشبكة ، حيث أبلغ 70 ٪ من فرق SOC أن حياتهم المنزلية تتأثر عاطفيًا بعملهم في إدارة تنبيهات تهديدات تكنولوجيا المعلومات.
قال شون غالاغر ، كبير الباحثين في مجال التهديد في Sophos: “أحد المخاوف المتزايدة داخل مراكز العمليات الأمنية هو الكم الهائل من” الضوضاء “القادمة”. “هناك عدد كبير جدًا من الإخطارات وعمليات الكشف التي لا يمكن فرزها ، والعديد من الشركات تتعامل مع موارد محدودة. لقد أثبتنا أنه باستخدام شيء مثل GPT-3 ، يمكننا تبسيط بعض الوكلاء الذين يحتاجون إلى عمالة مكثفة ونعيد المدافعين وقتًا ثمينًا “.
يوضح طيار Sophos أنه يمكن للفرق الأمنية استخدام “التعلم البسيط” لتدريب نموذج لغة GPT-3 باستخدام عدد قليل من عينات البيانات ، دون الحاجة إلى جمع ومعالجة كمية كبيرة من البيانات المصنفة مسبقًا.
استخدام ChatGPT كطيار مساعد في الأمن السيبراني
في الدراسة ، نشر الباحثون واجهة استعلام لغة طبيعية حيث يمكن لمحلل أمني تصفية البيانات التي تم جمعها بواسطة أدوات الأمان للنشاط الضار عن طريق إدخال الاستعلامات بنص عادي باللغة الإنجليزية.
على سبيل المثال ، يمكن للمستخدم إدخال أمر مثل “اعرض لي جميع العمليات التي تم تسميتها بowershelgl.exe وتنفيذها من قبل المستخدم الجذر” وإنشاء استعلامات XDR-SQL منها دون الحاجة إلى فهم بنية قاعدة البيانات الأساسية.
يوفر هذا النهج للمدافعين القدرة على تصفية البيانات دون الحاجة إلى استخدام لغات البرمجة مثل SQL ، مع تقديم “مساعد تجريبي” للمساعدة في تقليل عبء البحث عن بيانات التهديد يدويًا.
قال Gallagher: “نحن نعمل بالفعل على دمج بعض النماذج الأولية في منتجاتنا ، وقد جعلنا نتائج جهودنا متاحة على GitHub للراغبين في اختبار GPT-3 في بيئات التحليل الخاصة بهم”. “في المستقبل ، نعتقد أن GPT-3 قد يصبح جيدًا جدًا مساعدًا قياسيًا لخبراء الأمن.”
تجدر الإشارة إلى أن الباحثين وجدوا أيضًا أن استخدام GPT-3 لتصفية بيانات التهديد كان أكثر فاعلية من استخدام نماذج التعلم الآلي البديلة الأخرى. نظرًا لإصدار GPT-4 وقدراته الفائقة في المعالجة ، فمن المحتمل أن يكون هذا أسرع مع التكرار التالي للذكاء الاصطناعي التوليدي.
بينما لا يزال هؤلاء الطيارون في مهدهم ، أصدرت Sophos نتائج اختبارات تصفية البريد العشوائي واختبارات تحليل سطر الأوامر على صفحة SophosAI’s GitHub للمؤسسات الأخرى للتكيف معها.
مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.
