أخبار التقنية

قد يعيق ChatGPT صناعة الأمن السيبراني

[ad_1]

انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو ، لمعرفة كيف يدمج القادة استثمارات الذكاء الاصطناعي ويحسنونها لتحقيق النجاح.. يتعلم أكثر


منذ إطلاقه في تشرين الثاني (نوفمبر) 2022 ، تسبب ChatGPT ، وهو روبوت محادثة للذكاء الاصطناعي (AI) ، في إثارة ضجة كبيرة بسبب استجابات البرنامج البشرية والدقيقة بشكل مدهش.

وصل نظام التوليد التلقائي إلى 100 مليون مستخدم نشط شهريًا بعد شهرين فقط من إطلاقه. ومع ذلك ، بينما تستمر شعبيتها في النمو ، فإن المناقشة الحالية داخل صناعة الأمن السيبراني تدور حول ما إذا كان هذا النوع من التكنولوجيا سيساعد في جعل الإنترنت أكثر أمانًا أو يلعب في أيدي أولئك الذين يحاولون إحداث الفوضى.

يحتوي برنامج الذكاء الاصطناعي على مجموعة متنوعة من حالات استخدام الأمن السيبراني ، بما في ذلك تحليل البيانات المتقدم ، وأتمتة المهام المتكررة ، والمساعدة في حساب درجات المخاطر. ومع ذلك ، بعد فترة وجيزة من ظهوره لأول مرة ، سرعان ما تم إثبات أن برنامج الدردشة الآلي سهل الاستخدام والمتوفر مجانًا يمكن أن يساعد أيضًا المتسللين في اختراق البرامج وتطوير أدوات تصيد متطورة.

إذن ، هل ChatGPT هدية من آلهة الأمن السيبراني أم طاعون يُستخدم للعقاب؟ لاكتشاف الإجابة ، يجب أن ننظر إلى الإيجابيات والسلبيات والمستقبل. دعنا نتعمق.

حدث

تحويل 2023

انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.

سجل الان

ما هي مخاطر ChatGPT الحالية؟

مثل أي تقدم تكنولوجي جديد ، ستكون هناك دائمًا بعض الآثار السلبية ، ولا يختلف ChatGPT.

في الوقت الحالي ، تأتي أكثر المشكلات التي يتم الحديث عنها فيما يتعلق ببرنامج الدردشة الآلي من سهولة إنشاء نصوص تصيد احتيالي مقنعة للغاية ، ومن المحتمل أن يتم استخدامها في رسائل البريد الإلكتروني الضارة. نظرًا لافتقارها إلى الإجراءات الأمنية ، فقد كان من السهل على المهاجمين ، الذين قد لا تكون لغتهم الأولى هي الإنجليزية على سبيل المثال ، استخدام آلية ChatGPT لإنشاء رسالة بليغة وجذابة مكتوبة بقواعد نحوية شبه مثالية في ثوانٍ.

وبما أن الأمريكيين فقدوا 40 مليار دولار في عام 2022 بسبب عمليات الاحتيال هذه ، فمن السهل معرفة سبب استخدام المجرمين لـ ChatGPT للحصول على شريحة من هذه الفطيرة غير المشروعة المربحة.

تثير روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أيضًا مسألة الأمن الوظيفي. بالطبع ، لا يمكن للنظام الحالي أن يحل محل محترف مدرب تدريباً عالياً ، ولكن هذه التكنولوجيا يمكن أن تقلل بشكل كبير من عدد السجلات والتقارير التي يجب فحصها من قبل الموظف. قد يؤثر ذلك على عدد المحللين الذين يحتاجهم مركز العمليات الأمنية (SOC) لتوظيفهم.

بينما يقدم البرنامج العديد من المزايا لشركات الأمن السيبراني ، سيكون هناك الكثير من الشركات التي ستتبنى التكنولوجيا لمجرد شعبيتها الحالية وتحاول جذب عملاء جدد بها. ومع ذلك ، فإن استخدام التكنولوجيا فقط بسبب حالتها السيئة يمكن أن يؤدي إلى إساءة استخدامها. لا يجوز للشركات تثبيت تدابير سلامة مناسبة ، مما يعيق التقدم في بناء برنامج أمان فعال.

فوائد الأمن السيبراني لـ ChatGPT

كما هو الحال مع أي تقنية جديدة ، يعد الاضطراب مكونًا لا مفر منه ، لكن لا يجب أن يكون هذا أمرًا سيئًا.

يمكن لشركات الأمن السيبراني إضافة طبقة إضافية من الذكاء إلى جهودهم اليدوية في غربلة سجلات التدقيق أو فحص حزم الشبكة لتمييز التهديدات عن الإنذارات الكاذبة.

نظرًا لقدرة ChatGPT على اكتشاف الأنماط والبحث ضمن معلمات محددة ، يمكن أيضًا استخدامها للمهام المتكررة وإنشاء التقارير. يمكن لشركات الإنترنت بعد ذلك حساب درجات المخاطر للتهديدات التي تؤثر على المؤسسات بشكل أكثر ذكاءً باستخدام ChatGPT كمساعد بحث فائق القوة.

على سبيل المثال ، بدأت شركة Orca Security ، وهي شركة للأمن السيبراني مقرها إسرائيل ، في استخدام الصفات التحليلية الفائقة لـ ChatGPT للتجول في محيطها من البيانات والمساعدة في التنبيهات الأمنية. من خلال الإدراك المبكر لكيفية قيام chatbot بتحسين تشغيله اليومي ، يمكن للشركة أيضًا التعلم من التكنولوجيا ، مما يمنحها ميزة فريدة في تعديل نماذجها لتحسين كيفية عمل ChatGPT لأعمالها.

علاوة على ذلك ، فإن معالجة اللغة الطبيعية في chatbot ، والتي تجعله جيدًا في كتابة رسائل البريد الإلكتروني المخادعة ، تعني أيضًا أنها مثالية لإنشاء سياسات أمان معقدة. يمكن استخدام هذه النصوص المفصلة على مواقع الأمن السيبراني وفي وثائق التدريب ، مما يوفر وقتًا ثمينًا لأعضاء الفريق الكرام.

مستقبل ChatGPT

إن تقنية الذكاء الاصطناعي الخاصة بـ ChatGPT متاحة بسهولة لمعظم دول العالم. لذلك ، كما هو الحال مع أي معركة أخرى ، فإن الأمر مجرد سباق لمعرفة الجانب الذي سيستفيد بشكل أفضل من التكنولوجيا.

ستحتاج شركات الأمن السيبراني إلى مكافحة المستخدمين السيئين باستمرار الذين سيكتشفون طرقًا لاستخدام ChatGPT لإحداث ضرر بطرق لم تستوعبها شركات الأمن السيبراني بعد. ومع ذلك ، فإن هذه الحقيقة لم تثني المستثمرين ، ويبدو مستقبل ChatGPT مشرقًا للغاية. مع استثمار Microsoft 10 مليارات دولار في Open AI ، من الواضح أن معرفة وقدرات ChatGPT ستستمر في التوسع.

بالنسبة للإصدارات المستقبلية من هذه التقنية ، يحتاج مطورو البرامج إلى الانتباه إلى افتقارها إلى تدابير السلامة ، وسيكون الشيطان في التفاصيل.

ربما لن يتمكن ChatGPT من إحباط هذه المشكلة إلى حد كبير. يمكن أن يكون لديها آليات لتقييم عادات المستخدمين والمنزل على الأفراد الذين يستخدمون مطالبات واضحة مثل ، “اكتب لي بريدًا إلكترونيًا للتصيد الاحتيالي كما لو كنت رئيس شخص ما” ، أو حاول التحقق من صحة هويات الأفراد.

يمكن للذكاء الاصطناعي المفتوح أن يعمل مع الباحثين لتدريب مجموعات البيانات الخاصة به لتقييم وقت استخدام نصوصهم في هجمات في أماكن أخرى.

ومع ذلك ، فإن كل هذه الأفكار تطرح عددًا كبيرًا من المشاكل ، بما في ذلك التكاليف المتصاعدة وقضايا حماية البيانات.

لكي تتم معالجة وباء التصيد الاحتيالي الحالي ، يحتاج المزيد من الأشخاص إلى التثقيف والتوعية لتحديد هذه الهجمات. وتحتاج الصناعة إلى مزيد من الاستثمارات من شركات الاتصالات الخلوية ومقدمي خدمات البريد الإلكتروني للتخفيف من عدد الهجمات التي تحدث في البرية.

تغليف

ستنشأ الكثير من المنتجات والخدمات من ChatGPT ، مما يوفر قيمة هائلة للمساعدة في حماية الشركات أثناء عملها على تغيير العالم. وسيكون هناك أيضًا الكثير من الأدوات الجديدة التي أنشأها المتسللون والتي ستسمح لهم بمهاجمة المزيد من الأشخاص في وقت أقل وبطرق جديدة.

روبوتات الدردشة المدعومة بالذكاء الاصطناعي موجودة لتبقى ، و ChatGPT لديها منافسة ، مع برنامج Google Bard و Bing من Google يتطلعان إلى منح إنشاء Open AI فرصة لأمواله. ومع ذلك ، من الأهمية بمكان أن تنظر شركات الأمن السيبراني إلى ChatGPT كاستراتيجية هجومية واستراتيجية دفاعية ، وليس الانغماس في فرصة توليد المزيد من الإيرادات.

تايلور هيرسوم هو المؤسس والرئيس التنفيذي لشركة Eden Data.

صانعي القرار

مرحبًا بك في مجتمع VentureBeat!

DataDecisionMakers هو المكان الذي يمكن للخبراء ، بما في ذلك الأشخاص الفنيون الذين يقومون بعمل البيانات ، مشاركة الأفكار والابتكارات المتعلقة بالبيانات.

إذا كنت تريد أن تقرأ عن الأفكار المتطورة والمعلومات المحدثة ، وأفضل الممارسات ، ومستقبل البيانات وتكنولوجيا البيانات ، انضم إلينا في DataDecisionMakers.

يمكنك حتى التفكير في المساهمة بمقال خاص بك!

قراءة المزيد من DataDecisionMakers

[ad_2]

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى