كيف يعمل الذكاء الاصطناعي التوليدي على إنشاء فئات جديدة من التهديدات الأمنية
انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو ، لمعرفة كيف يدمج القادة استثمارات الذكاء الاصطناعي ويحسنونها لتحقيق النجاح.. يتعلم أكثر
لقد وصلت ثورة الذكاء الاصطناعي الموعودة. سجل ChatGPT من OpenAI رقمًا قياسيًا جديدًا لقاعدة المستخدمين الأسرع نموًا وامتدت موجة الذكاء الاصطناعي التوليدية لتشمل منصات أخرى ، مما أحدث تحولًا هائلاً في عالم التكنولوجيا.
إنه أيضًا يغير مشهد التهديدات بشكل كبير – وبدأنا نرى بعض هذه المخاطر تؤتي ثمارها.
يستخدم المهاجمون الذكاء الاصطناعي لتحسين التصيد الاحتيالي والاحتيال. نموذج لغة Meta البالغ 65 مليارًا تم تسريبه، مما سيؤدي بلا شك إلى هجمات تصيد جديدة ومحسنة. نرى هجمات حقن سريعة جديدة على أساس يومي.
غالبًا ما يضع المستخدمون البيانات الحساسة للأعمال في الخدمات المستندة إلى الذكاء الاصطناعي / تعلم الآلة ، مما يترك فرق الأمن تتدافع لدعم هذه الخدمات والتحكم فيها. على سبيل المثال ، وضع مهندسو Samsung رمزًا خاصًا في ChatGPT للمساعدة في تصحيحه وتسريب البيانات الحساسة. أظهر استطلاع أجراه Fishbowl أن 68٪ من الأشخاص الذين يستخدمون ChatGPT للعمل لا يخبرون رؤسائهم بذلك.
حدث
تحويل 2023
انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.
سجل الان
تتزايد إساءة استخدام الذكاء الاصطناعي في أذهان المستهلكين والشركات وحتى الحكومة. أعلن البيت الأبيض عن استثمارات جديدة في أبحاث الذكاء الاصطناعي والتقييمات والسياسات العامة المقبلة. تتحرك ثورة الذكاء الاصطناعي بسرعة وقد خلقت أربع فئات رئيسية من القضايا.
عدم التناسق في ديناميكية المهاجم-المدافع
من المرجح أن يتبنى المهاجمون الذكاء الاصطناعي ويهندسونه بشكل أسرع من المدافعين ، مما يمنحهم ميزة واضحة. سيكونون قادرين على شن هجمات متطورة مدعومة بالذكاء الاصطناعي / ML على نطاق لا يصدق بتكلفة منخفضة.
ستكون هجمات الهندسة الاجتماعية أول من يستفيد من النصوص التركيبية والصوت والصور. العديد من هذه الهجمات التي تتطلب بعض الجهد اليدوي – مثل محاولات التصيد التي تنتحل شخصية مصلحة الضرائب أو وكلاء العقارات التي تدفع الضحايا إلى تحويل الأموال – ستصبح آلية.
سيتمكن المهاجمون من استخدام هذه التقنيات لإنشاء تعليمات برمجية ضارة أفضل وإطلاق هجمات جديدة وأكثر فاعلية على نطاق واسع. على سبيل المثال ، سيكونون قادرين على إنشاء رمز متعدد الأشكال سريعًا للبرامج الضارة التي تتجنب الاكتشاف من الأنظمة القائمة على التوقيع.
أحد رواد الذكاء الاصطناعي ، جيفري هينتون ، ظهر في الأخبار مؤخرًا عندما قال لصحيفة نيويورك تايمز إنه يأسف لما ساعد في بنائه لأنه “من الصعب أن ترى كيف يمكنك منع الجهات الفاعلة السيئة من استخدامها لأشياء سيئة.”
الأمن والذكاء الاصطناعي: مزيد من تآكل الثقة الاجتماعية
لقد رأينا مدى سرعة انتشار المعلومات المضللة بفضل وسائل التواصل الاجتماعي. أظهر استطلاع أجرته جامعة شيكاغو بيرسون / AP-NORC أن 91٪ من البالغين عبر الطيف السياسي يعتقدون أن المعلومات الخاطئة تمثل مشكلة وأن نصفهم تقريبًا قلقون من نشرها. ضع آلة خلفها ، ويمكن أن تعمل الثقة الاجتماعية بشكل أرخص وأسرع.
أنظمة الذكاء الاصطناعي / تعلم الآلة القائمة على نماذج اللغة الكبيرة (LLMs) محدودة بطبيعتها في معرفتها ، وعندما لا يعرفون كيفية الإجابة ، فإنهم يصنعون الأشياء. غالبًا ما يشار إلى هذا على أنه “هلوسة” ، وهي نتيجة غير مقصودة لهذه التكنولوجيا الناشئة. عندما نبحث عن إجابات شرعية ، فإن الافتقار إلى الدقة يمثل مشكلة كبيرة.
سيؤدي هذا إلى خيانة ثقة الإنسان وخلق أخطاء مأساوية لها عواقب وخيمة. قال رئيس بلدية في أستراليا ، على سبيل المثال ، إنه قد يقاضي شركة OpenAI بتهمة التشهير بعد أن حددته ChatGPT خطأً على أنه سُجن بتهمة الرشوة عندما كان في الواقع هو المبلغ عن المخالفات في إحدى القضايا.
هجمات جديدة
على مدار العقد المقبل ، سنرى جيلًا جديدًا من الهجمات على أنظمة الذكاء الاصطناعي / تعلم الآلة.
سيؤثر المهاجمون على المصنفات التي تستخدمها الأنظمة لتحيز النماذج والتحكم في المخرجات. سيقومون بإنشاء نماذج ضارة تختلف عن النماذج الحقيقية ، والتي يمكن أن تسبب ضررًا حقيقيًا اعتمادًا على كيفية استخدامها. ستصبح هجمات الحقن الفوري أكثر شيوعًا أيضًا. بعد يوم واحد فقط من تقديم Microsoft Bing Chat ، أقنع طالب من جامعة ستانفورد النموذج بالكشف عن توجيهاته الداخلية.
سيبدأ المهاجمون سباق تسلح باستخدام أدوات ML المعادية التي تخدع أنظمة الذكاء الاصطناعي بطرق مختلفة ، وتسمم البيانات التي يستخدمونها أو تستخرج البيانات الحساسة من النموذج.
نظرًا لأن المزيد من التعليمات البرمجية للبرامج يتم إنشاؤها بواسطة أنظمة الذكاء الاصطناعي ، فقد يتمكن المهاجمون من الاستفادة من الثغرات الأمنية الكامنة التي قدمتها هذه الأنظمة عن غير قصد لخرق التطبيقات على نطاق واسع.
العوامل الخارجية للمقياس
ستخلق تكاليف بناء وتشغيل النماذج واسعة النطاق احتكارات وحواجز أمام الدخول والتي ستؤدي إلى عوامل خارجية قد لا نكون قادرين على التنبؤ بها بعد.
في النهاية ، سيؤثر ذلك على المواطنين والمستهلكين بشكل سلبي. ستنتشر المعلومات المضللة ، بينما ستؤثر هجمات الهندسة الاجتماعية على نطاق واسع على المستهلكين الذين لن تكون لديهم وسيلة لحماية أنفسهم.
يعتبر إعلان الحكومة الفيدرالية أن الحوكمة وشيكة بمثابة بداية جيدة ، ولكن هناك الكثير من الأرضية التي يجب تعويضها للوصول إلى سباق الذكاء الاصطناعي.
الذكاء الاصطناعي والأمن: ما الذي سيأتي بعد ذلك
نشر معهد Future of Life غير الربحي رسالة مفتوحة تدعو إلى التوقف في ابتكار الذكاء الاصطناعي. حصلت على الكثير من التغطية الصحفية ، مع انضمام أمثال Elon Musk إلى حشد الأطراف المعنية ، لكن الضغط على زر الإيقاف المؤقت ببساطة ليس قابلاً للتطبيق. حتى ماسك يعرف ذلك – فقد غيّر مساره على ما يبدو وبدأ شركة الذكاء الاصطناعي الخاصة به للتنافس.
كان من المخادع دائمًا الإيحاء بضرورة خنق الابتكار. المهاجمون بالتأكيد لن يحترموا هذا الطلب. نحن بحاجة إلى مزيد من الابتكار والمزيد من الإجراءات حتى نتمكن من ضمان استخدام الذكاء الاصطناعي بشكل مسؤول وأخلاقي.
الجانب المشرق هو أن هذا يخلق أيضًا فرصًا لأساليب مبتكرة للأمن تستخدم الذكاء الاصطناعي. سنرى تحسينات في مطاردة التهديدات والتحليلات السلوكية ، لكن هذه الابتكارات ستستغرق وقتًا وتحتاج إلى استثمار. أي تقنية جديدة تخلق نقلة نوعية ، والأمور تسوء دائمًا قبل أن تتحسن. لقد تعرفنا على الاحتمالات البائسة عندما يتم استخدام الذكاء الاصطناعي من قبل الأشخاص الخطأ ، ولكن يجب أن نتصرف الآن حتى يتمكن المتخصصون في مجال الأمن من تطوير الاستراتيجيات والرد عند ظهور مشكلات واسعة النطاق.
في هذه المرحلة ، نحن غير مستعدين بشكل مؤسف لمستقبل الذكاء الاصطناعي.
آكاش شاه هو كبير موظفي التكنولوجيا والشريك المؤسس في oak9.
صانعي القرار
مرحبًا بك في مجتمع VentureBeat!
DataDecisionMakers هو المكان الذي يمكن للخبراء ، بما في ذلك الأشخاص الفنيون الذين يقومون بعمل البيانات ، مشاركة الأفكار والابتكارات المتعلقة بالبيانات.
إذا كنت تريد أن تقرأ عن الأفكار المتطورة والمعلومات المحدثة ، وأفضل الممارسات ، ومستقبل البيانات وتكنولوجيا البيانات ، انضم إلينا في DataDecisionMakers.
يمكنك حتى التفكير في المساهمة بمقال خاص بك!
قراءة المزيد من DataDecisionMakers
