أخبار التقنية

يجادل خبراء الأمن السيبراني بأن إيقاف تطوير GPT-4 لا طائل من ورائه


انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو ، لمعرفة كيف يدمج القادة استثمارات الذكاء الاصطناعي ويحسنونها لتحقيق النجاح.. يتعلم أكثر


في وقت سابق من هذا الأسبوع ، أصدرت مجموعة تضم أكثر من 1800 قائد وتقني في مجال الذكاء الاصطناعي تتراوح من Elon Musk إلى Steve Wozniak رسالة مفتوحة تدعو جميع مختبرات الذكاء الاصطناعي إلى التوقف فورًا عن تطوير أنظمة الذكاء الاصطناعي الأكثر قوة من GPT-4 لمدة ستة أشهر. . بسبب “مخاطر الربح على المجتمع والإنسانية”.

بينما يمكن أن يساعد التوقف المؤقت في المساعدة على فهم وتنظيم المخاطر المجتمعية الناتجة عن الذكاء الاصطناعي التوليدي بشكل أفضل ، يجادل البعض بأنه أيضًا محاولة للمنافسين المتأخرين لمواكبة أبحاث الذكاء الاصطناعي مع قادة في الفضاء مثل أوبن إيه آي.

وفقًا لمحلل VP المتميز في Gartner ، أفيفاه ليتان ، الذي تحدث مع VentureBeat حول هذه القضية ، “إن التوقف لمدة ستة أشهر هو نداء لوقف تدريب عارضات أقوى من GPT-4. سيتبع GPT 4.5 قريبًا GPT-5 ، والذي من المتوقع أن يحقق AGI (الذكاء العام الاصطناعي). بمجرد وصول AGI ، من المحتمل أن يكون قد فات الأوان لوضع ضوابط السلامة التي تحمي بشكل فعال الاستخدام البشري لهذه الأنظمة “.

>> تابع تغطية الذكاء الاصطناعي التوليدية المستمرة من VentureBeat <

حدث

تحويل 2023

انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.

سجل الان

على الرغم من المخاوف بشأن المخاطر المجتمعية التي يشكلها الذكاء الاصطناعي التوليدي ، فإن العديد من خبراء الأمن السيبراني يشككون في أن التوقف المؤقت في تطوير الذكاء الاصطناعي قد يساعد على الإطلاق. بدلاً من ذلك ، يجادلون بأن مثل هذا التوقف المؤقت من شأنه أن يوفر فقط مهلة مؤقتة لفرق الأمن لتطوير دفاعاتهم والاستعداد للاستجابة للزيادة في الهندسة الاجتماعية ، والتصيد الاحتيالي وتوليد الشفرات الضارة.

لماذا لا يكون التوقف عن التطوير التوليدي للذكاء الاصطناعي أمرًا ممكنًا

إحدى الحجج الأكثر إقناعًا ضد التوقف المؤقت لأبحاث الذكاء الاصطناعي من منظور الأمن السيبراني هي أنها تؤثر فقط على البائعين ، وليس الجهات الفاعلة في مجال التهديد الضار. سيظل مجرمو الإنترنت قادرين على تطوير ناقلات هجوم جديدة وصقل تقنياتهم الهجومية.

قال ستيف جروبمان ، كبير مسؤولي التكنولوجيا في McAfee ، لموقع VentureBeat: “لن يمنع إيقاف تطوير الجيل القادم من الذكاء الاصطناعي الممثلين عديمي الضمير من الاستمرار في استخدام التكنولوجيا في اتجاهات خطيرة”. “عندما تكون لديك تقنيات متطورة ، فإن وجود مؤسسات وشركات تتمتع بأخلاقيات ومعايير تستمر في تطوير التكنولوجيا أمر ضروري لضمان استخدام التكنولوجيا بأكثر الطرق مسؤولية ممكنة.”

في الوقت نفسه ، يمكن اعتبار تنفيذ حظر على تدريب أنظمة الذكاء الاصطناعي تجاوزًا تنظيميًا.

يتم تطبيق الذكاء الاصطناعي في الرياضيات ، ولا يمكننا تشريع أو تنظيم أو منع الناس من القيام بالرياضيات. وبدلاً من ذلك ، نحن بحاجة إلى فهمها ، وتثقيف قادتنا لاستخدامها بمسؤولية في الأماكن المناسبة ، وإدراك أن خصومنا سوف يسعون إلى استغلالها ، “قال جروبمان.

إذن ما العمل؟

إذا لم يكن التوقف الكامل عن التطوير التوليفي للذكاء الاصطناعي أمرًا عمليًا ، فبدلاً من ذلك ، يجب على المنظمين والمنظمات الخاصة النظر في تطوير إجماع حول معايير تطوير الذكاء الاصطناعي ، ومستوى الحماية المضمنة التي تحتاجها أدوات مثل GPT-4 والتدابير التي يمكن للشركات استخدامها للتخفيف من المخاطر المرتبطة بها.

“يُعد تنظيم الذكاء الاصطناعي محادثة مهمة ومستمرة ، ولا يزال التشريع المتعلق بالاستخدام الأخلاقي والآمن لهذه التقنيات يمثل تحديًا ملحًا للمشرعين ذوي المعرفة الخاصة بالقطاع ، نظرًا لأن نطاق حالات الاستخدام لا حدود له جزئيًا من الرعاية الصحية إلى الفضاء” ، جوستين فيير ، نائب الرئيس الأول لشركة Red Team Operations ، Darktrace ، لـ VentureBeat.

“إن الوصول إلى إجماع وطني أو دولي حول من يجب أن يتحمل المسؤولية عن سوء تطبيق جميع أنواع الذكاء الاصطناعي والأتمتة ، وليس فقط الذكاء الاصطناعي العام ، هو تحدٍ مهم لن يحل وقفة قصيرة على تطوير نموذج الذكاء الاصطناعي العام على وجه التحديد ،” فيير . قال.

بدلاً من التوقف المؤقت ، سيتم تقديم خدمة أفضل لمجتمع الأمن السيبراني من خلال التركيز على تسريع المناقشة حول كيفية إدارة المخاطر المرتبطة بالاستخدام الضار للذكاء الاصطناعي التوليدي ، وحث بائعي الذكاء الاصطناعي على أن يكونوا أكثر شفافية بشأن الحواجز الأمنية المطبقة لمنع التهديدات الجديدة.

كيف تستعيد الثقة في حلول الذكاء الاصطناعي

بالنسبة إلى Litan من Gartner ، يتطلب التطوير الحالي لنموذج اللغة الكبيرة (LLM) من المستخدمين وضع ثقتهم في قدرات الفريق الأحمر للمورد. ومع ذلك ، فإن المؤسسات مثل OpenAI غير شفافة في كيفية إدارة المخاطر داخليًا ، ولا تقدم للمستخدمين سوى القليل من القدرة على مراقبة أداء وسائل الحماية المضمنة هذه.

نتيجة لذلك ، تحتاج المؤسسات إلى أدوات وأطر عمل جديدة لإدارة المخاطر الإلكترونية التي يقدمها الذكاء الاصطناعي التوليدي.

“نحن بحاجة إلى فئة جديدة من الثقة بالذكاء الاصطناعي وإدارة المخاطر والأمن [TRiSM] الأدوات التي تدير البيانات وتدفق العمليات بين المستخدمين والشركات التي تستضيف نماذج مؤسسة LLM. ستكون هذه [cloud access security broker] يشبه CASB في التكوينات الفنية الخاصة بهم ، ولكن على عكس وظائف CASB ، سيكونون مدربين على التخفيف من المخاطر وزيادة الثقة في استخدام نماذج الذكاء الاصطناعي المستندة إلى السحابة “، قال Litan.

كجزء من بنية AI TRiSM ، يجب على المستخدمين أن يتوقعوا من البائعين الذين يستضيفون هذه النماذج أو يوفرونها لتزويدهم بالأدوات اللازمة لاكتشاف البيانات الشاذة والمحتوى ، إلى جانب قدرات إضافية لحماية البيانات وضمان الخصوصية ، مثل الإخفاء.

على عكس الأدوات الحالية مثل ModelOps ومقاومة الهجوم العدائي ، والتي لا يمكن تنفيذها إلا من قبل مالك النموذج والمشغل ، فإن AI TRiSM تمكن المستخدمين من لعب دور أكبر في تحديد مستوى المخاطر التي تقدمها أدوات مثل GPT-4.

التحضير هو المفتاح

في نهاية المطاف ، بدلاً من محاولة خنق التطوير التوليدي للذكاء الاصطناعي ، يجب على المؤسسات البحث عن طرق يمكنها من خلالها الاستعداد لمواجهة المخاطر التي يمثلها الذكاء الاصطناعي التوليدي.

تتمثل إحدى طرق القيام بذلك في إيجاد طرق جديدة لمحاربة الذكاء الاصطناعي باستخدام الذكاء الاصطناعي ، واتباع خطوات المنظمات مثل Microsoft و Orca Security و ARMO و Sophos ، التي طورت بالفعل حالات استخدام دفاعي جديدة للذكاء الاصطناعي التوليدي.

على سبيل المثال ، يستخدم Microsoft Security Copilot مزيجًا من GPT-4 وبياناته الخاصة لمعالجة التنبيهات التي تم إنشاؤها بواسطة أدوات الأمان ، وترجمتها إلى شرح بلغة طبيعية للحوادث الأمنية. يمنح هذا المستخدمين من البشر سردًا للإشارة إليه للرد على الانتهاكات بشكل أكثر فعالية.

هذا مجرد مثال واحد على كيفية استخدام GPT-4 بشكل دفاعي. مع وجود الذكاء الاصطناعي التوليدي المتاح بسهولة وخارجه ، فإنه على فرق الأمان لمعرفة كيف يمكنهم الاستفادة من هذه الأدوات كمضاعف خاطئ لتأمين مؤسساتهم.

قال جيف بولارد ، المحلل الرئيسي لشركة Forrester VP ، لـ VentureBeat: “هذه التكنولوجيا قادمة … وبسرعة”. الطريقة الوحيدة ليكون الأمن السيبراني جاهزًا هو البدء في التعامل معه الآن. إن التظاهر بأنه لن يأتي – أو التظاهر بأن التوقف المؤقت سيساعد – سيكلف فرق الأمن السيبراني على المدى الطويل. تحتاج الفرق إلى البدء في البحث والتعلم الآن كيف ستحول هذه التقنيات كيفية قيامهم بعملهم “.

مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى
karnataka xvideo pornmovieswatch.org sex sagr
bangla chodan xshaker.net download indiansex video
بيرازر meyzo.info افلام دراما سكس
mallu blue film eroanal.net xnxxbest
locel xxx video waplo.info desi kannada sex
chut pics cumporntrends.com tight pussy xvideo
indian kitchen room tubedesiporn.com marwadi girl sex
bengoli xxx movie redwap3.com malayalam blue filim
indian@aloha tube eromoms.net www.pronstarxvidoes
bangla chodachudi pornjob.info meena sexy pics
صورة بنات سكس xxcmh.com فيلم سكس صيني
www desi xx com browntubeporn.com wild ass fuck
www.hot vido 3gpjizz.mobi sunny leone tube 8
funmaza dampxxx.org varun dhawan sex
اغتصاب مصري arabicpornvideo.com دخله براحه
toto togel situs togel toto slot situs toto rtp slot cerutu4d toto slot situs toto bo togel situs togel situs toto situs togel situs togel toto togel pam4d toto togel situs toto situs togel situs toto situs togel toto togel situs togel situs togel bandar toto situs togel bo togel situs toto situs togel situs toto situs togel toto slot pam4d bento4d bento4d bento4d jacktoto jacktoto cerutu4d cerutu4d situs toto situs togel situs toto situs toto situs toto situs togel situs toto bandar togel situs toto situs toto situs toto situs toto situs togel situs togel resmi situs togel situs toto resmi situs togel resmi situs toto toto slot situs toto situs toto situs toto situs togel situs toto situs toto macau bo toto bo toto situs toto toto togel situs toto togel resmi situs toto situs toto situs togel situs togel resmi pengeluaran macau situs toto situs toto situs togel situs togel situs toto situs toto toto slot situs toto situs togel situs toto slot cerutu4d bo toto situs toto situs toto situs toto situs toto macau cerutu4d situs toto situs toto macau bet togel toto togel gimbal4d gimbal4d toto slot situs toto situs toto toto slot situs toto situs toto toto togel situs toto toto slot situs togel situs toto slot live casino toto slot toto togel situs togel situs toto bandar togel bandar togel situs toto bo togel situs toto daftar situs togel situs togel situs toto situs toto situs toto bakautoto situs bandar togel bakautoto situs resmi toto togel bakautoto situs toto togel terpercaya 2024 situs toto situs toto