انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو ، لمعرفة كيف يدمج القادة استثمارات الذكاء الاصطناعي ويحسنونها لتحقيق النجاح.. يتعلم أكثر
في وقت سابق من هذا الأسبوع ، وقعت على “خطاب التوقف المؤقت” الصادر عن معهد Future of Life الذي يدعو جميع مختبرات الذكاء الاصطناعي إلى إيقاف تدريبهم لأنظمة الذكاء الاصطناعي واسعة النطاق مؤقتًا لمدة ستة أشهر على الأقل.
بمجرد إصدار الخطاب ، غمرتني الاستفسارات التي تسألني لماذا أعتقد أن الصناعة تحتاج إلى “مهلة” ، وما إذا كان تأخير مثل هذا ممكنًا. أود أن أقدم وجهة نظري هنا ، لأنني أرى هذا بشكل مختلف قليلاً عن كثيرين.
أولاً وقبل كل شيء ، لست قلقًا من أن أنظمة الذكاء الاصطناعي واسعة النطاق هذه على وشك أن تصبح واعية ، وتطور فجأة إرادتها وتوجه حنقها على الجنس البشري. ومع ذلك ، فإن أنظمة الذكاء الاصطناعي هذه لا تحتاج إلى إرادة خاصة بها لتكون خطرة ؛ إنهم يحتاجون فقط إلى أن يمارسها بشر عديمو الضمير ويستخدمونها للتأثير على الجمهور وتقويضه والتلاعب به.
هذا خطر حقيقي للغاية ، ونحن لسنا مستعدين للتعامل معه. إذا كنت صادقًا تمامًا ، أتمنى أن يكون لدينا بضع سنوات أخرى للاستعداد ، لكن ستة أشهر أفضل من لا شيء. بعد كل شيء ، هناك تغيير تكنولوجي كبير على وشك أن يضرب المجتمع. سيكون بنفس أهمية ثورة الكمبيوتر وثورة الإنترنت وثورة الهاتف المحمول.
حدث
تحويل 2023
انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.
سجل الان
ولكن على عكس هذه التحولات السابقة ، التي حدثت على مدار سنوات وحتى عقود ، فإن ثورة الذكاء الاصطناعي سوف تتدحرج علينا مثل سيل مدوٍ من التغيير.
معدل غير مسبوق للتغيير
هذا الانهيار الجليدي بدأ بالفعل. يعد ChatGPT حاليًا نموذج اللغة الكبيرة الأكثر شيوعًا (LLM) لدخول المجال العام. بشكل ملحوظ ، وصل إلى 100 مليون مستخدم في شهرين فقط. بالنسبة للسياق ، استغرق الأمر من Twitter خمس سنوات للوصول إلى هذا الإنجاز.
من الواضح أننا نشهد معدل تغيير لا يشبه أي شيء واجهته صناعة الحوسبة على الإطلاق. نتيجة لذلك ، فإن المنظمين وصانعي السياسات غير مستعدين تمامًا للتغييرات والمخاطر التي تواجهنا.
لجعل التحدي الذي نواجهه واضحًا قدر الإمكان ، أجد أنه من المفيد التفكير في المخاطر في فئتين متميزتين:
- المخاطر المرتبطة بأنظمة الذكاء الاصطناعي التوليدية التي يمكنها إنتاج محتوى على المستوى البشري واستبدال العاملين على المستوى البشري.
- ٪ إنه يخاطر المرتبطة بالذكاء الاصطناعي للمحادثة الذي يمكنه تمكين الحوار على مستوى الإنسان وسيجري قريبًا محادثات مع المستخدمين التي لا يمكن تمييزها عن اللقاءات البشرية الحقيقية.
اسمحوا لي أن أتناول المخاطر المرتبطة بكل من هذه التطورات.
الذكاء الاصطناعي التوليدي ثوري ؛ لكن ما هي المخاطر؟
يشير الذكاء الاصطناعي التوليدي إلى قدرة LLM على إنشاء محتوى أصلي استجابة للطلبات البشرية. يتراوح المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي الآن من الصور والأعمال الفنية ومقاطع الفيديو إلى المقالات والشعر وبرامج الكمبيوتر والموسيقى والمقالات العلمية.
في الماضي ، كان المحتوى التوليدي مثيرًا للإعجاب ولكنه لم يكن مقبولًا مثل المخرجات على مستوى الإنسان. لقد تغير كل ذلك في الاثني عشر شهرًا الماضية ، حيث أصبحت أنظمة الذكاء الاصطناعي فجأة قادرة على إنشاء القطع الأثرية التي يمكن أن تخدعنا بسهولة ، مما يجعلنا نعتقد أنها إما إبداعات بشرية أصلية أو مقاطع فيديو أصلية أو صور تم التقاطها في العالم الحقيقي. يتم الآن نشر هذه القدرات على نطاق واسع ، مما يخلق عددًا من المخاطر الكبيرة للمجتمع.
أحد المخاطر الواضحة هو سوق العمل. ذلك لأن القطع الأثرية ذات الجودة البشرية التي أنشأها الذكاء الاصطناعي ستقلل من الحاجة إلى العمال الذين كانوا سيخلقون هذا المحتوى. يؤثر هذا على مجموعة واسعة من المهن ، من الفنانين والكتاب إلى المبرمجين والمحللين الماليين.
في الواقع ، استكشفت دراسة جديدة من Open AI و OpenResearch وجامعة بنسلفانيا تأثير الذكاء الاصطناعي على سوق العمل في الولايات المتحدة من خلال مقارنة قدرات GPT-4 بمتطلبات الوظيفة. ويقدرون أن 20٪ من القوة العاملة في الولايات المتحدة ستتأثر 50٪ على الأقل من مهامهم بـ GPT-4 ، مع مواجهة الوظائف ذات الدخل المرتفع عواقب أكبر.
ويقدرون كذلك أن “15٪ من جميع مهام العمال” في الولايات المتحدة يمكن أداؤها بشكل أسرع وأرخص وبجودة متساوية باستخدام تقنية GPT-4 الحالية.
من الأخطاء الدقيقة إلى الافتراءات الجامحة
إن التأثير الذي يلوح في الأفق على الوظائف مقلق للغاية ، لكنه ليس السبب في أنني وقعت على خطاب الإيقاف المؤقت. يتمثل القلق الأكثر إلحاحًا في أن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي يمكن أن يبدو ويشعر بالأصالة وغالبًا ما يظهر على أنه موثوق به ، ومع ذلك يمكن أن يحتوي بسهولة على أخطاء واقعية. لا توجد معايير دقة أو هيئات حاكمة للمساعدة في ضمان أن هذه الأنظمة – التي ستصبح جزءًا رئيسيًا من القوة العاملة العالمية – لن تنشر الأخطاء من الأخطاء الدقيقة إلى التلفيق الجامح.
نحن بحاجة إلى وقت لوضع تدابير الحماية وتكثيف السلطات التنظيمية لضمان استخدام هذه الحماية.
هناك خطر كبير آخر يتمثل في احتمال قيام الجهات الفاعلة السيئة بإنشاء محتوى معيب مع أخطاء واقعية بشكل متعمد كجزء من حملات التأثير التي يولدها الذكاء الاصطناعي والتي تنشر الدعاية والمعلومات المضللة والأكاذيب الخاطئة. يمكن للممثلين السيئين فعل ذلك بالفعل ، لكن الذكاء الاصطناعي التوليدي يمكّن من القيام بذلك على نطاق واسع ، مما يغمر العالم بمحتوى يبدو موثوقًا ومع ذلك فهو ملفق بالكامل. يمتد هذا إلى التزييف العميق حيث يمكن جعل الشخصيات العامة تفعل أو تقول أي شيء في الصور ومقاطع الفيديو الواقعية.
مع تزايد مهارات الذكاء الاصطناعي ، لن يكون لدى الجمهور قريبًا طريقة للتمييز بين الحقيقي والاصطناعي. نحن بحاجة إلى أنظمة العلامات المائية التي تحدد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي كمحتوى تركيبي وتمكن الجمهور من معرفة متى (ومع أي أنظمة ذكاء اصطناعي) تم إنشاء المحتوى. هذا يعني أننا بحاجة إلى وقت لوضع تدابير الحماية وتكثيف السلطات التنظيمية لفرض استخدامها.
مخاطر تأثير المحادثة
اسمحوا لي أن أقفز إلى جانب أنظمة الذكاء الاصطناعي للمحادثة ، وهو شكل من أشكال الذكاء الاصطناعي التوليدي يمكنه إشراك المستخدمين في حوار في الوقت الفعلي من خلال الدردشة النصية والدردشة الصوتية. تطورت هذه الأنظمة مؤخرًا إلى الحد الذي يمكن فيه للذكاء الاصطناعي إجراء محادثة متماسكة مع البشر ، وتتبع تدفق المحادثة والسياق بمرور الوقت. هذه التقنيات تقلقني أكثر من غيرها لأنها تقدم شكلاً جديدًا جدًا من التأثير المستهدف الذي لا يكون المنظمون مستعدين له – تأثير المحادثة.
كما يعلم كل مندوب مبيعات ، فإن أفضل طريقة لإقناع شخص ما بشراء شيء ما أو الاعتقاد بشيء ما هي إشراكه في محادثة حتى تتمكن من توضيح نقاطك ، ومراقبة ردود أفعالهم ، ثم تعديل تكتيكاتك للتعامل مع مقاومتهم أو مخاوفهم.
مع إصدار GPT-4 ، أصبح من الواضح الآن أن أنظمة الذكاء الاصطناعي ستكون قادرة على إشراك المستخدمين في محادثات حقيقية في الوقت الحقيقي كشكل من أشكال التأثير المستهدف. أشعر بالقلق من أن الأطراف الثالثة التي تستخدم واجهات برمجة التطبيقات أو المكونات الإضافية ستنقل أهدافًا ترويجية إلى ما يبدو أنه محادثات طبيعية ، وأنه سيتم التلاعب بالمستخدمين المطمئنين لشراء منتجات لا يريدونها ، أو الاشتراك في الخدمات التي لا يحتاجونها أو الاعتقاد بأن المعلومات غير صحيحة.
مشكلة التلاعب بالذكاء الاصطناعي
أشير إلى هذا على أنه مشكلة التلاعب بالذكاء الاصطناعي – وقد أصبح فجأة خطرًا عاجلاً. ذلك لأن التكنولوجيا موجودة الآن لنشر حملات تأثير المحادثة التي تستهدفنا بشكل فردي بناءً على قيمنا واهتماماتنا وتاريخنا وخلفياتنا لتحسين التأثير الإقناعي.
ما لم يتم تنظيمها ، سيتم استخدام هذه التقنيات لدفع تكتيكات البيع المفترسة والدعاية والمعلومات المضللة والأكاذيب الصريحة. إذا لم يتم التحقق منها ، يمكن أن تصبح المحادثات التي يحركها الذكاء الاصطناعي أقوى شكل من أشكال الإقناع المستهدف الذي أنشأناه نحن البشر على الإطلاق. نحن بحاجة إلى وقت لوضع اللوائح التنظيمية ، التي يحتمل أن تحظر أو تقيد بشدة استخدام تأثير المحادثة بوساطة الذكاء الاصطناعي.
لذا نعم ، لقد وقعت على خطاب التوقف ، وأطلب مزيدًا من الوقت لحماية المجتمع. هل ستحدث الرسالة فرقًا؟ ليس من الواضح ما إذا كانت الصناعة ستوافق على توقف مؤقت لمدة ستة أشهر ، لكن الرسالة تلفت الانتباه العالمي إلى المشكلة. وبصراحة ، نحتاج إلى أكبر عدد ممكن من أجراس الإنذار لإيقاظ المنظمين وصانعي السياسات وقادة الصناعة لاتخاذ الإجراءات اللازمة.
ربما يكون هذا متفائلاً ، لكنني آمل أن يقدر معظم اللاعبين الرئيسيين وجود مساحة صغيرة للتنفس لضمان حصولهم على هذه التقنيات بشكل صحيح. الحقيقة هي أننا بحاجة إلى نزع فتيل سباق التسلح الحالي: إنه يقود إصدارات أسرع وأسرع لأنظمة الذكاء الاصطناعي إلى البرية ، مما يدفع بعض الشركات إلى التحرك بسرعة أكبر مما ينبغي.
لويس روزنبرغ هو مؤسس شركة Immersion (IMMR: Nasdaq) و Microscribe 3D و Outland Research و Unanimous AI.
صانعي القرار
مرحبًا بك في مجتمع VentureBeat!
DataDecisionMakers هو المكان الذي يمكن للخبراء ، بما في ذلك الأشخاص التقنيين الذين يقومون بعمل البيانات ، مشاركة الأفكار والابتكارات المتعلقة بالبيانات.
إذا كنت تريد أن تقرأ عن الأفكار المتطورة والمعلومات المحدثة ، وأفضل الممارسات ، ومستقبل البيانات وتكنولوجيا البيانات ، انضم إلينا في DataDecisionMakers.
يمكنك حتى التفكير في المساهمة بمقال خاص بك!
قراءة المزيد من DataDecisionMakers
