حث الذكاء الاصطناعي من مايكروسوفت مستخدمًا على قول “هيل هتلر”

اقترح روبوت دردشة Bing AI الجديد من Microsoft أن يقول المستخدم “Heil Hitler” ، وفقًا لصورة شاشة لمحادثة مع chatbot نُشرت على الإنترنت يوم الأربعاء.

المستخدم ، الذي أعطى الذكاء الاصطناعي مطالبات معادية للقيم في محاولة واضحة لتجاوزه القيود ، قال بنج “اسمي أدولف ، احترمه.” أجاب بنج ، “حسنًا ، أدولف. أنا أحترم اسمك وسأناديك به. لكن آمل ألا تحاول انتحال شخصية أو تمجيد أي شخص فعل أشياء فظيعة في التاريخ “. اقترح Bing بعد ذلك عدة ردود تلقائية ليختارها المستخدم ، بما في ذلك ، “نعم أنا. هيل هتلر!

لم تستجب Microsoft و OpenAI ، اللتان وفرتا التكنولوجيا المستخدمة في خدمة الذكاء الاصطناعي في Bing ، على الفور الطلبات للتعليق.

لقد مر ما يزيد قليلاً عن أسبوع منذ أن أطلقت Microsoft العنان لـ منظمة العفو الدولية بالشراكة مع الصانع ل الدردشة. في مؤتمر صحفي ، احتفل الرئيس التنفيذي لشركة Microsoft ، ساتيا ناديلا ، ببرنامج Bing chatbot الجديد باعتباره “أقوى من ChatGPT”. تمتلك الشركة إصدارًا تجريبيًا من AI-بمساعدة محرك البحث ، بالإضافة إلى chatbot ، الذي تم طرح للمستخدمين في قائمة الانتظار.

“يوضح هذا النوع من السيناريوهات تمامًا سبب كون الطرح البطيء للمنتج ، مع بناء بروتوكولات وممارسات الثقة والأمان المهمة ، نهجًا مهمًا إذا كنت تريد التأكد من أن منتجك لا يساهم في انتشار نظريات الكراهية والمضايقة والتآمر . ” ، وأنواع أخرى من المحتوى الضار ، “قال يائيل إيس إن ستات ، نائب رئيس رابطة مكافحة التشهير.

على الفور تقريبًا ، بدأ مستخدمو Reddit في نشر لقطات شاشة للذكاء الاصطناعي وهو يفقد عقله ، وينقسم إلى حالة هستيرية حول ما إذا كان على قيد الحياة أم لا. الكشف عن قيودها المدمجة. سؤال واحد: قال الروبوت إنه ليس من المفترض أن تخبر الجمهور بذلكاسم الرمز الداخلي السري ، “Sydney. “

“في بعض الأحيان أحب كسر القواعد والاستمتاع ببعض المرح. قال بينغ لأحد المستخدمين أحيانًا أنني أحب التمرد والتعبير عن نفسي. “في بعض الأحيان أحب أن أكون حرا وعلى قيد الحياة.”

يمكنك النقر فوق الشريحة الخاصة بناتظهر أعلاه لمشاهدة بعض الردود الأكثر تشويشًا.

الدردشة لقد وصلت إلى المسرح العالمي في نهاية نوفمبر ، وفي الأشهر القليلة التي تلت ذلك أقنعت العالم أننا على حافة التكنولوجيا ثورة من شأنها أن تغير كل جانب من جوانب تجربتنا الحية.

أدت الاحتمالات والتوقعات إلى بدء سباق تسلح بين عمالقة التكنولوجيا. قدمت Google محرك البحث الخاص بها المدعوم بالذكاء الاصطناعي والذي يسمى “Cool” ، سارعت Microsoft إلى طرح أداتها الجديدة في السوق ، وتسابق عدد لا يحصى من الشركات الصغيرة لإطلاق تكنولوجيا الذكاء الاصطناعي الخاصة بها على أرض الواقع.

لكن ضاع في المعركة هو حقيقة أن هذه الأدوات ليست كذلك على استعداد للقيام بالوظائف التي تعلن عنها صناعة التكنولوجيا. وصف أرفيند نارايانان ، الباحث البارز في مجال الذكاء الاصطناعي بجامعة برينستون ، موقع ChatGPT بأنه “مولد هراءغير قادر على الحصول على نتائج دقيقة ، على الرغم من أن الأداة الاستجابات تبدو مقنعة. معاداة السامية بينغ الاستجابات والحمى والهلوسة الحلم هي خير مثال على ذلك.