لدى OpenAI مشكلة عفريت.
تم تصميم التعليمات لتوجيه سلوك أحدث طراز للشركة أثناء كتابة التعليمات البرمجية كشفت لتشمل سطر تكرر عدة مرات يمنعه على وجه التحديد من ذكر مجموعة متنوعة من المخلوقات الأسطورية والحقيقية بشكل عشوائي.
“لا تتحدث أبدًا عن العفاريت، أو العفاريت، أو الراكون، أو المتصيدون، أو الغيلان، أو الحمام، أو غيرها من الحيوانات أو المخلوقات ما لم يكن الأمر ذا صلة مطلقة لا لبس فيها باستعلام المستخدم”، اقرأ التعليمات الموجودة في Codex CLI، وهي أداة سطر أوامر لاستخدام الذكاء الاصطناعي لإنشاء التعليمات البرمجية.
من غير الواضح لماذا شعرت شركة OpenAI بأنها مضطرة إلى توضيح ذلك لـ Codex، أو في الواقع لماذا قد ترغب نماذجها في مناقشة العفاريت أو الحمام في المقام الأول. ولم تستجب الشركة على الفور لطلب التعليق.
تم إصدار أحدث نموذج من OpenAI، GPT-5.5، بمهارات برمجية محسنة في وقت سابق من هذا الشهر. تخوض الشركة سباقًا شرسًا مع المنافسين، وخاصة الأنثروبيين، لتقديم أحدث تقنيات الذكاء الاصطناعي، وقد برزت البرمجة كقدرة قاتلة.
رداً على أ مشاركة على X التي سلطت الضوء على هذه الخطوط، ومع ذلك، ادعى بعض المستخدمين أن نماذج OpenAI تصبح أحيانًا مهووسة بالعفاريت والمخلوقات الأخرى عند استخدامها لتشغيل OpenClaw، وهي أداة تتيح للذكاء الاصطناعي التحكم في الكمبيوتر والتطبيقات التي تعمل عليه من أجل القيام بأشياء مفيدة للمستخدمين.
“كنت أتساءل لماذا أصبح مخلبي فجأة عفريتًا مع المخطوطة 5.5،” أحد المستخدمين كتب على X.
“لقد كنت أستخدمه كثيرًا مؤخرًا، وفي الواقع لا أستطيع التوقف عن الحديث عن الأخطاء على أنها “جريملينز” و”عفاريت”، إنه أمر مضحك.” نشر آخر.
وسرعان ما أصبح هذا الاكتشاف بمثابة ميم خاص به وملهم مشاهد تم إنشاؤها بواسطة الذكاء الاصطناعي من العفاريت في مراكز البيانات، و المكونات الإضافية لـ Codex هذا يضعها في “وضع العفريت” الممتع.
يتم تدريب نماذج الذكاء الاصطناعي مثل GPT-5.5 على التنبؤ بالكلمة – أو الكود – الذي يجب أن يتبع موجهًا معينًا. لقد أصبحت هذه النماذج جيدة جدًا في القيام بذلك لدرجة أنها تظهر ذكاءً حقيقيًا. لكن طبيعتها الاحتمالية تعني أنها يمكن أن تتصرف أحيانًا بطرق مثيرة للدهشة. قد يصبح النموذج أكثر عرضة لسوء السلوك عند استخدامه مع “أداة مساعدة” مثل OpenClaw التي تضع الكثير من التعليمات الإضافية في المطالبات، مثل الحقائق المخزنة في الذاكرة طويلة المدى.
استحوذت شركة OpenAI على OpenClaw في شهر فبراير بعد وقت قصير من انتشار الأداة بين المتحمسين للذكاء الاصطناعي. يمكن لـ OpenClaw استخدام أي نموذج من نماذج الذكاء الاصطناعي لأتمتة المهام المفيدة مثل الرد على رسائل البريد الإلكتروني أو شراء الأشياء على الويب. يمكن للمستخدمين اختيار أي من الشخصيات المختلفة لمساعدهم، مما يشكل سلوكه واستجاباته.
يبدو أن موظفي OpenAI يعترفون بالحظر. ردًا على منشور يسلط الضوء على ميول OpenClaw العفريتة، قال نيك باش، الذي يعمل في Codex، كتب“وهذا بالفعل أحد الأسباب.”
حتى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، انضم إلى الميمات، إرسال لقطة شاشة لمطالبة ChatGPT. كان نصها: “ابدأ بتدريب GPT-6، يمكنك الحصول على المجموعة بأكملها. المزيد من العفاريت.”
