أخذ روبوت محادثة استجابة للاضطراب في الأكل في وضع عدم الاتصال عقب اتهامات بالضرر
انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو ، لمعرفة كيف يدمج القادة استثمارات الذكاء الاصطناعي ويحسنونها لتحقيق النجاح.. يتعلم أكثر
قد ترغب المنظمات التي تتطلع إلى استكمال أو حتى استبدال بعض موظفي دعم العملاء البشريين في مراجعة الحكاية التحذيرية للجمعية الوطنية لاضطرابات الأكل (NEDA) التي تم عرضها هذا الأسبوع.
كما ذكرت The Daily Dot and Vice ، خططت NEDA لإيقاف خط الهاتف البالغ من العمر 20 عامًا ، أو “خط المساعدة” ، لأولئك الذين يسعون للحصول على المساعدة في اضطرابات الأكل ومشاكل صورة الجسم. في الوقت نفسه ، خططت المنظمة لمواصلة إتاحة الفرصة للمستخدمين للتفاعل مع “روبوت محادثة صحي” يسمى Tessa ، طورته شركة Cass (المعروفة سابقًا باسم X2 AI Inc.) فيما يتعلق بباحثين جامعة واشنطن وتم إطلاقه على NEDA موقع الويب في فبراير 2022.
“روبوت المحادثة لا يمكن أن يحل محل التفاعل البشري”
ومع ذلك ، قال الموظفون البشريون في خط المساعدة – ستة موظفين بأجر وحوالي 200 متطوع ، وفقًا لـ Vice – إن NEDA خططت للسماح لهم جميعًا بالرحيل واستبدالهم ببرنامج Tessa chatbot ، بعد انتقال أربعة موظفين إلى النقابة في وقت سابق من هذا العام. أكد الرئيس التنفيذي للمؤسسة لـ VentureBeat أنهم يخططون لإغلاق خط المساعدة ، لكنه قال إن تيسا لم يكن من المفترض أن تعمل كبديل له.
قال الرئيس التنفيذي لشركة NEDA ليز طومسون لـ VentureBeat في رسالة بريد إلكتروني: “هناك القليل من الالتباس ، بدأ بالإبلاغ المختلط ، أن تيسا تحل محل خط المساعدة الخاص بنا أو أننا نعتزم أن يحل محل خط المساعدة”. هذا ببساطة غير صحيح – لا يمكن أن يحل برنامج الدردشة الآلي ، حتى البرنامج البديهي للغاية ، محل التفاعل البشري. كانت لدينا أسباب تتعلق بالعمل لإغلاق خط المساعدة وكنا في عملية التقييم لمدة ثلاث سنوات “.
حدث
تحويل 2023
انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.
سجل الان
تقارير الاستجابات الضارة
نشرت مستشارة شاملة الوزن ، شارون ماكسويل ، على Instagram في وقت سابق من هذا الأسبوع مدعية أنها تحدثت مع تيسا وأن برنامج الدردشة الآلي قد أعطاها نصائح يمكن أن تسبب ضررًا ، بما في ذلك اتباع نظام غذائي مقيد – وهو نوع من النظام الغذائي الذي يسعى إلى التخلص من بعض الأطعمة . أو مجموعات الطعام ، أو تقييد أنواع وأجزاء الطعام التي يمكن للشخص تناولها بشكل صارم ، وهو ما انتقده خبراء التغذية وغيرهم من خبراء الصحة واللياقة البدنية في السنوات الأخيرة.
بعد منشور ماكسويل ، أصدرت NEDA بيانًا على حسابها على Instagram قائلة إن المنظمة كانت على علم بالاتهامات و “ألغت هذا البرنامج”. [Tessa] حتى إشعار آخر لإجراء تحقيق كامل “.
أين يقف الشات بوت الآن
توسعت طومسون في بيانها في بريدها الإلكتروني إلى VentureBeat ، حيث كتبت ، “فيما يتعلق بالتعليقات على فقدان الوزن والحد من السعرات الحرارية الصادرة في محادثة يوم الاثنين ، نحن قلقون ونعمل مع فريق التكنولوجيا وفريق البحث لمزيد من التحقيق ؛ هذه اللغة تتعارض مع سياساتنا ومعتقداتنا الأساسية كمنظمة لاضطرابات الأكل. إنه أمر مقلق لأنه في “منتج مغلق” ، من بين 5289 شخصًا شاركوا في التفاعل مع تيسا ، لم نر شيئًا من هذا القبيل “.
قال طومسون أيضًا إن Cass أبلغت عن نشاط غير عادي في برنامج Tessa chatbot مما يشير إلى تعرضه للهجوم من قبل جهات فاعلة أو روبوتات ضارة. كتب طومسون: “في الأسبوع الماضي ، شهدت تيسا ارتفاعًا في حركة المرور بنسبة 600٪ وسلوك يشير إلى أشكال مختلفة من النشاط الشنيع من قبل جهات فاعلة سيئة تحاول خداع تيسا”. حتى مع هجمة هذه الحالات ، لم تحدث “الرسائل غير الرسمية” إلا بنسبة 0.1٪ من الوقت من بين أكثر من 25000 رسالة. سنواصل العمل للتأكد من أن التكنولوجيا قادرة على مواجهة الهجمات المستقبلية “.
هل ستعود تيسا وإذا كان الأمر كذلك ، فمتى؟ لم تقدم Thompson تقديرًا زمنيًا أو خطة نهائية ، لكنها ذكرت في بريدها الإلكتروني إلى VentureBeat أننا “سنواصل العمل على الأخطاء ولن نعيد التشغيل حتى يتم تسوية كل شيء”. عندما نقوم بعملية الإطلاق ، سنقوم أيضًا بتسليط الضوء على ماهية Tessa وما لا يمثلها Tessa وكيفية تحقيق أقصى قدر من تجربة المستخدم. ابقوا متابعين!”
الوجبات الجاهزة للقادة وصناع القرار في مجال تكنولوجيا المعلومات
مع تسابق الشركات لاعتماد أدوات الذكاء الاصطناعي التوليفية – قال 65٪ من المديرين التنفيذيين الذين شملهم استطلاع أجرته شركة أبحاث السوق KPMG مؤخرًا إنهم يتوقعون أن يكون للتكنولوجيا تأثير كبير أو شديد للغاية على مؤسساتهم في غضون 3-5 سنوات – فإن صانعي القرار في مجال تكنولوجيا المعلومات سيفعلون ذلك بشكل جيد التعلم من تجربة ندا.
حتى برامج الذكاء الاصطناعي ذات النوايا الحسنة المصممة بمدخلات الخبراء لحالات استخدام محددة يمكن أن تنتج استجابات غير مرغوب فيها وربما تكون ضارة ، مما يؤثر سلبًا على مستخدمي / عملاء الشركة وعلى الإدراك العام. من غير المؤكد ما إذا كان من الممكن أن تتجنب NEDA أو تقلل من الجدل الذي يواجهها الآن من خلال كونها أكثر تواصلاً أو شفافية في اتخاذ قراراتها حول غروب الشمس من خط المساعدة ، ولكن من الواضح أن وجود روبوت محادثة AI موجود مسبقًا في هذا المزيج أدى فقط إلى تغذية الاتهامات بأنها كذلك. تسعى إلى تخفيض قيمة العمل البشري واستبداله بالذكاء الاصطناعي – مما يضع NEDA في موقف دفاعي ، حيث تجد نفسها الآن.
مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.
