تقوم لجنة التجارة الفيدرالية بالتحقيق في OpenAI لتحديد ما إذا كانت كذلك أم لا الدردشة تنتهك روبوتات الدردشة بالذكاء الاصطناعي وغيرها من المنتجات قوانين حماية المستهلك من خلال تعريض السمعة الشخصية للأفراد وبياناتهم للخطر. الرئيس التنفيذي سام التمان ، الذي استطاع حتى الآن ابتسم وأومئ برأسه طريقه للتغلب على معظم حواجز الطرق الحكومية ، قد يواجه معارضة حقيقية له من وكالة حماية المستهلك المكافحة علنًا.
طلبت لجنة التجارة الفيدرالية (FTC) من شركة OpenAI تسليم قائمة طويلة من المستندات التي يعود تاريخها إلى 1 يونيو 2020 ، بما في ذلك تفاصيل حول كيفية تقييمها للمخاطر في أنظمة الذكاء الاصطناعي الخاصة بها وكيفية حمايتها من قيام الذكاء الاصطناعي بإصدار بيانات خاطئة عن أشخاص حقيقيين ، وفقًا لـ خطاب 20 صفحة حصلت عليها صحيفة واشنطن بوست. يطلب المحققون مجموعة واسعة من المعلومات حول الطريقة التي تدرب بها OpenAI نماذجها اللغوية الكبيرة ، بما في ذلك الأنواع الدقيقة للبيانات التي يتم التدريب عليها ، وكيفية حصولها على تلك البيانات ، ومدى جمع هذه البيانات عن طريق تجريف الويب المفتوح. على الرغم من اسم الشركة ، فإن OpenAI كانت موجودة صامتة بشأن الأصول الدقيقة للبيانات المستخدمة لتدريب نماذجها.
وبالمثل ، تطلب رسالة FTC من OpenAI تقديم وصف للشكاوى التي تلقتها حتى هذه المرحلة من نظامها الذي يصدر بيانات “خاطئة أو مضللة أو مهينة أو ضارة” عن الأشخاص. أظهر الباحثون والصحفيون بشكل متكرر أمثلة على ChatGPT و LLMs الأخرى “المهلوسة” للمعلومات المفبركة ضد الموضوعات. في مثال ذكرت لأول مرة من قبل Gizmodo، يُزعم أن ChatGPT أدخل مضيف برنامج حواري في قضية محكمة اختلاس لا علاقة له بها. هذا المضيف الإذاعي يقاضي الآن شركة OpenAI للتسمية. تقول FTC إنها تريد معرفة الخطوات التي اتخذتها OpenAI لتصفية أو إخفاء هوية المعلومات الشخصية المدرجة في مجموعة البيانات والخطوات التي اتخذتها لتقليل فرصة استحضار نماذجها بيانات ملفقة عن الأشخاص.
تريد FTC أيضًا معرفة المزيد عن سياسات OpenAI وإجراءاتها لتقييم السلامة والمخاطر قبل طرح منتجاتها للجمهور. بالإضافة إلى المستندات التي توضح بالتفصيل الخطوات التي تم اتخاذها قبل إطلاق أنظمتها ، دعت الوكالة شركة OpenAI إلى تقديم أمثلة عن الأوقات التي اختارت فيها الشركة لا لإطلاق LLM بشأن مخاوف تتعلق بالسلامة. في حين أن معظم المطالب الواردة في خطاب لجنة التجارة الفيدرالية كانت واسعة في طبيعتها ، إلا أن الوكالة شحذت على وجه التحديد على الحادث الأمني في مارس حيث سمح خطأ في نظامه لبعض المستخدمين بمشاهدة سجلات الدردشة الخاصة بالأشخاص الآخرين والمعلومات المتعلقة بالدفع. كان على OpenAI أن يأخذ ChatGPT في وضع عدم الاتصال لفترة وجيزة لمعالجة هذه المشكلة.
لم ترد شركة OpenAI على الفور على طلب Gizmodo للتعليق. سرقةرفض C التعليق.
ورحبت مجموعات المراقبة التقنية المعنية بالانتشار السريع لنماذج OpenAI مثل مشروع الإشراف التقني بالإجراءات المتزايدة للجنة التجارة الفيدرالية. في بيان أرسله إلى Gizmodo ، وصف نائب المدير التنفيذي لمشروع الرقابة كايل مورس تاريخ OpenAI في طرح منتجات جديدة للجمهور بأنه “طائش وغير مسؤول”.
قال مورس: “تلعب شركات التكنولوجيا العملاقة لعبة إخفاء الكرة على الذكاء الاصطناعي مع الكونجرس والشعب الأمريكي من خلال رسم مستقبل مروع ، بينما تقوم في الوقت الحالي بقطع المنافسة بقوة ، وإساءة استخدام خصوصية الناس ، والسماح لعمليات الاحتيال بالتفشي”.
يمكن أن تقدم FTC حاجزًا أمام سحر Sam Altman الهجومي
يمكن أن يمثل تحقيق FTC أكبر اختبار تنظيمي لـ OpenAI في الولايات المتحدة حتى الآن. حتى هذه اللحظة ، تمكن الرئيس التنفيذي ألتمان من الخروج أمام الكثير من المخاوف المبررة والمثيرة في بعض الأحيان حول الذكاء الاصطناعي التي رددها المشرعون من كلا الجانبين من الطيف السياسي. التمان تم اختباره أمام اللجنة القضائية الفرعية لمجلس الشيوخ في وقت سابق من هذا العام وأومأ في الغالب بالاتفاق مع المشرعين الذين أعربوا عن قلقهم بشأن نظامه. قال الرئيس التنفيذي إنه كان قلقًا أيضًا ورحب بفكرة اللوائح الجديدة ، حتى أنه ذهب إلى حد الدعوة لصالح وضع متطلبات جديدة للاختبار والترخيص للذكاء الاصطناعي للمطورين. رفض ألتمان بأدب طلبًا من أحد أعضاء مجلس الشيوخ لقيادة وكيل جديد يشرف على تلك المعايير.
قال ألتمان: “أحب وظيفتي الحالية”.
وبحسب ما ورد ترك ألتمان انطباعًا دائمًا لدى العشرات من المشرعين الجلسات المغلقة وكان من بين العديد من المشاركين الذين التقى نائب الرئيس كامالا هاريس في البيت الأبيض لمناقشة منظمة العفو الدولية المسؤولة. خارج الكونجرس ، لديه ألتمان تحذير خطابات موقعة من الطرق غير الخاضعة للرقابة التي يمكن أن يهدد بها الذكاء الاصطناعي البشرية.
لقد رسمت كل جهود التوعية تلك ألتمان وأوبن إيه آي بصفتهما جهات فاعلة مسؤولة تمامًا كما يفكر المشرعون في صياغة عدد كبير من مشاريع القوانين الجديدة التي تهدف إلى السيطرة على الذكاء الاصطناعي. من ناحية أخرى ، بدت لجنة التجارة الفيدرالية أقل تقبلاً لهجوم ألتمان الساحر. في الأشهر الأخيرة ، أصدرت الوكالة منشورات متعددة على المدونات شركات الإنذار ضد التضخيم المفرط لقدرات نظام الذكاء الاصطناعي الخاص بهم و تحذير المستهلكين من المحتالين الذين يستخدمون الذكاء الاصطناعي لارتكاب الاحتيال. لم تقم لينا خان ، رئيسة لجنة التجارة الفيدرالية ، بفرم الكلمات أيضًا ، بل ونشرت مقالة افتتاحية في صحيفة نيويورك تايمز بعنوان فظ “يجب علينا تنظيم الذكاء الاصطناعي الآن. “
كتب خان: “على الرغم من أن هذه الأدوات جديدة ، إلا أنها ليست مستثناة من القواعد الحالية ، وستعمل لجنة التجارة الفيدرالية (FTC) بقوة على إنفاذ القوانين التي نتولى إدارتها ، حتى في هذا السوق الجديد”.
اكتشاف المزيد من إشراق التقنية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
