تحقق من جميع الجلسات عند الطلب من قمة الأمن الذكي هنا.
مؤتمر التعلم الآلي الذي يناقش استخدام التعلم الآلي؟ بينما قد يبدو ذلك وبالتالي meta ، في دعوته لتقديم الطلبات الورقية يوم الاثنين ، لاحظ المؤتمر الدولي للتعلم الآلي بالفعل أن “الأوراق التي تتضمن نصًا تم إنشاؤه من نموذج لغة واسع النطاق (LLM) مثل ChatGPT محظورة ما لم يتم تقديم هذه النصوص المنتجة كجزء من التحليل التجريبي للورقة “.
لم يستغرق نقاشًا سريعًا على وسائل التواصل الاجتماعي وقتًا طويلاً حتى يتشكل ، فيما قد يكون مثالًا مثاليًا لما يجب على الشركات والمنظمات والمؤسسات من جميع الأشكال والأحجام ، عبر القطاعات ، أن تتعامل مع المضي قدمًا: كيف سيتعامل البشر مع ظهور نماذج اللغة الكبيرة التي يمكن أن تساعد في التواصل – أو الاقتراض ، أو التوسع ، أو الانتحال ، اعتمادًا على وجهة نظرك – الأفكار؟
الحجج المؤيدة والمعارضة لاستخدام ChatGPT
مع ازدياد صوت النقاش على Twitter خلال اليومين الماضيين ، ظهرت مجموعة متنوعة من الحجج المؤيدة والمعارضة لاستخدام LLMs في عمليات تقديم أوراق ML.
“نماذج اللغة المتوسطة والصغيرة الحجم جيدة ، أليس كذلك؟” غرد Yann LeCun ، كبير علماء الذكاء الاصطناعي في Meta ، مضيفًا “أنا أسأل فقط ، كما تعلمون … المدققات الإملائية ولوحات المفاتيح التنبؤية هي نماذج لغوية.”
حدث
قمة أمنية ذكية عند الطلب
تعرف على الدور الحاسم للذكاء الاصطناعي وتعلم الآلة في الأمن السيبراني ودراسات الحالة الخاصة بالصناعة. شاهد الجلسات عند الطلب اليوم.
مشاهدة هنا
ووصف سيباستيان بوبيك ، الذي يقود فريق ML Foundations في Microsoft Research ، القاعدة بأنها “قصيرة النظر” ، التغريد أن “ChatGPT والمتغيرات هي جزء من المستقبل. الحظر بالتأكيد ليس الحل “.
وإيثان بيريز ، الباحث في Anthropic AI ، غرد أن “هذه القاعدة تؤثر بشكل غير متناسب على المتعاونين معي الذين ليسوا متحدثين أصليين للغة الإنجليزية.”
وافقت سيلفيا سيلان ، طالبة الدكتوراه بجامعة تورنتو في معالجة الرسومات والهندسة الحاسوبية ، على ما يلي: التغريد: “في محاولة لمنح كراسي المؤتمر فائدة الشك ، لكنني حقًا لا أفهم هذا الحظر الشامل. كما أفهمها ، تعد LLM ، مثل Photoshop أو مساعد الطيار GitHub ، أداة يمكن أن يكون لها استخدامات شرعية (على سبيل المثال ، أنا أستخدمها كمتحدث للغة الإنجليزية لغير الناطقين بها) واستخدامات شائنة … ”
يستجيب مؤتمر ICML لقواعد أخلاقيات LLM
أخيرًا ، أوضح ICML بالأمس سياسة أخلاقيات LLM الخاصة به:
لقد قمنا (رؤساء البرامج) بتضمين البيان التالي في دعوة تقديم الأوراق الخاصة بـ ICML الممثلة بحلول عام 2023:
الأوراق التي تتضمن نصًا تم إنشاؤه من نموذج لغة واسع النطاق (LLM) مثل ChatGPT محظورة ما لم يتم تقديم النص الناتج كجزء من التحليل التجريبي للورقة.
أثار هذا البيان عددًا من الأسئلة من المؤلفين المحتملين وقاد البعض إلى التواصل معنا بشكل استباقي. نحن نقدر ملاحظاتك وتعليقاتك ونود أن نوضح بشكل أكبر النية وراء هذا البيان وكيف نخطط لتنفيذ هذه السياسة لـ ICML 2023.
TLDR ؛
● تحظر سياسة نموذج اللغة الكبيرة (LLM) لـ ICML 2023 النص الذي تم إنتاجه بالكامل بواسطة LLM (أي “تم إنشاؤه”). هذا لا يمنع المؤلفين من استخدام LLM لتحرير أو تلميع النص المكتوب من قبل المؤلف.
● تعتمد سياسة LLM إلى حد كبير على مبدأ التحفظ فيما يتعلق بالحماية من المشكلات المحتملة لاستخدام LLM ، بما في ذلك الانتحال.
● تطبق LLM السياسة على ICML 2023. نتوقع أن تتطور هذه السياسة في المؤتمرات المستقبلية لأننا نفهم LLM وتأثيراتها على النشر العلمي بشكل أفضل. ”
وقال البيان إن التقدم السريع في LLMs مثل ChatGPT ، “غالبًا ما يأتي بعواقب غير متوقعة بالإضافة إلى أسئلة لم تتم الإجابة عليها” ، بما في ذلك ما إذا كان النص الذي تم إنشاؤه يعتبر جديدًا أو مشتقًا بالإضافة إلى قضايا تتعلق بالملكية.
وقال البيان “من المؤكد أن هذه الأسئلة ، وغيرها الكثير ، ستتم الإجابة عليها بمرور الوقت ، حيث يتم اعتماد هذه النماذج التوليدية واسعة النطاق على نطاق واسع”. “ومع ذلك ، ليس لدينا حتى الآن أي إجابات واضحة على أي من هذه الأسئلة.”
ماذا عن استخدام إسناد ChatGPT؟
وافقت مارجريت ميتشل ، كبيرة علماء الأخلاقيات في Hugging Face ، على أن هناك قلقًا أساسيًا بشأن الانتحال ، لكنها اقترحت تنحية هذه الحجة جانبًا لأن “ما يعتبر انتحالًا” يستحق “مناقشة مخصصة له”.
ومع ذلك ، فقد رفضت الحجج القائلة بأن ChatGPT هي ليس مؤلفًا ، بل أداة.
“مع الكثير من الغضب ، أعتقد أن هذا انقسام خاطئ (لا يستبعد أحدهما الآخر: يمكن أن يكون كلاهما) ويبدو لي ارتباكًا مزيفًا عن قصد لتحريف حقيقة أنها أداة مؤلفة من محتوى مؤلف من قبل المؤلفين ،” قالت لـ VentureBeat بواسطة البريد الإلكتروني.
بالانتقال من الحجج ، تعتقد أن استخدام أدوات LLM مع الإسناد يمكن أن يعالج مخاوف ICML.
إلى وجهة نظرك حول هذه الأنظمة التي تساعد في الكتابة من قبل متحدثين غير أصليين ، هناك أسباب وجيهة للغاية للقيام بعكس ما يفعله ICML: الدعوة لاستخدام هذه الأدوات لدعم المساواة والإنصاف بين الباحثين ذوي القدرات والأساليب الكتابية المختلفة شرحت.
وتابعت قائلة: “نظرًا لأن لدينا بعض القواعد المتعلقة بالاعتراف بمساهمات أشخاص محددين تم إنشاؤها بالفعل ، فليس من الصعب جدًا توسيع هذه القواعد لتشمل أنظمة مستمدة من العديد من الأشخاص”. يمكن إدراج أداة مثل ChatGPT كملف شيء مثل مؤلف أو نظير معترف به “.
يتمثل الاختلاف الأساسي في عزو ChatGPT (وما شابه) في أنه في هذه المرحلة ، لا يمكن التعرف على الأفراد – يمكن عزو النظام فقط. وقالت: “لذلك من المنطقي تطوير استراتيجيات للإسناد تأخذ ذلك في الاعتبار”. “لا يجب أن تكون ChatGPT والنماذج المماثلة مؤلفًا مدرجًا بالمعنى التقليدي. يمكن أن يكون إسناد التأليف الخاص بهم (على سبيل المثال) حاشية سفلية على الصفحة الرئيسية (على غرار الملاحظات حول الانتماءات) ، أو نوعًا جديدًا مخصصًا من العنوان الثانوي ، أو
تتصارع مع مستقبل مدعوم من LLM
في نهاية المطاف ، قال ميتشل ، لا يحتاج مجتمع ML إلى التراجع عن وجهة النظر التقليدية للمؤلفين.
قالت: “العالم هو محارنا في كيفية التعرف على هذه الأدوات الجديدة ونسبها لها”.
هل سيكون هذا صحيحًا حيث تبدأ المنظمات والمؤسسات الأخرى غير التابعة لحركة غسل الأموال في التعامل مع هذه المشكلات نفسها؟
همم. أعتقد أن الوقت قد حان لتناول الفشار (مونش مونش).
مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.
