يغلق Midjourney الوصول التجريبي المجاني وسط Deepfake Bonanza ، لكنه يقول إنه غير مرتبط
أين تتوقف المتعة ويبدأ الضرر الاجتماعي؟ يبدو أن شركات الذكاء الاصطناعي التي تقف وراء برامج إنشاء الصور والنصوص تتصارع مع هذا السؤال في الوقت الفعلي ، حيث تكتسب منتجاتها زخمًا عبر الإنترنت. في الوقت نفسه ، تواجه نفس الشركات أيضًا بعض مشكلات الإنترنت القياسية للغاية – مثل رغبة المستخدمين في الاستفادة من العروض التجريبية المجانية.
شائع مولد صور AI ، Midjourneyأوقفت الوصول التجريبي المجاني هذا الأسبوع ، كما ذكرت لأول مرة من قبل واشنطن بوست. جاء الإعلان في صباح يوم الثلاثاء منشور على موقع Discord من الرئيس التنفيذي لشركة Midjourney ، ديفيد هولز ، نقلاً عن “الطلب غير العادي والتجربة إساءة.”
وفقًا لمنشور متابعة ، حاول هولز وزملاؤه معالجة قضايا إساءة الاستخدام باستخدام رقع الأمان. ومع ذلك ، لم تكن محاولة التغييرات كافية لإصلاح المشكلات. نشر الرئيس التنفيذي بعد ظهر الأربعاء: “حاولنا إعادة تشغيل المحاكمات مرة أخرى باستخدام وسائل أمان جديدة لسوء الاستخدام ، لكن لا يبدو أنها كافية .. نحن نعيد تشغيلها مرة أخرى”. تظل الخدمة المدفوعة للشركة متاحة ، وبينما تظل الإصدارات التجريبية المجانية معلقة في الوقت الحالي ، يمكن أن تعود في أي وقت.
قد تحصل G / O Media على عمولة
على الرغم من أن تقرير واشنطن بوست ألمح في البداية إلى أن “الإساءة” المعنية كانت مرتبطة بمجموعة كبيرة من التزييف العميق المنتشر مؤخرًا ، إلا أن الشركة تنفي هذا الحساب. كان هناك بعض سوء الفهم الكبير في [WaPo] المقالة ، “كتب هولز إلى Gizmodo في بريد إلكتروني. “لقد أوقفنا التجارب بسبب الكميات الهائلة من الأشخاص الذين يقومون بعمل حسابات عشوائية للحصول على صور مجانية … حدث هذا في نفس الوقت الذي حدث فيه نقص مؤقت في وحدة معالجة الرسومات. اجتمع الأمران معًا وأدى إلى خفض الخدمة للمستخدمين الذين يدفعون رسومًا “.
“الخزانات الجديدة” المشار إليها في منشور الأربعاء على Discord؟ وفقًا لهولز ، كان هذا أيضًا يتعلق بمحاولة تقييد المستخدمين بتجربة مجانية واحدة لكل منهم. قال لـ Gizmodo: “ما زلنا نحاول معرفة كيفية إعادة الإصدارات التجريبية المجانية ، وحاولنا طلب بريد إلكتروني نشط ولكن هذا لم يكن كافيًا ، لذا عدنا إلى لوحة الرسم”.
بفضل الطفرة التوليدية الحديثة للذكاء الاصطناعي ، فإن استخدام مولدات الصور للإنشاء التزييف العميق يمر بلحظة. أصبحت قنوات التواصل الاجتماعي مسدودة بصور غير حقيقية ، ولكنها مقنعة للغاية ، لأشياء مثل AF Pope Francis المتساقطة ، وهو يرتدي سترة منفوخة من Balenciaga أو يوقع غطاء محرك سيارة رياضية Ferrari-esque.
تزييفات مختلفة من اعتقال دونالد ترامب في مواقع مختلفة موزعة على نطاق واسع بعد اندلعت أنباء عن الرئيس السابق لائحة الاتهام المتوقعة.
في مكان آخر ، ربما تكون قد صادفت مثل هذه الصور التي يواجهها الرئيس الروسي فلاديمير بوتين محكمة لاهايأو ربما جون ف. كينيدي تهدف البندقية خارج النافذة. تم إنشاء كل هذه الصور باستخدام Midjourney ، وهي واحدة من أكثر صور الذكاء الاصطناعي شيوعًا والمتاحة للجمهور.
ومع ذلك ، فإن الصور ليست سببًا كافيًا لتقييد أو إيقاف الوصول إلى Midjourney ، كما أشار هولز. بدلاً من ذلك ، تدعي الشركة أن حظرها الحالي على التجارب المجانية هو شكل من أشكال حماية الأرباح. إنها تريد أن ينتقل المستخدمون من الإصدار التجريبي المجاني إلى الاشتراك المدفوع ، وليس إصدارًا تجريبيًا مجانيًا آخر.
أشار هولز أيضًا إلى أن أحدث مجموعة من الصور السياسية الإشكالية هي نتاج Midjourney v5 – والذي تم إتاحته فقط للمستخدمين الذين يدفعون ، على أي حال. عندما كانت مفتوحة ، اقتصرت عمليات الاشتراك في الإصدار التجريبي المجاني على المستخدمين الإصدار 4 البالغ من العمر 5 أشهر ، على حد قول هولز.
ومع ذلك ، لا يزال الرئيس التنفيذي يقول إن Midjourney تعمل على تحسين الاعتدال. “أعتقد أننا ما زلنا نحاول معرفة ما هي سياسات الاعتدال الصحيحة. نحن نتلقى تعليقات من الخبراء والمجتمع ونحاول أن نكون مدروسين حقًا. لدينا بالفعل بعض الأنظمة الجديدة القادمة والتي من المفترض أن يتم شحنها قريبًا “.
تُظهر جهود الشركة المحدودة حتى الآن لوقف ظهور الصور الكاذبة المسلية ، ولكن التي يحتمل أن تكون خطيرة ومضللة ، المشكلات الغامضة المتعلقة بتنظيم الذكاء الاصطناعي الذي دخلنا فيه. كيف سيوازن مطورو برامج الذكاء الاصطناعي التوليدي بين الضغط من أجل الوصول ، و “حرية الكلام” ، وصنع منتج يريد الناس استخدامه حقًا مسؤولية اجتماعية و خطر إساءة الاستخدام الصارخ؟ و ستتدخل أي وكالات أمريكية؟
في الوقت الحالي ، تظل الإجابات غير واضحة للجميع – بما في ذلك الرؤساء التنفيذيون للتكنولوجيا.
بالمقارنة مع بعض أقرانها مثل DALL-E من OpenAI ، والتي لديها سياسات تمنع المستخدمين من إنشاء أي محتوى جنسي أو عنيف بما في ذلك الشخصيات السياسية الحقيقية ، فإن معايير Midjourney أكثر تساهلاً. ومع ذلك ، مقارنةً بـ Stable Diffusion ، حيث يمكن للمستخدمين تنزيل برنامج مفتوح المصدر والقيام بما يحلو لهم بشكل فعال ، فإن Midjourney لديها المزيد من حواجز الحماية.
لا يمكنك ، على سبيل المثال ، استخدام Midjourney لتوليد صور للرئيس الصيني شي جين بينغ ، على الرغم من أن قادة العالم الآخرين ما زالوا يلعبون دورًا عادلًا. أوضح هولز هذا القرار بمنشور على Discord العام الماضي. الهجاء السياسي في [China] كتب الرئيس التنفيذي في صحيفة واشنطن بوست. وأضاف: “إن قدرة الناس في الصين على استخدام هذه التكنولوجيا أكثر أهمية من قدرتك على الهجاء”.
وأضافت الشركة مؤخرًا مصطلح “موقوف” إلى قائمة العبارات الفورية المحظورة ، بحسب ما أفاد الحافةعلى الأرجح ردًا على صور ترامب المذكورة أعلاه.
ولكن مع ذلك ، فإن التنقل في المركز الواسع والغامض لما يجب وما لا ينبغي السماح به على الإنترنت هو أمر صعب بالنسبة لهولز. يوم الأربعاء ، خلال جلسة Discord الحية ، أخبر المدير التنفيذي جمهورًا من الآلاف أنه كان يواجه صعوبة في التركيز على قواعد المحتوى – خاصة فيما يتعلق باستخدام صور الأشخاص الحقيقيين ، وفقًا لـ WaPo. وبحسب ما ورد قال الرئيس التنفيذي: “هناك حجة للذهاب إلى ديزني بالكامل أو الذهاب إلى الغرب المتوحش ، وكل شيء في المنتصف مؤلم نوعًا ما”. “نحن نوعًا ما في المنتصف الآن ، ولا أعرف كيف أشعر حيال ذلك.”
وقف الوصول المجاني إلى Midjourney لا يحل المشكلة. ومرة أخرى ، يزعم الرئيس التنفيذي أن قرار إيقاف التجارب المجانية ليس نتيجة لنشر التزييف العميق على الإطلاق. ولكن ربما ، ربما ، قد يؤدي إلى إبطاء المشكلة عن طريق الحد من عدد الأشخاص الذين يمكنهم إنتاج صور حقيقية ومخيفة ومزيفة لكل ما يريدون تقريبًا. ل 10 دولارات أو 30 دولارًا أو 60 دولارًا في الشهرلا يزال بإمكان أي شخص يرغب في الدفع اختيار فوضى المحتوى.
هل تريد معرفة المزيد عن الذكاء الاصطناعي وروبوتات المحادثة ومستقبل التعلم الآلي؟ تحقق من تغطيتنا الكاملة لـ الذكاء الاصطناعيأو تصفح أدلةنا إلى أفضل مولدات فنية مجانية لمنظمة العفو الدولية و كل ما نعرفه عن ChatGPT الخاص بـ OpenAI.
اكتشاف المزيد من إشراق التقنية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.