التزييف العميق الجنسي لـ Emma Watson Ran Rampant على Facebook و Instagram هذا الأسبوع

مع استمرار نمو دور الذكاء الاصطناعي في حياتنا اليومية ،يأخذ صورة الناس معه. هذا الأسبوع ، ظهرت المئات من مقاطع الفيديو المشوهة بشدة الوجوه التي بدت هكذا بالضبط ركضت إيما واتسون وسكارليت جوهانسون عبر Facebook و Instagram كجزء من الظاهر حملة إعلانية ل تطبيق AI deepfake تسمى FaceMega.

ان بي سي نيوز كسر القصة ، وذكر أن 230 مقطع فيديو تم تشغيلها عبر Facebook و Instagram. أظهر 127 من مقاطع الفيديو الإعلانية Watson بينما ظهر 74 مقطع فيديو يوهانسون ، وكلها أظهرت الممثلات في مواقف استفزازية ولديها مواضيع موحية جنسيًا.

كانت الحملة على ما يبدو إعلانًا لـ FaceMega ، ومقابل 8 دولارات في الأسبوع ، يمكن للمستخدمين تبديل وجوه شخص ما في مقطع فيديو بالصور التي تم تحميلها على التطبيق. الوجه ميبدو أن ega قد تم سحبه أو حذفه منذ ذلك الحين من متجر تطبيقات Apple ، لكنه لا يزال متاحًا متجر جوجل بلاى.

قالت لورين بارتون ، التي قامت بتحميل تسجيل شاشة لأحد مقاطع الفيديو على تويتر ، لشبكة إن بي سي نيوز: “يمكن استخدام هذا مع طلاب المدارس الثانوية في المدارس العامة الذين يتعرضون للتنمر”. يمكن أن تدمر حياة شخص ما. يمكن أن يتورطوا في مشاكل في عملهم. وهذا سهل للغاية ومجاني. كل ما كان علي فعله هو تحميل صورة لوجهي وتمكنت من الوصول إلى 50 نموذجًا مجانيًا. “

يبدو أن الإعلانات تتعارض مع إعلانات التطبيق الأحكام والشروطالتي تقول المستخدمين لا يسمح لهايمثل مخادع أو ينتحل شخصية أي شخص أو منظمة.”

تقول NBC News إن الحملة تأتي من مطور التطبيقات Ufoto Limited ، المملوك لشركة Wondershare ، الشركة الأم الصينية.

في يناير 2020 بيان صحفي، ادعت Meta أنها كانت تشدد قبضتها على المحتوى الذي تم التلاعب به – أشارت الشركة على وجه التحديد إلى الشعبية المتزايدة للتزييف العميق. قالت Meta إنها ستزيل مقاطع الفيديو والصور التي تم التلاعب بها والتي يتم تحريرها بطرق لخداع الشخص العادي عمدًا ، أو في الحالات التي يقوم فيها الذكاء الاصطناعي بتركيب محتوى على مقطع فيديو.

قال Meta لـ Gizmodo في رسالة بريد إلكتروني: “تحظر سياساتنا محتوى البالغين بغض النظر عما إذا كان قد تم إنشاؤه بواسطة AI أم لا ، وقد قمنا بتقييد هذه الصفحة من الإعلان على نظامنا الأساسي”.