Deepfakes تعني أننا لا نستطيع الوثوق بمقاطع الفيديو والأصوات بالفعل | Metaphysic CEO في TED

قدم الرئيس التنفيذي لشركة Metaphysic Tom Graham حديثًا فريدًا من نوعه في TED Talk اليوم مع مضيف برنامج TED كريس أندرسون. لقد قاد إلى المنزل نقطة أنه سيكون من الصعب الآن ، وفي المستقبل ، معرفة من هو الحقيقي.

فعل غراهام ذلك من خلال استعراض تقنية “التزييف العميق” المميزة لشركة Metaphysic ، والتي تمكنها من إنشاء مقاطع فيديو رسوم متحركة مزيفة لأشخاص ، باستخدام أصواتهم الخاصة ، وأشكالهم وأقوالهم. أظهر التكنولوجيا من خلال وضع وجه أندرسون على جسد ضيف (بموافقة) ، وعرض الصورة المدمجة في الوقت الفعلي على الشاشة الكبيرة في TED2023: إمكانية في فانكوفر ، كندا.

كان الهدف هو إظهار أن تقنية التزييف العميق هذه تأتي بسرعة وهي مقنعة جدًا لدرجة أنها ستحدث بسرعة مثل الموجة الكبيرة ، حتى لو قام جراهام بإغلاق شركته اليوم.

قال أندرسون خلال الدردشة: “يبدو أننا سنضطر إلى استخدام العالم حيث لن نتمكن نحن وأطفالنا من الوثوق بأعيننا”.

أجاب جراهام ، “أعتقد ذلك. قال جراهام: “سيتعين علينا فهم مجموعة جديدة من المؤسسات للتحقق من وسائل الإعلام الحقيقية”. ولكن بعد ذلك يمكننا البدء في الاعتماد على بعض الأشياء الإبداعية التي تحدث منها. وهناك فوائد تأتي معها أيضًا. لذلك سيكون مكان إقامة “.

اشتهرت شركة Graham من خلال صنع نسخة مزيفة من Top Gun: Maverick الممثل Tom Cruise. منذ عام 2018 ، كان الفريق الذي يقف وراء Metaphysic هو القوة الدافعة وراء الترويج الجماعي للوسائط الاصطناعية فائقة الواقعية عبر قناةDeepTomCruise والعروض الأخرى على TikTok و Instagram.

قال جراهام: “في Metaphysic ، نحن متخصصون في إنشاء محتوى مصطنع يبدو ويشعر تمامًا مثل الواقع”. نحن نأخذ بيانات من العالم الحقيقي. نقوم بتدريب هذه الشبكات العصبية ويمكنها بشكل أكثر دقة من VFX أو CGI إنشاء هذا المحتوى الذي يبدو حقيقيًا ويشعر به. إنه مثال رائع على أن الذكاء الاصطناعي مدفوع بالأداء الطبيعي للشخص والوجه في المقدمة “.

عرض مقطع فيديو جديدًا لتوم كروز المزيف كما عرض مقطع فيديو مزيفًا لغناء Aloe Blacc أيقظني عندما ينتهي الأمر بواسطة الموسيقار Avicii. أظهر الفيديو Blacc وهو يغني بعدة لغات لم يغنّها أبدًا في الواقع. أنشأ الذكاء الاصطناعي لشركة Metaphysic مقاطع الفيديو.

قال جراهام: “سيتمكن أي شخص في المستقبل من التحدث بأي لغة وستبدو طبيعية تمامًا”. وأصبح إنشاء هذا المحتوى أكثر سهولة. وفي النهاية ، سننتهي بمقياس حيث سنكون جميعًا شخصيات رئيسية في المحتوى الخاص بنا على الإنترنت “.

أجاب أندرسون بصوت عالٍ ، “حسنًا”.

قال جراهام إن أداء العمل في الوقت الفعلي هو في طليعة ما هو ممكن اليوم ، والانتقال من المعالجة دون اتصال بالإنترنت إلى المعالجة الحية. وضع نموذجًا في الوقت الفعلي لأندرسون فوق جسد جراهام.

قال أندرسون: “أنا غير مرتاح لذلك”. “نحن بالفعل ندفع حدود تكنولوجيا الذكاء الاصطناعي.”

شرع جراهام في وضع وجه أندرسون (المُعالج مسبقًا) على جسد امرأة في الجمهور ، صني بيتس ، رائدة الأعمال والعضو المؤسس لـ TED ، بموافقتها. ضحك الجمهور.

وأشار أندرسون إلى الجانب السلبي لأشياء مثل الصور المزيفة لاعتقال ترامب والمواد الإباحية التي تستخدم وجوه أشخاص آخرين على أجساد فنانين بالغين.

أنا شخصياً ، كما تعلم ، نبني هذه الأشياء ، وأنا قلق ، أليس كذلك؟ “القلق هو الغريزة الصحيحة التي يتمتع بها الجميع” ، قال. أبعد من ذلك ، فكر فيما يمكننا فعله لتحضير أنفسنا. كيف يمكننا أن نحاول التأثير على المستقبل لأنه يدور في هذا الاتجاه “.

لاحظ جراهام كيف لا شيء يمكن أن يوقف هذه التقنية. أخبرني كيف حان الوقت لإضفاء الحياة على أخلاقيات هذا النوع من التحجيم من المحتوى الواقعي الفائق الواقعية للأشخاص العاديين.

قال غراهام: “من الصعب حقًا التعامل مع الأمر”. “نحن نتحدث عن مستقبل يتأثر فيه جزء كبير من واجهتنا مع الإنترنت ، وما نقوم به عبر الإنترنت ، وكيف نتفاعل مع بعضنا البعض ، من خلال وسيلة التكنولوجيا ، بهذا النوع من الواجهة المرئية الواقعية للغاية للذكاء الاصطناعي . ” التي تتميز بأشكالنا الواقعية للذكاء الاصطناعي. “

هل سنتمكن من الوثوق بالمكالمات الهاتفية؟ وأشار إلى أن الأشخاص الذين يصنعون المنتجات يحتاجون إلى أن يكونوا أكثر وعياً بما يمكن فعله معهم عندما يتعلق الأمر بالتزييف العميق. إنها تتسارع قبل سن القوانين واللوائح. سيتمتع بعض الأشخاص بوصول أفضل إلى هذه التكنولوجيا أكثر من غيرهم.

تقدم غراهام مؤخرًا بطلب للحصول على حقوق طبع ونشر لشبهه بالذكاء الاصطناعي ، حيث يريد الحفاظ على السيطرة عليه وكيفية استخدامه. سيكون إنشاء حقوق الملكية هذه مهمًا.