كيف يمكن للذكاء الاصطناعي المساعدة في الكشف عن الأخبار الزائفة بدلاً من صنعها

الأخبار المزيفة هي مشكلة معقدة ويمكن أن تشمل النص والصور والفيديو.

بالنسبة للمقالات المكتوبة على وجه الخصوص ، هناك عدة طرق لتوليد أخبار مزيفة. يمكن إنتاج مقال إخباري كاذب عن طريق تحرير الحقائق بشكل انتقائي ، بما في ذلك أسماء الأشخاص أو التواريخ أو الإحصائيات. يمكن أيضًا أن تكون المقالة ملفقة بالكامل بأحداث أو أشخاص مختلقين.

يمكن أيضًا إنشاء المقالات الإخبارية المزيفة آليًا لأن التقدم في الذكاء الاصطناعي يجعل من السهل بشكل خاص إنشاء معلومات مضللة.

آثار ضارة

أسئلة مثل: “هل كان هناك تزوير في الانتخابات الأمريكية لعام 2020؟” أو “هل تغير المناخ خدعة؟” يمكن التحقق من الحقائق من خلال تحليل البيانات المتاحة. يمكن الإجابة على هذه الأسئلة بصواب أو خطأ ، ولكن هناك احتمال لمعلومات خاطئة تحيط بأسئلة مثل هذه.

المعلومات المضللة والمعلومات المضللة – أو الأخبار المزيفة – يمكن أن تكون موجودة آثار مدمرة على عدد كبير من الناس في وقت قصير. على الرغم من أن فكرة كانت الأخبار الكاذبة موجودة قبل التقدم التكنولوجي بفترة طويلةفاقمت وسائل التواصل الاجتماعي المشكلة.

أظهرت دراسة على موقع تويتر عام 2018 ذلك تم إعادة تغريد القصص الإخبارية الكاذبة بشكل أكثر شيوعًا من قبل البشر أكثر من برامج الروبوت ، و 70 في المائة من المرجح أن تتم إعادة تغريدها أكثر من القصص الحقيقية. ووجدت الدراسة نفسها أن القصص الحقيقية تستغرق حوالي ستة أضعاف للوصول إلى مجموعة من 1500 شخص ، وبينما نادرًا ما تصل القصص الحقيقية إلى أكثر من 1000 شخص ، يمكن أن تنتشر الأخبار الكاذبة الشائعة إلى 100000 شخص.

كانت الانتخابات الرئاسية الأمريكية لعام 2020 ولقاحات COVID-19 وتغير المناخ موضوعًا لحملات تضليل ذات عواقب وخيمة. من المتوقع ان تبلغ تكلفة المعلومات الخاطئة المحيطة بـ COVID-19 ما بين 50-300 مليون دولار أمريكي يوميًا. يمكن أن تكون تكلفة التضليل السياسي اضطرابًا مدنيًا أو عنفًا أو حتى تآكل ثقة الجمهور في المؤسسات الديمقراطية.

كشف المعلومات الخاطئة

يمكن الكشف عن المعلومات الخاطئة عن طريق مزيج من الخوارزميات ونماذج التعلم الآلي والذكاء الاصطناعي ، والبشر. السؤال المهم هو من المسؤول عن التحكم ، إن لم يكن إيقاف ، انتشار المعلومات الخاطئة بمجرد اكتشافها. فقط شركات وسائل التواصل الاجتماعي هي في الواقع في وضع يمكنها من ممارسة السيطرة على انتشار المعلومات عبر شبكاتها.

من الوسائل البسيطة والفعالة لتوليد المعلومات الخاطئة تحرير المقالات الإخبارية بشكل انتقائي. على سبيل المثال ، ضع في اعتبارك أن “المخرج والكاتب المسرحي الأوكراني اعتقل واتهم بـ” تبرير الإرهاب “. وقد تحقق ذلك من خلال استبدال” الروسية “بـ” الأوكرانية “في الجملة الأصلية في مقال إخباري حقيقي.

هناك حاجة إلى نهج متعدد الأوجه لاكتشاف المعلومات الخاطئة عبر الإنترنت من أجل التحكم في نموها وانتشارها.

يمكن نمذجة الاتصالات في وسائل التواصل الاجتماعي كشبكات ، حيث يشكل المستخدمون نقاطًا في نموذج الشبكة وتشكل الاتصالات روابط بينهم ؛ تعكس إعادة التغريد أو الإعجاب بمنشور وجود صلة بين نقطتين. في نموذج الشبكة هذا ، يميل ناشرو المعلومات المضللة إلى تكوين هياكل محيطية أساسية متصلة بكثافة أكثر من قيام المستخدمين بنشر الحقيقة.

مجموعتي البحثية طور خوارزميات فعالة للكشف عن الهياكل الكثيفة من شبكات الاتصال. يمكن تحليل هذه المعلومات بشكل أكبر من أجل الكشف عن حالات حملات التضليل.

نظرًا لأن هذه الخوارزميات تعتمد على بنية الاتصال وحدها ، فإن تحليل المحتوى الذي يتم إجراؤه بواسطة الخوارزميات والبشر ضروري لتأكيد حالات المعلومات المضللة.

يتطلب اكتشاف المقالات التي تم التلاعب بها تحليلًا دقيقًا. استخدم بحثنا أ النهج القائم على الشبكة العصبية يجمع المعلومات النصية مع قاعدة معرفة خارجية لاكتشاف مثل هذا التلاعب.

وقف انتشار

إن اكتشاف المعلومات الخاطئة ليس سوى نصف المعركة – يلزم اتخاذ إجراء حاسم لوقف انتشارها. تشمل استراتيجيات مكافحة انتشار المعلومات الخاطئة في الشبكات الاجتماعية كلاً من التدخل من خلال منصات الإنترنت وإطلاق حملات مضادة لتحييد الحملات الإخبارية المزيفة.

يمكن أن يتخذ التدخل أشكالًا صارمة ، مثل تعليق حساب المستخدم ، أو إجراءات أكثر ليونة مثل تصنيف مشاركة على أنها مريبة.

الخوارزميات والشبكات التي تعمل بالذكاء الاصطناعي ليست 100 لكلالمائة موثوقة. هناك تكلفة للتدخل في عنصر حقيقي عن طريق الخطأ بالإضافة إلى عدم التدخل في عنصر مزيف.

لتحقيق هذه الغاية ، قمنا بتصميم سياسة تدخل ذكية تقرر تلقائيًا ما إذا كان يجب التدخل في أحد العناصر بناءً على صدقها المتوقع وشعبيتها المتوقعة.

مواجهة الأخبار الكاذبة

يجب أن يؤخذ إطلاق الحملات المضادة لتقليل تأثيرات حملات المعلومات المضللة إن لم يكن تحييدها في الاعتبار الاختلافات الرئيسية بين الحقيقة والأخبار الزائفة من حيث مدى سرعة انتشار كل منهما على نطاق واسع.

إلى جانب هذه الاختلافات ، يمكن أن تختلف ردود الفعل على القصص اعتمادًا على المستخدم والموضوع وطول المنشور. نهجنا يأخذ كل هذه العوامل في الاعتبار ويضع إستراتيجية فعالة للحملة المضادة التي تخفف بشكل فعال من انتشار المعلومات المضللة.

التطورات الحديثة في الذكاء الاصطناعي التوليدي ، لا سيما تلك التي تدعمها نماذج اللغة الكبيرة مثل ChatGPT ، تجعل إنشاء مقالات بسرعة كبيرة وحجم كبير أسهل من أي وقت مضى ، مما يزيد من التحدي المتمثل في اكتشاف المعلومات الخاطئة ومواجهة انتشارها على نطاق واسع وفي الوقت الفعلي. يستمر بحثنا الحالي في معالجة هذا التحدي المستمر الذي له تأثير اجتماعي هائل.

هل تريد معرفة المزيد عن الذكاء الاصطناعي وروبوتات المحادثة ومستقبل التعلم الآلي؟ تحقق من تغطيتنا الكاملة لـ الذكاء الاصطناعيأو تصفح أدلةنا إلى أفضل مولدات فنية مجانية لمنظمة العفو الدولية و كل ما نعرفه عن ChatGPT الخاص بـ OpenAI.

لاكس ضد لاكشمانانأستاذ علوم الحاسب جامعة كولومبيا البريطانية

تم إعادة نشر هذه المقالة من محادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقالة الأصلية.