لقد أصبح من السهل على منصات المحتوى استخدام المزيد من خوارزميات التوصية الأخلاقية

أصبحت أنظمة التوصية مؤثرة بشكل متزايد ، حيث تتحكم في ما يراه المستخدمون ، وفي النهاية ، يستهلكون عبر الأسواق الرقمية. هذه الأنظمة ، مثل حراس البوابة غير المرئيين ، تختار وترتيب المحتوى لصفحة TikTok’s “For You Page” وقسم Amazon’s “You Might also Like” ونتائج محرك بحث Google وغيرها الكثير. نهج جديد للتوصية بالخوارزميات يمكن أن يساعد المنصات الرقمية على تصفية المحتوى بعناية أكبر.

على موقع YouTube ، الذي يضم 2.2 مليار مستخدم (أكثر من ربع سكان العالم) ، يقال إن نظام التوصية يولد 200 مليون مشاهدة يوميًا من صفحته الرئيسية. وبالمثل ، فإن عدد مشتركي أمازون برايم في الولايات المتحدة (147 مليون) هو ما يقرب من نصف سكان الولايات المتحدة. يقدم نظام التوصية في أمازون اقتراحات لهؤلاء المستخدمين من أكثر من 75 مليون منتج متاح على منصة التجارة الإلكترونية الخاصة به. مع وجود العديد من المستخدمين وخيارات المحتوى ، تتمتع أنظمة التوصية بالقدرة على تشكيل الرأي العام أو التأثير على الحصة السوقية للشركات التي تبيع السلع الاستهلاكية – من بين النتائج المحتملة الأخرى.

لقد سلطت أهمية وإبراز أنظمة التوصية هذه الأضواء على الجوانب الأخلاقية للتوصيات وألقت بعض منصات المحتوى في الماء الساخن. تم انتقاد Netflix في عام 2016 لقفزها إلى استنتاجات حول تفضيلات العرق والمحتوى مع توصياتها. يخضع فيسبوك لتدقيق شديد منذ انتخابات 2016 لدوره في نشر المعلومات المضللة. تم تغريم Google مليارات الدولارات في أوروبا بسبب التلاعب بنتائج البحث. وعلى مدى العامين الماضيين ، ازداد الزخم لحركة تطالب بمزيد من الشفافية في طريقة عمل الخوارزميات خلف YouTube والمنصات الرئيسية الأخرى.

بغض النظر عن استعداد الشركة لسحب الستار عن خوارزمياتها ، يمكن معالجة بعض المخاوف الملحوظة من خلال حسابات إضافية. يمكن لطبقات التحليل أن تزن الاعتبارات الأخلاقية مقابل الربح والمشاركة ومقاييس الأعمال الأخرى ، مما ينتج عنه توصيات دقيقة تلبي المعايير الأخلاقية.

سريع للحكم

لسوء الحظ ، لا يوجد ما يكفي في كثير من الأحيان وقت لإجراء مثل هذا الحساب الإضافي في إعدادات التوصية المباشرة. أظهرت الأبحاث أن الناس يشعرون بالإحباط بسبب التأخير في المنصات الرقمية بعد 100 مللي ثانية فقط. نظرًا لوقت إرسال المعلومات ، فإن هذا يترك 50 مللي ثانية فقط للحسابات الخوارزمية – إذا كانت منصات المحتوى ستقدم تحميلات سريعة للصفحات التي تعلم المستخدمون توقعها.

يتكون النهج الخوارزمي التقليدي لنظام التوصية من مرحلتين. أولاً ، يقوم بتصفية مكتبة محتوى يحتمل أن تحتوي على ملايين العناصر وصولاً إلى عدد يمكن إدارته من المرشحين – بترتيب المئات أو الآلاف. هذا التصفية هو في الأساس تنبؤ لما سيروق للمستخدم بناءً على المعلومات الديموغرافية والسلوك السابق. تتضمن المرحلة الثانية إعادة ترتيب العناصر المرشحة لتحقيق التوازن بين هدف العمل الأساسي ، مثل تشجيع المزيد من المشاهدات أو عمليات الشراء ، مقابل أولويات أخرى مثل حداثة المحتوى وتنوعه ، فضلاً عن عدالة التوصيات.

يعد تحديد ترتيب المحتوى الذي يزيد من هدف العمل الأساسي إلى أقصى حد مع مراعاة اعتبارات المحتوى الأخلاقي – مثل وجهات النظر المتوازنة والتمثيل المتساوي والتنوع المواضيعي – أمرًا أساسيًا لنجاح أو فشل المنصات الرقمية. ومع ذلك ، فإن إجراء مثل هذا التصنيف بسرعة هو مهمة مهمة. تقليديًا ، يزن إجراء التحسين الرياضي هذه الأهداف المختلفة ، مع مراعاة أذواق مستخدم معين أيضًا. المشكلة هي أن هذا يمكن أن يستغرق وقتا طويلا دقائق، ليس ميلي ثانية. لكن نهجًا خوارزميًا جديدًا يعد بحل بديل.

توقع جيد جدا

اتضح أن توقع الأوزان المثلى لأهداف العمل المختلفة باستخدام نموذج إحصائي يكاد يكون بنفس فعالية تحديدها بالضبط من خلال التحسين – وأسرع بكثير. أثناء الاختبار ، وجدت أنا وزملائي أنه عندما ينشئ نظام التوصية تصنيفًا مخصصًا للمستخدم ، بناءً على مثل هذا التنبؤ ، كانت تصنيفات المحتوى متطابقة تقريبًا في الجودة مع تلك التي تم إنشاؤها عن طريق تشغيل التحسين الكامل. لكن طريقة التنبؤ كانت أسرع بكثير.

يتم تقديم البحث في موجز جديد لممارسي الصناعة من قبل مركز برنشتاين للقيادة والأخلاق في كلية كولومبيا للأعمال. يشرح الموجز المزيد عن الطرق التي اختبرنا بها النهج.

لقد كلفنا الخوارزميات الموصى بها بإنشاء تصنيف شخصي لألف فيلم. كان على النظام زيادة رضا المستخدم إلى أقصى حد مع الالتزام أيضًا بمجموعة من القيود حول النوع وحداثة الإصدار ، بالإضافة إلى الاعتبارات الأخلاقية مثل تضمين شخصية مثلي الجنس ، وذكر العرق ، وقضايا حرية التعبير.

في حين أن كل من طريقة التنبؤ ونهج التحسين التقليدي أوجدت توصيات زادت من رضا المستخدم وامتثلت للقيود بشكل مثالي تقريبًا ، كان النهج التقليدي أبطأ بكثير من عتبة 50 مللي ثانية. في حين أن الطريقة الجديدة أدت الترتيب جيدًا في هذا الوقت.

مع تصاعد الضغط العام والسياسي ، يمكن لمنصات المحتوى الآن اختيار استخدام هذا النهج التنبئي الجديد لتوفير الوقت لخوارزمياتهم لمعالجة الاعتبارات الأخلاقية بشكل استباقي قبل أن يفرض المنظمون أو التشريع أيديهم.

والجدير بالذكر أن هذا النهج لا يقتصر على أنظمة التوصية بالمحتوى. يمكن استخدامه ، على سبيل المثال ، لتعيين مهام حساسة للوقت لسرب من الروبوتات في إعداد المستودع ، أو لتحديد الترتيبات والمطابقة في مشاكل أخرى واسعة النطاق حيث السرعة مهمة. (الكود المستخدم في البحث متاح كمصدر مفتوح على GitHub.)

إيجور تكاتشينكو حاصل على درجة الدكتوراه. مرشح في قسم التسويق في كلية كولومبيا للأعمال وحاصل على منحة بحثية من مركز سانفورد سي بيرنشتاين وشركاه للقيادة والأخلاق. البحث الذي يستند إليه هذا المقال شارك في تأليفه كل من كمال الجديدي ووسيم الذوادي.