يخاطر الذكاء الاصطناعي التوليدي بالعودة إلى الاستعمار الثقافي

لقد أوصلنا الارتفاع الهائل في شعبية روبوتات الدردشة بالذكاء الاصطناعي إلى لحظة محورية سيكون لها تأثيرات دائمة على نظرتنا الجماعية للعالم. يعد ChatGPT الآن التطبيق الأسرع نموًا في التاريخ ، مع أكثر من 100 مليون مستخدم وأكثر من 10 ملايين استفسار يوميًا. تتبناه شركات Fortune 500 دون النظر إلى الآثار المستقبلية ، مما يخلق تأثيرًا يضاعف مدى وصولها من خلال الشركات التي تتبنى التكنولوجيا.

يمكن أن يكون للذكاء الاصطناعي التوليدي عواقب غير مقصودة ، وأحد أهمها القوة التي يمنحها للثقافة التي تخلقه. من المفارقات أن الشعبية غير المسبوقة لـ ChatGPT جعلت OpenAI شركة هادفة للربح ومغلقة المصدر مع تحكم أكثر صرامة في ChatGPT وتفاصيل مبهمة فيما يتعلق بنهجها التعليمي ، كما يتضح من الإصدار الأخير من ChatGPT-4. ومع انتشار هذه التقنية ، تتزايد قدرتها على نشر المعلومات الخاطئة بثقة تنذر بالخطر. إذا تُركت التحيزات الضمنية دون رادع ، فإنها تشكل خطر التراجع عن عقود من التقدم نحو مجتمع متنوع ومتعدد الثقافات.

تومض أضواء التحذير. من الضروري أن يقر أولئك الذين ينتجون هذه التكنولوجيا ويتحملون المسؤولية عن تأثيرها العميق المحتمل على المجتمع.

ChatGPT متحيز – فقط اسأله

الذكاء الاصطناعي ليس كيانًا محايدًا. تعترف ChatGPT ، على سبيل المثال ، بأن ردودها متحيزة بطبيعتها ومليئة بالتحيزات الضمنية. هذا يرجع في المقام الأول إلى حقيقة أن مجموعة البيانات المستخدمة لتطويرها مليئة بالتحيزات والأحكام المسبقة البشرية.

تم تطوير ChatGPT من خلال خوارزميات صممها البشر للتعلم من العالم الرقمي ، والتي تميل إلى عكس المجتمعات الأكثر ترابطا والرقمية. هذا المظهر سيؤدي حتما إلى زيادة تفاقم الفجوة الرقمية. بالإضافة إلى ذلك ، يجب على موظفي Open AI تصحيح الخوارزمية يدويًا لمنع ChatGPT من إنتاج استجابات غير ملائمة. يوجهها حكم منشئو الخوارزمية إلى التصرف بطريقة تجعلهم يشعرون بالراحة والثقة. وبالتالي ، فإن آراء الخوارزمية حول القضايا السياسية وحالة المجتمع والتكنولوجيا وتفضيلات الأنشطة (مثل الأنشطة الغنية ، مثل قضاء الإجازة في هاواي أو المتنزهات الوطنية في كاليفورنيا ، كأمثلة افتراضية) لم يتم إنشاؤها من منظور عالمي بل من منظور محدد. وجهات نظر. باختصار ، يعكس نظام قيم ChatGPT أنظمة القيم للأشخاص الذين طوروها.

لماذا هذه مشكلة؟ لأنها تفرض مجموعة معينة من المبادئ على الأفراد حول العالم الذين يستخدمون التكنولوجيا. الناس لديهم حياة واقتصادات وثقافات مختلفة اختلافًا كبيرًا وتفاهمات العالم التي لا تنعكس في الناتج. يقوم ChatGPT بتجميع المعلومات من كمية هائلة من البيانات اللغوية من مؤلفين مختلفين لإنشاء إجاباتها على الأسئلة. في أي وقت يتم فيه تجميع الكثير من البيانات وتعلمها إحصائيًا ، فإنها تميل إلى تقليل تمثيل الفئات المهمشة. نحن نجازف بمحو تفاصيل النسيج العالمي من خلال توحيده تحت رؤية خوارزمية واحدة.

ليست مجرد وظيفة الأداة هي التي تدفع نحو هذه النتيجة ، إنها أيضًا الواجهة. لقد كلفنا العصر الرقمي الحديث بتبني أمان تفاعلاتنا عبر الإنترنت ، مما جعلنا نؤمن بالنوايا الحميدة من الخدمات التي تدعم حياتنا اليومية. متى كانت آخر مرة قرأت فيها وفهمت ما هو موجود في اتفاقية ترخيص المستخدم النهائي ، طُلب منك التوقيع؟ أو من أجرى التعديلات على صفحة ويكيبيديا حيث جمعت المعلومات؟ تعمل الواجهات الجذابة لمحركات البحث ومنصات الوسائط الاجتماعية وتطبيقات الذكاء الاصطناعي الآن على بناء شعور بالثقة في المستخدم ، مما يكبح فضولنا بشأن الهدف التجاري أو الأخلاقي للخدمة.

لم يكن أحد يتوقع أن ينفجر ChatGPT أو منافسوها بسرعة كبيرة. هناك حاجة إلى مزيد من الوقت لبناء الوعي حول المخاطر الخفية في تبنيها على نطاق واسع. مع تسريح العمالة التقنية مؤخرًا في مجال أخلاقيات وسلامة الذكاء الاصطناعي (مثل تلك الموجودة في Microsoft) ، وقلة الشفافية التي تمضي قدمًا في تطوير ChatGPT من OpenAI ، لا توجد حواجز حماية واضحة تسألنا عن كيفية تأثير ChatGPT على العالم. يشكل التبني العام الواسع النطاق ، جنبًا إلى جنب مع الافتقار إلى شفافية الشركة والتنظيم الذاتي ، تهديدًا بأن سكان العالم سوف يحفزون عن غير قصد رؤية عالمية متجانسة تتجاوز التعبيرات التي لا تعد ولا تحصى للثقافة الإنسانية.

ChatGPT والاستعمار الرقمي

لطالما استُخدم الاستيعاب الثقافي والدعاية كأدوات لفرض قيم معينة على السكان. غالبًا ما اضطرت الدول المستعمرة إلى نبذ تراثها الثقافي واعتماد القواعد والمعايير الخاصة بمن يسيطرون عليها.

مع الانتشار العالمي لـ ChatGPT ، يكمن الخطر في أن منتجها سيُنظر إليه على أنه حقيقة ومعيار يجب اتباعه ، وينشر ضمنيًا القيم ووجهات النظر العالمية لمصمميه. هذه ليست ظاهرة جديدة في تاريخ البشرية. على سبيل المثال ، عندما أدخل البريطانيون الطب الغربي إلى الهند ، عملوا على تثبيط وإبطال الممارسات القديمة للطب الهندي التقليدي. أثناء استعمار أمريكا الشمالية ، أُجبر العديد من السكان الأصليين على التخلي عن لغتهم الأم واعتماد المسيحية في التعليم والتجارة ، والتي بدورها أدت إلى تجانس المجتمعات والمجموعات السكانية.

تتمتع ChatGPT بقدرة أكبر على محو الهوية الثقافية للآراء غير الغربية من خلال سهولة الوصول إليها على نطاق عالمي هائل. عندما يستخدم طالب في قارة أخرى ChatGPT لطرح سؤال ، فإن الإجابة التي تعود ستنتقل على الفور من خلال الخوارزميات التي تم إنشاؤها من وجهة نظر مجمعة ومفردة. لا تحتوي الأداة على فارق بسيط في التمييز بين تجربة المستخدم الشخصية أو القيم العائلية الأساسية أو وجهات النظر المختلفة للعالم. ومع ذلك ، فإن الافتراضات التي تؤدي إليها تلك النتائج سيكون لها تأثير ثقافي عميق. المستخدمون الذين ليس لديهم نفس التنشئة الغربية يخاطرون بوضع أنفسهم عن غير قصد في وضع يسمح لهم بغسل المخ.

ومع ذلك ، فإن إنشاء غرف صدى لا حصر لها وعزل الأفراد بداخلها ليس هو الحل. بدلاً من الترويج العشوائي للتكنولوجيا بأقصى سرعة ، نحتاج إلى إعداد العالم وجمهوره لاستخدامها وتقديرها بشكل نقدي. لا ينبغي تطبيق شعار وادي السيليكون “تحرك بسرعة وحطم الأشياء” هنا. إن ثقافة العالم هشة وثمينة للغاية بحيث لا يمكن كسرها تحت هذا الشعار ، وسيكون الضرر المحتمل غير قابل للإصلاح. يجب أن ندرك هذه المخاطر ، ونمضي بحذر ، ونعمل على ضمان تطوير الذكاء الاصطناعي بشكل مسؤول لخلق مجتمع أكثر إنصافًا وتنوعًا. قد يكون تسليح هذه الأدوات غير مقصود ، لكن علاجنا لمشاكلها لا يمكن تجاهله.

المجتمع غير مستعد للسير في المستقبل

لقد ناضلنا لأجيال لاحتضان التنوع واحترام التراث الثقافي لبعضنا البعض. لقد احتفلنا بأن الفضيلة تنشأ من خلال تعدد الأشكال. ومع ذلك ، فإن تقنية الذكاء الاصطناعي مثل ChatGPT تخاطر عن غير قصد بعكس كل ما أنجزناه من خلال تقديم منظور من خلال عدسة واحدة مهيمنة. على هذا النحو ، يصبح من الضروري لأولئك الذين ينتجون هذه التكنولوجيا أن يعترفوا ويتحملوا المسؤولية عن التأثير غير المقصود والذي قد يكون ضارًا للغاية على المجتمع. سوف يفعلون؟ هل لديهم ما يكفي من الدوافع الشخصية والحوافز الاجتماعية للقيام بذلك؟ هذا هو السؤال الكبير والقلق.

يجب على الشركات التي تطور روبوتات المحادثة ومنتجات الذكاء الاصطناعي الأخرى والحكومات التي تنظم هذه التقنيات أن تتبنى معيارًا مشتركًا للأخلاقيات والشفافية فيما يتعلق بتطوير هذه الأنواع من الأدوات حتى يتمكن المستخدمون من فهم الآثار المترتبة على قوتهم بشكل كامل. إن المجموعة المتنوعة للعالم الحديث التي حاربنا جميعًا بجد من أجل إنشائها معرضة للخطر.

الدكتور سونجي يون هو رئيس NCSoft ومدير الإستراتيجية الرئيسي.