3 طرق يمكن للشركات من خلالها تطوير نماذج الذكاء الاصطناعي التوليدية بشكل أخلاقي وفعال

يجتمع الرئيس بايدن مع خبراء الذكاء الاصطناعي لفحص مخاطر الذكاء الاصطناعي. عبّر سام التمان وإيلون ماسك عن مخاوفهما علنًا. أصبحت شركة الاستشارات العملاقة أكسنتشر أحدث من راهن على الذكاء الاصطناعي ، حيث أعلنت عن خطط لاستثمار 3 مليارات دولار في التكنولوجيا ومضاعفة موظفيها الذين يركزون على الذكاء الاصطناعي إلى 80 ألفًا. هذا علاوة على الشركات الاستشارية الأخرى ، حيث انضمت Microsoft و Alphabet و Nvidia إلى المعركة.

لا تنتظر الشركات الكبرى اختفاء مشكلة التحيز قبل أن تتبنى الذكاء الاصطناعي ، مما يجعل الأمر أكثر إلحاحًا لحل أحد أكبر التحديات التي تواجه جميع نماذج الذكاء الاصطناعي التوليدية الرئيسية. لكن تنظيم الذكاء الاصطناعي سيستغرق وقتًا.

نظرًا لأن كل نموذج من نماذج الذكاء الاصطناعي يتم إنشاؤه بواسطة البشر ويتم تدريبه على البيانات التي يجمعها البشر ، فمن المستحيل القضاء على التحيز تمامًا. يجب على المطورين ، مع ذلك ، أن يسعوا لتقليل مقدار التحيز “في العالم الحقيقي” الذي يعيدون إنتاجه في نماذجهم.

تحيز العالم الحقيقي في الذكاء الاصطناعي

لفهم التحيز في العالم الحقيقي ، تخيل نموذجًا للذكاء الاصطناعي مدربًا لتحديد من هو المؤهل للحصول على قرض عقاري. إن تدريب هذا النموذج بناءً على قرارات مسؤولي القروض البشرية الفرديين – الذين قد يتجنب بعضهم ضمنيًا وبشكل غير عقلاني منح قروض لأشخاص من أعراق أو ديانات أو أجناس معينة – يشكل خطرًا هائلاً لتكرار تحيزاتهم الواقعية في الناتج.

وينطبق الشيء نفسه على النماذج التي تهدف إلى محاكاة عمليات التفكير لدى الأطباء والمحامين ومديري الموارد البشرية وعدد لا يحصى من المهنيين الآخرين.

>> تابع تغطية الذكاء الاصطناعي التوليدية المستمرة من VentureBeat <

يوفر الذكاء الاصطناعي فرصة فريدة لتوحيد هذه الخدمات بطريقة تتجنب التحيز. على العكس من ذلك ، فإن الفشل في الحد من التحيز في نماذجنا يشكل خطر توحيد الخدمات المعيبة بشدة لصالح البعض وعلى حساب الآخرين.

فيما يلي ثلاث خطوات رئيسية يمكن للمؤسسين والمطورين اتخاذها لتحقيق ذلك بالشكل الصحيح:

1. اختر طريقة التدريب المناسبة لنموذج الذكاء الاصطناعي التوليدي الخاص بك

يقع ChatGPT ، على سبيل المثال ، ضمن الفئة الأوسع للتعلم الآلي كنموذج لغة كبير (LLM) ، مما يعني أنه يمتص كميات هائلة من البيانات النصية ويستنتج العلاقات بين الكلمات داخل النص. من جانب المستخدم ، يُترجم ذلك إلى ملء LLM في الفراغ مع الكلمة الأكثر احتمالية إحصائيًا بالنظر إلى السياق المحيط عند الإجابة على سؤال.

ولكن هناك العديد من الطرق لتدريب البيانات على نماذج التعلم الآلي. تعتمد بعض نماذج التكنولوجيا الصحية ، على سبيل المثال ، على البيانات الضخمة من حيث أنها تدرب الذكاء الاصطناعي الخاص بها باستخدام سجلات المرضى الفرديين أو قرارات الأطباء الفرديين. بالنسبة إلى المؤسسين الذين يقومون ببناء نماذج خاصة بالصناعة ، مثل الطبية أو الذكاء الاصطناعي للموارد البشرية ، يمكن لنُهُج البيانات الضخمة أن تفسح المجال لمزيد من التحيز أكثر من اللازم.

دعونا نتخيل روبوت محادثة يعمل بالذكاء الاصطناعي تم تدريبه للتوافق مع المرضى لإنتاج ملخصات سريرية لعروضهم الطبية للأطباء. إذا تم بناؤه وفقًا للنهج الموصوف أعلاه ، فإن روبوت المحادثة سيصمم نتاجه بناءً على التشاور مع البيانات – في هذه الحالة ، السجلات – لملايين المرضى الآخرين.

قد ينتج عن مثل هذا النموذج مخرجات دقيقة بمعدلات مثيرة للإعجاب ، لكنه يستورد أيضًا تحيزات الملايين من سجلات المرضى الفردية. بهذا المعنى ، تصبح نماذج الذكاء الاصطناعي للبيانات الضخمة مزيجًا من التحيزات التي يصعب تتبعها ، ناهيك عن إصلاحها.

تتمثل الطريقة البديلة لأساليب التعلم الآلي هذه ، خاصةً بالنسبة للذكاء الاصطناعي الخاص بالصناعة ، في تدريب نموذجك بناءً على المعيار الذهبي للمعرفة في صناعتك لضمان عدم نقل التحيز. في الطب ، هذا هو الأدب الطبي الذي راجعه الأقران. في القانون ، يمكن أن تكون النصوص القانونية لبلدك أو ولايتك ، وبالنسبة للمركبات ذاتية القيادة ، قد تكون قواعد مرور فعلية بدلاً من بيانات السائقين الأفراد.

نعم ، حتى تلك النصوص أنتجها البشر وتحتوي على تحيز. ولكن بالنظر إلى أن كل طبيب يسعى إلى إتقان الأدبيات الطبية وأن كل محامٍ يقضي ساعات لا تحصى في دراسة الوثائق القانونية ، يمكن أن تكون هذه النصوص بمثابة نقطة انطلاق معقولة لبناء ذكاء اصطناعي أقل تحيزًا.

2. موازنة الأدب مع بيانات العالم الحقيقي المتغيرة

هناك الكثير من التحيز البشري في مجال الطب الذي أعمل به ، ولكن من الحقائق أيضًا أن المجموعات العرقية والأعمار والمجموعات الاجتماعية والاقتصادية والمواقع والجنس المختلفة تواجه مستويات مختلفة من مخاطر الإصابة بأمراض معينة. يعاني الأمريكيون من أصل أفريقي من ارتفاع ضغط الدم أكثر من القوقازيين ، واليهود الأشكناز أكثر عرضة للإصابة بأمراض معينة من المجموعات الأخرى.

هذه اختلافات جديرة بالملاحظة ، لأنها عامل في توفير أفضل رعاية ممكنة للمرضى. ومع ذلك ، من المهم فهم جذور هذه الاختلافات في الأدبيات قبل إدخالها في نموذجك. هل يعطي الأطباء النساء دواءً معينًا بمعدلات أعلى – نتيجة التحيز تجاه النساء – مما يعرضهن لخطر أكبر للإصابة بمرض معين؟

بمجرد أن تفهم جذر التحيز ، فأنت أفضل استعدادًا لإصلاحه. لنعد إلى مثال الرهن العقاري. أفاد موقع Business Insider العام الماضي أن فاني ماي وفريدي ماك ، اللذان يدعمان معظم الرهون العقارية في الولايات المتحدة ، وجدا أن الأشخاص الملونين كانوا أكثر عرضة لكسب الدخل من وظائف اقتصاد الوظائف المؤقتة. وقد منعهم ذلك بشكل غير متناسب من الحصول على قروض عقارية لأن مثل هذه المداخيل يُنظر إليها على أنها غير مستقرة – على الرغم من أن العديد من العاملين في اقتصاد الوظائف المؤقتة لا يزالون يتمتعون بتاريخ قوي في دفع الإيجارات.

لتصحيح هذا التحيز ، قررت فاني ماي إضافة متغير تاريخ دفع الإيجار ذي الصلة إلى قرارات تقييم الائتمان. يجب على المؤسسين بناء نماذج قابلة للتكيف قادرة على موازنة الأدبيات الصناعية القائمة على الأدلة مع الحقائق المتغيرة في العالم الحقيقي على أرض الواقع.

3. بناء الشفافية في نموذج الذكاء الاصطناعي التوليدي الخاص بك

لاكتشاف الانحياز وتصحيحه ، ستحتاج إلى نافذة توضح كيفية وصول نموذجك إلى استنتاجاته. لا تعود العديد من نماذج الذكاء الاصطناعي إلى مصادرها الأصلية أو تشرح مخرجاتها.

غالبًا ما تنتج مثل هذه النماذج بثقة استجابات بدقة مذهلة – ما عليك سوى إلقاء نظرة على النجاح المذهل لـ ChatGPT. ولكن عندما لا يفعلون ذلك ، يكاد يكون من المستحيل تحديد الخطأ الذي حدث وكيفية منع الإنتاج غير الدقيق أو المتحيز في المستقبل.

بالنظر إلى أننا نبني تقنية ستحول كل شيء من العمل إلى التجارة إلى الرعاية الطبية ، فمن الأهمية بمكان أن يكون البشر قادرين على اكتشاف وإصلاح العيوب في منطقها – لا يكفي ببساطة معرفة أنها حصلت على إجابة خاطئة. عندها فقط يمكننا التصرف بمسؤولية بناءً على ناتج مثل هذه التكنولوجيا.

من أكثر العروض القيمة الواعدة للذكاء الاصطناعي للبشرية تطهير قدر كبير من التحيز البشري من الرعاية الصحية والتوظيف والاقتراض والإقراض والعدالة وغيرها من الصناعات. لا يمكن أن يحدث ذلك إلا إذا عززنا ثقافة بين مؤسسي الذكاء الاصطناعي تعمل على إيجاد حلول فعالة لتقليل التحيز البشري الذي نحمله في نماذجنا.

الدكتورة ميشال تزوشمان كاتز ، طبيبة ، هي الشريك المؤسس والرئيس التنفيذي والمدير الطبي ل كاهون طبي.