تتحدث Mastercard و eBay و Capital One عن الابتكار والذكاء الاصطناعي التوليدي العادل

بدأت The Women in AI Breakfast ، برعاية كابيتال وان للعام الثالث على التوالي ، إطلاق VB Transform: Get Ahead of Generative AI Revolution. تجمع أكثر من مائة شخص على الهواء مباشرة وتم بث الجلسة على الهواء مباشرة لجمهور افتراضي يزيد عن 4000 شخص. رحبت شارون جولدمان ، الكاتبة الأولى في VentureBeat ، بإميلي روبرتس ، نائب الرئيس الأول ، رئيس المنتجات الاستهلاكية للمؤسسات في Capital One ، وجوان ستونير ، زميل البيانات والذكاء الاصطناعي في Mastercard ، و Xiaodi Zhang ، نائب الرئيس ، تجربة البائع في eBay.

تناولت مناقشة الإفطار المفتوحة العام الماضي الذكاء الاصطناعي التنبئي والحوكمة وتقليل التحيز وتجنب الانجراف في النموذج. هذا العام ، بدأ الذكاء الاصطناعي التوليدي في الظهور ، وسيطر على المحادثات عبر الصناعات – وأحداث الإفطار.

بناء أساس للذكاء الاصطناعي العام المنصف

قالت إميلي روبرتس ، نائب الرئيس الأول للمنتجات الاستهلاكية في كابيتال وان ، إن هناك سحرًا بين كل من العملاء والمديرين التنفيذيين ، الذين يرون الفرصة ، ولكن بالنسبة لمعظم الشركات ، لم يتم تشكيلها بالكامل.

“الكثير مما كنا نفكر فيه هو كيف يمكنك بناء مؤسسات تتعلم باستمرار؟” قالت. “ما رأيك في الهيكل الذي ستطبق فيه هذا في الواقع على تفكيرنا وفي كل يوم؟”

وأضافت أن جزءًا كبيرًا من الصورة هو التأكد من أنك تبني تنوعًا في الفكر والتمثيل في هذه المنتجات. إن العدد الهائل من الخبراء المشاركين في إنشاء هذه المشاريع ورؤيتها حتى اكتمالها ، من مديري المنتجات والمهندسين وعلماء البيانات إلى قادة الأعمال في جميع أنحاء المؤسسة ، يوفر المزيد من الفرص لجعل الإنصاف أساسًا.

قال روبرتس: “جزء كبير مما أريد أن نفكر فيه حقًا هو كيفية إشراك الأشخاص المناسبين في المحادثة”. “كيف نشعر بالفضول بشكل غير عادي ونتأكد من وجود الأشخاص المناسبين في الغرفة ، ويتم طرح الأسئلة الصحيحة حتى نتمكن من تضمين الأشخاص المناسبين في تلك المحادثة.”

لاحظ ستونير أن جزءًا من المشكلة هو البيانات ، خاصةً مع LLMs العامة.

وأوضحت: “أعتقد الآن أن أحد التحديات التي نراها مع نماذج اللغة العامة الكبيرة التي من الرائع التفكير فيها ، هو أن البيانات التي تستخدمها هي بيانات مجنونة حقًا من الناحية التاريخية”. لم نولد تلك البيانات مع الاستخدام [of LLMs] في عين الاعتبار؛ تاريخيا فقط هناك. والنموذج يتعلم من كل نقاط ضعفنا الاجتماعية ، أليس كذلك؟ وجميع حالات عدم المساواة التي كانت موجودة ، وبالتالي ستستمر هذه النماذج الأساسية في التعلم وسيتم تحسينها مع تقدمنا ​​”.

الشيء المهم الذي يجب القيام به ، كصناعة ، هو ضمان إجراء المحادثات الصحيحة ، ورسم الحدود حول ما يتم بناؤه بالضبط ، والنتائج المتوقعة ، وكيفية تقييم هذه النتائج عندما تبني الشركات منتجاتها الخاصة فوقها. . – ولاحظ المشكلات المحتملة التي قد تطرأ ، حتى لا تغفل أبدًا ، لا سيما في الخدمات المالية ، وخاصة فيما يتعلق بالاحتيال.

قال ستونير: “إذا كان لدينا تحيز في مجموعات البيانات ، فعلينا أن نفهم ذلك لأننا نطبق مجموعة البيانات الإضافية هذه على أداة جديدة”. لذا ، على أساس النتائج [usage] ستصبح أكثر أهمية من الاستخدام القائم على الغرض “.

وأضاف تشانغ أنه من الأهمية بمكان أيضًا الاستثمار في حواجز الحماية هذه منذ البداية. وهو ما يعني الآن اكتشاف شكل هؤلاء وكيف يمكن دمجهم.

“كيف لدينا بعض المحفزات والقيود المعمول بها لضمان نتائج عادلة وغير متحيزة؟” قالت. “إنه بالتأكيد مجال مختلف تمامًا مقارنة بما اعتدنا عليه ، لذلك يتطلب منا جميعًا أن نتعلم باستمرار وأن نكون مرنين وأن نكون منفتحين على التجارب.”

ابتكار جيد الإدارة وحسن الإدارة

بينما لا تزال هناك مخاطر متبقية ، فإن الشركات حذرة بشأن إطلاق حالات استخدام جديدة ؛ بدلاً من ذلك ، يستثمرون الوقت في الابتكار الداخلي ، لإلقاء نظرة أفضل على ما هو ممكن. في eBay ، على سبيل المثال ، ركز هاكاثونهم الأخير بالكامل على الذكاء الاصطناعي العام.

قال تشانغ: “نحن نؤمن حقًا بقوة فرقنا ، وأردت أن أرى ما يمكن لموظفينا التوصل إليه ، والاستفادة من جميع القدرات واستخدام خيالهم فقط”. “لقد كان بالتأكيد أكثر بكثير مما يمكن أن يتخيله الفريق التنفيذي. هناك شيء يجب أن تفكر فيه كل شركة وهو الاستفادة من الهاكاثون وأسابيع الابتكار والتركيز فقط على الذكاء الاصطناعي التوليدي ومعرفة ما يمكن لأعضاء فريقك التوصل إليه. لكن علينا بالتأكيد أن نفكر مليًا بشأن هذه التجربة “.

في Mastercard ، يشجعون الابتكار الداخلي ، لكنهم أدركوا الحاجة إلى وضع حواجز حماية للتجريب وتقديم حالات الاستخدام. إنهم يشاهدون تطبيقات مثل إدارة المعرفة وخدمة العملاء وروبوتات الدردشة والإعلان وخدمات الوسائط والتسويق ، فضلاً عن تحسين الأدوات التفاعلية لعملائهم – لكنهم ليسوا مستعدين بعد لنشرها للجمهور ، قبل أن يقضوا على هذه الاحتمالية. . من التحيز.

قال ستونير: “يمكن لهذه الأداة أن تفعل الكثير من الأشياء القوية ، ولكن ما نكتشفه هو أن هناك مفهومًا للمسافة نحاول تطبيقه ، حيث كلما كانت النتيجة أكثر أهمية ، زادت المسافة بين المخرجات والتطبيق”. . “بالنسبة للرعاية الصحية ، نكره أن تكون قرارات الأطباء خاطئة ، أو أن يكون القرار القانوني خاطئًا”.

تم بالفعل تعديل اللوائح لتشمل الآن الذكاء الاصطناعي التوليدي ، ولكن في هذه المرحلة ، لا تزال الشركات تسعى جاهدة لفهم الوثائق المطلوبة للمضي قدمًا – ما الذي سيبحث عنه المنظمون ، أثناء تجربة الشركات ، وكيف سيُطلب منهم شرح المشاريع أثناء تقدمها.

“أعتقد أنك بحاجة إلى أن تكون مستعدًا لتلك اللحظات عندما تبدأ – هل يمكنك بعد ذلك إظهار مدى تفكير حالة الاستخدام الخاصة بك في تلك اللحظة ، وكيف ستعمل على تحسينها على الأرجح؟” قال ستوني. “لذلك أعتقد أن هذا هو ما نواجهه.”

قال تشانغ: “أعتقد أن التكنولوجيا قد تجاوزت اللوائح العادية ، لذلك نحن بحاجة إلى التحلي بالمرونة والتصميم بطريقة تمكننا من الاستجابة للقرارات التنظيمية التي تأتي”. “شيء يجب مراعاته ، وإلى أجل غير مسمى. القانونية هي أفضل صديق لنا الآن “.

أشار روبرتس إلى أن Capital One أعاد بناء نظامه الأساسي للاحتيال من الألف إلى الياء لتسخير قوة السحابة والبيانات والتعلم الآلي. الآن أكثر من أي وقت مضى ، يتعلق الأمر بالتفكير في كيفية بناء التجارب الصحيحة والسلم حتى التطبيقات الصحيحة.

“لدينا العديد والعديد من الفرص للبناء في هذا الفضاء ، ولكن القيام بذلك بطريقة تمكننا من التجربة ، يمكننا الاختبار والتعلم ولدينا حواجز حماية تركز على الإنسان للتأكد من أننا نقوم بذلك بطريقة جيدة الإدارة بطريقة تحكمها “، أوضحت. “أي اتجاه ناشئ ، سترى تنظيمًا محتملاً أو تتطور المعايير ، لذا فأنا أكثر تركيزًا على كيفية البناء بطريقة جيدة الإدارة وجيدة التحكم وبطريقة شفافة.”