انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو وتعلم كيف يتقدم قادة الأعمال بثورة الذكاء الاصطناعي التوليدية.. يتعلم أكثر
القابلية للتفسير ليست مسألة تقنية – إنها قضية إنسانية.
قال Madhu Narasimhan ، نائب الرئيس التنفيذي ورئيس قسم الابتكار والاستراتيجية والرقمية والابتكار في Wells Fargo ، إنه يتعين على البشر أن يكونوا قادرين على شرح وفهم كيفية وصول نماذج الذكاء الاصطناعي إلى الاستنتاجات التي يقومون بها.
وأكدت للجمهور خلال محادثة في حدث VentureBeat Transform 2023 اليوم: “هذا جزء أساسي من سبب أهمية الذكاء الاصطناعي القابل للتفسير”.
أوضح Narasimhan للجمهور والمدير Jana Eggers ، الشريك المؤسس والرئيس التنفيذي لمنصة الذكاء المشبكي Nara Logics ، أن Wells Fargo قام بـ “قدر هائل” من الاختبارات اللاحقة على مساعد Fargo الافتراضي الخاص به لفهم سبب تفسير النموذج للغة بالطريقة التي يفسر بها كان.
حدث
تحويل 2023
انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.
سجل الان
في بناء النماذج ، تبني الشركة بشكل متزامن إمكانية الشرح ولديها مجموعة مستقلة من علماء البيانات الذين يتحققون من صحتها بشكل منفصل.
>> اتبع جميع تغطية VentureBeat Transform 2023 الخاصة بنا <
قال Narasimhan: “نستخدم ذلك كجزء من اختباراتنا للتأكد من أنه عندما يبدأ العميل في استخدام المساعد الافتراضي ، فإنه يتصرف بالطريقة التي يتوقعها بالضبط”. “نظرًا لأن المساعدين الافتراضيين شائعون جدًا ، فلن يتم قبول أي تجربة أخرى.”
تتصرف بالطريقة التي يتصرف بها الإنسان
قال ناراسيمهان إن الهدف الأساسي هو امتلاك نماذج تتصرف بالطريقة التي يتصرف بها الإنسان ، “لأن هذه هي الفرضية الكاملة للذكاء الاصطناعي.”
يتمثل أحد التحديات الرئيسية في أن البشر متحيزون ، ومن الأهمية بمكان ضمان عدم تحيز النماذج. قالت “علينا حماية وإدارة التحيز في البيانات”.
كجزء من عملية تطوير النموذج ، تنظر Wells Fargo في جميع عناصر البيانات من أجل التحيز ، سواء على مستوى السمات أو على مستوى مجموعة البيانات ، كما أوضحت.
من جانبها ، أشارت إيجرز إلى أنه في حين أن إزالة التحيز أمر مهم ، فإن التنظيف الكامل للبيانات ليس كذلك.
قالت: “أقول دائمًا للناس ،” لا تنظف بياناتك ، لأن الكثير من البيانات قذرة وفوضوية “. وهذه هي الحياة فقط ، ويجب أن يكون لدينا نماذج تتكيف مع ذلك.
وأشارت إلى أنه إذا تمكنت الآلة من إخبار الأشخاص بما تراه في البيانات ، فيمكنهم بعد ذلك الدخول وإخبارها بالتوقف عن رؤية تحيز معين.
قال إيجرز: “ليس الأمر أنني أريد إخراج البيانات”. “إنني أريد الضبط والتعديل ، تمامًا كما هو الحال مع الإنسان حيث نريد نشر الوعي:” مرحبًا ، لديك بعض التحيز. “
العمل معًا نحو القابلية للتفسير
قال ناراسيمهان إنه في النهاية ، من المهم فهم ما يمكن أن يفعله الذكاء الاصطناعي التوليدي ، بالإضافة إلى حدوده. ستعمل القوة الاقتصادية الرائدة على بناء نماذج أكثر وأكثر تعقيدًا ، لذلك ستستمر الحاجة إلى التفسير لدعم الاستنتاجات غير المتوقعة.
للمساعدة في دعم ذلك في جميع المجالات ، أنشأ علماء بيانات Wells Fargo مجموعة أدوات الوصول المفتوح القابلة للتفسير بلغة Python والتي شاركتها الشركة مع المؤسسات المالية الأخرى.
قال Narasimhan: “هذا ما أنا متحمس بشأنه: القدرة على تطوير أداة متاحة بطريقة الوصول المفتوح التي تتيح للجميع النظر في كيفية شرح النماذج بطبيعتها”. “كلما تمكنت من شرح كيفية وصولنا إلى قابلية شرح النموذج ، أعتقد أنه من الأفضل لنا في كل مكان.”
مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.
