التنقل في إدارة البيانات والشفافية والثقة في عالم الذكاء الاصطناعي التوليدي
مسألة الثقة ليست بعيدة عن تطبيق الذكاء الاصطناعي ، لا سيما في واحدة مهمة مثل الذكاء الاصطناعي التوليدي. في Transform 2023 ، غطت هيلاري أشتون ، CPO في Teradata ، في الطرق التي يجب أن تتعامل بها الشركات مع تعقيدات حوكمة البيانات ، وضمان الخصوصية والحفاظ على الشفافية للثقة في عملياتها القائمة على الذكاء الاصطناعي.
قال أشتون: “لقد جلب الذكاء الاصطناعي التوليدي الساحة الكاملة للتحليلات المتقدمة إلى مجلس الإدارة كمناقشة ، بينما كان من قبل نقاشًا في المكتب الخلفي ، مع الكثير من الإمكانات غير المستغلة”. “إنها مساحة مثيرة ، ولكنها أيضًا شيء يجب على الناس التفكير فيه بعناية من منظور الثقة. يضع الذكاء الاصطناعي التوليدي النقطة في حقيقة البيانات المحمية ، ما هي بيانات PII. كيف تريد معالجة هذه البيانات ، خاصة مع نماذج اللغات الكبيرة والذكاء الاصطناعي التوليدي؟
دور الثقة في تبني الذكاء الاصطناعي التوليدي
قالت أشتون إن الشركات يجب أن تكون بطبيعتها جديرة بالثقة لعملائها ، ويبدأ ذلك بجودة البيانات التأسيسية والفصل الواضح لبيانات PII.
وأضافت: “يبدو هذا أمرًا مهمًا للغاية ، ولكن من الصعب جدًا على العديد من الشركات أن تضع ذلك موضع التنفيذ”. “إنهم بحاجة إلى التكنولوجيا والأفراد والعملية حتى يتمكنوا من القيام بذلك.”
يجب على الشركات إنشاء أطر قوية لإدارة البيانات ، والتعامل مع البيانات كمنتج ، وضمان توفير بيانات نظيفة لا تتعلق بمعلومات تحديد الهوية الشخصية للمستخدمين. يعد الالتزام بالامتثال التنظيمي أمرًا بالغ الأهمية ، حيث تتسم المنظمات بالشفافية بشأن استخدامها للذكاء الاصطناعي التوليدي وتأثيره على خصوصية البيانات. من الضروري أيضًا حماية الملكية الفكرية (IP) وحماية المعلومات المسجلة الملكية عند التعاون مع البائعين الخارجيين أو استخدام LLMs.
“هذا هو المكان الذي أعود فيه إلى الحصول على فهم واضح لكيفية استخدام التحليلات المتقدمة – فأنت بحاجة إلى فهم ما هو ليس فقط معلومات تحديد الهوية الشخصية الخاصة بك ، ولكن ما هو عنوان IP الخاص بك؟” قالت. كيف تحمي ذلك؟ قد تفكر في أنه إذا كان لديك كبير علماء البيانات لديك يكتب المطالبات ، فهذا هو عنوان IP الخاص بك كمنظمة. هذا ليس عنوان IP الذي تريد التخلي عنه مجانًا لأحد المنافسين. ربما لا يتم ذكر ذلك صراحة عندما نفكر في أشياء مثل بيانات PII. الآن تصبح المطالبات IP الخاص بك. الآن لديك ممارسة قانونية جديدة تمامًا تتعلق بالحماية السريعة والملكية الفكرية “.
يتضمن ذلك أيضًا الطريقة التي اخترتها لهيكلة بياناتك ، والتي تعتبر ملكية خاصة للغاية. إذا كنت في البنك “أ” ، وتتنافس مع البنك “ب” ، فأنت لا ترغب في منح منافسيك حقًا مساعدة بائع يستخدم LLM استنادًا إلى بنية البيانات الخاصة بك ، بغض النظر عن مدى تعقيمها.
من هناك ، قالت ، يتعلق الأمر “بالتأكد من أنك تفهم أي سوق تتواجد فيه ، وما يبدو عليه الامتثال التنظيمي ، وأنك تبني هذه الحالة النهائية في الاعتبار ، ثم أن تكون شفافًا مع عملائك بشأن كيفية أنت تستخدم الذكاء الاصطناعي العام ، كيف لا تستخدم الذكاء الاصطناعي العام ، إذن [it] يمكن الوثوق به.”
الثقة أيضا لا تقتصر على الخصوصية. يمتد إلى موثوقية ودقة نتائج النموذج. التقييم المنتظم للنماذج والتدابير الاستباقية لتصحيح الأداء ضرورية للحفاظ على ثقة المستخدم.
إذن من أين تبدأ؟
يقول أشتون إن البدء يعني العودة من النتائج التي تريد تحقيقها ، وهي تقع في مجموعتين. الأول هو المجال الذي تمتلك فيه بالفعل إمكانات متقدمة وتريد الحفاظ على هذه الميزة القيادية من خلال التحليلات المتقدمة. والثاني هو معالجة تحديات جدول الرهانات التي ربما تواجهها المنافسة ولكنك لا تملكها.
من هناك ، الاعتبارات هي إدارة البيانات واحترام سيادة بيانات الملكية الفكرية ومعلومات تحديد الهوية الشخصية. الجزء الثاني هو القدرة على القيام بذلك على نطاق واسع ، وأخيرًا ، القطعة الأخيرة هي عمليات تشغيل النماذج ، أو إدارة النماذج أثناء دخولها في الإنتاج وفهم متى يبدأ النموذج في الأداء الضعيف أو يعود بنتائج غير مقبولة.
وأخيرًا ، من المهم ألا تضيع في الحداثة ، ولكن تقييم عائد الاستثمار وأداء السعر.
قالت أشتون: “نحن جميعًا متحمسون للغاية بشأن LLMs والذكاء الاصطناعي العام بشكل عام”. “قد تصبح تكلفة تشغيل بعض ذلك باهظة بمرور الوقت لحالات الاستخدام غير عالية القيمة. تأكد من أنك لا تحل شيئًا يمكن إجراؤه باستخدام مخطط BI المحوري باستخدام LLM لمجرد أنه رائع – يبدو أنه مثال مجنون ، لكنه ليس بهذا الجنون “.
