فهم مخاطر الذكاء الاصطناعي التوليدي لتحقيق نتائج أعمال أفضل

يمكن أن تكون أي تقنية جديدة أحد الأصول المذهلة لتحسين أو تحويل بيئات العمل إذا تم استخدامها بشكل مناسب. يمكن أن يكون أيضًا خطرًا ماديًا على شركتك إذا أسيء استخدامه. لا تختلف ChatGPT ونماذج الذكاء الاصطناعي التوليدية الأخرى في هذا الصدد. تستعد نماذج الذكاء الاصطناعي التوليدية لتحويل العديد من مجالات الأعمال المختلفة ويمكنها تحسين قدرتنا على التفاعل مع عملائنا وعملياتنا الداخلية وتحقيق وفورات في التكاليف. ولكن يمكن أن تشكل أيضًا مخاطر كبيرة على الخصوصية والأمان إذا لم يتم استخدامها بشكل صحيح.

ChatGPT هو الأكثر شهرة في الجيل الحالي من أنظمة الذكاء الاصطناعي التوليدية ، ولكن هناك العديد من الأنواع الأخرى ، مثل VALL-E و DALL-E 2 و Stable Diffusion و Codex. يتم إنشاؤها عن طريق تزويدهم بـ “بيانات التدريب” ، والتي قد تتضمن مجموعة متنوعة من مصادر البيانات ، مثل الاستعلامات التي تم إنشاؤها بواسطة الشركات وعملائها. بحيرة البيانات التي تنتج هي “الصلصة السحرية” للذكاء الاصطناعي التوليدي.

في بيئة المؤسسة ، يتمتع الذكاء الاصطناعي التوليدي بالقدرة على إحداث ثورة في عمليات العمل مع إنشاء اتصال أقرب من أي وقت مضى مع المستخدمين المستهدفين. ومع ذلك ، يجب أن تعرف الشركات ما الذي تدخل فيه قبل أن تبدأ ؛ كما هو الحال مع اعتماد أي تقنية جديدة ، يزيد الذكاء الاصطناعي التوليدي من تعرض المؤسسة للمخاطر. يعني التنفيذ السليم فهم – والتحكم في – المخاطر المرتبطة باستخدام أداة تتغذى على المعلومات التي تنبثق في الغالب من جدران الشركة الخارجية ، وتنقلها وتخزنها.

تعد Chatbots لخدمات العملاء استخدامات فعالة للذكاء الاصطناعي التوليدي

تعد خدمة العملاء واحدة من أكبر مجالات التحسين المادي المحتمل. يمكن برمجة روبوتات الدردشة التوليدية القائمة على الذكاء الاصطناعي للإجابة على الأسئلة المتداولة ، وتوفير معلومات عن المنتج ، ومساعدة العملاء في استكشاف المشكلات وإصلاحها. يمكن أن يؤدي ذلك إلى تحسين خدمة العملاء بعدة طرق – على وجه التحديد ، من خلال توفير “موظفين” أسرع وأرخص على مدار الساعة على نطاق واسع.

على عكس ممثلي خدمة العملاء من البشر ، يمكن أن تقدم روبوتات الدردشة المدعومة بالذكاء الاصطناعي المساعدة والدعم على مدار الساعة طوال أيام الأسبوع دون أخذ فترات راحة أو إجازات. يمكنهم أيضًا معالجة استفسارات العملاء وطلباتهم بشكل أسرع بكثير من الممثلين البشريين ، مما يقلل أوقات الانتظار ويحسن تجربة العملاء بشكل عام. نظرًا لأنها تتطلب عددًا أقل من الموظفين ويمكنها التعامل مع حجم أكبر من الاستفسارات بتكلفة أقل ، فإن فعالية التكلفة لاستخدام روبوتات المحادثة لهذا الغرض التجاري واضحة.

تستخدم روبوتات المحادثة بيانات محددة بشكل مناسب وخوارزميات التعلم الآلي لتخصيص التفاعلات مع العملاء وتصميم التوصيات والحلول وفقًا للتفضيلات والاحتياجات الفردية. جميع أنواع الردود هذه قابلة للتطوير: يمكن لروبوتات الدردشة المدعومة بالذكاء الاصطناعي التعامل مع عدد كبير من استفسارات العملاء في وقت واحد ، مما يسهل على الشركات التعامل مع طفرات في طلب العملاء أو كميات كبيرة من الاستفسارات خلال فترات الذروة.

لاستخدام روبوتات الدردشة للذكاء الاصطناعي بشكل فعال ، يجب على الشركات التأكد من أن لديهم هدفًا واضحًا في الاعتبار ، وأنهم يستخدمون نموذج الذكاء الاصطناعي بشكل مناسب ، وأن لديهم الموارد والخبرات اللازمة لتنفيذ روبوتات الدردشة بالذكاء الاصطناعي بشكل فعال – أو التفكير في الشراكة مع طرف ثالث. مزود متخصص في روبوتات الدردشة بالذكاء الاصطناعي.

من المهم أيضًا تصميم هذه الأدوات بنهج يركز على العميل ، مثل ضمان سهولة استخدامها ، وتوفير معلومات واضحة ودقيقة ، واستجابتها لتعليقات العملاء واستفساراتهم. يجب على المؤسسات أيضًا مراقبة أداء روبوتات الدردشة التي تعمل بالذكاء الاصطناعي باستمرار باستخدام التحليلات وتعليقات العملاء لتحديد مجالات التحسين. من خلال القيام بذلك ، يمكن للشركات تحسين خدمة العملاء وزيادة رضا العملاء ودفع النمو والنجاح على المدى الطويل.

يجب أن تتخيل مخاطر الذكاء الاصطناعي التوليدي

لتمكين التحول مع منع المخاطر المتزايدة ، يجب أن تكون الشركات على دراية بالمخاطر الناتجة عن استخدام أنظمة الذكاء الاصطناعي التوليدية. سيختلف هذا بناءً على العمل والاستخدام المقترح. بغض النظر عن النية ، يوجد عدد من المخاطر العالمية ، أهمها تسرب المعلومات أو السرقة ، وعدم التحكم في الإنتاج وعدم الامتثال للوائح الحالية.

تخاطر الشركات التي تستخدم الذكاء الاصطناعي التوليدي بالحصول على بيانات حساسة أو سرية يتم الوصول إليها أو سرقتها من قبل أطراف غير مصرح لها. يمكن أن يحدث هذا من خلال القرصنة أو التصيد الاحتيالي أو وسائل أخرى. وبالمثل ، من الممكن إساءة استخدام البيانات: يمكن للذكاء الاصطناعي التوليدي جمع وتخزين كميات كبيرة من البيانات حول المستخدمين ، بما في ذلك معلومات التعريف الشخصية ؛ إذا وقعت هذه البيانات في الأيدي الخطأ ، فيمكن استخدامها لأغراض ضارة مثل سرقة الهوية أو الاحتيال.

تولد جميع نماذج الذكاء الاصطناعي نصًا بناءً على بيانات التدريب والمدخلات التي تتلقاها. قد لا تتمتع الشركات بالسيطرة الكاملة على المخرجات ، مما قد يؤدي إلى كشف محتوى حساس أو غير مناسب أثناء المحادثات. تمثل المعلومات المضمنة عن غير قصد في محادثة مع الذكاء الاصطناعي التوليدي خطر الكشف عنها لأطراف غير مصرح لها.

قد ينتج عن أنظمة الذكاء الاصطناعي التوليدية أيضًا محتوى غير مناسب أو مسيء ، مما قد يضر بسمعة الشركة أو يتسبب في مشاكل قانونية إذا تمت مشاركته علنًا. قد يحدث هذا إذا تم تدريب نموذج الذكاء الاصطناعي على بيانات غير مناسبة أو إذا تمت برمجته لإنشاء محتوى ينتهك القوانين أو اللوائح. تحقيقًا لهذه الغاية ، يجب على الشركات التأكد من امتثالها للوائح والمعايير المتعلقة بأمن البيانات والخصوصية ، مثل القانون العام لحماية البيانات (GDPR) أو قانون HIPAA.

في الحالات القصوى ، يمكن أن تصبح أنظمة الذكاء الاصطناعي التوليدية ضارة أو غير دقيقة إذا تلاعبت الأطراف الخبيثة بالبيانات الأساسية المستخدمة لتدريب الذكاء الاصطناعي التوليدي ، بقصد إنتاج نتائج ضارة أو غير مرغوب فيها – وهو عمل يُعرف باسم “تسمم البيانات”. يمكن أن تؤدي الهجمات ضد نماذج التعلم الآلي التي تدعم أنظمة الأمن السيبراني المدعومة بالذكاء الاصطناعي إلى انتهاكات للبيانات والكشف عن المعلومات ومخاطر أوسع للعلامة التجارية.

الضوابط يمكن أن تساعد في تخفيف المخاطر

للتخفيف من هذه المخاطر ، يمكن للشركات اتخاذ عدة خطوات ، بما في ذلك الحد من نوع البيانات التي يتم إدخالها في الذكاء الاصطناعي التوليدي ، وتنفيذ ضوابط الوصول إلى كل من الذكاء الاصطناعي وبيانات التدريب (على سبيل المثال ، تحديد من لديه حق الوصول) ، وتنفيذ مراقبة مستمرة نظام إخراج المحتوى. سترغب فرق الأمن السيبراني في النظر في استخدام بروتوكولات أمان قوية ، بما في ذلك التشفير لحماية البيانات ، والتدريب الإضافي للموظفين على أفضل الممارسات لخصوصية البيانات وأمانها.

تتيح التكنولوجيا الناشئة تحقيق أهداف العمل مع تحسين تجربة العملاء. تستعد أنظمة الذكاء الاصطناعي التوليدية لتحويل العديد من خطوط الأعمال التي تواجه العملاء في الشركات في جميع أنحاء العالم ويجب تبنيها لفوائدها الفعالة من حيث التكلفة. ومع ذلك ، يجب أن يكون أصحاب الأعمال على دراية بالمخاطر التي يقدمها الذكاء الاصطناعي لعمليات المؤسسة وسمعتها – والاستثمار المحتمل المرتبط بالإدارة السليمة للمخاطر. إذا تمت إدارة المخاطر بشكل مناسب ، فهناك فرص كبيرة للتنفيذ الناجح لنماذج الذكاء الاصطناعي هذه في العمليات اليومية.

إريك شميت هو الرئيس العالمي لأمن المعلومات في Sedgwick.