تعمل الأوزان والتحيزات على نسج إمكانات LLMOps الجديدة لتطوير الذكاء الاصطناعي ومراقبة النماذج

تعمل Weights & Biases الناشئة في سان فرانسيسكو على توسيع منصتها اليوم بإصدار زوج من الإمكانات الجديدة المصممة للمساعدة في تسهيل بناء ومراقبة نماذج التعلم الآلي (ML) للمؤسسات.

جعل LLMOps أسهل

تتضمن منصة الأوزان والتحيزات أدوات تساعد في تمكين دورة حياة تطوير الذكاء الاصطناعي / التعلم الآلي. في نهاية أبريل ، أضافت الشركة أدوات جديدة لتمكين LLMOps ، أي عمليات سير العمل لدعم وتطوير نماذج اللغات الكبيرة (LLMs). تهدف الإضافات الجديدة التي تم الإعلان عنها اليوم ، W & B Weave و W & B Production Monitoring ، إلى مساعدة المؤسسات بسهولة أكبر في تشغيل نماذج الذكاء الاصطناعي بشكل فعال لأعباء العمل الإنتاجية.

على الرغم من الإعلان الرسمي عن Weave اليوم فقط ، إلا أن التكرارات المبكرة كانت جزءًا أساسيًا من كيفية قيام Weights & Biases ببناء نظامها الأساسي العام لتوفير مجموعة أدوات لتصور تطوير الذكاء الاصطناعي.

“[Weave] هو جزء كبير جدًا من خريطة الطريق الخاصة بنا ، إنه شيء كنت أعمل عليه شخصيًا لمدة عامين ونصف الآن ، “قال شون لويس ، رئيس قسم التكنولوجيا والشريك المؤسس لشركة Weights & Biases لموقع VentureBeat. “إنه أمر أساسي ، لذلك هناك الكثير الذي يمكنك القيام به فوق هذا ؛ إنها أداة لتخصيص أدواتك لمجال مشكلتك “.

لا يقتصر الذكاء الاصطناعي على النماذج فحسب ، بل يتعلق بتصور كيفية استخدامها

أوضح لويس أن Weave تم تصميمه في الأصل كأداة لفهم النماذج والبيانات في سياق تجربة واجهة المستخدم المرئية والتكرارية (UI).

وصف Weave بأنها مجموعة أدوات تحتوي على عناصر أولية لواجهة مستخدم قابلة للتكوين يمكن للمطور تجميعها لإنشاء تطبيق AI. Weave يتعلق أيضًا بتجربة المستخدم ؛ يمكن أن تساعد علماء البيانات على تطوير تصورات تفاعلية للبيانات.

قال لويس: “Weave عبارة عن مجموعة أدوات لتكوين واجهات المستخدم معًا ، ونأمل أن تكون بطريقة بديهية للغاية لمستخدمينا ومهندسي البرمجيات الذين يعملون مع LLMs”. “إنه يساعدنا على جلب الأدوات إلى السوق داخليًا بسرعة كبيرة ، حيث يمكننا إنشاء تجارب مرئية على أنواع البيانات الجديدة بسهولة حقًا.”

في الواقع ، Weave هي الأداة التي استخدمتها Weights & Biases داخليًا لتطوير أدوات Prompts التي تم الإعلان عنها في أبريل. إنه الأساس الذي يمكّن أدوات مراقبة الإنتاج الجديدة أيضًا.

يتم توفير Weave مجانًا كأداة LLMOps مفتوحة المصدر ، بحيث يمكن لأي شخص استخدامها للمساعدة في إنشاء أدوات الذكاء الاصطناعي. تم دمجه أيضًا في منصة Weights & Biases بحيث يمكن لعملاء المؤسسات بناء تصورات كجزء من سير عمل تطوير الذكاء الاصطناعي الشامل لديهم.

بناء نموذج شيء ، ومراقبته شيء آخر تمامًا

إن بناء نموذج ML ونشره ليس هو الجزء الوحيد من دورة حياة الذكاء الاصطناعي. مراقبة ذلك أمر بالغ الأهمية أيضًا. هذا هو المكان الذي تتناسب فيه خدمة مراقبة الإنتاج في Weights & Biases.

أوضح لويس أن خدمة مراقبة الإنتاج قابلة للتخصيص لمساعدة المؤسسات على تتبع المقاييس التي تهمهم. عادةً ما تكون المقاييس الشائعة لأي نظام إنتاج حول التوافر ووقت الاستجابة والأداء. مع LLMs ، هناك أيضًا مجموعة من المقاييس الجديدة التي تحتاج المؤسسات إلى تتبعها. نظرًا لأن العديد من المؤسسات ستستخدم LLM تابعًا لجهة خارجية يتم فرض رسوم عليه بناءً على الاستخدام ، فمن المهم تتبع عدد استدعاءات واجهة برمجة التطبيقات التي يتم إجراؤها ، لإدارة التكاليف.

مع عمليات النشر التي لا تعتمد على LLM AI ، تعد مسألة الانجراف النموذجي من مخاوف المراقبة الشائعة ، حيث تتعقب المؤسسات لتحديد الانحرافات غير المتوقعة بمرور الوقت عن خط الأساس. قال لويس إنه باستخدام LLM – أي باستخدام الذكاء الاصطناعي التوليدي – لا يمكن تتبع انجراف النموذج بسهولة.

بالنسبة لنموذج الذكاء الاصطناعي التوليدي المستخدم للمساعدة في كتابة مقالات أفضل ، على سبيل المثال ، لن يكون هناك قياس واحد أو رقم واحد يمكن أن تستخدمه المنظمة لتحديد الانجراف أو الجودة ، كما قال لويس.

هذا هو المكان الذي تأتي فيه الطبيعة القابلة للتخصيص لمراقبة الإنتاج. في مثال كتابة المقالة ، يمكن للمؤسسة أن تختار مراقبة عدد الاقتراحات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يدمجها المستخدم بالفعل ومقدار الوقت الذي يستغرقه للحصول على أفضل نتيجة.

يمكن استخدام المراقبة للمساعدة في هلوسة الذكاء الاصطناعي. النهج الأكثر شيوعًا للحد من الهلوسة هو التوليد المعزز للاسترجاع (RAG). توفر هذه التقنيات المصادر لجزء معين من المحتوى الذي تم إنشاؤه. قال لويس إن أي مؤسسة يمكن أن تستخدم مراقبة الإنتاج للتوصل إلى تصور في لوحة معلومات المراقبة للمساعدة في الحصول على مزيد من الأفكار.

قال: “ربما لن تخبرك بشكل قاطع أن الهلوسة حدثت ، لكنها على الأقل ستمنحك كل المعلومات التي تحتاجها للنظر فيها ، وتشكل نوعًا خاصًا من الفهم البشري لما إذا كان ذلك قد حدث”.