تستخدم الأوزان والتحيزات لأول مرة أدوات LLMOps لتحفيز مهندسي الدعم

يولد عصر الذكاء الاصطناعي التوليدي ونماذج اللغات الكبيرة (LLMs) فئة جديدة من الأدوات تُعرف باسم LLMOps لدعم احتياجات المستخدمين.

أعلنت شركة Weights and Biases الناشئة في سان فرانسيسكو عن تحديث رئيسي هذا الأسبوع لمنصة MLOps الخاصة بها ، والموجهة لتمكين LLMOps. مع العمليات المستندة إلى LLM ، لا تقوم المؤسسات والمستخدمون عادةً ببناء نماذج جديدة تمامًا ؛ بدلاً من ذلك ، غالبًا ما يقومون بصقل واستخدام المطالبات لتوليد النتائج التي يريدونها. تكمن الحاجة إلى دعم حالة الاستخدام هذه وراء إطلاق ميزة W & B Prompts اليوم على منصة Weights and Biases. تتضمن الميزة الجديدة قدرات لمساعدة المستخدمين على بناء تطبيقات قائمة على LLM بسرعة من خلال سلسلة من المطالبات المتسلسلة التي تؤدي إلى مخرجات محسّنة.

قال لوكاس بيوالد ، الرئيس التنفيذي والشريك المؤسس لشركة Weights and Biases ، خلال لقاء مستخدم مباشر من لندن: “كانت مهمتنا دائمًا هي بناء أفضل الأدوات لممارسي التعلم الآلي”. “نحدد ممارسي التعلم الآلي على نطاق واسع مثل أي شخص يحاول جعل نماذج التعلم الآلي تعمل في العالم الحقيقي.”

المسار من التعلم الآلي إلى الهندسة السريعة

منذ عام 2017 ، تقوم W & B ببناء منصة MLOps الخاصة بها وتطويرها مع تغير احتياجات وأنواع المستخدمين.

أشار بيوالد إلى أن أول شيء بنته الشركة هو قدرة تسمى التجارب التي تم تصميمها لمساعدة مهندسي التعلم الآلي على تتبع التجارب. ساعدت هذه الميزة الأولية في تتبع جميع النماذج التي كانت المؤسسة تبنيها وفهم كيفية تقدمها أو تراجعها بمرور الوقت.

وسعت W & B النظام الأساسي من تلك البدايات لإضافة تحسين المعلمات للنماذج ، وميزة إعداد التقارير لمساعدة مجموعات المطورين على التعاون ، وسلسلة من الميزات المتقدمة لتتبع القطع الأثرية وإدارة سير عمل النموذج ونشره.

كان هناك ارتفاع في الهندسة السريعة في الأشهر الأخيرة. المحفز لهذا التغيير هو اعتماد المؤسسات المتزايد على LLMs من البائعين ، بما في ذلك OpenAI و Cohere ، بدلاً من محاولة بناء نماذجهم الفريدة تمامًا.

الهندسة السريعة هي الطريقة الأكثر شيوعًا لاستخدام نماذج اللغات الكبيرة في الوقت الحالي. أنت لا تقوم بضبطها ، لا تبنيها بنفسك ؛ فأنت تأخذ شيئًا ما من على الرف ثم تكتشف كيف تجعله مفيدًا ، “قال بيوالد.

أشار بيوالد إلى أنه في الماضي قد يستغرق الأمر من عالم البيانات أو مهندس التعلم الآلي وقتًا وجهدًا كبيرين لتطبيق تحليل المشاعر على مجموعة بيانات. في عصر LLMs ، غالبًا ما يكون تنفيذ تحليل المشاعر سهلاً مثل مجرد الحصول على الموجه الصحيح.

قال: “لقد توسع السوق بشكل كبير وأعتقد أن كل مطور برامج – ربما كل شخص الآن – يمكن أن يكون ممارسًا للتعلم الآلي”. “يمكن للجميع استخدام نماذج التعلم الآلي للتطبيقات الواقعية دون الحاجة إلى الكثير من التدريب.”

تتلاءم أدوات W & B Prompts الجديدة مع مشهد LLMOps الناشئ من خلال مساعدة الشركات على بناء مطالبات دقيقة وفعالة للمهام المعقدة.

في سلسلة من العروض التجريبية السريعة ، أظهر بيوالد ما يمكن أن تفعله الأدوات الجديدة. أولاً ، كانت مجموعة من الأدوات لتصحيح الأخطاء التي يمكن استخدامها لمساعدة المهندس الفوري على تتبع الأخطاء المحتملة وتتبعها وتصحيحها في سلسلة فورية (مجموعة من المطالبات) ؛ يتم استخدام سلسلة المطالبة معًا أو بالتتابع للحصول على النتيجة المثالية.

تم دمج LangChain ، وهو إطار عمل لتطوير التطبيقات المدعومة بنماذج اللغة ، مع موجهات W & B. بالنسبة إلى LLMs المستندة إلى OpenAI ، تقدم W & B دعمًا متكاملًا لتسجيل مطالبات الفعالية مع إطار عمل OpenAI Evals.

قال بيوالد: “يمكننا أن ننظر إلى مدى جودة عمل النماذج المختلفة ، ونأمل أن نعرف ما إذا كانت النماذج تتحسن أو تتدهور بينما تقوم بتغيير محفزاتك”.