تقنية

هل يمكننا بناء ذكاء اصطناعي جدير بالثقة؟


سنعتاد قريبًا على استخدام أدوات الذكاء الاصطناعي للمساعدة في حل المشكلات والمهام اليومية. يجب أن نتعود على التشكيك في الدوافع والحوافز والقدرات الكامنة وراءها أيضًا.

تخيل أنك تستخدم روبوت محادثة بالذكاء الاصطناعي للتخطيط لقضاء إجازة. هل اقترح منتجعًا معينًا لأنه يعرف تفضيلاتك ، أو لأن الشركة تحصل على رشوة من سلسلة الفنادق؟ في وقت لاحق ، عندما تستخدم روبوت محادثة آخر يعمل بالذكاء الاصطناعي للتعرف على قضية اقتصادية معقدة ، فهل يعكس برنامج الدردشة الآلي سياستك أو سياسات الشركة التي دربته؟

لكي يكون الذكاء الاصطناعي مساعدنا حقًا ، يجب أن يكون جديرًا بالثقة. لكي تكون جديرة بالثقة ، يجب أن تكون تحت سيطرتنا ؛ لا يمكن أن تعمل وراء الكواليس لبعض احتكار التكنولوجيا. هذا يعني ، على الأقل ، أن التكنولوجيا بحاجة إلى أن تكون شفافة. وعلينا جميعًا أن نفهم كيف يعمل ، على الأقل قليلاً.

وسط التحذيرات التي لا تعد ولا تحصى حول مريب مخاطر على الرفاه والتهديدات ديمقراطيةوحتى وجودي العذاب الذي صاحب التطورات الأخيرة المذهلة في الذكاء الاصطناعي (AI) – ونماذج اللغة الكبيرة (LLMs) مثل محادثةgpt و جيPT-4– رؤية متفائلة واضحة للغاية: هذه التكنولوجيا مفيدة. يمكن أن يساعدك في العثور على المعلومات والتعبير عن أفكارك وتصحيح الأخطاء في كتاباتك وغير ذلك الكثير. إذا تمكنا من التغلب على المزالق ، فإن فائدتها المساعدة للبشرية يمكن أن تحدد العصر. لكننا لم نصل إلى هناك بعد.

دعنا نتوقف للحظة ونتخيل إمكانيات مساعد ذكاء اصطناعي موثوق به. يمكنه كتابة المسودة الأولى لأي شيء: رسائل البريد الإلكتروني ، والتقارير ، والمقالات ، وحتى عهود الزفاف. سيتعين عليك إعطائها معلومات أساسية وتحرير ناتجها ، بالطبع ، لكن هذه المسودة ستكتب بواسطة نموذج مدرب على معتقداتك الشخصية ومعرفتك وأسلوبك. يمكن أن يكون بمثابة مدرسك ، حيث يجيب على الأسئلة بشكل تفاعلي حول الموضوعات التي تريد التعرف عليها – بالطريقة التي تناسبك بشكل أفضل مع مراعاة ما تعرفه بالفعل. يمكن أن يساعدك في التخطيط والتنظيم والتواصل: مرة أخرى ، بناءً على تفضيلاتك الشخصية. يمكن أن يدافع عنك مع أطراف ثالثة: إما بشر أو روبوتات أخرى. ويمكنه الإشراف على المحادثات على وسائل التواصل الاجتماعي من أجلك ، والإبلاغ عن المعلومات الخاطئة ، وإزالة الكراهية أو التصيد ، والترجمة للمتحدثين بلغات مختلفة ، والحفاظ على المناقشات حول الموضوع ؛ أو حتى التوسط في المحادثات في المساحات المادية ، والتفاعل من خلال قدرات التعرف على الكلام والتوليف.

إن أنظمة الذكاء الاصطناعي الحالية ليست جاهزة لهذه المهمة. لا تكمن المشكلة في التكنولوجيا – فهي تتقدم بشكل أسرع حتى من خمن الخبراء– من يملكها. يتم إنشاء أنظمة الذكاء الاصطناعي الحالية وإدارتها بشكل أساسي من قبل شركات التكنولوجيا الكبيرة ، من أجل مصلحتها وربحها. في بعض الأحيان يُسمح لنا بالتفاعل مع روبوتات المحادثة ، لكنها ليست ملكًا لنا حقًا. هذا تضارب في المصالح ، وتضارب يقضي على الثقة.

إن الانتقال من الاستخدام الرهيب والشغوف إلى الشك إلى خيبة الأمل هو أمر مستهتر في قطاع التكنولوجيا. منذ عشرين عامًا ، كان محرك بحث Google بسرعة صعدت إلى الهيمنة الاحتكارية بسبب قدرتها على استرجاع المعلومات التحويلية. بمرور الوقت ، أدى اعتماد الشركة على الإيرادات من الإعلانات على شبكة البحث إلى ذلك تحط من قدر تلك القدرة. اليوم ، العديد من المراقبين أتطلّع لذلك حتى موت نموذج البحث تمامًا. سار أمازون على نفس الدرب ، من سوق نزيهة إلى سوق مليئة بالحيوية المنتجات الرديئة البائعين الذين لديهم مدفوع لجعل الشركة تظهر لك. يمكننا أن نفعل أفضل من هذا. إذا كان كل واحد منا سيحصل على مساعد ذكاء اصطناعي يساعدنا في الأنشطة الأساسية يوميًا وحتى الدعوة نيابة عنا ، فكل منا بحاجة إلى معرفة أن لديه اهتماماتنا في الاعتبار. سيتطلب بناء ذكاء اصطناعي جدير بالثقة تغييرًا منهجيًا.

أولاً ، يجب أن يتحكم المستخدم في نظام الذكاء الاصطناعي الجدير بالثقة. هذا يعني أن النموذج يجب أن يكون قادرًا على العمل على الأجهزة الإلكترونية المملوكة للمستخدم (ربما بتنسيق مبسط شكل) أو داخل خدمة سحابية يتحكمون فيها. يجب أن يُظهر للمستخدم كيف يكون الأمر بالنسبة له ، مثل عندما يقدم استعلامات للبحث في الويب أو الخدمات الخارجية ، أو عندما يوجه برنامجًا آخر للقيام بأشياء مثل إرسال بريد إلكتروني نيابة عن المستخدم ، أو تعديل استجابة المستخدم اِسْتَدْعَىللتعبير بشكل أفضل عما تعتقد الشركة التي جعلتها أن المستخدم يريده. يجب أن تكون قادرة على شرح أسبابها للمستخدمين والاستشهاد بمصادرها. هذه المتطلبات كلها ضمن القدرات التقنية لأنظمة الذكاء الاصطناعي.

علاوة على ذلك ، يجب أن يتحكم المستخدمون في البيانات المستخدمة لتدريب نظام الذكاء الاصطناعي وضبطه. عندما يتم بناء LLMs الحديثة ، يتم تدريبهم أولاً على شركة عامة من البيانات النصية عادةً ما يتم الحصول عليها من عبر الإنترنت. تتقدم العديد من الأنظمة إلى أبعد من ذلك الكون المثالى على مجموعات بيانات أكثر تحديدًا تم تصميمها لتطبيق ضيق ، مثل التحدث بلغة ملف طبيبأو تقليد طريقة وأسلوب المستخدم الفردي. في المستقبل القريب ، سيتم تغذية أنظمة الذكاء الاصطناعي الخاصة بالشركات بشكل روتيني ببياناتك ، ربما بدون وعيك أو موافقتك. يجب أن يسمح أي نظام ذكاء اصطناعي جدير بالثقة للمستخدمين بشفافية بالتحكم في البيانات التي يستخدمها.

يرحب الكثير منا بتطبيق الكتابة بمساعدة الذكاء الاصطناعي الذي تم ضبطه بدقة مع معرفة التعديلات التي قبلناها في الماضي والتي لم نقبلها. سنكون أكثر تشككًا في وجود روبوت محادثة على دراية بأي من نتائج البحث الخاصة به أدى إلى عمليات شراء وأيها لم يؤدي إلى ذلك.

يجب أيضًا أن تكون على علم بما يمكن أن يفعله نظام الذكاء الاصطناعي نيابة عنك. هل يمكنه الوصول إلى تطبيقات أخرى على هاتفك والبيانات المخزنة بها؟ هل يمكنه استرداد المعلومات من مصادر خارجية ، مع مزج مدخلاتك بتفاصيل من أماكن أخرى قد تثق بها أو لا تثق بها؟ هل يمكنه إرسال رسالة باسمك (نأمل أن تكون بناءً على إدخالك)؟ سيصبح وزن هذه الأنواع من المخاطر والفوائد جزءًا لا يتجزأ من حياتنا اليومية حيث يتم دمج الأدوات المساعدة للذكاء الاصطناعي مع كل ما نقوم به.

من الناحية الواقعية ، يجب أن نستعد جميعًا لعالم لا يكون فيه الذكاء الاصطناعي جديرًا بالثقة. نظرًا لأن أدوات الذكاء الاصطناعي يمكن أن تكون مفيدة للغاية ، فإنها ستنتشر بشكل متزايد في حياتنا ، سواء كنا نثق بها أم لا. سيتطلب كونك مواطنًا رقميًا في الربع القادم من القرن الحادي والعشرين تعلم خصوصيات وعموميات LLM الأساسية حتى تتمكن من تقييم مخاطرها وقيودها لحالة استخدام معينة. سيؤدي ذلك إلى إعدادك بشكل أفضل للاستفادة من أدوات الذكاء الاصطناعي ، بدلاً من الاستفادة منها.

في الأشهر القليلة الأولى من الاستخدام الواسع لنماذج مثل ChatGPT في العالم ، تعلمنا الكثير عن كيفية قيام الذكاء الاصطناعي بإحداث مخاطر للمستخدمين. لقد سمع الجميع الآن أن LLMs “هلوسة” ، مما يعني أنها تشكل “حقائق” في مخرجاتها ، لأن أنظمة توليد النص التنبئي الخاصة بهم ليست مقيدة بالتحقق من حقيقة انبعاثها. العديد من المستخدمين تعلمت في مارس ، قد لا يتم الاحتفاظ بسرية المعلومات التي يرسلونها كمطالبات لأنظمة مثل ChatGPT بعد أن كشف خطأ عن محادثات المستخدمين. يتم تخزين سجلات الدردشة الخاصة بك في أنظمة قد تكون غير آمنة.

وجد الباحثون عديد ذكي طرق لخداع روبوتات المحادثة من أجل خرق ضوابط السلامة الخاصة بهم ؛ تعمل هذه إلى حد كبير لأن العديد من “القواعد” المطبقة على هذه الأنظمة لينة ، مثل تعليمات تُمنح لشخص ، بدلاً من القيود الصارمة ، مثل القيود المشفرة على وظائف المنتج. يبدو الأمر كما لو أننا نحاول الحفاظ على أمان الذكاء الاصطناعي من خلال مطالبتهم بالقيادة بحذر ، وتعليمات مفعمة بالأمل ، بدلاً من سحب مفاتيحه ووضع قيود محددة على قدراته.

ستزداد هذه المخاطر مع قيام الشركات بمنح أنظمة chatbot المزيد من الإمكانات. يوفر OpenAI للمطورين على نطاق واسع وصول لإنشاء أدوات أعلى GPT: الأدوات التي تمنح أنظمة الذكاء الاصطناعي الخاصة بهم إمكانية الوصول إلى بريدك الإلكتروني ، وإلى معلومات حسابك الشخصي على مواقع الويب ، وإلى كود الكمبيوتر. بينما تطبق OpenAI بروتوكولات الأمان على عمليات الدمج هذه ، فليس من الصعب تخيل أولئك الذين يتم استرخائهم في محرك الأقراص لجعل الأدوات أكثر فائدة. يبدو أيضًا أنه من المحتم أن تأتي الشركات الأخرى مع استراتيجيات أقل خداعًا لتأمين حصتها في سوق الذكاء الاصطناعي.

تمامًا كما هو الحال مع أي إنسان ، سيكون بناء الثقة باستخدام الذكاء الاصطناعي أمرًا صعبًا من خلال التفاعل مع مرور الوقت. سنحتاج إلى اختبار هذه الأنظمة في سياقات مختلفة ، ومراقبة سلوكها ، وبناء نموذج عقلي لكيفية استجابتها لأفعالنا. لا يمكن بناء الثقة بهذه الطريقة إلا إذا كانت هذه الأنظمة شفافة بشأن قدراتها ، وما هي المدخلات التي تستخدمها ومتى تشاركها ، ومصالح من تتطور لتمثيلها.

هل تريد معرفة المزيد عن الذكاء الاصطناعي وروبوتات المحادثة ومستقبل التعلم الآلي؟ تحقق من تغطيتنا الكاملة لـ الذكاء الاصطناعيأو تصفح أدلةنا إلى أفضل مولدات فنية مجانية لمنظمة العفو الدولية و كل ما نعرفه عن ChatGPT الخاص بـ OpenAI.

ناثان إي ساندرز عالم بيانات وعضو في مركز بيركمان كلاين بجامعة هارفارد.

بروس شناير هو تقني أمني ومحاضر في السياسة العامة في كلية هارفارد كينيدي.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى
karnataka xvideo pornmovieswatch.org sex sagr
bangla chodan xshaker.net download indiansex video
بيرازر meyzo.info افلام دراما سكس
mallu blue film eroanal.net xnxxbest
locel xxx video waplo.info desi kannada sex
chut pics cumporntrends.com tight pussy xvideo
indian kitchen room tubedesiporn.com marwadi girl sex
bengoli xxx movie redwap3.com malayalam blue filim
indian@aloha tube eromoms.net www.pronstarxvidoes
bangla chodachudi pornjob.info meena sexy pics
صورة بنات سكس xxcmh.com فيلم سكس صيني
www desi xx com browntubeporn.com wild ass fuck
www.hot vido 3gpjizz.mobi sunny leone tube 8
funmaza dampxxx.org varun dhawan sex
اغتصاب مصري arabicpornvideo.com دخله براحه
toto togel situs togel toto slot situs toto rtp slot cerutu4d toto slot situs toto bo togel situs togel situs toto situs togel situs togel toto togel pam4d toto togel situs toto situs togel situs toto situs togel toto togel situs togel situs togel bandar toto situs togel bo togel situs toto situs togel situs toto situs togel toto slot pam4d bento4d bento4d bento4d jacktoto jacktoto cerutu4d cerutu4d situs toto situs togel situs toto situs toto situs toto situs togel situs toto bandar togel situs toto situs toto situs toto situs toto situs togel situs togel resmi situs togel situs toto resmi situs togel resmi situs toto toto slot situs toto situs toto situs toto situs togel situs toto situs toto macau bo toto bo toto situs toto toto togel situs toto togel resmi situs toto situs toto situs togel situs togel resmi pengeluaran macau situs toto situs toto situs togel situs togel situs toto situs toto toto slot situs toto situs togel situs toto slot cerutu4d bo toto situs toto situs toto situs toto situs toto macau cerutu4d situs toto situs toto macau bet togel toto togel gimbal4d gimbal4d toto slot situs toto situs toto toto slot situs toto situs toto toto togel situs toto toto slot situs togel situs toto slot live casino toto slot toto togel situs togel situs toto bandar togel bandar togel situs toto bo togel situs toto daftar situs togel situs togel situs toto situs toto situs toto bakautoto situs bandar togel bakautoto situs resmi toto togel bakautoto situs toto togel terpercaya 2024 situs toto situs toto