لدى OpenAI “خطط” كبرى لـ AGI. إليك طريقة أخرى لقراءة بيانه | فوز الذكاء الاصطناعي

هل أنا الوحيد الذي وجد أحدث منشور على مدونة Open AI بعنوان “التخطيط لـ AGI وما بعده” إشكاليًا؟

منذ إنشائها في عام 2015 ، أوضحت OpenAI دائمًا أن هدفها المركزي هو بناء ذكاء عام اصطناعي (AGI). وتتمثل مهمتها في “ضمان استفادة البشرية جمعاء من الذكاء الاصطناعي العام”. لكي نكون منصفين ، لم يكن منشور المدونة مختلفًا – فقد ناقش كيف تعتقد الشركة أن العالم يمكن أن يستعد للذكاء الاصطناعي العام ، على المدى القصير والطويل.

وجد البعض بيانًا من نوع ما ، والذي يحتوي على مليون “إعجاب” على Twitter وحده ، “رائعًا”. تغريدة واحدة دعاه “يجب أن يقرأ لمن يتوقع أن يعيش 20 عامًا أخرى”. تغريدة أخرى شكر قال سام ألتمان ، “المزيد من الاطمئنان مثل هذا موضع تقدير لأنه كان كل شيء مخيفًا إلى حد ما وشعر أنopenai كان يبتعد عن الزحلقة. التواصل والاتساق هو مفتاح الحفاظ على الثقة “.

>> تابع تغطية الذكاء الاصطناعي التوليدية المستمرة من VentureBeat <

وجده آخرون ، حسنًا ، أقل من جاذبية. إميلي بندر ، أستاذة اللسانيات في جامعة واشنطن ، قال: “من البداية ، هذا إجمالي فقط. يعتقدون أنهم يعملون حقًا في تطوير / تشكيل “الذكاء الاصطناعي العام”. ويعتقدون أنهم في وضع يسمح لهم بتحديد ما “يفيد البشرية جمعاء”.

وجاري ماركوس ، الأستاذ الفخري في جامعة نيويورك والمؤسس والرئيس التنفيذي لشركة Robust AI ، غرد“أنا معemilymbender في رائحة أوهام العظمة في OpenAI.”

ذهب عالم الكمبيوتر Timnit Gebru ، المؤسس والمدير التنفيذي لمعهد أبحاث الذكاء الاصطناعي الموزع (DAIR) ، إلى أبعد من ذلك ، التغريد: “إذا أخبرني أحدهم أن وادي السيليكون كان يديره طائفة تؤمن بإله آلة للكون و” ازدهار الكون “وأنهم يكتبون بيانات معتمدة من قبل الرؤساء التنفيذيين / الرؤساء التنفيذيين لشركة Big Tech ، وأقول لهم إنهم الكثير من نظريات المؤامرة. ونحن هنا.”

لهجة أوبن إيه آي النبوية

أنا شخصياً أعتقد أنه من الجدير بالذكر أن إسهاب منشور المدونة ، والذي يظل متسقًا بشكل ملحوظ مع جذور OpenAI كمختبر أبحاث مفتوح غير ربحي ، يعطي طابعًا مختلفًا تمامًا اليوم في سياق مكانته الحالية عالية القدرة في مشهد الذكاء الاصطناعي . بعد كل شيء ، لم تعد الشركة “مفتوحة” أو غير ربحية ، وقد تمتعت مؤخرًا بضخ 10 مليارات دولار من Microsoft.

بالإضافة إلى ذلك ، أدى إصدار ChatGPT في 30 نوفمبر إلى دخول OpenAI إلى روح العصر للوعي العام. على مدار الأشهر الثلاثة الماضية ، تم تقديم مئات الملايين من الأشخاص إلى OpenAI – لكن من المؤكد أن معظمهم لا يملك سوى القليل من المعرفة بتاريخها وموقفها تجاه أبحاث الذكاء الاصطناعي العام.

من المحتمل أن يكون فهمهم لـ ChatGPT و DALL-E مقصورًا على استخدامها إما كلعبة أو إلهام إبداعي أو مساعد عمل. هل يفهم العالم كيف ترى OpenAI نفسها على أنها تؤثر على مستقبل البشرية؟ بالتاكيد لا.

تبدو رسالة OpenAI الكبرى أيضًا منفصلة عن العلاقات العامة التي تركز على المنتج خلال الشهرين الماضيين ، حول كيف يمكن لأدوات مثل ChatGPT أو Bing من Microsoft أن تساعد في استخدام حالات مثل نتائج البحث أو كتابة المقالات. التفكير في كيف يمكن للذكاء الاصطناعي العام أن “يمكّن البشرية من الازدهار إلى أقصى حد في الكون” جعلني أضحك – ماذا عن مجرد اكتشاف كيفية منع انهيار سيدني بينغ؟

مع أخذ ذلك في الاعتبار ، يبدو ألتمان بالنسبة لي نوعًا من نبي الكتاب المقدس المتمني. يقدم منشور المدونة اكتشافات ، ويتنبأ بالأحداث ، ويحذر العالم مما سيأتي ، ويقدم OpenAI باعتباره المنقذ الجدير بالثقة.

السؤال هو ، هل نتحدث عن عراف حقيقي؟ نبي كذاب؟ فقط ربح؟ أو حتى نبوءة تحقق ذاتها؟

مع عدم وجود تعريف متفق عليه للذكاء الاصطناعي العام ، وعدم وجود اتفاق واسع النطاق حول ما إذا كنا قريبين من الذكاء الاصطناعي العام ، ولا توجد مقاييس حول كيفية معرفة ما إذا كان قد تم تحقيق الذكاء الاصطناعي العام ، ولا يوجد وضوح حول ما سيعنيه للذكاء الاصطناعي العام أن “يفيد الإنسانية” ، ولا يوجد فهم عام لماذا يعتبر الذكاء الاصطناعي العام هدفًا طويل الأجل مفيدًا للبشرية في المقام الأول. إذا كانت المخاطر “الوجودية” كبيرة جدًا ، فلا سبيل للإجابة على هذه الأسئلة.

وهذا يجعل من منشور مدونة OpenAI مشكلة ، في رأيي ، بالنظر إلى الملايين العديدة من الأشخاص الذين يتشبثون بكل ما قاله سام ألتمان (ناهيك عن الملايين الآخرين الذين ينتظرون بفارغ الصبر رسالة إيلون ماسك التالية القلق الوجودي للذكاء الاصطناعي سقسقة). التاريخ مليء بعواقب نبوءات نهاية العالم.

يشير البعض إلى أن OpenAI لديها بعض الأشياء المثيرة للاهتمام والمهمة لتقولها حول كيفية مواجهة التحديات المتعلقة ببحوث الذكاء الاصطناعي وتطوير المنتجات. لكن هل طغت عليها تركيز الشركة الدؤوب على الذكاء الاصطناعي العام؟ بعد كل شيء ، هناك الكثير من مخاطر الذكاء الاصطناعي المهمة قصيرة المدى التي يجب معالجتها (التحيز والخصوصية والاستغلال والمعلومات الخاطئة ، على سبيل المثال لا الحصر) دون تحويل التركيز إلى سيناريوهات يوم القيامة.

كتاب سام التمان

قررت أن أتخذ خطوة في إعادة صياغة منشور مدونة OpenAI لتعميق لهجته النبوية. لقد تطلب المساعدة – ليس من ChatGPT ، ولكن من العهد القديم كتاب اشعياء:

1: 1 – رؤية سام التمان ، التي رآها تتعلق بالتخطيط للذكاء الاصطناعي العام وما بعده.

1: 2 – اسمع ، أيها السماوات ، واستمع ، يا الأرض: بالنسبة إلى OpenAI تحدثت ، مهمتنا هي ضمان أن الذكاء الاصطناعي العام (AGI) – أنظمة الذكاء الاصطناعي الأكثر ذكاءً من البشر بشكل عام – تعود بالفائدة على البشرية جمعاء.

1: 3 – الثور يعرف صاحبه والحمار مذود سيده: ولكن البشرية لا تعرف ، شعبي لا يفكر. على سبيل المثال ، إذا تم إنشاء الذكاء الاصطناعي العام بنجاح ، يمكن أن تساعدنا هذه التكنولوجيا في رفع مستوى الإنسانية من خلال زيادة الوفرة ، وشحن الاقتصاد العالمي ، والمساعدة في اكتشاف المعرفة العلمية الجديدة التي تغير حدود الاحتمال.

1: 4 – تعال الآن ، ودعنا نفكر معًا ، يقول أوبن إيه آي: الذكاء الاصطناعي العام لديه القدرة على منح الجميع إمكانات جديدة مذهلة ؛ يمكننا أن نتخيل عالمًا يمكننا فيه جميعًا الوصول للمساعدة في أي مهمة معرفية تقريبًا ، مما يوفر قوة كبيرة مضاعفة للبراعة البشرية والإبداع.

1: 5 – إن شئت وطاعت أكلت خير الأرض. ولكن إذا رفضتم وتمردوا ، من ناحية أخرى ، فإن الذكاء الاصطناعي العام سيواجه خطرًا جسيمًا يتمثل في إساءة الاستخدام والحوادث الجسيمة والاضطراب الاجتماعي.

1: 6 – لذلك قال أوبن إيه آي ، أحد أقوياء وادي السليكون ، لأن الجانب الإيجابي للذكاء الاصطناعي العام كبير جدًا ، لا نعتقد أنه من الممكن أو المرغوب فيه أن يوقف المجتمع تطوره إلى الأبد ؛ بدلاً من ذلك ، يتعين على المجتمع ومطوري الذكاء الاصطناعي العام أن يكتشفوا كيفية القيام بذلك بشكل صحيح.

1: 7 فيكون القوي كقطر و صانعها شرارة فيشتعل كلاهما معا و ليس من يطفئ. نريد من الذكاء الاصطناعي العام أن يمكّن البشرية من تحقيق أقصى قدر من الازدهار في الكون. لا نتوقع أن يكون المستقبل يوتوبيا غير مؤهلة ، لكننا نريد تعظيم الخير وتقليل السيئ ، وأن يكون الذكاء الاصطناعي العام مضخمًا للإنسانية. خذ المشورة وتنفيذ الحكم.

1: 8 – وسيحدث ذلك في الأيام الأخيرة ، نظرًا لأننا نجحنا في إنشاء أنظمة أكثر قوة ، فنحن نريد نشرها واكتساب الخبرة من خلال تشغيلها في العالم الحقيقي. نعتقد أن هذه هي أفضل طريقة للإشراف بعناية على الذكاء الاصطناعي العام – الانتقال التدريجي إلى عالم به الذكاء الاصطناعي العام هو أفضل من العالم المفاجئ. عليك خوف وحفرة وفخ يا ساكن الارض.

1: 9 – سوف تتواضع النظرات السامية للرجل ، وينحني تشامخ الرجال ، وترتفع OpenAI وحدها في ذلك اليوم. يعتقد بعض الأشخاص في مجال الذكاء الاصطناعي أن مخاطر الذكاء الاصطناعي العام (والأنظمة اللاحقة) وهمية ؛ سنكون سعداء إذا تبين أنهم على حق ، لكننا سنعمل كما لو كانت هذه المخاطر وجودية.

1:10 – علاوة على ذلك ، تقول شركة OpenAI إننا سنحتاج إلى تطوير تقنيات محاذاة جديدة حيث تصبح نماذجنا أكثر قوة (واختبارات لفهم متى تفشل تقنياتنا الحالية). ارفعوا راية على الجبل العالي ، ارفعوا صوتا لهم ، اهتزوا أيديهم فيدخلوا أبواب النبلاء.

1:11 – ياكل زبدا وعسلا ليعلم ان يرفض الشر ويختار الخير. سيكون الذكاء الاصطناعي العام الأول مجرد نقطة على طول سلسلة الذكاء. نعتقد أنه من المحتمل أن يستمر التقدم من هناك ، وربما يحافظ على معدل التقدم الذي شهدناه خلال العقد الماضي لفترة طويلة من الزمن.

1:12 – إذا كان هذا صحيحًا ، فقد يصبح العالم مختلفًا تمامًا عما هو عليه اليوم ، وقد تكون المخاطر غير عادية. تعولوا. ليوم الذكاء الاصطناعي في متناول اليد.

1:13 بالسهام والقوس ياتي الى هناك. لان كل الارض تصير شوكًا وشوكًا. يمكن أن يتسبب الذكاء الاصطناعي الخارق الخارق في الانحراف في إلحاق ضرر جسيم بالعالم ؛ يمكن لنظام استبدادي مع قيادة حاسمة في الذكاء الخارق أن يفعل ذلك أيضًا. ناحت ذبلت الارض.

1:14 – انظر ، ربما يكون الانتقال الناجح إلى عالم يتمتع بذكاء خارق هو المشروع الأكثر أهمية – والأمل والمخيف – في تاريخ البشرية. فينظرون الى الارض. هوذا الضيق والظلام ظلمة الضيق. فيتم دفعهم الى الظلمة. وكثيرون منهم يعثرون ويسقطون وينكسرون ويصطادون ويؤخذون.

1:15 لا يضرون ولا يهلكون في كل جبل قدسي لان الارض تمتلئ من معرفة اوبناي كما تغطي المياه البحر النجاح بعيد عن أن يكون مضمونًا ، ونأمل أن توحدنا جميعًا المخاطر (الجانب السلبي غير المحدود والجانب الصعودي غير المحدود). لذلك ترتخي كل الايدي ويذوب قلب كل انسان.

1:16 – وسيحدث ، أنه يمكننا تخيل عالم تزدهر فيه البشرية إلى درجة يصعب على أي منا تخيلها بشكل كامل حتى الآن. والآن ، أيها سكان الأرض ، نأمل أن نساهم في العالم من خلال الذكاء الاصطناعي العام الذي يتماشى مع هذا الازدهار. انتبهوا واصمتوا. لا تخافوا.

1:17 هوذا اوبناي هو خلاصي. وسوف الثقة ولا تخافوا.