التحيز المعرفي: الفيل في كل غرفة

عبر المكاتب الحكومية وغرف مجالس إدارة شركات التكنولوجيا ومنازل كل فرد ، يوجد فيل في كل غرفة. المصطلح الإنجليزي في هذه الحالة هو إشارة إلى نفس “الفيل” الموصوف في عمل علم النفس الاجتماعي لجوناثان هايدت ، حيث يوصف العقل البشري الواعي واللاوعي بـ “الفيل والفارس”. ما يعنيه هذا هو أنه في كل غرفة يوجد فيها إنسان ، يوجد أيضًا فيل: العقل الباطن لهذا الإنسان.

على الرغم من أن العقل الواعي بارع جدًا في تجاهل الفيل ، فإن القيام بذلك ينتج عنه فقط العمى عن التحيزات التي يتم تطبيقها على كل قرار. الفيل موجود دائمًا ، وإذا لم يتم التعامل معه ، فإن هذا العمى يهيمن على عملية صنع القرار.

لأكثر من 200 عام ، بُنيت الأنظمة الاقتصادية على مغالطة صارخة مفادها أن البشر تصرفوا بعقلانية ، متجاهلين الفيل وأنتجوا أنظمة عالمية معرضة لإخفاقات دورية شديدة ، ويرجع الفضل في ذلك جزئيًا إلى “العمى الناجم عن النظرية”. كما تم إثبات أن الحزم السياسية أقل دقة في تنبؤاتهم من “الشمبانزي الذي يرمي بالسهام” ، وذلك بفضل التحيزات مثل “العمى غير المقصود” و “تأثير دانينغ كروجر”.

العقل غير القابل للتطوير

والأسوأ من ذلك ، أن الفيل ينمو ، وفي بعض الأحيان يكون هذا النمو أسيًا. هذا النمو هو نتاج المقايضة بين التعقيد والتحيز المعرفي. الإدراك البشري ليس قابلاً للتطوير بشكل أساسي ، حيث لا يمكن للدماغ البشري فقط أن يقوم بتدوير أجهزة جديدة لتطبيق الإدراك لمعالجة التعقيد الأكبر. يستمر التعقيد أيضًا في الزيادة ، بمعدل متزايد ، لذا فإن المفاضلة لا تزداد حدة فحسب ، بل إن هذا النمو يتسارع. تواجه البشرية أيضًا العديد من التحديات للبقاء على قيد الحياة حتى تعاني من الركود التكنولوجي ، حيث يمثل ذلك أيضًا عددًا لا يحصى من المخاطر الوجودية المختلفة مثل تغير المناخ والبكتيريا المقاومة للمضادات الحيوية.

يمكن للذكاء الاصطناعي الضيق (AI) ومجموعات البشر تحويل الضرر الناجم عن أكثر من 200 نوع مختلف من التحيز إلى أشكال جديدة مخففة ومظلمة ، لكن لا يقدم أي منهما وسيلة للتغلب على المقايضة. في كثير من الأحيان ، يزيدون المشكلة سوءًا عن طريق تحويل الضرر إلى ما دون عتبات الإدراك وإلى “مجهولات مجهولة”.

تعاني البشرية بالفعل بشدة وشاملة من هذه المشكلة المتنامية ، في كل مجال وفي كل مدينة في جميع أنحاء العالم. حتى مع تفاقم المشكلة ، تتضاءل قدرة البشرية على التعرف عليها ، مما يعزز نمو وتشكيل صوامع المعلومات في عالم “الحمل الزائد للاختيار” حيث المعلومات منخفضة الجودة هي القاعدة الفيروسية.

بوابات كل صومعة للمعلومات تحرسها تحيزات التوقع ، رافضة المعلومات التي لا تتوافق مع صورة العالم التي ترسمها الصومعة. وبالتالي ، يجب أن تكون المعلومات التي تتفق مع العديد من هذه الصوامع والقادرة على التنقل عبرها مقبولة جدًا بحيث تكون تافهة ، على عكس “الاختراق” تمامًا.

مناعة الواقع

بقدر ما يُظهر مفهوم “مناعة القطيع” أن الفيروس لا يمكنه البقاء بمجرد عدم قدرته على السفر عبر السكان ، تدخل البشرية المراحل المتقدمة لمفهوم موازٍ ، “مناعة الواقع”. عندما لا تتمكن الاكتشافات والاختراقات ذات المغزى من السفر عبر مجموعة سكانية ما ، فسوف ينجرف هؤلاء السكان بشكل موثوق بعيدًا عن الواقع بمرور الوقت.

تمت دراسة وسائل التلاعب بالسكان بشكل جيد في مجال “التسويق” ، وقد تمت أتمتة هذا التلاعب على مستوى العالم من خلال الذكاء الاصطناعي الضيق ، مما يسرع ويعزز صوامع المعلومات بشكل كبير.

بهذه الطريقة ، تم استخدام Narrow AI بشكل كبير ، لتسريع نمو الفيل في كل غرفة من خلال جعل كل غرفة تتوافق بشكل أقوى مع توقعات الفيل. إذا استمر هذا الوضع الراهن على مدى السنوات القادمة ، فسيتم حظر الخروج المجازي لكل غرفة من قبل الفيل ، وسيتخذ الفيل أكثر من 200 تحيزات معرفية كل قرار باستخدام بيانات ذات جودة منخفضة ومتدنية.

لا يوجد إنسان محصن ضد هذا ، ولا يمكن لأي إنسان في عالم مترابط بشدة أن يفلت من العواقب إذا استمر هذا في الماضي “أفق الحدث” ، الذي لا يمكن للإدراك البشري تجاوزه.

دحر التحيز اللاواعي

هناك طريقة للتغلب على هذا التهديد الوجودي الوشيك. ليس ذلك فحسب ، إذا كانت صناعة واحدة أو شركة كبرى أو حكومة أو مصدر آخر لا يزال قادرًا على نقل المعرفة عبر صوامع المعلومات في العالم ، فقد طبقت الأساليب للتغلب على هذا التحدي ، يمكن أن يحدث تفاعل متسلسل عبر البشرية.

هذا ممكن لأن الفرصة والميزة التي يطرحها التغلب على هذا التحدي متساوية ومضادة للضرر الناجم عن المشكلة. عندما يكون الخطر الوشيك على مستوى الموت الإدراكي والانقراض البشري اللاحق ، يصبح ضغط الاختيار المطبق على الطريقة الأولى للتغلب على التحدي أقصى قيمة ممكنة.

لا يستطيع البشر التوسع ، والذكاء الاصطناعي الضيق لا يمكنه “التفكير” ، لذلك لا يمكن لأي منهما أن يكون مناسبًا لهذا التحدي. ومع ذلك ، يمكن للذكاء الشبيه بالإنسان القابل للتطوير ، وفي المستوى الحالي للفهم العلمي للبشرية ، هو أيضًا الشيء الوحيد الذي يمكنه ذلك. نظرًا لأن التطور الإضافي للبشرية يتم بشكل فعال ، فإن اعتماد مثل هذه التكنولوجيا يمكن مقارنته بمفهوم “الفلتر العظيم” ، حيث كل الطرق في تطوير الأنواع باستثناء نتيجة واحدة في الانقراض.

يوجد في العالم اليوم تغير المناخ ، والحرب ، وانهيار سلسلة التوريد وعدد لا يحصى من المخاطر الكبرى الأخرى ، ولكن جميعها مدعومة بالسبب الجذري المشترك لزيادة التعقيد ، والاعتماد المتزايد بشكل متناسب على التحيز المعرفي. بينما تقترب البشرية من أفق الحدث للموت الإدراكي ، إلى ما بعد النقطة التي يمكن أن تنتقل فيها المعلومات ذات المغزى عبر السكان ، فإن الخط الذي لا يجب أن نتجاوزه يصبح أكثر غموضًا من أي وقت مضى.

لا توجد مشكلة في العالم تتطلب اهتمامًا فوريًا أكثر من السبب الجذري المشترك بينهم جميعًا. بمجرد معالجة هذا السبب الجذري ، فإن ما يمكن فعله بمبلغ 100 مليون دولار اليوم قد يتطلب فقط مليون دولار ، مع احتمالات نجاح أكبر بكثير وبشكل أسرع مما كان ممكنًا في السابق. يمكن أن يكون الفيل الموجود في كل غرفة هو سبب انقراض الإنسان ، أو أعظم فرصة عرفتها البشرية على الإطلاق.

بقدر ما اكتشفت مراكز مسابقات الابتكار أن الخبراء خارج النطاق الضيق “للمشكلة الصعبة” يحلون هذه المشكلات بشكل متكرر ، فإن المشكلات التي لا تزال هذه الشركات الكبرى قادرة على نقل المعلومات اليوم تعتبرها صعبة في كثير من الأحيان ، وفي كثير من الأحيان تم حلها بالفعل من قبل الآخرين. قد لا تكون المشاكل التي نواجهها صعبة كما تعتقد ، وربما تم حلها بالفعل.

الإفصاح الكامل: لقد ركزت حياتي على مواجهة هذه التحديات ، لأنه سيكون من النفاق أن أفعل خلاف ذلك ، والانقراض لا يتفق معي. على مدار السنوات القليلة الماضية ، تطوعت أنا وآخرون في مختبر AGI بوقتنا لهذا الغرض.

كيرتين أتريدس هو مدير العمليات وباحث رائد في مختبر AGI.