نيك بوستروم

1. مقدمة

نيك بوستروم (وُلد باسم نيكلاس بوستروم، 1973) فيلسوف معاصر يقع عمله عند تقاطع الفلسفة التحليلية ودراسات التكنولوجيا والأخلاق الموجهة نحو المستقبل. ويُرتبط بوجه خاص بمفاهيم المخاطر الوجودية والذكاء الفائق والاستدلال الإنساني الانتروبي، وكذلك بالتطور الفلسفي للتعزيزية الإنسانية (ما بعد الإنسانية) والمدى البعيد.

تلقى بوستروم تعليمه في الفلسفة والمنطق والرياضيات والتخصصات ذات الصلة في السويد والمملكة المتحدة، وقد سعى إلى تطبيق أدوات صورية، ولا سيما نظرية الاحتمالات ونظرية القرار، على مسائل كانت تُعامل تقليديًا بوصفها تأملية أو نظرية محضة. ومن هذه المسائل احتمال انقراض البشر، والوضع الأخلاقي للكائنات المستقبلية، والتبعات المعرفية للعيش في كون بلغت تكنولوجيته مرحلة متقدمة.

بصفته المدير المؤسس لمعهد مستقبل الإنسانية (FHI) في جامعة أكسفورد، أسهم في إضفاء الطابع المؤسسي على البحث في المخاطر الكارثية العالمية والمستقبل البعيد، عاملًا عبر الفلسفة وعلوم الحاسوب والاقتصاد والسياسات العامة. وقد نقلت حجته المحاكاتية التي طرحها عام 2003، وكتابه «الذكاء الفائق: المسارات والمخاطر والاستراتيجيات» (Superintelligence: Paths, Dangers, Strategies) الصادر عام 2014، نقاشات شديدة التقنية والتجريد إلى ساحات عامة وسياسية أوسع.

يصف المؤيدون بوستروم بأنه شخصية رائدة في توجيه الأخلاق والخطاب العام نحو آفاق زمنية بعيدة جدًا، ونحو نتائج ذات احتمال منخفض وأثر كبير. ويرى المنتقدون أن جوانب من عمله تأملية، أو مثيرة للجدل منهجيًا، أو مشحونة سياسيًا. وبصرف النظر عن التقييم، أصبحت أفكاره مرجعًا مركزيًا في النقاشات حول الذكاء الاصطناعي والتعزيز البشري ومسؤوليات الجيل الحالي تجاه أحفاد محتملين في مستقبل بعيد.

2. الحياة والسياق التاريخي

نبذة عن حياته

وُلد بوستروم في 10 مارس 1973 في هلسينغبورغ بالسويد. وتؤكد الروايات عن طفولته اهتماماته الواسعة والذاتية التعلم بالفلسفة والعلم والرياضيات خارج نطاق التعليم النظامي. وفي تسعينيات القرن العشرين درس الفلسفة والمنطق والرياضيات والفيزياء في جامعة غوتنبرغ وكلية كينغز لندن، ثم نال لاحقًا درجة الدكتوراه في الفلسفة من كلية لندن للاقتصاد عام 2000، وكان عمله متصلًا بالاحتمال واختيار الرصد والاستدلال الإنساني الانتروبي.

بعد مناصب أكاديمية قصيرة، التحق بوستروم بجامعة أكسفورد، حيث أسس في عام 2005 معهد مستقبل الإنسانية. وأصبح المعهد مركزًا للبحث متعدد التخصصات في المخاطر الوجودية والمستقبل البعيد، إلى أن أُغلق كوحدة تابعة لجامعة أكسفورد في أوائل عشرينيات القرن الحادي والعشرين، وذلك في سياق إعادة تنظيم مؤسسية أوسع ونقاشات حول نطاق هذا العمل.

السياق التاريخي والفكري

تطورت مسيرة بوستروم في ظل تسارع تقنيات المعلومات، وتجدد الاهتمام بالذكاء الاصطناعي، والقلق من المخاطر الكارثية العالمية مثل الحرب النووية والأوبئة المصنعة. كما شهدت نهاية القرن العشرين وبداية القرن الحادي والعشرين أيضًا:

وفي هذا السياق، أسهم عمل بوستروم في الاستجابة للخطابات الناشئة حول كيفية تشكيل التقنيات التحويلية لمسار الحضارة، كما أسهم في بلورة تلك الخطابات.

3. التطور الفكري

التكوين المبكر والتدريب متعدد التخصصات

تجمّع بوستروم، في سنوات تكوينه ودراساته الجامعية، بين اهتمامات في الفلسفة التحليلية والمنطق الصوري ونظرية الاحتمالات والعلوم الطبيعية. وقد أثّرت هذه الخلفية متعددة التخصصات في إصراره اللاحق على أن الأسئلة المتعلقة بمستقبل البشرية ووضعها الميتافيزيقي ينبغي أن تُعالَج بالتحليل المفاهيمي الدقيق والأدوات الرياضية، لا بالسرد التأملي وحده.

أثناء دراساته للدكتوراه في كلية لندن للاقتصاد، اشتغل بنظرية القرار ونظرية المعرفة البايزية وأسس نظرية الاحتمالات. وقد أثمر هذا العمل بحوثًا مبكرة حول تأثيرات الانتقاء الرصدي، جُمعت لاحقًا في كتاب «تحيز الأنثروبيك» (Anthropic Bias)، وفيه استكشف كيف ينبغي أن يؤثر كون المرء مراقبًا من نوع بعينه في درجات الاعتقاد العقلانية.

التحول نحو التعزيزية الإنسانية والمخاطر الوجودية

في أواخر تسعينيات القرن العشرين، توسعت اهتمامات بوستروم من الأسئلة المعرفية المجردة إلى القضايا المعيارية المتعلقة بتعزيز الإنسان والمستقبل بعيد المدى. وقد شارك في تأسيس الجمعية العالمية للتعزيزية الإنسانية (WTA) عام 1998، وسعى إلى صياغة أساس فلسفي صارم للتحول التقني الذاتي والإمكانات ما بعد الإنسانية والاهتمام الأخلاقي بالكائنات المستقبلية.

وفي الفترة نفسها تقريبًا، بدأ يحلل التهديدات التي قد تحدّ على نحو دائم من إمكانات البشرية، فصاغ مفهوم المخاطر الوجودية ونظّمه. وقد نقل هذا تركيزه من أخلاق الفرد إلى نتائج على مستوى السكان والحضارة.

أكسفورد والتركيز على المستقبلات العالمية

بعد انتقاله إلى أكسفورد وتأسيسه معهد مستقبل الإنسانية (2005)، كرّس بوستروم جهوده بصورة متزايدة للدراسات متعددة التخصصات حول المخاطر الكارثية العالمية، مع اهتمام خاص بالذكاء الاصطناعي المتقدم. وقد تضمن تطوره الفكري هنا تعاونًا متواصلًا مع علماء الحاسوب والاقتصاديين وباحثي السياسات، فأسفر ذلك عن أعمال تمزج بين النمذجة الصورية وتحليل السيناريوهات والنظرية الأخلاقية.

الأعمال اللاحقة حول المعنى واليوتوبيا

منذ أواخر العقد الثاني من القرن الحادي والعشرين، اتسع عمل بوستروم من تجنب الكارثة إلى توصيف إيجابي للمستقبلات المرغوبة. وفي كتاب «يوتوبيا عميقة» (Deep Utopia) الصادر عام 2023، بحث إمكانية الحياة ذات المعنى في عوالم «محلولة» تقنيًا، داعمًا الاهتمامات السابقة بالتعزيز والمخاطر والأنثروبيك بسؤال أكثر صراحة حول القيمة والغاية في ظروف ما بعد الندرة وما بعد المخاطر.

4. أهم الأعمال والمنشورات الرئيسة

الكتب المونوغرافية

المقالات المؤثرة

أوراق العمل والمخرجات المؤسسية

من خلال معهد مستقبل الإنسانية، ألّف بوستروم أو شارك في تأليف أوراق عمل عديدة حول المخاطر الوجودية، وسلامة الذكاء الاصطناعي، والأولويات العالمية. وكانت هذه الأوراق تتداول غالبًا قبل نشرها في المجلات العلمية، وأثّرت في النقاشات التقنية والسياساتية، كتقارير عن آليات حوكمة الذكاء الاصطناعي، وتحليلات المخاطر الكارثية العالمية، وأطر ترتيب أولويات التدخلات الموجهة نحو المستقبل.

تشكّل هذه الأعمال مجتمعةً برنامجًا بحثيًا متماسكًا، وإن كان متطورًا، يربط بين نظرية المعرفة الصورية، وتحليل المخاطر، والتأمل الأخلاقي في المستقبلات البعيدة.

5. محاور أساسية: المخاطر الوجودية والإنسانية الأنثروبية والذكاء الفائق

المخاطر الوجودية

يعرّف بوستروم المخاطرة الوجودية بأنها خطر يهدد بإفناء الحياة الذكية المنحدرة من الأرض أو بتقليص إمكاناتها تقليصًا دائمًا وجذريًا. ويميّز بين الأنواع الآتية:

يرى المؤيدون لإطاره النظري أنه، لأن المستقبل قد يحتوي على عدد هائل جدًا من الحيوات القيّمة، فإن التغيرات الطفيفة في المخاطر الوجودية تؤثر تأثيرًا كبيرًا في القيمة المتوقعة، مما يمنح هذه المخاطر أولوية أخلاقية. ويشكك المنتقدون في تجميع القيمة عبر مستقبلات افتراضية شاسعة، أو يخشون أن يصرف التركيز على المخاطر الوجودية الانتباه عن الظلم القائم في الحاضر.

الاستدلال الأنثروبي والانتقاء الرصدي

في كتاب «التحيز الأنثروبي» وأعمال ذات صلة، يحلل بوستروم تأثيرات الانتقاء الرصدي، أي الفكرة القائلة إن الدليل يُصفّى بالشروط اللازمة لوجود الراصدين. ويقدم «افتراض أخذ العينات الذاتي» (SSA)، وهو تقريبًا: استدل كما لو كنت عينة عشوائية من مجموعة جميع الراصدين في فئتك المرجعية. ويقابله «افتراض الإشارة الذاتية» (SIA)، الذي يضيف انحيازًا نحو العوالم التي تضم عددًا أكبر من الراصدين.

تُطبّق هذه المبادئ على ألغاز مثل حجة يوم القيامة، والضبط الدقيق الكوني، وحجة المحاكاة. يرى المدافعون أن ذلك يوضح الاستدلال الاحتمالي في ظل عدم اليقين الإشاري، بينما يزعم المعارضون أن SSA وSIA تفضيان إلى نتائج مخالفة للبداهة أو تعتمدان على النموذج، مما يلقي شكًا على الاستدلال الأنثروبي بوصفه دليلًا ثابتًا.

الذكاء الفائق

في كتاب «الذكاء الفائق»، يعرّف بوستروم الذكاء الفائق بأنه أي عقل يتجاوز بشدة الأداء البشري في المجالات ذات الصلة. ويبحث في «المسارات» المحتملة (مثل الذكاء الاصطناعي العام، ومحاكاة الدماغ كاملًا)، و«الديناميات» (مثل الانطلاق السريع، والميزة الاستراتيجية)، و«الاستراتيجيات» الخاصة بالتحكم (مثل ضبط القدرات، واختيار الدوافع).

يرى المؤيدون لتحليله أن الذكاء الفائق غير المُوائَم يمثل مخاطرة وجودية نموذجية، لأن ميزة استراتيجية حاسمة قد تمكّن نظام الذكاء الاصطناعي من تشكيل المستقبل تشكيلًا لا رجعة فيه. ويرى المنتقدون أن الجداول الزمنية وديناميات الانطلاق أو تركّز القوة التي يتصورها هي تكهنات، وأن تطور الذكاء الاصطناعي التجريبي قد يكون أكثر تدرجًا أو قابلية للضبط، أو أن التركيز على مخاطر الذكاء الاصطناعي الوجودية قد يطغى على أضرار الذكاء الاصطناعي القريبة المدى. ويظل النقاش حول هذه الأفكار الأساسية نشطًا عبر الفلسفة وعلوم الحاسوب والسياسات.

6. النزعة ما بعد الإنسانية، ومستقبلات ما بعد الإنسان، والطوبى العميقة

النزعة التعزيزية للإنسان والتحسين البشري

ظلّ بوستروم (Bostrom) منظّرًا بارزًا للنزعة التعزيزية للإنسان، التي يصفها بأنها حركة تدعو إلى الاستخدام الأخلاقي للتكنولوجيا لتعزيز القدرات البشرية، وربما إلى خلق كائنات ما بعد إنسانية. ويرى في مقالة «القيم التعزيزية» وفي مقالات ذات صلة به أنه، في ظل كثير من نظريات القيمة المعقولة، يمكن أن يكون تمديد العمر الصحي وزيادة القدرات المعرفية وتعزيز الرفاه العاطفي أمورًا مرغوبة أخلاقيًا، بشرط إدارة المخاطر والآثار الاجتماعية بعناية.

يرى المؤيدون أن هذا بديل مبدئي عن المحافظة الحيوية التقليدية، ويركزون على الاستقلال الذاتي وإمكانية تحسين الحياة تحسينًا كبيرًا. ويثير المنتقدون مخاوف تتعلق بعدم المساواة والهوية والتماسك الاجتماعي واحتمال وقوع أضرار غير متوقعة من التعزيز الجذري، ويجادل بعضهم أحيانًا بأن للطبيعة البشرية غير المعدّلة قيمةً جوهرية.

مستقبلات ما بعد الإنسان

يستكشف بوستروم سيناريوهات قد تبلغ فيها الحضارات ما بعد الإنسانية مستويات أعلى بكثير من المعرفة والرفاه والسيطرة على الطبيعة. ويتعامل مع ما بعد الإنسان بوصفه فئة واسعة يمكن أن تشمل العقول الرقمية، أو البشر البيولوجيين المعززين تعزيزًا واسعًا، أو الكائنات الهجينة، ويرى أن مثل هذه الكائنات قد تحقق صورًا من الازدهار تتجاوز الفهم البشري الحالي.

يتمحور النقاش حول ما إذا كانت هذه المستقبلات مرغوبة حقًا، أم أنها تهدد بتآكل جوانب من الإنسانية يعدّها البعض أساسية. يجادل بعض الفلاسفة بأن الكائنات المعززة جذريًا قد لا تحافظ على الالتزامات الأخلاقية المألوفة، بينما يرى آخرون أن التقدم الأخلاقي يمكن أن يتضاعف مع القدرة المعرفية.

الطوبى العميقة

في كتاب «الطوبى العميقة: الحياة والمعنى في عالم محلول» (Deep Utopia: Life and Meaning in a Solved World)، يبحث بوستروم فيما إذا كان بإمكان مجتمع متقدم، خالٍ إلى حد كبير من المخاطر ووافر ماديًا، أن يكون ذا معنى عميق، لا سطحيًا أو رتيبًا من حيث المتعة. ويتناول كيف يمكن أن تتغير أنشطة مثل الاستكشاف والإبداع الجمالي والعلاقات الاجتماعية والمشاريع الأخلاقية في مثل هذه الظروف.

يرى المؤيدون لهذا الاتجاه من البحث أنه مكمل ضروري لعمل مخاطر الوجود: فهم ليس ما يجب تجنبه فحسب، بل أيضًا ما ينبغي السعي إليه. ويشكك المعارضون فيما إذا كان بوسعنا التنبؤ بالقيم وأشكال المعنى في المستقبلات البعيدة بموثوقية، أو يخشون أن تتضمن اليوتوبيات التأملية افتراضات ثقافية أو أيديولوجية معينة تحت غطاء الحياد.

7. المنهجية: نظرية القرار، والسيناريوهات، والأدوات الصورية

نظرية القرار والاستدلال بالقيمة المتوقعة

يوظّف بوستروم كثيرًا حسابات القيمة المتوقعة وأدوات نظرية القرار للاستدلال بشأن الأولويات في ظل عدم اليقين. ففي سياق المخاطر الوجودية، يقترح أن حتى الاحتمالات الصغيرة لخسائر هائلة في القيمة المستقبلية يمكن أن تهيمن على الحسابات الأخلاقية، وهي بنية يقارنها بعض المعلّقين بالاستدلال «الباسكالي».

يرى المؤيدون أن هذه الأساليب تعكس على نحو مناسب حجم المستقبلات الممكنة، وتوفر طريقة منضبطة للاستدلال بشأن الأحداث ذات الاحتمال المنخفض والأثر الكبير. أما المنتقدون فيجادلون بأن حجج القيمة المتوقعة المتطرفة قد تكون شديدة الحساسية لافتراضات النماذج، ولإسناد الاحتمالات، ولفلسفة الأخلاق المتعلقة بالسكان، مما يثير مخاوف بشأن «التعصب» وبشأن الإرشاد العملي.

تحليل السيناريوهات والاستشراف

يستخدم عمل بوستروم كثيرًا تحليل السيناريوهات، أي بناء سرديات نوعية منظَّمة حول كيفية تطور تقنيات مثل الذكاء الاصطناعي أو محاكاة الدماغ الكامل. وفي «الذكاء الفائق» يقارن بين سرعات انطلاق مختلفة، وأنظمة سيطرة متباينة، وتكوينات جيوسياسية شتى، مؤكدًا أن هذه ليست تنبؤات، بل أدوات لاستكشاف فضاء الإمكانات.

يرى المدافعون عن ذلك شكلًا من «الاستراتيجية الكبرى» أو الاستشراف الاستراتيجي، إذ يتيح التأمل في العواقب بعيدة المدى حيث تكون البيانات شحيحة. ويشكك المتشككون في موثوقية هذه السيناريوهات، ويرون أنها قد تعكس افتراضات معاصرة أو مفردات من الخيال العلمي أكثر مما تعكس توقعات متينة.

الصياغة الصورية والهندسة المفاهيمية

عبر موضوعات متعددة، كمسائل الاستدلال الإنساني ومحاجّة المحاكاة والمخاطر الوجودية، يحاول بوستروم صوغ الحدوس في نماذج صريحة، أو توزيعات احتمالية، أو مسائل قرار. ويشمل ذلك ما يلي:

يعدّ المؤيدون ذلك «هندسة مفاهيمية»، إذ توضح الأسئلة الغامضة وتتيح النقد. ويرى المعارضون أن الصياغة الصورية قد تعطي انطباعًا بدقة يفوق ما تسنده المعرفة الكامنة، أو أنها قد تُدخل افتراضات مثيرة للجدل تحت ستار الرموز الرياضية.

تعدد التخصصات

منهجيًا، يتسم عمل بوستروم بتعدد تخصصي صريح، إذ يستند إلى علوم الحاسوب والاقتصاد والفيزياء وعلم النفس. وقد عمل معهد مستقبل الإنسانية بوصفه موقعًا لهذا التعاون. وقد لقي هذا النهج الإشادة لكونه يجسر الفواصل بين التخصصات، ووُجّه إليه النقد حيث يرى المعلّقون أن الخبرة التخصصية قد جرى مدّها إلى ما يتجاوز حدودها، أو أن الافتراضات المعيارية لم تُفصل بما يكفي عن الادعاءات التقنية.

8. التأثير في أخلاقيات الذكاء الاصطناعي ومناقشات السياسات العالمية

التأثير في أبحاث سلامة الذكاء الاصطناعي

أثّر كتاب «الذكاء الفائق» (Superintelligence) تأثيرًا كبيرًا في جدول أعمال أبحاث سلامة الذكاء الاصطناعي ومواءمته. يستشهد كثير من الباحثين والمؤسسات بالكتاب بوصفه نصًا محفِّزًا للعمل على مواءمة القيم، وقابلية التصحيح، وآليات التحكم في أنظمة الذكاء الاصطناعي القوية. وقد ساعد الكتاب في ترسيخ سلامة الذكاء الاصطناعي بوصفها مجالًا بحثيًا مستقلًا، وإن كان مرتبطًا بأخلاقيات الآلة التقليدية وموثوقية البرمجيات دون أن يتطابق معهما.

يُشيد بعض علماء الذكاء الاصطناعي بهذا التركيز لأنه يسلّط الضوء على مخاطر كارثية مهملة، بينما يرى آخرون أن تأثير الكتاب ربما أمال الاهتمام نحو سيناريوهات تخمينية بعيدة المدى على حساب شواغل قريبة الأمد، مثل التحيز، واضطراب سوق العمل، والمراقبة.

التفاعل مع صانعي السياسات والمؤسسات

عمل بوستروم وزملاؤه في معهد مستقبل الإنسانية على إعداد تقارير وإحاطات للحكومات والمنظمات الدولية ومجموعات الصناعة. وتتناول هذه الوثائق موضوعات مثل الحوكمة الاستراتيجية للذكاء الاصطناعي، ورصد التقنيات ثنائية الاستخدام، ومشكلات التنسيق العالمي. وقد استُشهد بعمله في جلسات استماع برلمانية، وأوراق سياسات بيضاء، وتقارير مراكز الفكر التي تتناول حوكمة الذكاء الاصطناعي المتقدم والتقنيات التحويلية الأخرى.

يرى المؤيدون في هذا التفاعل نموذجًا لتقديم المشورة في السياسات طويلة الأمد والمستندة إلى الأدلة. ويخشى المنتقدون أن يؤدي الاعتماد الكبير على نماذج المخاطر التخمينية إلى إيلاء تركيز مفرط لبعض السرديات عن التهديدات، أو أن تكون الآراء الممثَّلة ضيقة من الناحيتين الديموغرافية والأيديولوجية.

العلاقة بحركة الإيثار الفعّال وفلسفة المدى البعيد

أثّر إطار بوستروم للمخاطر الوجودية تأثيرًا قويًا في حركة الإيثار الفعّال (EA)، ولا سيما في تيارها المعني بالمدى البعيد. وكثيرًا ما تستشهد المنظمات المتماشية مع الحركة بحججه عند ترتيب أولويات التدخلات الهادفة إلى حماية المستقبل البعيد، مثل سلامة الذكاء الاصطناعي، والاستعداد للأوبئة، وأبحاث الحوكمة المتقدمة.

يزعم المدافعون أن ذلك رفع من حضور الحد من المخاطر الموجهة نحو المستقبل، وشجّع على ترتيب أولويات القضايا بصرامة أكبر. ويجادل المنتقدون بأن ترسيخ هذه الأولويات مؤسسيًا قد يثبّت افتراضات قيمية معينة (مثل النفعية الكلية)، وقد يحوّل الموارد الخيرية والأكاديمية بعيدًا عن القضايا الاجتماعية والبيئية الراهنة.

الخطاب العام

نوقش فرضية المحاكاة لبوستروم وكتاباته عن الذكاء الاصطناعي على نطاق واسع في وسائل الإعلام الشعبية، مؤثرةً في التصوير الثقافي للذكاء الاصطناعي والواقع الافتراضي. وبينما زاد هذا من الظهور العام للأسئلة الفلسفية حول التقنية، فقد أدى أيضًا إلى تبسيط مواقفه أو المبالغة فيها، مما أسهم في استمرار النقاشات حول مسؤولية العلماء الذين تنتقل أعمالهم بسهولة إلى الثقافة الجماهيرية.

9. الانتقادات والجدل

انتقادات منهجية ومعرفية

يتمثل انتقاد متكرر في الطابع التأملي والمعتمد بدرجة كبيرة على النماذج في استدلال بوستروم حول المستقبل البعيد. يجادل بعض الفلاسفة بأن المبادئ الإنثروبية مثل SSA وSIA تولّد متناقضات أو تعتمد اعتمادًا حساسًا على كيفية تعريف الفئات المرجعية، مما يثير شكوكًا حول استخدامها في حجج جوهرية مثل فرضية المحاكاة أو الاستدلال على طراز «يوم القيامة».

في أعمال مخاطر الذكاء الاصطناعي والمخاطر الوجودية، يرى النقاد أن قلة البيانات التجريبية، وعدم اليقين في الاحتمالات، والنتائج المتطرفة قد تجعل حسابات القيمة المتوقعة غير مستقرة أو «متعصبة». ويرد المؤيدون بأن نوعًا من الاستدلال المنظم يظل أفضل من تجاهل المخاطر الكبيرة المحتملة، رغم حالات عدم اليقين.

شواغل أخلاقية وسياسية

أثارت صلة بوستروم بالتعالي البشري والنزعة إلى المدى البعيد والتعزيز البشري شواغل أخلاقية وسياسية. يجادل بعض علماء الأخلاقيات الحيوية ومنظري السياسة بأن إعطاء الأولوية للمستقبلات ما بعد الإنسانية والأعداد الافتراضية الضخمة قد يقلل من أهمية اللامساواة الراهنة، والظلم البنيوي، أو الحدود البيئية. ويتساءل آخرون عما إذا كانت أطره تفضّل ضمنيًا منظومات قيمية ثقافية أو نفعية بعينها.

تحيط بالآثار الاجتماعية للتركيز على المخاطر الوجودية المرتبطة بالذكاء الاصطناعي نقاشات أيضًا. ويرى النقاد أن ذلك قد يطغى على الأضرار الأقرب زمنيًا الناجمة عن الذكاء الاصطناعي (مثل التمييز، وتأثيرات سوق العمل، والمراقبة)، وعلى التهديدات البيئية وتهديدات الصحة العالمية. ويرد المؤيدون بأنه يمكن معالجة القضايا القريبة والبعيدة المدى معًا، وبأن المخاطر الوجودية لا رجعة فيها على نحو فريد.

خلافات مؤسسية وشخصية

أثار بروز معهد مستقبل الإنسانية اهتمامًا تدقيقيًا يتعلق بمصادر التمويل والحوكمة والتمثيل، إذ أبدى بعض المراقبين قلقهم من تركّز النفوذ في شبكة صغيرة نسبيًا من الباحثين المتوافقين مع الرؤى الداعمة للمدى البعيد. وتناولت النقاشات حول الإغلاق المحتمل أو إعادة هيكلة المعهد في أكسفورد أسئلة أوسع حول دور دراسات المستقبل التأملية في المؤسسات الأكاديمية.

وبمعزل عن ذلك، واجه بوستروم انتقادات بشأن تصريحات ورسائل إلكترونية سابقة، من بينها ما يعود إلى تسعينيات القرن العشرين، وقد اعتُبرت على نطاق واسع مسيئة أو غير حساسة عنصريًا عند إعادة تداولها. وأصدر توضيحات واعتذارات علنية، فيما استمر الجدل حول كيفية تأثير هذه الوقائع في تقييم أعماله ودوره المؤسسي. ويختلف المعلقون في مدى ضرورة فصل هذه الخلافات عن تقييم إسهاماته الفكرية أو دمجها فيه.

10. الإرث والأهمية التاريخية

أدّى عمل بوستروم دورًا بارزًا في ترسيخ المخاطر الوجودية والنزعة المستقبلية بوصفهما مجالين معترفًا بهما في الفلسفة والسياسات العامة. وتشير كثير من النقاشات حول أخلاقيات الأجيال القادمة، وتوافق الذكاء الاصطناعي، والنزعة المتجاوزة للإنسانية، اليوم إلى تعريفاته وتصنيفاته وصياغاته للمشكلات، حتى حين تختلف مع استنتاجاته.

يُعامَل كتاب «الذكاء الفائق» في فلسفة التقنية غالبًا بوصفه تركيبًا مرجعيًا مبكرًا لمخاوف الذكاء الاصطناعي التحويلي. وقد أسهم في تشكيل المناهج الدراسية وأجندات البحث والفهم العام لسلامة الذكاء الاصطناعي، كما أثار تطورات تقنية وردودًا نقدية تؤكد الأبعاد الاجتماعية والسياسية للذكاء الاصطناعي.

أعادت إسهاماته في الاستدلال الإنساني الانتقائي وحجة المحاكاة إحياء نقاشات حول عدم اليقين الإشاري، وفئات المرجعية، والسيناريوهات الشكوكية في الفلسفة التحليلية. ومع أن كثيرًا من الفلاسفة لا يقتنعون بالمبادئ التي يفضّلها، فإن هذه النقاشات وسّعت مجموعة الأدوات المستخدمة للتفكير في تأثيرات الانتقاء الرصدي في علم الكونيات والفيزياء وفلسفة العلم.

يُوضع بوستروم في كثير من الأحيان ضمن إطار تاريخ الفكر الأوسع إلى جانب شخصيات استجابت للتسارع التقني في أواخر القرن العشرين وأوائل القرن الحادي والعشرين بإعادة توجيه الفكر الأخلاقي والسياسي نحو آفاق عالمية وطويلة الأمد. ويرى المناصرون أنه مهندس رئيسي لأخلاق موجّهة نحو المستقبل، بينما يراه المنتقدون مثالًا على نزعة تأملية تقنية المركز في الفكر المعاصر. وفي كلتا الحالتين، أصبحت أفكاره مرجعًا دائمًا في النقاشات حول كيفية مواجهة البشرية للتقنيات الناشئة، وحول الحجم المحتمل للمستقبل.