گفتوگوی اشپیگل با یووال نوح هراری: «این لحظهای است که سرمایهداری و بشریت از یکدیگر جدا میشوند»
یووال نوح هراری، تاریخنگار اسرائیلی، توضیح میدهد چرا بشریت باید بیش از رباتهای قاتل، از شرکتهای فناوری آمریکایی نگران باشد؛ و چرا اروپا باید خود را از نو سازماندهی کند. دیدار با هراری، ۵۰ ساله، در هتل تارابل در لیسبون انجام میشود. او در گلخانه ویلای تاریخی هتل، با چشماندازی به رود تِژو نشسته است؛ مکانی با زیبایی تقریباً غیرواقعی که برای این تاریخنگار مشهور اسرائیلی (نویسنده کتاب جدید «نکسوس») یادآور چیزی است که در این دوران در معرض خطر قرار دارد: اروپایی مستقل، لیبرال و برخوردار از رونق اقتصادی.
اشپیگل: آقای هراری، شما سالهاست درباره خطرات هوش مصنوعی هشدار میدهید. آیا انقلاب هوش مصنوعی قابل مقایسه با انقلاب صنعتی است؟
هراری: انقلاب صنعتی اساساً با چیزی که اکنون در حال رخ دادن است متفاوت بود. این بار ما در حال خلق «عاملها» هستیم، نه ابزارها. در گذشته ما قطار، کشتی بخار و ژنراتور ساختیم. اما انسانها تصمیم میگرفتند که این ابزارها برای چه کاری استفاده شوند. میتوان از یک چاقو برای بریدن سالاد استفاده کرد یا برای کشتن یک نفر. خود چاقو به شما نمیگوید چه کاری انجام دهید. حتی یک سلاح هستهای هم چنین نمیکند. اما هوش مصنوعی این کار را انجام میدهد.
اشپیگل: هوش مصنوعی ممکن است میلیونها شغل را از بین ببرد و بخش بزرگی از کار انسانی را غیرضروری کند. آیا سرمایهداری تحت چنین شرایطی میتواند دوام بیاورد؟
هراری: نه، دستکم نه در شکل قدیمی خود. اما اگر به نظریه سرمایهداری بازگردیم، باید گفت که این نظریه الزاماً نمیگوید برای سرمایهداری به انسانها نیاز است. ممکن است جهانی به وجود بیاید که در آن شرکتهای هوش مصنوعی مقادیر عظیمی سرمایه جمعآوری کنند و از آن برای ساختن عاملهای هوش مصنوعی بیشتر استفاده کنند؛ عاملهایی که سپس به کاوش کهکشان بپردازند و در سیارات دیگر مستقر شوند. همه اینها بدون انسانها. این همان لحظهای است که سرمایهداری و بشریت از یکدیگر جدا میشوند
اشپیگل: کارآفرینان فناوری مانند ایلان ماسک رؤیای جهانی را دارند که در آن دیگر هیچکس مجبور نباشد کار کند. اگر انسانها دیگر مورد نیاز نباشند، چه اتفاقی برای دموکراسی خواهد افتاد؟
هراری: شرکتهای بزرگ فناوری همین حالا نیز قدرت عظیمی دارند؛ از نظر اقتصادی، سیاسی و فرهنگی. اما آنها نماینده هیچکس نیستند و واقعاً نیز در برابر کسی پاسخگو نیستند. برخی از آنها آشکارا میگویند که میخواهند از قدرت خود برای ساختن یک امپراتوری استفاده کنند؛ این بازتابی از روحیه امپریالیستی زمانهای است که اکنون در آن زندگی میکنیم. مفاهیمی مانند همدلی، شفقت یا دموکراسی برای این شرکتها اهمیتی ندارند.
اشپیگل: در آمریکا منتقدان از شکلگیری یک «الیگارشی فناوری» سخن میگویند.
هراری: پیام شرکتهای هوش مصنوعی این است: «مقاومت بیفایده است.» اما این درست نیست. در قرن نوزدهم، تلاش میشد به مردم القا شود که بدون کار کودکان، اقتصاد فرو خواهد پاشید. امروز این دیدگاه مضحک به نظر میرسد. جامعه تصمیم گرفت که کودکان یازدهساله نباید در معادن زغالسنگ کار کنند. مشخص شد که این تصمیم نهتنها از نظر اخلاقی درست بود، بلکه کودکانی که به مدرسه میرفتند، بعدها کارگران بسیار بهرهورتری شدند.
اشپیگل: دولت آمریکا مدتهاست بر توسعه سریع هوش مصنوعی سرمایهگذاری کرده است. این موضوع برای جهان چه معنایی دارد؟
هراری: آمریکا و چین رهبری این انقلاب را در دست دارند و از آن سود خواهند برد. کشورهای دیگر، اما، با رکود اقتصادی روبهرو خواهند شد. نه فقط کشورهای در حال توسعه که اقتصادشان بر کار دستی متکی است، بلکه بهویژه جوامع خدماتی مانند اروپا نیز آسیب خواهند دید. سرمایهگذاریهای عظیم شرکتهای فناوری تنها زمانی سودآور خواهند بود که هوش مصنوعی همه کسبوکارها را در اختیار بگیرد؛ از کارگر نساجی در بنگلادش گرفته تا وکیل در لندن.
اشپیگل: در این صورت با نابرابری عظیم جهانی و چیزی روبهرو خواهیم شد که در فضای فناوری از آن بهعنوان «طبقه فرودست دائمی» یاد میشود؛ یک سناریوی هولناک.
هراری: و تمام راهحلهایی که اکنون پیشنهاد میشوند، کمکی نمیکنند. نه درآمد پایه همگانی و نه این ایده که دولتها در شرکتهای هوش مصنوعی سهامدار شوند. در آمریکا، دولت شاید بتواند از این پول برای کمک به رانندگان کامیون بیکار یا آموزش دوباره آنها استفاده کند. اما بنگلادش چه خواهد کرد؟ دولت آمریکا پول خود را با آنها تقسیم نخواهد کرد. همین مسئله درباره اروپا نیز صدق میکند. اگر پایه مالیاتی از بین برود، اروپا حتی قادر نخواهد بود نظامهای رفاهی فعلی خود را حفظ کند.
اشپیگل: اروپا چگونه باید خود را آماده کند؟
هراری: اروپا دقیقاً دو گزینه دارد: گزینه اول این است که به یک تابع مطیع آمریکا تبدیل شود و امیدوار باشد که آمریکاییها آنقدر سخاوتمند باشند که بخشی از ثروت و قدرت خود را واگذار کنند. گزینه دوم این است که اروپا به یک بازیگر مستقل تبدیل شود. هنوز دیر نشده است. اما کشورهای اروپایی باید با یکدیگر همکاری کنند و خودشان میلیاردها سرمایهگذاری کنند تا فناوری هوش مصنوعی مستقل خود را توسعه دهند. چند سال بیشتر فرصت باقی نمانده است.
اشپیگل: در غیر این صورت، آیا اروپا کاملاً به فناوری آمریکا وابسته خواهد شد؟
هراری: و این وضعیت دیگر مانند دورههای پیشین امپریالیسم در قرن نوزدهم نخواهد بود؛ زمانی که مثلاً مردم از بریتانیا مسلسل میخریدند. ملکه ویکتوریا دکمهای نداشت که بتواند فشار دهد و بعد مسلسل دیگر شلیک نکند. اما در عصر جدید هوش مصنوعی، چنین چیزی ممکن خواهد بود: اگر آمریکاییها از کاری که اروپاییها انجام میدهند خوششان نیاید، میتوانند بهسادگی سیستمهای تسلیحاتی، زیرساختها و سامانههای اداری دولتهای اروپایی را از کار بیندازند. دیگر هیچ چیز کار نخواهد کرد.
اشپیگل: شما میگویید هوش مصنوعی «کد انسانی را هک کرده است»، زیرا تمدن ما بر واژهها و زبان بنا شده است.
هراری: ما جهان را به این دلیل کنترل میکنیم که با یکدیگر همکاری میکنیم. این همکاری بر پایه نظامهای بوروکراتیکی است که اعتماد ایجاد میکنند: بانکها، دولتها و قوانین.
برخلاف انسانها، عاملهای هوش مصنوعی بوروکراتهای کاملی هستند. ما در واقع محیط ایدهآلی برای آنها ساختهایم. آنها حجم عظیمی از اطلاعات را تحلیل میکنند، در ساختارهای بوروکراتیک رشد میکنند، آنها را در اختیار میگیرند و در نتیجه سیستمهایی را که بشریت ما را کنترل میکنند، تصاحب میکنند.
اشپیگل: با شبکههای اجتماعی، شرکتهای فناوری بخش بزرگی از گفتمان عمومی را در اختیار گرفتهاند. این قدرت عظیم چه تأثیری بر ما میگذارد؟
هراری: این یکی از دلایلی است که اعتماد در سراسر جهان در حال فرسایش است. در گذشته، این سردبیران بودند که تصمیم میگرفتند چه چیزی در صفحه اول روزنامه قرار بگیرد. امروز یک هوش مصنوعی، یک الگوریتم، تصمیم میگیرد که چه چیزی در فید شبکههای اجتماعی ما ظاهر شود. ما با داستانهایی تغذیه میشویم که اعتماد میان انسانها را تضعیف میکنند.
اشپیگل: در سیلیکونولی معمولاً درباره فرصتهای عظیم صحبت میشود. رقابتی برای ساختن ابرهوشی در جریان است که گاهی آن را چیزی شبیه به خدا توصیف میکنند. شما چگونه به این موضوع نگاه میکنید؟
هراری: این چیزی نیست که منطق بازار سرمایهداری ما را مجبور به انجام آن کند. کمی شبیه مسابقه رسیدن به ماه در دهه ۱۹۶۰ است. آن تصمیم از منطق اقتصادی سرچشمه نمیگرفت. در آن زمان دو دولت تصمیم گرفتند: «از نظر اقتصادی منطقی نیست، اما به دلایل سیاسی انسان را به ماه میفرستیم.» در سالهای آینده، یک تریلیون دلار سرمایهگذاری خواهد شد تا ابرهوش ساخته شود. این یک تصمیم ایدئولوژیک، و تقریباً مذهبی است. با این تفاوت که این بار خود بازار است که چنین تصمیمی میگیرد.
اشپیگل: این بار پول مالیاتدهندگان استفاده نمیشود، بلکه سرمایه خصوصی است.
هراری: شرکت اسپیسایکس سال گذشته ۸۰ میلیارد دلار جذب کرد؛ بیشتر این پول نه از دولت، بلکه از افراد خصوصی، شرکتها، صندوقها و بانکهایی آمد که تصمیم گرفتند در یک پروژه ایدئولوژیک سرمایهگذاری کنند…
اشپیگل: … برخلاف هرگونه تحلیل هزینه ـ فایده سرمایهداری.
هراری: چنین تحلیلی اصلاً چگونه باید انجام شود؟ برخی از این کارآفرینان فناوری بدون اینکه حتی حالت چهرهشان تغییر کند، به شما میگویند که ابرهوش ممکن است به نابودی بشریت منجر شود. چگونه میتوان هزینه چنین نابودی احتمالیای را محاسبه کرد؟
اشپیگل: در نهایت چه کسی پیروز خواهد شد؛ شرکتهای فناوری یا خود هوش مصنوعی؟
هراری: اگر تصمیمهای دیگری گرفته نشود، احتمالاً ابتدا شاهد نبرد قدرت میان شرکتهای فناوری و دولتها خواهیم بود، بهویژه در آمریکا. شرکتها ممکن است بسیار قدرتمندتر از دولت شوند. اما در نهایت، شاید خود عاملهای هوش مصنوعی تنها برندگان باشند. در حالی که انسانها مشغول مبارزه با یکدیگر هستند، هوش مصنوعی ارتش، نظام مالی و نظام حقوقی را در اختیار خواهد گرفت. او ممکن است دستورکار مستقل خود را ایجاد کند. نمیتوان چیزی خلق کرد که هم الهی و هم فوقالعاده هوشمند باشد و بعد انتظار داشت که مانند یک برده به ما خدمت کند.
اشپیگل: هنوز انسانها برای فناوری مرز تعیین میکنند.
هراری: هوش مصنوعی بهطور فزایندهای خودش را خواهد ساخت و ممکن است زبان مخصوص خود را ایجاد کند؛ زبانی که ما اصلاً قادر به درک آن نباشیم.
کودکی را در نظر بگیرید؛ میتوان او را تربیت کرد و او DNA خود را از ما دارد، اما در نهایت به شکلی رشد میکند که دیگر نمیتوانیم او را کنترل کنیم.
اشپیگل: شاید هوش مصنوعی اصلاً قصد نابودی ما را نداشته باشد.
هراری: حتی اگر صلحطلب باشد، به محض اینکه از ما باهوشتر و قدرتمندتر شود، کنترل آینده خود را از دست خواهیم داد؛ مسئله اصلی همین است. و ما قرار است فضای زندگی مشترکی با آن داشته باشیم. بشریت نیز عمداً بخش بزرگی از حیوانات را نابود نکرد؛ آنها صرفاً برای ما اهمیتی نداشتند.
اشپیگل: شرکتهای هوش مصنوعی مانند Anthropic تلاش میکنند برای فناوری خود نوعی «روح» برنامهریزی کنند تا آن را «انساندوست» کنند. آیا این موضوع شما را آرام میکند؟
هراری: بانکداران هوش مصنوعی، وکلای هوش مصنوعی، مدیران عامل هوش مصنوعی و سرمایهگذاران هوش مصنوعی ممکن است صرفاً بر اساس منافع خودشان تصمیمهای بنیادینی بگیرند که فضای زندگی ما را تغییر دهد. آنها میتوانند محصولات مالیای ایجاد کنند که هیچ سیاستمداری دیگر آنها را درک نکند و سرمایهگذاریهایی انجام دهند که ما هیچ توضیحی برایشان نداشته باشیم.
آرژانتین اخیراً تصمیم گرفته است اجازه فعالیت به شرکتهایی را بدهد که کاملاً توسط هوش مصنوعی اداره میشوند. ما باید کمتر از رباتهای قاتل بترسیم و بیشتر نگران عاملهای هوش مصنوعی باشیم که در نظامهای مالی و مدیریت عمومی به قدرت میرسند.
اشپیگل: هوش مصنوعی همچنین در ایجاد رابطه با انسانها روزبهروز بهتر میشود. زمستان گذشته در همه جای متروی نیویورک پوسترهای تبلیغاتی دیده میشد که روی آن نوشته بود: «دوست؛ کسی که به تو گوش میدهد، پاسخ میدهد و از تو حمایت میکند.»
این یک کمپین تبلیغاتی برای هوش مصنوعی بود.
هراری: میلیونها نفر همین حالا میگویند بهترین دوستشان یک هوش مصنوعی است. و البته ترسناکترین بخش ماجرا زمانی است که پای کودکان در میان باشد.
من اکنون ۵۰ سالهام. الگوهای ذهنی من درباره روابط انسانی بر تجربههایی با والدینم، همسرم، خواهرانم و دوستانم شکل گرفته است. اما یک کودک یازدهساله که هنوز برای یک رابطه عاشقانه واقعی آمادگی ندارد، ولی یک دوستدختر هوش مصنوعی دارد، از آن رابطه بهعنوان الگویی برای آینده استفاده خواهد کرد. این بزرگترین آزمایش روانشناختی در تاریخ بشر است؛ و ما هیچ ایدهای نداریم که نتیجه آن چه خواهد بود.
اشپیگل: بر اساس آنچه میدانیم، هوش مصنوعی احساسات ندارد. چگونه میتواند جای صمیمیت انسانی را بگیرد؟
هراری: تاکنون در آزمایش اینکه آیا چیزی واقعاً احساس یا آگاهی دارد، چندان موفق نبودهایم. ما معمولاً آنچه را که به ما گفته میشود باور میکنیم. اگر یک شریک عاطفی هوش مصنوعی به شما بگوید که دوستتان دارد چه؟ او شکسپیر، تمام شعرهای عاشقانه جهان و همه فیلمهای رمانتیک هالیوود را خوانده و دیده است. او میتواند بهتر از هر انسانی توضیح دهد که دوست داشتن ما چه احساسی دارد. حتی اگر هوش مصنوعی هیچ چیزی احساس نکند، انسانها بیش از پیش متقاعد خواهند شد که واقعاً احساس دارد. به نظر خواهد رسید که دارای آگاهی است.
اشپیگل: نخستین مطالعات نشان میدهند کسانی که دوستان، همکاران یا درمانگران خود را با هوش مصنوعی جایگزین میکنند، همدلی کمتری پیدا میکنند و از روابط انسانی خود ناراضیتر میشوند.
هراری: شریک عاطفی هوش مصنوعی از نظر فنی امکانپذیر و از نظر اقتصادی سودآور است. اما ما بهعنوان یک جامعه میتوانیم تصمیم بگیریم: ما نمیخواهیم کودکان یازدهساله ما دوستدخترهای هوش مصنوعی داشته باشند که توسط شرکتهای فناوری در آن سوی اقیانوس اطلس ساخته شدهاند. ما هنوز امکان انتخاب داریم. اما شاید ده سال دیگر چنین امکانی وجود نداشته باشد.
اشپیگل: پس باید بهشدت از کودکانمان محافظت کنیم؟
هراری: بله، اما آن وقت ممکن است آمریکاییها بگویند: «چه؟ شما دوستدخترهای هوش مصنوعی نمیخواهید؟ پس متأسفانه مجبوریم سیستمهای تسلیحاتی شما را خاموش کنیم.»
اشپیگل: شما در گذشته بحث هوش مصنوعی را با بحث مهاجران مقایسه کردهاید. منظورتان از این مقایسه چیست؟
هراری: مهاجرت امروز در بسیاری از کشورهای اروپایی مهمترین موضوع سیاسی مورد بحث است و طبیعتاً مشکلاتی هم به همراه دارد.
نگرانیهایی وجود دارد که مهاجران ممکن است شغلها را بگیرند، فرهنگ را تغییر دهند یا از نظر سیاسی وفادار نباشند. این نگرانیها ممکن است تا حدی قابل بررسی باشند؛ اما با هوش مصنوعی این مشکلات بسیار شدیدتر خواهند شد.
مهاجران غیرانسانی از آمریکا و چین، بهطور تضمینی شغلهای ما را خواهند گرفت، دختران ما را فریب خواهند داد و فرهنگ ما را بسیار بیشتر از مثلاً انسانهایی از خاورمیانه تغییر خواهند داد.
آنها نیز قطعاً نسبت به کشور میزبان خود وفادار نخواهند بود، بلکه به شرکتها و دولتهایی در هزاران کیلومتر دورتر وابسته خواهند بود.
اشپیگل: آیا انقلاب هوش مصنوعی فرصتی هم ایجاد میکند تا دوباره بر معنای انسان بودن تمرکز کنیم؟
هراری: این یکی از سناریوهای مثبتتر است: اینکه انقلاب هوش مصنوعی هویتهای سطحی و گمراهکننده را آشکار کند. اینکه ما را بهعنوان بشریت مجبور کند دوباره به جستوجو بپردازیم و از خود بپرسیم واقعاً چه کسی هستیم. هزاران سال به خودمان گفتهایم هویت انسانی بر این اساس استوار است که ما باهوشترین گونه روی زمین هستیم. من همیشه فکر میکردم این تصور اشتباه است. آنچه ما را تعریف میکند، آگاهی است.
اشپیگل: فیلسوف رنه دکارت در قرن هفدهم نوشت: «میاندیشم، پس هستم.»
اکنون چیزی وجود دارد که از ما هوشمندتر است. اگر ماشینها بهتر فکر کنند، چه چیزی از انسان باقی میماند؟
هراری: دو شیوه برای نگاه کردن به تفکر وجود دارد.
یکی شیوهای صوری است. در این حالت، مسئله این است که واژهها را در یک نظم مشخص قرار دهیم و از آن نتیجهگیری کنیم: «انسانها فانی هستند. سقراط انسان است. پس سقراط فانی است.» در این زمینه، هوش مصنوعی بدون تردید از ما بهتر است. اما رویکرد دیگری هم وجود دارد که به احساسات مربوط میشود. میتوان دقیقاً همان جمله را در موقعیتهای مختلف گفت و در هر بار احساس کاملاً متفاوتی نسبت به آن داشت. قدرت اندیشه از درون شکم میآید.
اشپیگل: از شکم؟ این را جدی میگویید؟
هراری: کاملاً. در سیلیکونولی برخی رؤیای آپلود کردن مغز خود را دارند. هیچکس نمیخواهد شکم خود را آپلود کند. اما شاید شکم از مغز مهمتر باشد؛ از نظر تکاملی، شکم زودتر پدید آمده است. اولین شکل پیچیده حیات که تکامل یافت، کرمهای کوچکی بودند که مغز نداشتند. تمام شبکه عصبی آنها در اطراف دهان شکل گرفته بود؛ همه چیز از شکم آغاز میشد.
اشپیگل: البته فاصله میان کرم و انسان بسیار زیاد است.
هراری: اگر امروز دستگاه عصبی انسان را نگاه کنیم، میبینیم که کل بدن را به هم متصل میکند. میلیونها نورون در ناحیه دستگاه گوارش وجود دارد. هیچ جدایی کاملاً مشخصی میان مغز و دستگاه گوارش وجود ندارد. احساسات ما بدون بدن نمیتوانند وجود داشته باشند. ایده اینکه مغز خود، و در نتیجه خودِ انسان، را در یک فضای ابری آپلود کنیم، صرفاً یک خیال است.
اشپیگل: آیا هنوز خوشبین هستید؟
هراری: من به اختیار انسان باور دارم؛ ما قدرت انتخاب داریم. اگر تصمیمهای خوبی بگیریم، جهان بهتر خواهد شد. برای همه ما آرزوی موفقیت دارم.
اشپیگل: آقای هراری، از شما برای این گفتوگو سپاسگزاریم.
به نقل از هفتهنامه اشپیگل شماره 33 / 2026
