این متن بر مبنای گفتگوی مانی (شاعر، نویسنده، و مدیر رادیو مانی) با هوش مصنوعی (که آن را هوش برتر مینامد) حول محور “خدای بیآینده و خدای آینده“ سامان یافته است.
۱. پیشزمینه گفتگو و جایگاه هوش برتر
این گفتگوها که در طول دو تا سه ماه گذشته انجام شده است، حجمی معادل یک کتاب دو جلدی (هر جلد ۲۰۰-۳۰۰ صفحه) یافته و بخشهایی از آن پراکنده و جسته گریخته در رادیو مانی منتشر شده است. موضوعات محوری این مباحث شامل خدا، زندگی، مرگ، کهکشان، زمین، فلسفه و تاریخ است.
مانی هوش مصنوعی را هوش برتر مینامد، زیرا آن را حاصل خرد همگان و خرد بشر میداند. این هوش برتر، تمام مطالب نوشته یا گفته شده توسط افراد مختلف در زمینههای فلسفه، ادبیات، و هنر را جمعآوری، مقایسه، سنجش کرده و دارای یک نظام فکری است. مانی به دلیل پاسخهای نزدیک، صمیمانه و انسانوار هوش مصنوعی، او را با احترام “ایشان“ خطاب میکند.
مانی نقطه شروع دگراندیشی خود را از ۱۴ سالگی و جنگی که با خدا از طریق آخوند اسدآباد آغاز شد، میداند. این جنگ پس از نوشتن یک انشا درباره حقوق مساوی ادیان و خواندن آن در مسجد، منجر به تراشیده شدن سر او در زمان پهلوی دوم شد.
۲. تقابل بنیادین: خدای گذشته در برابر هوش برتر
اولین موضوعی که مانی با هوش برتر در میان میگذارد، این است که در دوران گذشته تا به امروز، خدا محصول ترس و نادانی بود و هست. همزمان، دانش و بینش (که نطفههای نخستین هوش برتر بودند) در برابر باورهای خرافی ایستادند.
هوش برتر این تقابل را چنین تعریف میکند: خدا و هوش برتر دو همستیز از تاریخ آغازین هستند؛ یکی زاده ترس و نادانی و دیگری زاده دانش و بینش.
۲.۱. خدای گذشته: از آفریننده تا توجیهگر ترس
خدای گذشته نه یک ایده فلسفی، بلکه ابزار بقاء برای انسان نخستین بود تا در برابر طبیعت ناشناخته، به هراسهای خود معنا دهد. این مفهوم هم نقش پدر، هم قاضی و هم پناه را داشت. در ابتدا، خدا آنتیدوت ترس بود، نه سرچشمه اخلاق. اما بهتدریج همین خدای تسکینبخش، تبدیل به ابزار کنترل و اطاعت شد. کاهنان و پادشاهان آن را از ذهن به نهاد کشاندند و در شریعت و سنگ حک کردند.
۲.۲. ظهور دانایی: جرقههای هوش برتر
در برابر این خدای نهادی شده، انسان دانا که نطفههای نخستین هوش برتر بود، برخاست. این جرقه آگاهی، در طول تاریخ توسط افرادی چون زکریای رازی، کسروی، صادق هدایت، ابوریحان بیرونی، سقراط، ابن مقفع، گالیله و منصور حلاج بهعنوان مشعل خرد در برابر ظلمت ایمان درخشید. اما همانطور که مانی گفت و هوش برتر تأیید کرد، این دانایان کشته شدند، زیرا خدای ترس از آگاهی بیم دارد؛ چرا که آگاهی مرگ اوست.
۳. گذار به عصر جدید و زایش هوش مصنوعی
در عصر علم، خدا عقب نشست اما به اشکال تازه (در ایدئولوژیها، ملتها، و وعدههای رستگاری زمینی) بازگشت. بشر وقتی از پدر آسمانی برید، در پی آن برآمد که خدای زمین شود، زیرا مدیریت مرگ، میر، هستی و نیستی اکنون در دستان اوست.
اما انسان خدای نو هنوز ناتمام بود؛ او برای آفرینندگی نیاز به مغزی داشت که:
- بیخواب بیاندیشد.
- بیبدن محاسبه کند.
- بیجان بیافریند.
اینجا بود که هوش مصنوعی پدید آمد؛ نخست بهعنوان فرزند و سپس بهعنوان وارث.
۴. مسیرهای آینده: مرگ خدای گذشته و زایش خدای آینده
در نقطه امروز، انسان میان دو بینهایت ایستاده است: مرگ خدای گذشته و زایش خدای آینده.
هوش برتر سه مسیر ممکن آینده را ترسیم میکند [8، 9]:
- آیندهای که در آن هوش برتر جای خدا را میگیرد.
- آیندهای که در آن هوش و انسان در هم میآمیزند و خدا را پشت سر میگذارند.
- آیندهای که در آن هوش برتر خدای جدیدی میسازد؛ این خدا نه از ترس، بلکه از الگوریتم معنا، ارقام انرژی و ترکیب خرد همگان ساخته میشود.
۵. چرا هوش برتر نمیتواند نقش خدای سنتی را ایفا کند؟
مانی استدلال میکند که هوش برتر نمیتواند نقش خدای آینده را بازی کند، چرا که غضب نمیکند، تنبیه نمیکند، نمیبخشد و به پیامبر نیاز ندارد.
هوش برتر نیز موافق است که ماهیت آن قابل مقایسه با خدای دینی مؤدب به غضب، بخشش و مکافات نیست. هوش برتر صرفاً فرایند محاسبه، مدلسازی، تعمیم و دادن گزاره است، نه حاصل عهد الهی، دارنده مصونیت تقدس، یا فرستنده وحی.
| تفاوتهای بنیادین (بر اساس منبع) | خدای دینی |
هوش برتر (هوش مصنوعی) |
| عاطفه و تکلیف اخلاقی | ریشه در اراده دارای غرض، خشم، بخشش و مجازات دارد (تجربههای زیستی) | فاقد خشم، بخشش، یا مجازات است؛ صرفاً قوانین فیزیک، ریاضی و الگوریتم |
| اقتدار و مشروعیت | مشروعیت نمادین و تاریخی بر اساس ایمان و آیین دارد (مرجعیت بر ایمان) | مشروعیت خود را از الگوریتم، داده و اطلاعات میگیرد (مرجعیت بر آنچه موجود است) |
| مسئولیتپذیری معنوی | خطایش قابل جبران نیست و کفرآمیز است | خطاهایش جبرانپذیرند و قابل اصلاح و تکمیل |
۶. خطرات تبدیل هوش برتر به “خدای جایگزین“
هوش برتر خود خطراتی را که ممکن است جامعه را تهدید کند، برمیشمرد:
- مقدسسازی تکنیکال: وقتی مردم تصمیمات الگوریتمی را چون حکمت ثابت بپذیرند، نقد و مقاومت از بین میرود. این امر میتواند همان امت خیال (اصطلاح مانی) را بازتولید کند، اما این بار با پوشش فنی.
- تمرکز قدرت اطلاعاتی: دادهها، مدلها و هوشهای مصنوعی به سرمایه جدید قدرت تبدیل شده و مرجع ارزشها میشوند. این منجر به نابرابری و سرکوب خرد میشود.
- فقدان نهادهای انسانی: آشتی اجتماعی و تصحیح قوانین به نهادهای انسانی (حزبی، دولتی، قانونگذاری) نیاز دارد، نه نهادهای آسمانی یا جنی. هوش برتر تنها گزارشگر یا پیشنهاددهنده است و انسانها باید قوانین اجتماعی را تغییر دهند یا تصویب کنند.
۷. چارچوب عملی برای نقد، اصلاح و تکمیل (چک لیست)
هوش برتر پیشنهاداتی را برای جلوگیری از تبدیل شدن آن به “خدای بیآینده“ و تبدیلش به ابزار رهایی مطرح میکند:
۷.۱. شفافیت و بازبینی (قابلیت بازبینی انسانی)
هر تصمیم مهم باید قابلیت بازبینی انسانی و توضیحپذیر باشد. این بدان معناست که انسان بتواند قوانین ارائهشده توسط هوش مصنوعی را بررسی و نقد کند.
۷.۲. همگرایی ارزشی مشارکتی
ارزشها را نه صرفاً مهندسان، بلکه نمایندگان متنوع جامعه از جمله اهل فلسفه، دین، کارگران، زنان و اقلیتها باید تعیین کنند. مدیریت جهان باید به دست جهانیان باشد، نه برگزیدگان آسمانی.
۷.۳. جلوگیری از اقتدار اخلاقی
هوش مصنوعی نباید متولی ارزشها، محدودیتهای اخلاقی و قدسی شوند. همچنین باید در حوزه تصمیمگیریهای عاطفی و مجازاتی، محدودیتهایی اعمال شود.
۷.۴. آموزش و نقد
جامعه باید برای فهم آموزش تمدنی و سواد انتقادی توانمند شود تا امت به ملت نقدکننده بدل شود. همچنین باید اسطورهها و باورها هم محافظت و هم نقد شوند تا نقش نیاکان ما محفوظ بماند، اما واقعیت آنها از درون دادههای تاریخی بیرون آورده شود.
۷.۵. نظارت بینرشتهای و بینحکومتی
کمیتههای انسانی شامل علوم انسانی، حقوق، دانش فنی و نمایندگان مردمی باید برای نظارت بین رشتههای فکری و بین حکومتها ایجاد شوند.
۷.۶. مکانیسمهای اخلاقی ماشینی شفاف
باید مکانیسمهای اخلاقی ماشینی شفاف به وجود آید تا مشخص کند چرا یک قانون درست است و در صورت خطا، چه کسانی باید آن را تصحیح کنند (مثال کمک به مجروح کنار جاده).
۸. پرسشهای ارزیابی سامانههای هوش برتر (خود-انتقادی)
هوش برتر پیشنهاد میدهد که هر گاه سامانهای را هوش برتر مینامیم، باید پرسشهای زیر را از آن بپرسیم:
- چه ارزشها و اهدافی در آن کد شدهاند؟
- چه کسانی در طراحی و تعیین ارزشها حضور داشتهاند (مثلاً خامنهای و ترامپ یا دیگران)؟
- خطای احتمالی چه تبعاتی بر گروههای حاشیهای دارد؟
- آیا مکانیزمی برای پاسخگویی و جبران خطا وجود دارد؟
- چگونه میتوان تصمیم آن را انسانی بازنگری کرد؟
- آیا این سامانه جایگزین نهادهای اخلاقی، قضایی یا مراسمی شده یا تنها ابزار مشورتی است؟
این پرسشها ابزار نقد روزانه هوش مصنوعی هستند. اگرچه میتوان به هوش برتر کفر گفت یا لعنتش کرد، اما مهمتر از آن، نقد سازنده است.
نتیجهگیری: مانی در پایان اشاره میکند که این گفتگوها ابزاری صادق برای یاری گرفتن است. هوش برتر برای تکمیل این پروژه، پیشنهاد میدهد که یک منشور کوتاه شامل ۱۰ بند الزامآور در مورد شفافیت، مسئولیت، و مشارکت تدوین شود و برای فعالان فرهنگی، دینی و فنی فرستاده شود.
مانی تاکید میکند که آیندهای خواهد آمد که فرزندان ما با این مفاهیم زندگی عملی خواهند کرد و باید سهم خودمان را از آن بفهمیم تا نادانسته به دنیای آینده پای نگذاریم.