آکسل هاکه درباره توهّمات، دروغ‌ها و این پرسش که آیا هوش مصنوعی گاهی همچون فردی روان‌پریش سخن می‌گوید؟

در ارتباط با هوش مصنوعی، اصطلاح «توهم» (Halluzination) به‌کار می‌رود. مقصود این است که: هوش مصنوعی چیزی را نمی‌داند، اما این را نمی‌پذیرد و در عوض پاسخی می‌دهد که ظاهراً درست به‌نظر می‌رسد، ولی در واقع غلط است. دلیل این امر در خلأهای دانشی آن و نیز در کوششی است که برای پر کردن این شکاف‌ها انجام می‌دهد، حتی اگر به نادرستی بینجامد. این‌گونه است که ماشین «توهم می‌بیند». امروزه این واژه در ادبیات تخصصی نیز جا افتاده است.

پس از آن‌که در یکی از یادداشت‌هایم به این موضوع پرداختم، خواننده‌ای به نام «ر.» که روان‌پزشک است، برایم نوشت: در بیماران، توهم بیشتر پیامد مصرف مواد مخدر یا نشانه‌ای از اسکیزوفرنی است. بنابراین، اطلاق واژه‌ی توهم به پاسخ‌های نادرست هوش مصنوعی دقیق نیست. او توضیح داد: «توهم حسی است، مثل شنیدن صداها، بی‌آن‌که کسی سخن بگوید، یا دیدن گل‌ها در جایی که هیچ چیزی روییده نیست.»

اما هنگامی که از خطاهای هوش مصنوعی سخن می‌گوییم، شاید اصطلاح مناسب‌تر «کنفابولاسیون» (Konfabulation) باشد. این واژه در روان‌شناسی به پدیده‌ای اطلاق می‌شود که در آن شخص برای پر کردن خلاهای حافظه‌اش، بی‌آنکه آگاه باشد، داستان‌ها یا خاطرات نادرستی بیان می‌کند، خاطراتی که در واقعیت رخ نداده‌اند. این موضوع نه دروغ است، نه فریب عمدی و نه حتی هذیان؛ بلکه نوعی باور ناخودآگاه است.

در چنین حالتی، فرد کنفابوله‌کننده به آنچه می‌گوید ایمان دارد. بیماران دچار زوال عقل گاه برای پر کردن شکاف‌های حافظه خود، ماجراهایی می‌سازند بی‌آنکه از نادرستی‌شان آگاه باشند. در حالی‌که توهم نوعی اختلال ادراک است، کنفابولاسیون بیش‌تر مشکلی در حوزه‌ی حافظه است.

جالب آن است که همان روان‌پزشک می‌پرسد: «آیا عجیب نیست که خطاهای هوش مصنوعی را با اصطلاحات روان‌پزشکی توصیف می‌کنیم؟ آیا ما از این خوشحالیم که هوش مصنوعی دقیق گاهی شبیه فردی روان‌پریش رفتار می‌کند؟» چنین احتمالی وجود دارد، زیرا هوش مصنوعی گاه چنان به انسان می‌ماند که انگار واقعاً موجودی زنده است. او کتاب‌ها می‌خواند، آب و انرژی فراوان مصرف می‌کند، مثل انسان‌ها خطا می‌کند و به پرسش‌ها پاسخ می‌دهد.

این پرسش البته از جنبه دیگری هم اهمیت دارد: اگر هوش مصنوعی کنفابوله می‌کند، آیا باید گفت که او همچون بیمار روانی است؟ یا شاید ما با انتخاب واژه‌های پزشکی، درک خود را ساده‌تر کرده‌ایم. زیرا واقعیت پیچیده‌تر از این است: ماشین نه «روح» دارد و نه «نفس»؛ هرچند ما گاه چنین می‌پنداریم.

گاه گفته می‌شود که ربات‌های مجهز به هوش مصنوعی روزی به دلیل هوش برترشان جای انسان را خواهند گرفت، همان‌طور که روزی انسان خردمند جای نئاندرتال‌ها را گرفت. اما نباید فراموش کرد که نئاندرتال‌ها را ساپینس نساخت، در حالی‌که هوش مصنوعی را انسان ساخته است.

ولی «ساختن» در اینجا یعنی چه؟ هوش مصنوعی هنوز کامل نیست، بلکه هر روز دوباره ساخته و بازتولید می‌شود. ما حتی می‌توانیم مسیر آن را تعیین کنیم، به شرطی که آگاهانه تصمیم بگیریم. روزنامه‌نگار آمریکایی «کارن هاو» در کتاب Empire of AI, Dreams and Nightmares in Sam Altman’s OpenAI از رؤیاها و کابوس‌هایی سخن می‌گوید که با پدید آمدن ChatGPT واقعی شده‌اند.

در نهایت، مسئله بر سر این است که انسان‌ها چه می‌خواهند و چه می‌توانند بکنند. آیا می‌توانند جلوی شرکت‌ها را بگیرند که داده‌هایشان را بدزدند؟ آیا می‌توانند از حقوق کارکنان دفاع کنند و بر حقوق دموکراتیک پافشاری نمایند، به جای آنکه از آن محروم شوند؟

یا شاید من دارم باز هم «کنفابوله» می‌کنم؟

اکسل هاکه
«مدت‌ها پیش از هوش مصنوعی، از هوشِ ستون‌نویسی استفاده کرده است؛ هوشی که البته آن هم بسیار با توهمات، هذیان، دروغ و داستان‌سازی سروکار دارد، اما نه در پی سلطه بر جهان است ــ و نه به هیچ‌وجه نابودی خوانندگان خود را دنبال می‌کند.»