اندیشه ، فلسفه
تاریخ
اقتصاد
  • باید حرف زد تا راه باز شود
    یکم- چرا در روزهای تازه‌سپری‌شده مقوله عدم حضور مسعود پزشکیان در نشست شرم‌الشیخ مصر که درباره صلح غزه بود در کانون توجه قرار گرفت؟ واقعیت این است که برگزاری نشست شرم‌الشیخ برای آتش‌بس دائمی جنگ
  • اجماع لندن: اصول اقتصادی برای قرن بیست‌ویکم
    مدرسه اقتصاد و علوم سیاسی لندن اخیراً از کتاب «اجماع لندن: اصول اقتصادی برای قرن بیست‌ویکم» رونمایی کرده است که تلاشی برای بازنگری در اندیشه‌های اقتصادی در دوران پس از اجماع واشنگتن بوده است.
  • ارزپاشی از پکن تا کرمان
    یکم- گویا دوران وفور ارز به دست آمده از صادرات نفت به سرآمده است و همین مساله دردسرساز و ارزهای مصرف شده در بخش‌های مختلف بیشتر از همیشه زیر ذره‌بین می‌رود. چرا چنین فرضی دارید؟ اگر خبرهایی که این روزها از
  • رشد اقتصادی در نیمه اول امسال منفی شد
    مرکز پژوهش‌های مجلس شورای اسلامی اعلام کرد که رشد اقتصادی ایران در نیمه اول سال جاری «منفی ۰/۳ درصد» بوده است که سقوط شدیدی نسبت به سال قبل را نشان می‌دهد.

در ارتباط با هوش مصنوعی، اصطلاح «توهم» (Halluzination) به‌کار می‌رود. مقصود این است که: هوش مصنوعی چیزی را نمی‌داند، اما این را نمی‌پذیرد و در عوض پاسخی می‌دهد که ظاهراً درست به‌نظر می‌رسد، ولی در واقع غلط است. دلیل این امر در خلأهای دانشی آن و نیز در کوششی است که برای پر کردن این شکاف‌ها انجام می‌دهد، حتی اگر به نادرستی بینجامد. این‌گونه است که ماشین «توهم می‌بیند». امروزه این واژه در ادبیات تخصصی نیز جا افتاده است.

پس از آن‌که در یکی از یادداشت‌هایم به این موضوع پرداختم، خواننده‌ای به نام «ر.» که روان‌پزشک است، برایم نوشت: در بیماران، توهم بیشتر پیامد مصرف مواد مخدر یا نشانه‌ای از اسکیزوفرنی است. بنابراین، اطلاق واژه‌ی توهم به پاسخ‌های نادرست هوش مصنوعی دقیق نیست. او توضیح داد: «توهم حسی است، مثل شنیدن صداها، بی‌آن‌که کسی سخن بگوید، یا دیدن گل‌ها در جایی که هیچ چیزی روییده نیست.»

اما هنگامی که از خطاهای هوش مصنوعی سخن می‌گوییم، شاید اصطلاح مناسب‌تر «کنفابولاسیون» (Konfabulation) باشد. این واژه در روان‌شناسی به پدیده‌ای اطلاق می‌شود که در آن شخص برای پر کردن خلاهای حافظه‌اش، بی‌آنکه آگاه باشد، داستان‌ها یا خاطرات نادرستی بیان می‌کند، خاطراتی که در واقعیت رخ نداده‌اند. این موضوع نه دروغ است، نه فریب عمدی و نه حتی هذیان؛ بلکه نوعی باور ناخودآگاه است.

در چنین حالتی، فرد کنفابوله‌کننده به آنچه می‌گوید ایمان دارد. بیماران دچار زوال عقل گاه برای پر کردن شکاف‌های حافظه خود، ماجراهایی می‌سازند بی‌آنکه از نادرستی‌شان آگاه باشند. در حالی‌که توهم نوعی اختلال ادراک است، کنفابولاسیون بیش‌تر مشکلی در حوزه‌ی حافظه است.

جالب آن است که همان روان‌پزشک می‌پرسد: «آیا عجیب نیست که خطاهای هوش مصنوعی را با اصطلاحات روان‌پزشکی توصیف می‌کنیم؟ آیا ما از این خوشحالیم که هوش مصنوعی دقیق گاهی شبیه فردی روان‌پریش رفتار می‌کند؟» چنین احتمالی وجود دارد، زیرا هوش مصنوعی گاه چنان به انسان می‌ماند که انگار واقعاً موجودی زنده است. او کتاب‌ها می‌خواند، آب و انرژی فراوان مصرف می‌کند، مثل انسان‌ها خطا می‌کند و به پرسش‌ها پاسخ می‌دهد.

این پرسش البته از جنبه دیگری هم اهمیت دارد: اگر هوش مصنوعی کنفابوله می‌کند، آیا باید گفت که او همچون بیمار روانی است؟ یا شاید ما با انتخاب واژه‌های پزشکی، درک خود را ساده‌تر کرده‌ایم. زیرا واقعیت پیچیده‌تر از این است: ماشین نه «روح» دارد و نه «نفس»؛ هرچند ما گاه چنین می‌پنداریم.

گاه گفته می‌شود که ربات‌های مجهز به هوش مصنوعی روزی به دلیل هوش برترشان جای انسان را خواهند گرفت، همان‌طور که روزی انسان خردمند جای نئاندرتال‌ها را گرفت. اما نباید فراموش کرد که نئاندرتال‌ها را ساپینس نساخت، در حالی‌که هوش مصنوعی را انسان ساخته است.

ولی «ساختن» در اینجا یعنی چه؟ هوش مصنوعی هنوز کامل نیست، بلکه هر روز دوباره ساخته و بازتولید می‌شود. ما حتی می‌توانیم مسیر آن را تعیین کنیم، به شرطی که آگاهانه تصمیم بگیریم. روزنامه‌نگار آمریکایی «کارن هاو» در کتاب Empire of AI, Dreams and Nightmares in Sam Altman’s OpenAI از رؤیاها و کابوس‌هایی سخن می‌گوید که با پدید آمدن ChatGPT واقعی شده‌اند.

در نهایت، مسئله بر سر این است که انسان‌ها چه می‌خواهند و چه می‌توانند بکنند. آیا می‌توانند جلوی شرکت‌ها را بگیرند که داده‌هایشان را بدزدند؟ آیا می‌توانند از حقوق کارکنان دفاع کنند و بر حقوق دموکراتیک پافشاری نمایند، به جای آنکه از آن محروم شوند؟

یا شاید من دارم باز هم «کنفابوله» می‌کنم؟

اکسل هاکه

«مدت‌ها پیش از هوش مصنوعی، از هوشِ ستون‌نویسی استفاده کرده است؛ هوشی که البته آن هم بسیار با توهمات، هذیان، دروغ و داستان‌سازی سروکار دارد، اما نه در پی سلطه بر جهان است ــ و نه به هیچ‌وجه نابودی خوانندگان خود را دنبال می‌کند.»

print
مقالات
  • عروسی خوبان و استاندارد‌های دوگانه نظام اسلامی
    رویداد۲۴ | لیلا فرهادی- تصاویر ویدئویی مراسم عروسی دختر علی شمخانی، نماینده رهبری در شورای عالی دفاع و دبیر سابق شورای عالی امنیت ملی، در شبکه‌های اجتماعی منتشر شده و واکنش‌های گسترده‌ای را برانگیخته
  • سخنی با جوانان (۲) فرشید یاسائی
    پیشگفتار: در آغازِ هر راه، نسیمی هست که بوی فردا را با خود می‌آورد. نسیمی که از سطرهای اندیشه برمی‌خیزد و بر شانه‌های جوانی می‌نشیند؛ جوانی، این فصلِ همیشه بیدارِ زندگی که میان شور و شک، میان
  • روایت زندگی و مرگ احمد کسروی
    درود بر شما. قبل از اینکه شروع کنیم این قسمت رو اجازه بدید به اطلاع شما برسونم. شما می‌تونید همین قسمت رو به صورت ویدیو کس و مستند تصویری از کانال یوتیوب مورخ به نشانی مورخ پادکست ببینید و لذت ببرید.
  • ایران را چرا باید دوست داشت؟ محمد حسین صدیق یزدچی
    ایران را چرا باید دوست داشت؟ این عنوان مجلس بزرگداشتی ست یا بود به بهانه ی صدمین سالروز تولّد ایرج افشار محقق و نسخه شناس معروف متون کهن فرهنگ ایرانی، با شرکت چهره هایی مثل : خانم ژالهء آموزگار متخصص زبان و فرهنگ باستانی ایران و سید مصطفی محقق
  • آینده حماس پس از تحقق آتش‌بس
    در حالی‌که دود جنگ دو ساله میان اسرائیل و حماس هنوز از ویرانه‌های غزه رخت بر نبسته، نیروهای حماس بلافاصله پس از اعلام آتش‌بس، دوباره در خیابان‌های این سرزمین جنگ‌زده ظاهر شدند؛ حضوری که هم هشداری
  • داستان قرارداد کرسنت پترولیوم جمشید اسدی
    داستان قرارداد کرسنت پترولیوم – از میدان گاز تا دادگاه داوری: پرونده کرسنت از پیچیده‌ترین پرونده‌های اقتصادی-سیاسی جمهوری اسلامی ایران و از سنگین‌ترین زیان‌ها برای ملت ایران است. ماجرا از امضای قراردادی در سال
  • نامه سرگشاده ضحاک به مردم ایران مسعود میرراشد
    ضحاک در این روایت نه هیولایی اسطوره‌ای، بلکه آیینه‌ای از جامعه‌ای گرفتار در خواب، خودفریبی و تکرار تاریخی است. مسعود میرراشد در این نوشته روشنفکران و حاکمان را همگی در چرخهٔ فساد و مسئولیت‌گریزی شریک می‌داند و با زبانی تند اما اندیشمندانه، آنان را به بیداری، خودشناسی و بازنگری در ریشه‌های فرهنگی و
سکولاریسم و لائیسیته
Visitor
0321982
Visit Today : 266
Visit Yesterday : 1073