هوش مصنوعی و آینده ما- پرگار

یکی از پیشگامان هوش مصنوعی اخیراً گفت محتمل است که در سیر تکامل هوش انسان چیزی جز لحظه گذرا نباشد این ترسناک است ولی وقتی از هوش مصنوعی می‌ترسیم از چه می‌ترسیم از خودمان یا از چیزی ناشناخته ورای خودم سلام بیایید برای مقدمه یک سناریو را فرض کنیم شما در فروشگاهی که تازه‌ترین محصولات پیچیده بشری را می‌فروشد می‌خواهی یک تکنولوژی فوق‌العاده هوشمند و دستگاه حامل اون را بخری دستگاهی که فروشنده در آنی مزایایش را می‌گوید مثلاً می‌گوید فرزندت را مقابل آن به نشانی دی ان او را اسکن می‌کند و جواب می‌دهد که در آینده مستعد چه بیماری‌هایی است و در مورد پیشگیری از اون بیماری‌ها هم دستگاه روز به روز هوشمندتر می‌شود در میانی اجاب تو فروشنده ادامه می‌دهد که این تکنولوژی و دستگاهی که به خانه می‌بری تحت شرایطی می‌تواند برای فرزندت خطر هم در بر داشته باشد برای آنکه خود را نوازی می‌گویی خب پنک هم تحت شرایطی می‌تواند برای او خطرناک باشد می‌گوید نه مسئله این است که شرایط خطرساز شدن آن در آینده و نوع خطر را هنوز نشناخته‌ای خطراتش فعلاً پنهان است چه می‌کنی دستگاه را می‌خری و به خانه می‌بری علی سوف اسایی پژوهشگر هوش مصنوعی در دانشگاه کوئینزلند استرالیا می‌گوید ترس از این تکنولوژی را اغراق شده می‌پندارد اما حسین دباغ مدرس فلسفه اخلاق در دانشگاه نورت ایسترن می‌گوید اغراق در بیان این ترس از نگرانی‌های واقعی برمیآید خیلی خوش آمدید آقای سف ستایی یا بهتره از این پس در این برنامه علی شما رو خطاب کنم چی شده که باعث شده در این یکی دو سال اخیر هوش مصنوعی اینقدر جلب توجه کنه چون ما قبلاً هم راجع بهش صحبت می‌کردیم در همین برنامه پرگار ۸ سال پیش یه بحث در مورد هوش مصنوعی داشتیم ولی اون موقع این حالت اضطراری و حتی چطوری بگم حالت آخر زمانی رو نداشت نداشت بهتر می‌دونم که به جای این موضوعی که مستقیماً بپردازیم به اینکه چرا در روزهای که به سر میبریم این موضوع خیلی بلد شده خیلی مشخص شده یه تعریف کوچیکی داشته باشیم از هوش و ببینیم تفاوت هوش طبیعی و مصنوعی در چی هست و بعد به این نقطه برسیم چیزی که ما از هوش می‌شناسیم بنابر البته تعاریف متعدد و مختلفی که هست این قدرت ادراک دریافت اطلاعات از محیط اطراف تجزیه و تحلیل اون ضبط اون و استفاده در تصمیم سازی هاست حالا این هوش اگر توسط یک موجودی که طبیعی هست اتفاق بیفته مثل انسان اون رو هوش طبیعی می‌نامیم و اگر که همه این فرایندهایی رو که گفتم یا اجزای هوش رو که توضیح دادیم توسط یک ماشین اتفاق بیفته به اون هوش مصنوعی میگیم هرچند این مرزها هر روز دارن تغییر می‌کنن و شاید این وظیفه فلاسفه باشه که وارد این بحث بشن و تعاریف بهتری رو در این خصوص از هوش ارائه بدن ب بله در حوزه هوش مصنوعی ما سه هوش س مدل هوش رو تعریف می‌کنیم به صورت تکنولوژیک و به صورت علمی هوش مصنوعی ضعیف یا ویک ای آی هوش مصنوعی عمومی و هوش مصنوعی قوی چیزی که تا به امروز حتی اتفاق افتاده و ما داریم از اون استفاده می‌کنیم در حقیقت هوش مصنوعی ضعیف هست هوش مصنوعی ضعیف با یک حجم زیادی از داده کار میکنه پترن یا الگوهایی که بین داده‌ها هست رو پیدا می‌کنه و در موارد مشابه تصمیماتی می‌گیره که در گذشته هم مانند اون وجود داشته خب و بعد از اون هوش مصنوعی عمومی رو داریم که خیلی شبیه به انسان خواهد بود این هم ایی هست بله جنرال اآ یا هوش مصنوعی عمومی چون در هوش مصنوعی ضعیف ما ادراک معنوی احساسات عواطف و این چیزها رو نداریم صرفاً داده هست ولی در هوش مصنوعی عمومی موارد دیگه‌ای مثل هوش هیجانی هوش احساسی هوش عاطفی این‌ها هم به موضوع اضافه خواهند شد ولی باز هم ایجی آی تحت کنترل انسان هست و اون هوش از انسان سبقت نخواهد گرفت اگر فهم و هیجان و احساسات واردش میشه این دیگه نمیشه هوش طبیعی یعنی مرض طبیعی و مصنوعی چیه اینجا این همون مسئله‌ای هست که گفتم در حال تغییر هست به شدت و حالا اگر ما هوش مصنوی قوی رو هم به عنوان سومین گزینه مطرح بکنیم که حتی اون دیگه سوپر اینتلیجنت هست و می‌تونه پردازش‌های رو بسیار سریع‌تر و شاید با کیفیت بالاتر از انسان در نظر بگیره و حتی کنترل اون هم توسط انسان مشکل خواهد بود وی شاید امکانپذیر نخواهد بود حالا اینجاست که ما باید بایستیم و تعریف کنیم تمام تعاریفی که ما تا امروز داریم در بحث‌های حالا فلسفی یا در بحث‌های روانشناسی بر اساس حضور انسان خردمند یا انسانی که ما الان هستیم انجام شده بله و حالا و ح اگر بخوایم این مرز رو تشخیص بدیم باید بر اساس تعاریف این مرزو تشخیص بدیم که در آینده این‌ها تاریخ انقضاش گذشته و شاید باید تعاریف دیگه‌ای رو ارائه بکنیم برای این موضوع ولی موضوعی که شما مورد سؤال شما بود اینکه چرا امروزه این بحث اینقدر همه گیر شده و من فکر می‌کنم دلایل این رو میشه به دو گروه دسته بندی کرد یک سری دلایل تکنیکی یا تکنولوژی هست و دومین گروه دلایل انسانی هست دلایل تکنیکش اینه که ما در حال حاضر به حجم زیادی از داده دسترسی داریم اتفاقی که قبلاً نبود و می‌دونید که هوش مصنوعی نیاز اولیش به داده هست و الان مثلاً شما ۲۵ ساله که گوگل داره اطلاعات جمع‌آوری میکنه و ما به این نقطه رسیدیم و دومین موضوع تکنیکی بحث هاردور هست سخت افزاری تا قبل از امروز ما دسترسی به جی پی یو ها و سی پی یو های قوی برای پردازش این حجم از داده رو نداشتیم ولی الان کتهای کوانتومی داریم کامپیوترهای کوانتومی هنوز اون گونه که باید وارد این بحث نشدن ولی شرکت انویدیا با در حقیقت معرف جی پی یو های بسیار قوی که الان جی پی یو های ا و زز رو داره وارد بازار میکنه اینها تونستن این حجم زیادی از آنالیز و این پردازش داده رو انجام بدن در حقیقت از لحاظ تکنیکی میون کمتون دو بخش اصلی این که یکی نرم افزاری هست یکی سخت افزاریست داره به هم میرسه و این در واقع مثل اونه که دستگاهی که اون شخص میبره خونه رو کاملا دیگه مهیا میکنه یعنی هم دستگاه در اون خونه همین دستگاه به دستگاه‌های دیگه وصله و مدام این‌ها همدیگه رو ارتقا میدن درست می دقیقاً دقیقاً این موضوع هست البته هوش مصنوعی سه عضو داره یکیش داده هست یکیش هاردور هست سخت افسار و یکیش الگوریتم‌ها هستن سافور ها هستن الگوریتم‌هایی که باعث میشن این اتفاق بیفته ما در حوزه داده و در حوزه سخت‌افزار محدودیت داشتیم ولی در حوزه الگوریتم‌ها اگر شما برگردید به مثلاً به شبکه‌های عصبی ابداع شبکه‌های عصبی مال سال ۱۹۴۳ هست یعنی اون زمان روی کاغذ این الگوریتم‌ها هرچند در طول زمان اینها تغییر کردن و الان مثلاً کمپانی اپن اآ در چت جی پیتی از ترنسفورمر ها استفاده می‌کنه یعنی شبکه‌های عصبی که با همدیگه می‌تونن ارتباط برقرار کنن و صحبت کنن ولی به هر حال هیچ وقت ما محدودیتی راجع به توسعه الگوریتم‌ها نداشتیم ولی محدودیت تکنیکی ما راجع به حجم داده و بحث سخت افزاری بود این موضوع در سال‌های گذشته به همگرایی رسید یعنی و اینه که اضطرار ایجاد کرده یعنی در واقع ما داریم می‌رسیم به اون مرحله‌ای که در ۱۹۵۶ که اولین گروه کسایی که راجع به هوش مصنوعی صحبت میکردن اومدن پیشبینی کردن داریم به اون مرحله می‌رسیم بله اولین مسئله سال آقای آلن تورینگ ریاضیدان انگلیسی سال ۱۹۵۰ این موضوع رو مطرح کرد که تست ترینگ هم برای هوشم ب دقیقا اون زمان شروع شد ولی اشکالات یعنی محدودیت هایی که وجود داشت در بحث سخت افزاری و همچنین داده نگذاشت که این توسعه اون زمان اتفاق بیفته ب نگذاشت و اون کنفرانسی که من گفتم ۱۹۵۶ که اولین بار از لفظ هوش مسی اونجا استفاده میشه در اونجا چند تا از این دانشمندها اومدن گفتن که تا حدود ۲۰۲۰ ۲۰۲۵ ما به اون مرحلهی می‌رسیم که دیگه در واقع یک سوپر اینتلیجنس خواهیم داشت این اتفاق نیفتاده آیا به این ترتیب این حالت اضطرار که دیگه داریم میرسیم به جایی که حوش مصنوعی ممکنه بر ما فائق بیاد این یه مقدار توهم نیست قطعا اینگونه هست من حالا میتونم دلایل اینکه چرا اون اتفاق نیفتاد در اون زمان رو صحبت کنم راجع بهش ما به خاطر مشکلات سخت افزاری و همچنین داده هایی که داشتیم دو در حقیقت اصل سرد یا یخبندان هوش مصنوعی رو تجربه کردیم از سال ۱۹۷۳ تا سال ۱۹۸۰ و بعد یه یخبندان عصر یخبندان دیگه در سال ۱۹۹۰ اینها به خاطر این مسئله عقب افتاد رسیدن به اون تکنولوژی ولی من قسمت گروه دوم رو نگفتم گروه انسانی قضیه که باعث شده این موضوع امروزه انقدر بلد بشه کوه بله مسئله انسانی شم یکی از عواملش اینه که انسان ذاتا علاقه داره به کشف ناشناخته‌ها و دوست داره که یک موضوعی رو همیشه راجع به این مسئله بلد کنه مثل مثلاً صفحه حوادث روزنامه‌ها که خیلی خواننده دارن یا حتی این موضوع خیلی قدیمیه ۴۰۰ سال پیش ۴۰۰ سال قبل از میلاد مسیح در یونان باستان یک نماد سگی رو داشتن به عنوان یک موجود هوشمند که از انسان حمایت می‌کنه یعنی این موضوع قدمت تاریخی داره و یک مسئله دیگه هم سودجویی یک سری افرادی هست که بر موج هوش مصنوعی مثل امواج دیگه مثل کریپتوکارنسی ها مثل خودروهای الکتریکی مث سوار شدن و هرچه این موضوع رو داغتر کنند سود خودشون بیشتر میشه بسیار خب حسین آیا بخش زیادی از این ترس ناشی از صحبت‌های روزانه روز از پی روز درباره هوش مصنوعی ناشی از همین حالت انسانی نیست که میخواد راجع به نا ناشناخته‌ها بیشتر حرف بزنه در عینیه کنجکاوه هراسان همست و یه عده‌ایی هم میان سوار این موج میشن ممکنه این باشه ممکنه این باشه که ما بالاخره تحس از ناشناخته‌ها داریم دوست داریم راجع به صحبت بکنیم اغراق م امکان داره بکنیم اما آیا بالاخره مهمه که راجع به این حرف بزنیم آیا واقعاً اصطلاحاً پای امری راجع موضوع بالاخره در حقیقت چیزی درش هست یا نه من گم می‌کنم هست یعنی حتی در اینکه امکان داره در حالا بحث شبکه‌های اجتماعی بعضی از افراد سودجو به قول علی ازش استفاده کنن در این فکر نمی‌کنم تردیدی وجود داشته باشه اما آیا ما واقعاً باید هراسناک باشیم من فکر می‌کنم ما دلیل خوبی داریم برای اینکه هراسناک باشیم از اتفاقی که داریم در نسل جدید هوش مصنوعی رخ میده یعنی ممنونم از علی هم که اتفاقا کار منو سبک کرد دیگه لازم نیست راجع به هوش مسنون صحبت بکنم اونچه که مهمه دستکم در نسل جدید هوش مسنون که ما باش طرفیم ما با یه سرعت و دقتی طرفیم که هر دو با هم هماهنگ میشه با نوعی از داده‌های عظیم و گسترده‌ی طرفیم که یک دستگاهی یک ماشینی یا یک عاملی حالا ایجنت اگر بگیم روبهروی شماست و می‌تونه شما رو بشناسه حتی بهتر از شما می‌تونه شما رو تشخیص بده میتونه شما رو حتی به یک معنا پریک بکنه می‌تونه به شما پیشبینی بکنه که شما به احتمال زیاد چه رفتاری در آینده از شما سر خواهد زد و این یک تصوری در جامعه از این موضوع به وجود میاد از هوش مصنوعی حالا اینکه تصور درسته یا غلطه مهم نیست مهمه که این تصور در جامعه به وجود میاد که ما با چیزی طرفیم که یک شکل خداگونه داره در جامعه مثل یه دینی درست میشه از هوش مصنوع مثل یه دین مثل یک دین مثل یک دینی بر کار اومده که هوش مصنوعی یک پیامبری داره یک خدایی داره احیاناً من این رو از تجربه شخصی خودم عرض می‌کنم من وقتی که در دانشگاه وقتی راجع هوش مسون راجع اخلاق سیاست و حقوق هوش مسون صحبت می‌کنم تصوری که از دان دانشجویان سال اول می‌گیرم چنین چیزیست که ما با یک امر بسیار رازآلودی طرف هستیم که ما رو می‌شناسه و ما همه چیز رو می‌تونیم محول به اون بکنیم و اون می‌تونه برای ما تصمیمگیری کنه و ما رو به بهترین نحوه ممکن جامعه رو اداره بکنه و ما رو جلو ببره خیلی تصور عجیبی تصور اسرارآمیزی انگار که با یک موجود سوپرنچرال شما ماورا طبیعی طرفین و این خیلی می‌تونه خطرناک باشه چرا این تصور می‌تونه خطرناک باشه یا منظور شما این است که این تصور ریشه‌های عینی داره و در واقع حراس ما تا حدی به جاست من متجه نیستم دقیقا اتفاقا تفکیک د خیلی مهمه اینکه این تصور ریشه در واقعیت داره یه نکته‌ای من اینو می‌ذارم کنار راجع به خود تصور صحبت می‌کنم چون خود تصور می‌تونه خیلی خطرناک باشه چه واقعی باشه چه غیر واقعی چون این تصور جامعه رو هدایت می‌کنه جلو می‌بره و ما با نسلی طرف خواهیم شد که رفته رفته یک تفکر انتقادی رو زیر کنار میذاره اصلاً دیگه فکر نمی‌کنیم یعنی اینکه شما الان از علی سؤال کردید که آیا این ترس درسته که هوش مسنوعی بررا ما فائق آمد فائق خواهد اومد فائق مگه فائق آمدن چیز عجیبیست یکی از در واقع عناصری که امکان دار هوش مسن یا هر چیزی مثل دین بر ما فائق بیاد اینه که ما تفکرمون از دست بدیم یعنی به جای اینکه خودمون فکر کنیم همه چی رو بسپاریم برون سپاری کنیم به یه امر دیگه‌ی و من شما این رو می‌تونید در فرض کنید دانشگاه میگم تجربه شخصی من شما اینرو ببینید چت جیپی همین شما گزار می‌کنی به چت جیپی برای شما انجام بده و این توهم عجیب که هر آنچه که چ جی بیتی به شما میده درسته و این خیلی این خیلی خطرناک می‌تونه باشه شما فقط به الان نگاه ن بکنید فک کنید ۱۰ سال آینده ۲۰ سال آینده شما با نسلی طرفید که از دانشگاه بیرون میاد با خودش گن می‌کنه من لازم نیست راجع به امری فکر بکنم هر آنچه که تجی بیتی یا حالا ه گوگل بارد هر چیزی که هستش بسیار خب بمب اتمی چیزیست که ناشی از توان انسانی بود و سواستفاده از این توان اما هوش مصنوعی انگار یک در یک کتگوری دیگه است یک موجود ناشناخته‌ای که وقتی ازش می‌ترسیم ضرورتاً از قابلیت‌های خودمون نمی‌ترسیم بلکه از چیزی که ما برای ما نیست اونجا ممکنه از ما ریشه گرفته باشه ولی از ما به کلی منفک میشه این د تا چیز متفاوت نی دقیقاً دقیقاً متفاوته و من از اولی می‌ترسم یعنی اینکه توضیح میدم من وقتی از هوش مشو می‌ترسم از خود انسان می‌ترسم چون مثلا انسان خطرناکه ما جا پس شما از سواستفاده از چه مصنوعی می‌ترسی ببینید به این معنا سو استفاده نه اتفاق حال حالا بذارید من نکته بگم شاید براش ب بتونم لیبل بذارم ب نکته من این خواهد بود که ما شما مثال پنکه رو زدید در سخنان اولتون شاید مثال شا مناقشه بر انگلیس مثلاً مثال اسلحه باشه شما یه عده‌ای معتقدم وقتی ما بای تکنولوژی روبهرو هستیم مهم اینه که شما با تکنولوژی چه‌جوری رفتار می‌کنید تکنولوژی خودش یه امر خنثایی است شما می‌تونید خوب ازش برخورد کنید آیا هوش مصنوعی هم چنینه هوش مصنوعی در ذات خودش امر خنثایی است مهمی که ما چجوری رفتار می‌کنیم من به نظرم این موضوع ب ی کم بازتر بشه هوش مصنوعی بخص نص جدیدش وقتی ما با داده‌های گسترده و عظیم روبهرو هستیم ما با یه سری ارزش‌های انسانی طرفیم که وقتی در حال دیزاین کردن طراحی هوش مصنوعی هستیم در حال پروگرم گ در واقع حالا برنامه‌ریز برنامه‌نویسی راجع به این موضو هستیم به طور ناخودآگاه این ارزش‌ها در هوش مصنوعی ریخته میشه این یکی از کارهای مهمی اس که ما با آموزش می‌تونیم انجام بدیم که این امرو از راز آلودگیش دربیاریم بذار اینجوری توضیح بدم برایی مثال میگم ما تو جامعه عمون همین طوری اگر نگاه بکنیم پر است از ناعدالتی های جنسی جنسیتی احیاناً ناعدالتی های نژادی این عدالتی‌ها حین ساخت هوش مصنوعی در این‌ها ریخته میشه ما بدون اینکه خبر داشته باشیم یعنی به یک معنا ما خودمون اول از همه مشکلی داشتیم هنوز حل نکرده بودیم یه تکنولوژی به سروقت ما اومده بعد به خودمون فکر کردیم خب بریم این تکنولوژی ازش استفاده بکنیم که واقعاً هم استفاده خوبی ازش میشه کرد این همه در پزشکی اگه کسی می‌تونه اصلاً انکار بکنه که هوش مصنوعی چه کمکی شایانی ما می‌کنه اما اینکه فراموش بکنیم که ما یه انسان‌هایی هستیم به قول حافظ خراب آلوده و تر دامن و این همه مشکل تو این جامعه ما داریم بالاخص مسئله تعصب بالاخص مسئله نادالی شک دیتا وارد بشه دیتا به قول فیلسوفی که به انگلیسی میسن گارج این گارج دقیقاً همین این شعار مشهوری که ما تو کامپیوتر ساینس داریم و فلسفه میگن آنچه که ما ناعدالتی در جامعه داریم همین رو می‌ریزیم در هوش مصدومی و این ب شکل خیلی شدیدتری در جامعه خودشو نشون میده بالاخص اگر اضافه کنی به مقدمه اول من و اون چی بود هر آنچه هوش مصنوعی به شما میدی درست است یعنی وقت نسل بعدی ما با یه نسل بعدی طرفیم که فرض کنیم یه شرکتی به نام آمازون یه الگوریتمی استفاده می‌کنه برای اینکه یه افرادی استخدام بکنه و این افراد کسانی که فرض کنید جنسیت زن دارن رو اصطلاحاً تنبیه می‌کنه این الگوریتم برای چی برای اینکه ما یه جامعه‌ای قبلاً داشتیم کهی جامعه مردسالاری بوده و این و زنان رو استخدام نکرده بود این هوش مصنوعی هم فقط یک نوع در واقع آینه‌ای اس از جامعه ما و این این نوعی از اعتماد بیش از اندازهی که ما به هوش مسود داریم می‌تونه خیلی به نظرم خطرناک باشه بله یه بیان دیگه این ماجرا علی این است که عقل و اخلاق ما به اندازه دانش و تکنولوژی ما پیشرفت نکرده در واقع یه نوع ناهم زمانی وجود داره چنان در علم جلو رفتیم که به ی شرایطی رسیدیم که اعجاب آوره ولی نهادهای ما موازینی که ازش پیروی میکنیم آماده استفاده از این حد از دانش و تکنولوژی نیست این میتونه فوقالعاده خطرساز باشه دیگه نه در مورد تکنولوژی‌های غیره هوشمند مثلاً تکنولوژی‌هایی که ما در ساخت صلاح داریم یا در بحثهای دیگه داریم س جوابی که شما می‌خواید بگیرید خیلی واضح‌تر هست که قطعاً اینه یعنی ما زمانی که عقل انسان به اون درایت کافی نرسیده اگر ابزار خطرناکی رو در اختیارش قرار بدیم می‌تونه بسیار مهلک باشه ولی یکی از نکات مثبتی که هوش مصنوعی داره اینه که میشه براش ارزش‌های مشترک تعریف کرد و اون رو قاعده‌مند کرد که در یک حوزه به خصوص فکر بکنه و از اون خارج نشه این امکان وجود داره حتی در بحث داده همون جوری که حسین جان فرمودن درسته که الگوریتم‌های امروزه که بر اساس هوش مصنوعی ضعیف هستن از دیتا هایی که ما انسان تولید کردیم آموزش می‌بینن و همون رفتار اشتباهم ماان رو تکرار خواهند کرد ولی این قابل اصلاح هست یعنی ما در یک مثالی ما این رو تست کردیم دیدیم که در بحث استخدام افراد دیتا هایی که به مدل داریم میدیم دیتا هایی هست که جنسیتی یعنی مردان سفید بیش درر استخدام شدن در شرکت‌های معدنی در یک دوره خاص و بعد مدل یاد گرفته و هر وقت که می‌خواد مصاحبه کنه و یک نیروی جدید بگیره فرض را بر این می‌گذارد که مثلاً باید بالای ۶۰ حتماً از افراد مردان سفید انتخاب بکنن و ما این رو با یک الگوریتم اصلاحی در درون برنامه اصلاح کردیم من صحبتم اینه که علی رغم اینکه عقل انسان و درایت انسان ممکنه به پای تکنولوژی رشد نکند ولی در مورد تکنولوژی‌های هوشمند این کار بهتره یعنی کمک می‌کنه به ما که جهت بدیم درست بکنیم حتی در اصلاح بربیاییم که صرفاً بر اساس داده‌های گذشته اون الگوریتم کار نکنه البته صحبت ما امروز صحبت جنرال ای آی و اک استرانگ ای آی هست ما صحبت از ویک ای آی که صرفاً مبتنی بر داده‌های تاریخی هست نمی‌کنیم شما فرض کنید همین مثال شرکت آمازون که مثال واقعی هست که ب شرکت آمازون عذرخواهی هم کرد این هم زنانی بودن که از کار در واقع به خاطر یه الگوریتمی که در واقع ناعادلانه بود و تبییض آمیز بود از کار رانده شدن حالا کسی هست که احیان م بخواد به یک معنا عذرخواهی بکنه بگه مسئولم نه این یعنی اتفاقیست که راجع به خب شما در مورد شرایط حاضر صحبت می‌کنی اگر مثل قضیه گرمایش محیط زست و اگر نهادهایی درست بشه همینجوری که دولت‌ها شروع کردن کنفرانس‌های بین دولتی برگزار شده در همین لندن چند وقت پیش بله ب نهادهایی ایجاد کنن مثل نهادی که سازمان ملل در ارتباط با گرمایش زمین داره این نهادها نمی‌تونن تنظیم کنن کنترل کنن در زمینه گوش مصنوعی این به نظر من خیلی من خیلی موافقم یعنی نهایت چیزی که من اگه د تا امر راجع بش بخوام صحبت بکنم ازش دفاع بکنم یکی مسئله آموزشه آموزش آموزش آموزش یعنی ما آموزش نه تنها از دانشگاه‌ها که هیچی ب نظر از مدرسه باید آغاز بکنیم راجع به هوش مسوی من گمان می‌کنم این چیزیست که تحقیق که اخیرا من خود من انجام دادم به گمان من مثل مسئله سکس اجوکیشن مسئله آموزش درباره روابط جنسی مثل مسئله مواد روان گردر ی مخدر مسئله هوش مصنوعی در مدارس هم حتی به نظر باید آموزش داده بشه که این اصطلاحاً تصوری که کودکان و بچه‌ها راجع به ای آی دارن که یه امر راز آلودیست که می‌تونن بهش تکیه کنن همواره و همیشه ازش گرفته بشه نکته دوم نکته‌ای که شما فرمودید اینکه دولت‌ها وسط بیان اما آیا دولت‌هایی که با یه ساختار سیاسی خاصی به طور خاص لیبرال دموکراسی‌ها مثل انگلستان مثل فرض کنید دولت‌های اروپایی مثل آمریکا که اخیراً خب خیلی جدی اومدن وسط آیا می‌تونن در یه ساختار اقتصادی کاپیتالیستی که درش زندگی می‌کنن وادار کنن که شرکت‌هایی که الان بدل به یک شرکت‌هایی که هم عرض دولت‌ها شدن یعنی این خیلی امر عجیبیست واقعاً در دورانی که ما اصطلاحاً حسابی سرمایه گذاشتیم که دموکراسی بنا بکنیم همین دولت فعلی انگلستان می‌نشینی روبهروی شرکتی به نام شرکت متا یعنی شما ببینید د تا د تا یکی دولتیست یکی ی شرکتی اس ب همزمان هم عرض همن قدرت همدیگه در واقع تقریبا شبیه هم دارن آیا می‌تونن مجبور کنن این اتفاق خیلی سخت رو این کهه یک سمت داره قدرتمندتر میشه میشه تصاعدی دیگه یعنی ما در آینده نزدیک شاهد تجمیع بیشترین دانش در دست کمترین تعداد افراد خواهیم بود این تعداد افراد کسانی هستن که در رأس شرکت‌های بزرگ تکنولوژیهای نو هستن مثلاً در رأس متا در رأس گوگل و اینا مدام همونجور که شما گفتید بر اساس این افزایش مسیت قدرتمند تر میشن دیگه یه فیلسوف آلمانی خوب گفته بود گفته بود که هر کدوم از ما سواری مجانی میدیم به این شرکت‌ها برای اینکه اطلاعات خودمونو میریزیم و اینا پردازش میکنن دیگه همین لحظه ما داریم این کارو میکنیم وقتی این برنامه پخش میشه این میره توی سیستم نمیدونم دیجیتال پردازش داده‌ها از طریق نمیدونم انتشار در شبکه‌های اجتماعی و این تجمیع داده‌ها داده‌ها در آن واحد همزمان هست با تمرکز بیشتر این قدرت و ثروت در دست افراد خاصی دقیقا ببینید کلا هوش تا به امروز مشکلی که پیش آورده این اختلاف طبقاتی رو بسیار دامن زده و شرکت‌ها مؤسسات یا افرادی رو که در این حوزه کار می‌کنن خیلی مستثنا کرده از بقیه به عنوان مثال کارشناسانی که در این حوزه کار می‌کنن که من باهاشون در ارتباط هستم مثلاً حقوقهای حتی اینها ک کارشناسان معمولی حقوقشون بین ه تا چ برابر کارشناسانی هست که در حوزه‌های دیگه فعالیت میکنن یک کاری که میشه در این حوزه کرد و اتفاقاً الان اگه در جریان اخبار باشید میید که گوگل چندین بار دادگاهی شده سر این انحصار داده و این انحصاری کردن بازار اگر این اتفاق شکسته بشه یعنی ما اولا اینکه دولت‌ها به تنها هیچ کاری نمیتونن بکنن یعنی ابتکاری که اتفاقا نخست وزیر بریتانیا داشت ابتکار جالبی بود یعنی ۲۸ شرکت و کشور رو دعوت کرد در اج ی که در لندن بود که بشینن و راجع به این موضوع صحبت کنن قطعاً ما یک هماهنگی و همکاری بین شرکت‌ها و بین کشورها رو میخوایم چون هیچ کشوری نمیتونه شرکت‌ها رو متقاعد بکنه یا مجبور بکنه که از قوانین خاص اون کشور پیروی بکنن برای این موضوع مثال شرکت دل کامپلکس چند وقت پیش یک شناوری به نام بارج رو تجهیز کرده با نزدیک ۱۰ هزار جی پی ان ویدها از همون نسل اچ و هدر که این در دریای آزاد فعالیت می‌کنه سیستم خنک کنندگیش م با آب دریاست و انرژیش م از خورشید تأمین می‌کنه این نشون میده که حتی فرمان اجرایی آقای بایدن یا سایر نخست وزیرهای رئیس جمهورها نمی‌تونه اونقدر محکم تأثیر گذار باشه بر روی این شرکت قانون گذاری‌ها هم انجام نشده دیگه قته جدیدیه و افسونه بر این چیزی که گفتید و مشکلاتی که شما گفتید ما رقابت‌های بین دولت‌ها هم داریم دیگه یعنی یه جوری راجع به دولت‌ها و شرکت‌ها صحبت می‌کنیم انگار این‌ها میان قشنگ دور هم میشن و کارتشو روی میز میگذارن در صورتی که الان رقابت بین چین و آمریکا در زمینه هوش مصنوعی رو داریم دیگه جناب کریم جنگ هستن حضور من الان مثال‌هایی دارم شما الان آقای بایدن دستور دادن که صدور ریز تراشه‌های مثلاً شرکت انویدیا به چین ممنوع بشه بله بله و یعنی این چیپ ست‌ها وارد اون و اونها نمی‌تونن از از در حقیقت سرورهای امریکا استفاده کنن ب که هر کدوم از این بازیگرها دور میز هم که میشینن دارن بازی خودشونو می‌کنن این خطرناکترین موضوع هست که در حال حاضر وجود داره به نظر من خطرناکی هوش مصنوعی این نیست که در عموم ازش یاد میشه و ما می‌بینیم اتفاقاتی هست که در پس پرده داره میفته و ما از اونها بی اطلاع هستیم متأسفانه در به خص بو شر کشورهایی که در این حوزه خیلی فعال هستن تو بحثهای میلاتی این‌ها بسیار جلوتر هستن از استفاده از هوش مصنوعی شون تا چیزی که مثلاً ما توی اپن ای آی داریم می‌بینیم یا مثلاً مدیر عاملش اخراج میشه به خاطر اینکه رویی پروژه کیو استار کار کرده اطلاع نداده تست که جنرال ایی همین الان هم در حال توسعه هست در پشت پرده و این بسیار می‌تونه خطرناک باشه حسین بیاد به یه بحث میشه گفت مبنایی تر بپردازیم جان سرل فیلسوفی که شما خوب با آراش آشنا هستید اومد یه سناریو رو فرض کرد یا یک در واقع بازی فکری تحت عنوان اتاق چینی لب کلامش بدون اینکه وارد جزئیاتش بشیم این است که بین هوش هر چقدرم افزایش کیفی و کمی پیدا بکنه کیفی به این معنا که به یه مدارج کاملاً متفاوت برسه و کمی از این نظر اینکه مثلاً مسیتی بیشتری اطلاعات فوقالعاده بیشتری رو بتونه پردازش کنه هر چقدرم این اتفاق بیفته یه مرزی هست بین آگاهی و هوش که هوش مصنوعی که ما می‌شناسیم و داریم پیشبینی می‌کنیم این مرز رو نمی‌تونه بشکنه یعنی به سمت آگاهی نمیتونه پا بگذره چنین چیزی میشه گفت چون از نظر جان سرل به این دلیل که این مرز رو نمیشه ازش عبور کرد نگرانی‌های ما از هوش مصنوعی هم تا حد زیادی با تخفیف پیدا کنه ببینید ایده سرل یا خیلی از فیلسوفان نزدیک اون این بود که بالاخص در دوران نسل جدید هوش مستیم از این موضوع مهم‌تر م هست بقص چون راجع به ما یادگیری داریم صحبت می‌کنیم راجع به ماشین رنی یا ماشین‌های یادگیرنده بله مسئله اینه که شما درست می‌فرمایید این ماشین‌ها درک ندارند به خاطر اینکه وضعیت ذهنی به تعبیری ندارن باور ندارن عواطف ندارن احیانا یا به تعبیر خوب شما آگاهی ندارن وقتی وضعیت ذهنی یا منتل استیت ندارن درک ندارن من نهایتش اینه که به تعبیر سل گویی که ما یه ماشینی داریم که تو یه اتاقی نشسته شما باهاش شروع می‌کنی به مکالمه کردن و خب اینم زبان چینی رو به یک معنا خیلی تکنیکی میتون که فقط یه سینتکس رو بلده دقی یه سینتکس و بلده و میره اون نحو شو گرامر شو بلد با شما شروع می صحبت کردن و این به این معنیست که اون زبان رو معناش رو دریافته به تعبیر س حالا این مسئله آیا خیلی مسئله مهمی اس برای ما برای اینکه ما نگران باشیم که آش پش مصنوعی برا ما فائق میاد یا نه من حقیقتش اینه که با س چندار همدلی ندارم یعنی در عین اینکه شما اون سناریوی جانسل رو می‌پذیری نتیجه گیریش رو نمیپذیره نه یعنی من گمان می‌کنم که ما الان بالاخص در دوران ماشین ماشین ماشین‌های یادگیرنده که هستیم مهم اتفاق مهمی که رخ میده این کهه ما یک مکالمه یا به یک معنا کامیونیکیشن یک ارتباطی با ماشین بین ما برقرار میشه و این اگر اضافه کنم به نکته که علی اولش گفت و همون تست تورینگ که ما موقع مکالمه با این ماشین برقرار میکن ونی واقعاً بعضی موقع‌ها نمی‌دونیم که آیا پشت این ماشین یه انسان نشسته یا واقعاً ماشین نشسته و اگر شما متوجه نشین یک برگ برنده است برای هوش مصنوعی من موقعی که یک پشت پرده دارم با یه کسی مکالمه می‌کنم و نفهمم که اون فرد این نق تست تورینگ دیگه شما دقیقا در واقع بر اساس پاسخ‌هایی که از اون و پرده میاد نمی‌دونی انسان است یا ماشین است من انسان دارم با یه کسی مکالمه می‌کنم و واقعاً متوجه نمیشم و این مکالمه داره جلو میره و این به نظر من کافیست یا به تعبیری که بعضی فیلسوفان در جواب گفتن مهم اینه که هوش مصنوعی محیطی رو فراهم می‌کنه که ما درش یه چیزی ادراک صورت می‌گیره مهم اینه و واقعاً حش مصنوعی محیطو فراهم می‌کنه و همین کافیست برای ما فراهم می‌کنه این چیزی که تحت عنوان سینگلارتی یا تکینگی ازش نام برده میشه این همون مرحله سوپ سوپر اینتلیجنس و اگر اون مرحله است آیا سوپر اینتلیجنس این تکینگی در هوش مصنوعی نزدیک میشه به اونچه که آگاهی مینامیم دردر سندینگ به شکل انسانیش مینامیم کانشسنس مینامیم ب میشه واقعا ببینید این از اون سوالاتی هست که پاسخگویی بهش مشکله برای اینکه ما هیچ درک درستی از اون سوپر اینتلیجنت نداریم در حال حاضر تمام پیشبینی ها بر این هست که در بین سال‌های ۲۰ ۴۰ تا ۲۰ ۴۵ ما دقیقا با این موضوع روبهرو خواهیم ش شد و کاری که آقای جانسل کردن توی اتاق چینی در حقیقت در سال ۱۹۸۰ اون مقاله رو من مطالعه کردم مقاله شونم چاپ شده اومدن و بر اساس نالج بشر در حوزه مشین لرنینگ در حوزه ویک اآ صحبت کرد در اون زمان در اون زمان ببینید اتفاقا کار آقای جانسل اینو تایید میکنه برای ما که ما با دو مدل هوش روبهرو هستیم یکی هوش مسنوعی ضعیف که بر طبق صحبت ایشون درست هم میگن هیچ‌وقت اون هوش مرز به آگاهی رو ندارد و ندارد و همیشه تحت کنترل انسان خواهد بود ولی از اون طرف وقتی که ما وارد یعنی محث جنرال ای آی رو پشت سر گذاشتیم و دیگه حالا هوش‌های مصنوعی اون آگاهی باور حتی احساسات رو می‌تونن به راحتی درک بکنن و شبیه‌سازی بکنن حالا دیگه کلاً موضوع عوض خواهد شد و ما نمی‌تونیم استناد بکنیم بر این ولی یه مشکلی که هست که باید این حل بشه اینه که که چرا ما بر فرض گذاشتیم که هوش‌های مصنوعی سوپر اینتلیجنت بر ضد بشر خواهند بود چرا ما همیشه از اون‌ها می‌ترسیم این باور باید شکسته بشه من اتفاقاً به این معتقد هستم که هرچی که ما پیش میریم به اون سمت زندگی برای بشر راحت‌تر سالم‌تر و اتفاقاً هیجان‌انگیزتر خواهد شد شما تصور بر این بکنید یک بچه انسان که به دنیا میاد با ناآگاهی به دنیا میاد یعنی هیچی در مغزش وجود نداره و سال‌ها طول می‌کشه تا کمکم یاد بگیره چگونه صحبت بکنه چه‌جوری ارتباط برقرار بکنه اینها تا میانسالی به اوج این هوش خواهد رسید و دوباره افول می‌کنه دوباره کم میشه خب حالا هوش مصنوعی که به صورت ما استرانگ ایهای ازش صحبت می‌کنیم اگر به صورت یه ریز تراشه در در مغز یک کودک کار گذاشته بشه تصور کنید حالا تصور هالیوودی نمی‌خوام بکنیم این واقعیت داره الان شما این مثال آوردید که ترس ما رو بریزید ب نه نه نه شما فکر کنید که یک کودک انسان خیلی سریع‌تر وارد اون بحث بلوغ فکریش خواهد شد و همچنین زوال مغز که الان یک مشکل عمده‌ای هست در افراد کهنسال خب اون هم از بین خواهد رفت یا به تعویق خواهد افتاد به تعویق قطعاً به تعویق خواهد افتاد خب این سؤال خوبیه چرا فرض عمومی حتی اگر انکارش م بکنیم ولی پس ذهن ما هست فرض عمومی پس ذهن همگانی این هست که این هوش مصنوعی دارای نیات آسیب‌زا مخرب خواهد بود احتمالاً می‌تونه این باشه نه لزوماً لزوماً اینگونه نیست واقعاً مگر اینکه ما چه‌جوری تربیتش کنیم مسئله اینه که ما خب پس ماییم که ممکنه ب من نکته اساسی هوش مسوی که ما باید رازآلودگی ازش بگیریم این که ماییم اصلاً فقط ارزش‌های انسانی پشت هوش مصنوعی در خلع که هوش مصنوعی رخ نمیده تربیت نمیشه با دیتاهای ما داره تربیت میشه و از اونجایی که جامعه ما ساختارش به قدری ناعادلانه است الان به قدری غیر منصفانه است اگر قرار باشه ا اون هوش مسنوعی که ما تربیت میکنیم قراره بر ما حکمرانی بکنه بعداً به نظر میاد خیلی چیز جالبی از ما در نیاد بالاخص با این مثالی که علی گفت چی مثلاً زوال فکر رو یا مثلاً در حوزه پزشکی مثل بحث آلزایمر یا حوزه پزشکی مثلا ف سرطانها یه لفظی استفاده کرد واژه استفاده کرد خیلی مهمه هیجان انگیز اگر ما بفهمیم که هوش ما هوش انسانی فقط یک فاز یک پیر از در واقع تاریخ هوش بوده این هیجان‌انگیز نیست چرا هیجان‌انگیزه ولی فرض بکنید بذارید ب من یه مثال دیگه بذار ببینیم شما این یج انگیز هست یا نه فرض کنید شما به شما خواهند گفتش که من باز بذارین از مثال خودم استفاده کنم یک خدایی بر این حالم حکمفرما خواهد بود خدای بسیار مستبدی است شما رو بر اساس اینکه چه کشوری به دنیا اومدید شما رو بر اساس اینکه چه نژادی دارید بر اساس اینکه چه جنسیتی دارید شما رو تنبیه می‌کنه بدون هیچ دلیلی و شما همچ داری راه میرین یهو شما یه عذاب می‌کشید شما دوست دارین تو این عالم زندگی بکنین ی همچین خدایی داشته باشین به نظر من اون افراد نمی‌خوان قطعاً این‌گونه نخواهد بود ببینید هوش مصنوع من اعتقادم بر اینه که انسان همراه با هوش مصنوعی رشد خواهد کرد یعنی ما به اون نقطه‌ای که یک موجودی خلق کنیم که مسلط بر ما بشه نخواهیم رسید برای اینکه ما هم به عنوان یک انسان یا یک هوش طبیعی در موازات با ا رشد اون هوش مصنوعی رشد خواهیم کرد و حتی از اون کمک خواهیم گرفت من در حوزه مثلاً کار گذاشتن ریز تراش در مغز گفتم که چه کمکی می‌تونه بکنه شما در بحث سخت افزار انسان را هم تصور بکنید وقتی که شما این ریزتراشه رو توی ذهنتون دارید تمام بیماری‌هایی که ممکنه در آینده باعث لطمه زدن به بدن شما بشه رو این می‌تونه پیش‌بینی بکنه و ازش جلوگیری بکنه علی اون شتابی که در پیشرفت هوش مصنوعی هست لفظی که ترجمه مناسب براش گریخت گیست فرار بودن این تکنولوژی یعنی از چنگ ما چنان به شکل تصاعدی در می و تصاعد عموماً ما فکر میکنیم میفهمیم اما در مخیل مون نمیگنجه دیگه شما همونجوری که خیلی معروف هست اگر بخواهید ۳۰ قدم بردارید که قدم اول یک متر باشه ولی قدم‌های بعدی به شکل تصاعدی اضافه بشه در قدم سیم به نظر میشه اونجوری که میگن حساب کردن سه برابر مدار ماه دور کره زمین طی خواهی کرد یعنی تصاعد یه همچین چیزیه خب به این شکل اکسپوننشیل افزایش پیدا کردن و هوش مصنوعی اینجوری داره تصاعدی رشد میکنه خب آیا عقل ما نهادهای ما نمیدونم میزان همکاری‌های ما به عنوان بشر روی کره زمین به این شکل پیشرفت می‌کنه جواب سؤال شما خیلی از دو جنبه میشه بهش پرداخت یک آیا حق انتخابی برای ما وجود دارد آها اینم مهمه یا خیر حق انتخاب تو چه در توسعه هوش مصنوعی هوش مصنوعی چه بخواهیم چه نخواهیم توسعه پیدا می‌کنیم چه ما بترسیم چه نترسیم چه تمام دنیا جمع بشن بخوان اعتراض کنن اعتب کنن جلوش نخیر اتفاق خواهد افتاد و شرکت‌ها موسسات مجموعه‌ها دولت‌ها هستن که اینا گسترش میدن چه ما بخواهیم چه نخواهیم پس این قسمت اول پس ما باید خودمون رو آماده بکنیم برای چنین اتفاقی به جای اینکه این رو تابو بکنیم ازش بترسیم و به سمتش نریم این مهمه میشه ازش فرار کرد نه ازش ولی سرعتشو میشه کم کرد کاری که دولتها دارن میکنن همینه یعنی تو سیاستگذاری به توز اتفاقا ماسک همینو گفته بود گفته بود برای یه مدتی شاید لازم باشه تحقیق در این زمینه رو متوقف کنیم ولی اونم شدنی هست آخه من من من شاید خیلی بدبین باشم ولی بله میتونم خودم فکر بکنم یک تصور زارم باشه که شاید سرعتش گرفته بشه و بر میگردم به نکته که شما گفتی نکته خیلی دقیقی هم هست واقعاً منم گمان می‌کنم که یعنی ماهیت بشر یا ماهیت مؤسسات ما اونقدر پیشرفته نشده که به اندازه که تکنولوژی ما داره پیشرفته میشه و این می‌تونه خیلی خطرساز باشه برای بشر یعنی من از مثال علی استفاده می‌کنم فرض کنیم ما به یه تکنولوژی دست پیدا کردیم که بشر میتونه خیلی سالیان دراز طولانی زندگی بکنه چرا چون بیشتر بیماری پیشبینی میشه فرض کن آلزایمر فرض به یک معنا درمان میشه احیانا اما یه بشری هستش که اصطلاحا عقلشو گذاشته زمین خودش فکر میکنه که یه هوش مصنوعی هستش که من خودمو تحویل اون میدم بعد زندگی چی میشه این منو یاد حرف خیلی مشهور ویتک انشتاین میندازه میگه که حتی اگر ما تمامی من دارم در واقع نقل به مضمون می‌کنم حتی اگر تمامی سؤال‌های علمی رو جواب بدیم یک س یک سؤال‌هایی یا یک سؤالی در مورد معنی زندگی هست که نمیتونیم جواب بدیم و ممکنه ا خونو بیشتر کنیم ولی معنی زندگی رو ممکنه نتونیم پیدا کنیم یه نکته اینجا هست من اشاره کنم چون من صحبتم کامل شما سوالتونو پرسیدید من نتونستم جواب بدم اینکه خب پس چه کنیم من می‌خواستم بگم که اصلاً فرار ازش نکنیم این موضوع اول بریم به سمتش ولی چگونه هدایتش کنیم چگونه مدیریتش بکنیم یکی از بهترین گزینه‌هایی که در این حوزه وجود داره استفاده از خود هوش مصنوعی برای کنترل هوش مصنوعیه یعنی همون جور شما مثلاً قوه مقننه دارید قضییه دارید قوه مجریه دارید از هیومن اینتلیجنس برای کنترل رفتار انسان‌ها حالا می‌تونید از همون هوش مصنوعی هم همون سیستم قانون‌گذاری اجرا و نظارت رو داشته باشید که قطعاً بهتر از انسان هم کار خواهد کرد ولی تو صحبتت شما یه نکته‌ای رو اشاره کردید که مثلاً کسانی مثل آقای ایلان ماسک که میان نامه‌ای امضا می‌کنن میگن آقا ۶ ماه یک سال به تعویق بندازید روی صحبت اینچنین افرادی نباید ما برنامه‌ریزی بکنیم همون زمانی که ایشون این نامه رو امضا می‌کنه داره در کمپانی اکس ربات گروک رو دولپ می‌کنه یعنی دقیقاً همون زمان ولی چون ایشون در اون سهمی که در اپن ای آی داشت و بعد اومد بیرون واگذار کرد بعد مایکروسافت خرید و بعد دید از این قافله عقب افتاده حالا سعی کرد که جلوی این اتفاق رو تا میشه بگیره که از اون طرف خودشون یعنی میخوام بگم که با چنین مسائلی که عقب بیفته عقب بندازیم نمیدونم قانون اینجوری فلان کنیم اینها این‌ها مسئله حل نمیشه ولی تنها راهی که الان به ز قبلاً یه تکنیک دیگه‌ای بود به نام کیل سوئیچ یعنی می‌گفت به سم به صورت سخت افزاری زمانی که شما احساس کردین الگوریتم‌ها دارن به یک سمتی میرن که برای نسل بشر خطرناک است و یا ممکنه قابل فهم نباشه اون کیل سوئیچ عمل می‌کنه و اون سخت افزار رو از کار می‌ندازه خ که البته اون طرح الان مطرح نیست و شکست خورده است چون همه سیستم‌ها روی کلاد به صورت پخش است برای همین گفتن که خب بیایم در الگوریتم‌ها به گونه‌ای رفت رفتار بکنیم که اون الگوریتم‌ها به ارزش‌های عمومی بشر و انسان پایبند باشن و نظارت بکنه خود ا چون هیچوقت هوش انسانی در مق در هم به صورت عملکرد هم زمان نمی‌تونه به پای هوش مصنوعی برسه و اون رو کنترل کنه فقط خود اون هوش مصنوعی هست که می‌تونه این کمک رو بکنه در این خب در واقع افسار رو به دست خود هوش مصنوعی ب ارزش‌ها رو تعریف می‌کنین براش قوانین رو مشخص ارزش‌هایی که ما تعریف ارزشهای انسانی هست ببینید مسئله این که ما به عنوان بشر داریم اینه که ما خودمون رو انسان امروز رو با این درک شعور و فهم اشرف اشرف مخلوقات پنداشتیم و می‌خوایم همین رو نگه داریم می‌خوایم جلوی ه شما تصور کنید اون میمون‌های که مثلاً در تکامل داروین هستن اگر احساس می‌کردن یه میمونی یه کم هوشش بیشتره شروع می‌کردن اونو کشتن آیا ما به انسان امروز می‌رسیدیم نه پس اینکه ما بیایم بگیم خب یه هوش مصنوعی داره میاد ب بگیرید جلوشو بکشیدش از بینش ببرید برای اینکه ما همینی که هستیم عالی هستیم خب این یک کلا تفکر اشتباهیه بدی نیست نباید فکر کنیم انسانی که در عصر سوپر اینتلیجنس هوش مصنوعی قوی وجود خواهد داشت جلوی اونو بگیریم من اصلا هیچ مشکلی اتفاقا خیلی هم دارم با علی و نمیتونیم جلوشو بگیجان انگیزی که من گفتم نیست هست ولی هیجان انگیزی که س ققی درش مهمه اینکه چه هوش مسنوی در آینده ما رو اداره خواهد کرد سؤ اصلی ب من اینه ما اگه بتونیم من شاید خیلی مشکوک باشم ولی می‌تونم با خودم تخیل بکنم اگه ما بتونیم یه هوش مصنوعی به یک معنا سیاست‌گذاری کنیم قانون‌گذاری بکنیم که در آینده به ما آسیب نرسونه به ارزش‌های ما چرا نه من من هیچ مشکل ندارم من هیچ نگاه ندارم که انسان اشرف مخلوقات نه بدیم دست هوش مصنوعی اداره کنه جهان رو چه اشکالی داره با ولی به نظر میاد در صحبت‌های شما این مکنون هست که ما اطمینانی نداریم که چنین ضابطه مندی رو بتونیم در هوش مصنوعی در واقع یه جوری قرار بدیم من خیلی مشکوکم یعنی با توجه به آنچه که می‌بینم با توجه به آنچه که در ماهیت بشر میبینم با اون اختلافاتی که ما در عالم داریم ما سر مسئله واقعاً حیاتی محیط زیست سر مسئله واقعاً تغییرات آب و هوایی هنوز نتونستیم به نتیجه برسیم بحث جالب مربوط به همین در واقع مقایسه انواع محصولات تکنولوژی دیگه یا مقایسه رابطه ما با تکنولوژی از یه مثال در واقع خیلی ابتدایی شروع کنیم رابطه انسان با رنده یک وسیله‌ای است مستقل از تو می‌گیری به کار و میگذاری اونجا در مرحله بعد شما عینک رو فرض کن عینک اونوقت میشه یه مرحله بالاتر از رابطه ما با تکنولوژی به این معنا که میشه امتداد اندام‌های ما دیگه خب و شریک میشه در ایجاد محسوسات ما یه مرحله بالاتر شاید بشه گفت که در واقع یک رابطه هرمنوتیک ایجاد می‌کنه این تکنولوژی چاپه صنعت چاپ که کتاب ایجاد کرد برای عموم انسان‌ها نشریه ایجاد کرد در واقع تو رو دست تو رو می‌گیره می‌بره به یک دنیای هرمنوتیک یک رمان رو فرض کن شما در واقع انگار وارد یک افق معنایی میشی و شما دیالوگ برقرار می‌کنی اینم یک تکنولوژی دیگه حالا هوش مصنوعی دست تو رو می‌گیره می‌بره به یک دنیایی که قدم به قدم دست تو رو گرفته ولی نمی‌دونی قدم بعدی به کجا خواهد رفت آیا این زیاد رمزآلود کردن رابطه ما با هوش مصنوعیه برای ما ساختن در صورتی که واقعیت این نیست یعنی چیزی که ما تا به امروز دیدیم از هوش مصنوعی کمک به بشریت بوده حتی من یه مثال براتون بگم در جنگ جنگها شما دیگه بالاتر از این نیست دیگه در جنگ‌ها هوش مصنوعی چنان می‌تونه مفید واقع بشه که اصلاً شما نمیتونید تصور بکنید الان مثلاً به چه معنا مفید واق میزان تخریب رو کار ب به شدت ببینید شما الان ما پهپادهای خیلی کوچیکی داریم خب اینا ساخته شدن البته در حد آزمایشی هستن هنوز این‌ها به محض اینکه وارد یعنی شما می‌تونید مثلاً هزاران پهباد کوچیک به اندازه مثلا یک زنبور عسل هستن اینها رو میتونید در یک منطقه خب از آسمان رها بن اینها با مقابله با هر فردی بلافاصله میتونن تشخیص بدن آیا این کودکه آیا این زنه آیا این مسلحه آیا مرده آیا نظامیه یا خیر و در صورتی که بر اساس اون تشخیصشون دشمن حساب شد میتونن به اون میچسبن و منفجرش میکنن خب در این نوع جنگ‌ها نه تأسیساتی تخریب میشه نه کودکی کشته میشه نه زنی از بین میره نه بیمارستانی تقریب میشه شما ببینید دیگه این در دورس کی هاجن خیلی این تا حالا که تا حالا که اونچه که ما از پهبادها دیدیم در واقع این بوده که در بسیاری از موارد به قول خودشون اونایی که تعوی میکنن کولترال دمج یعنی در واق تلفاتی که ناخواسته بوده زیاد شده دیگه ولی شما معتقد هستید این یک فاز موقتی ما به فاز دی الان بله شما دارید الان راجع به تکنولوژی الان صحبت میکنید من دارم راجع به تکنولوژی سال مثلا ۲۰ ۴ صحبت می‌کنم اون موق که دسترسی به چنین مسئله‌ی داریم خب میخوام بگم که اگر ما صرفاً نقاب تیره به چهره بزنیم و بگیم که هر آن چیزی که کنترل بشر امروز رو از دستش خارج میکنه خطرناکه ترسناکه و ممکنه نسل بشر رو از بین ببره این تفکر اشتباست من من اصلا مسئله با نسل بشر واقعا سادق ندارم مسئله ب که واقعا اصلا نس باشه بین بره م که اینکه الانی که ما هستیم آسیب به می‌رسه یا نه من به گمانم این این تصور خیلی غریبیست که ما واقعا راجع به پهباد صحبت بکنیم یه پهبادی که فرض بکنیم کل دیتا ستی که داشته احیاناً سیستمش مثلاً فرض کن یاد گرفته همش برا رو سفید پوستا بوده آیا واقعاً می‌تونه تشخیص بده کسی که مثلاً رنگ پوستش کمتره را دقیقاً تشخیص بده این فرد فرض کنید نظامی غیر نظامیه یه کودکی که فرض کنید توی فلسطین فرض کنید داره مثلاً سنگ می‌زنه به تفن به به ی تانکی مثلاً این فرد نظامیه ما هنوز خودمون تو تئوریهای حقوقی نتونستیم این تفی درستش بکیم دار مشین لرنینگ فکر می‌کنید شما روی ویک ای آی تمرکز کردید شما روی هوش مصنوعی تمرکز کردید که بر اساس هیستوریکال دیتا تصمیم می‌گیره هوش مصنوعی جنرال و استرانگ اصلاً اینگونه نیست که صرفاً بر اساس داده‌های تاریخیش تصمیم بگیره اینو باید تو ذهنتون اصلاح بکنید در واقع تفاوتش اینه که یه سیستم خ سامانه‌ای داره که خود ارتقا دهنده است دیگه این خود ارتقا یافتنش م بر اساس ارزش‌هایی که ما بهش می یعنی شما به کودک که رسیدی چنین کن به غیرنظامی که رسیدی چنین کن و میشه پردازش کنه که کی غیر نظامیه به سرعت می‌تونه دقی و من یه سؤالی از آقای حسین دارم ببینید شما ما صحبت می‌کنیم راجع به اینکه یک هوش مصنوعی که در کنترل انسان نیست میاد و ما نمی‌دونیم چه اتفاقی میفته و ممکنه بد باشه هوش طبیعی با ما چه کرده دقیقاً اش طبیعی با ما چه کرده یعنی چرا ما می‌ترسیم از اون به نفع منه هوش طبیعی ما رو ویران کرده پ شا بهتر باشه ویرانت میکنه دقیقا هوش مسنوعی که قدرت بیشتری داره اگه ما دستش بدیم اگه کنترلش نکنیم که میتونه ما رو بدبخت بکنه اتفاقا برای همین باید کنترلش بکنیم ولی ولی حسین هستن کسایی که میگن این هراسناک بودن از هوش مصنوعی ما رو از یه سری مسائل روزمره منحرف میکنه میگن که یه چیزهایی هست که بهتره به جای نگاه کردن به هوش مصنوعی به عنوان یک پکج فوق‌العاده هراسناک به این مسائل جزئی نگاه کنیم شما در نوبت اول اشاره‌ی کردی اتفاقاً مثلاً به فرض سوگیری در اطلاعاتی که در شبکه‌های اجتماعی هست خب مثال هاش کم نبوده فیسبوک و انتخابات در آمریکا خب ناشی از دیتاهای زیادی که میاد و این درش سوگیری هست و تاثیری که روی نتایج انتخابات می‌گذاره حتی در دموکراسی‌های مستقر و د خب آیا هراس از هوش مصنوعی این حراس حالت آخر زمانی بودنش که نسل بشر رو منقرض میکنه نمیکنه بر ما فائق میاد یا نمیاد این باعث نمیشه مسائل ملموس تر و جدیتر فراموش بشه مثلاً چه چیزی ببین من من هراسی که از هوش مصنوعی دارم م مسئله اصلی من انقراض بشر نیست انقراض ارزش‌های انسانیست که ما این همه سال میلیون‌ها سال طول کشیده ما اینا رو بنا کردیم راجع بهش جنگیدیم این همه زحمت کشیدیم یه هوش مصنوی امکان داره کنترل از دست ما خراب بشه و این ارزش‌ها رو در واقع منقرض بکنه این نگاه کنترل از دست ما بگیره یه نگاه آخر زمانیه دیگه شما اون وقت در قیاس با این نوع حراست بیایید بگید که ببینید مسائل امروزی ما چی هست در ارتباط مشن یک خودت شما اشاره‌ی کردی گسترش کپی برداری و در واقع غیاب تفکر انتقادی در آموزشی حتی یه دانشجوی سطح عالی هم فکر کنه خب من میخوام اینو بنویسم ت از کت جی پیتی میخوام اینو بگیرم این یه مسئله است الان دیگه در آموزش دقیقا دو دموکراسی وهوش مسنوعی ما چه جوری بیایم شبکه‌های اجتماعی شرکت‌هایی که داده پردازی میکنن رو تا حد زیادی متعهد کنیم ب این‌ها مسائل باید باشن دقیق اصلاً در دانشگاه فقط اینا مسئله است که ما درس میدیم بیشتر صادقانه مسئله هوش مسنوعی در پزشکی در سیاست در حقوق در هنر احیاناً در نمی‌دونم ماشین‌های خودران در پهبادهای که تعبیری که علی میگه مسئله ما ایناست ببینید اون مسئله فلسفی که انقراض بشر که این مسئله خیلی حالا فرض کنید بیشترم نزد فیلسوف واقعاً که دعوا می‌کنن ولی مسئله اساسی همین ارزش‌های انسانیست که الان هوش مصنوعی می‌تونه حالا چه در واقع حالا ویک یا چه حالا ضعیفش باشه چه غیر ضعیفش داره اینا رو از بین می‌بره اگر برای ما حقوق بشر یه دستاورد که باور من هست اگر دموکراسی یه دستآورد که باور من هست و هوش مسنوعی می‌تونه ا رو تخریب بکنه ما باید حواسمون جمع باشه من کاملاً با این موضع مخالف هستم هوش مصنوعی قرار نیست ارزش‌های انسانی رو تخریب بکنه بلکه می‌تونه ارتقا بده می‌تونه بهتر بکنه شما من یه دو تا مثال کوچیک بزنم تا متوجه بشید مثلاً داستان کپی رایت رو ما داریم دیگه خ یعنی شما یه نقاشی زحمت می‌کشه یه طرحی رو می‌کشه و یه نفر دیگه ازروش کپی می‌کنه یه نویسنده‌ای یه متنی رو می‌نویسه یه نفر دیگه از روش کپی می‌کنه خب الان ابزارهایی هست همون برمی‌گردم به صحبتم کمک گرفتن از هوش مصنوعی در کنترل هوش مصنوعی این راهکار الان در همه این حوزه‌ها جواب میده الان ما نرم افزارهایی داریم بر اساس هوش مصنوی که شما به عنوان ی نقاش می‌تونید آثارتون رو بدید به اون خب یک تغییراتی روش میده که دیگه قابل فهم برای هوش مصنوعی نیست نیست یعنی اون رو شما توی وب به عنوان هوش طبیعی اون عکس رو می‌بینید ولی اگر خواست مثلاً نرم‌افزاری مثل دالی بیاد و از روی اون کپی بکنه اون فهم رو دیگه نداره با تغییراتی که هوش مصنوعی توی اون طرح اولیه داده بسیار خب خیلی ممنون دوستان عزیز به آخر پرگار این هفته می‌رسیم تشکر از شما که پایین بحث نشستید و همین طور مهمان‌های برنامه علی سوف اسایی و حسین دباغ از اینکه پرگا رو می‌بینید یا می‌شنوید یه دنیا ممنونیم از اینکه به دیگران توصیه اش می‌کنید فوق‌العاده خوشحالیم پیامهای تشویق از جانب شما به اشکال مختلف ما می‌رسیم بهترین انگیزه برای ادامه پرگار امروز از میون پیام‌هایی که به ما رسیده یکی رو که آقای پوریا خلیلی نوشته براتون می‌خونیم آقای خلیلی از طریق فیسبوک به ما پیام داده که بحثی در مورد ملا صدرا و مکتب صدرایی ضبط کنیم اتفاقا آقای خلیلی اسم ملا صدرا در میان نامه‌هایی که قصد داریم در موردشون بحث ضبط کنیم هست منتها مهمان‌های مناسب رو هنوز نیافتم اگر سراغ دارید معرفی کنید تا تدارک ببینیم و من هم تا اون زمان تا زمان ضب سوادم رو در این مورد به روز کنم شب و روز بر همه شما خوش.

Posted in اندیشه ، فلسفه