هوش بیگانه

هوش مصنوعی ما را کجا می‌برد؟

در ماشین را باز کن؛ بنشین و دستور حرکت بده. نه پدالی، نه فرمانی و نه دنده و کلاجی. این‌ صحنه یک فیلم نیست، صحنه‌ای واقعی از رونمایی یک خودرو پیشرفته است. شرکت خودروسازی تسلا پنج‌شنبه‌شب از این محصول جدید به نام «روبوتاکسی» رونمایی کرد.
شرکت تسلا اعلام کرد که طرفداران خودروهای الکتریکی آن باید حداقل تا سال ۲۰۲۶ برای عرضه «روبوتاکسی» به بازار صبر کنند. ایلان‌ماسک، مدیرعامل تسلا در مراسم رونمایی از «روبوتاکسی» گفت که این خودروی مجهز به هوش مصنوعی نه پدال دارد و نه فرمان. او ابراز اطمینان کرد که پیشرفت تسلا در زمینه تولید خودروهای خودران به سطحی رسیده است که دیگر خودروها از مداخله عامل انسانی بی‌نیاز شده‌اند. تسلا فروش نرم‌افزار خودروهای خودران را ۹ سال پیش آغاز کرد، با این حال تردیدهایی در زمینه قابلیت اطمینان به آن وجود دارد. ایلان‌ماسک گفت که محصول جدید تسلا از سطح خودرانی کامل تحت نظارت به سطح خودرانی بدون نیاز به نظارت رسیده است. به گفته وی، مسافران «روبوتاکسی» می‌توانند پس از نشستن در این خودرو به خواب بروند و هنگامی که خودرو به مقصد رسید از خواب بیدار شوند. ایلان‌ماسک افزود که شرکت تسلا انتظار دارد قیمت «روبوتاکسی» کمتر از ۳۰ هزار دلار باشد.

آخرالزمان هوش مصنوعی
بیایید واقع‌گرا باشیم. همه چیزی که ایلان‌ماسک نشان داد، در فیلم‌های چند دهه قبل نشان داده شده بود. ماشین‌های پرنده، ربات‌های قاتل، ماشین‌های بدون راننده و دنیای ترسناک هوش مصنوعی. اگر به کلیشه‌های فیلم‌های علمی تخیلی علاقه ندارید، ممکن است تصور کنید که ربات‌های قاتل برای پایان دادن به كار و زندگی سازندگان متعصب خود قیام كرده‌اند. یا شاید مثل ماتریکس، ماشین‌های ترسناکی را تصور كنید که انرژی را از بدن ما می‌مکند، زیرا حواس ما را با واقعیت شبیه‌سازی‌شده منحرف می‌کنند. برای یووال نوح هراری، که در دهه گذشته زمان زیادی را صرف نگرانی در مورد هوش مصنوعی کرده است، این تهدید کمتر خیال‌انگیز و بیشتر موذیانه است. او در کتاب جدید و جذاب خود «نكسوس» می‌نویسد: «برای دستکاری انسان، نیازی به اتصال فیزیکی مغز به رایانه نیست. هزاران سال است که روشنفكران، شاعران و سیاستمداران و … از زبان برای دستکاری و تغییر شکل جامعه استفاده کرده‌اند. اکنون کامپیوترها درحال یادگیری نحوه انجام آن هستند. آنها نیازی به ارسال ربات‌های قاتل برای شلیک به ما نخواهند داشت. آنها می‌توانند كاری كنند كه انسان‌ها خودشان ماشه را بكشند».
یکی از نقاط قوت کتاب جدید هراری، رویکرد متعادل و واقع‌بینانه او به پیشرفت فناوری است. درحالی که او دستاوردهای نبوغ انسانی را جشن می‌گیرد، در مقابل درباره خوش‌بینی فنی غیرانتقادی نیز هشدار می‌دهد. نویسنده بارها بر ماهیت دوگانه شبکه‌های اطلاعاتی به‌عنوان ابزارهایی برای رهایی و سرکوب تاکید می‌کند و از خوانندگان می‌خواهد که پیامدهای اخلاقی دنیای به‌ طور فزاینده‌ای به هم پیوسته ما را در نظر بگیرند.
تحلیل هراری از رابطه بین شبکه‌های اطلاعاتی و قدرت به‌ویژه قانع‌کننده است. او استدلال می‌کند که کنترل بر اطلاعات همیشه منبع اصلی قدرت بوده است، از کشیش‌های باستانی که از متون مقدس محافظت می‌کردند تا غول‌های فناوری مدرن که حجم زیادی از داده‌های شخصی را کنترل می‌کنند، همیشه بحث قدرت مطح بوده است. این دیدگاه بینش‌های ارزشمندی را در مورد بحث‌های جاری در مورد حریم خصوصی، سانسور و حقوق دیجیتال ارائه می‌دهد. اما اطلاعات به طور قابل اعتمادی حقیقت را در مورد جهان بیان نمی‌کند. بیشتر اوقات، هراری تاکید می‌کند که این امر باعث ایجاد داستان‌ها، خیال‌پردازی‌ها و توهمات جمعی می‌شود که منجر به تحولات فاجعه‌باری مانند نازیسم و استالینیسم می‌شود. چرا انسان خردمند، با وجود تمام موفقیت‌های تکاملی‌اش، تا این حد خود ویرانگر است؟ به گفته هراری، «تقصیر در ماهیت ما نیست، بلکه در شبکه‌های اطلاعاتی ماست». هراری برای تشریح اینكه چگونه اطلاعات در گذشته ما را به بیراهه کشانده است، از مثال‌های متعددی استفاده می‌كند . یکی از به یاد ماندنی‌ترین آنها كتاب «پتک جادوگران» است که توسط هاینریش کرامر برادر دومینیکن در دهه ۱۴۸۰ اتریش نوشته شده است. این کتاب راهنمای افشاگری و کشتن جادوگران به روش‌های هذیان‌آمیز وحشتناک است، اگر چاپخانه چند دهه قبل اختراع نمی‌شد، این کتاب راه دوری را طی نمی‌کرد و به ایده‌های آشفته کرامر اجازه نمی‌داد در سراسر اروپا گسترش یابد و جنون شکار جادوگر را برانگیزد. نکته اساسی هراری این است که انقلاب‌های اطلاعاتی می‌توانند دوره‌های شکوفایی بشر را به همراه داشته باشند، اما همیشه هزینه هم دارند. هنگامی که ما فناوری‌های جدید درخشانی را اختراع می‌کنیم که کلمات و ایده‌ها را دورتر و سریع‌تر از همیشه منتقل می‌کنند، بسیاری از اطلاعاتی که بیرون می‌آیند اشتباه، یا به طور فعال خطرناک هستند. وقتی صحبت از حفظ نظم اجتماعی به میان می‌آید، شایعات و اخبار نادرست و توهمات توطئه بسیار بیشتر از اطلاعات درست و واقعی مورد توجه قرار می‌گیرند و این موضوع به حفظ نظم اجتماعی كمكی نمی‌كند. اما باز هم چیزی که در مورد انقلاب هوش مصنوعی ترسناک است این نیست که ما غرق اطلاعات نادرست از چت بات‌ها می‌شویم، یا اینکه قدرت‌ها از آن برای تسلط بر تصمیمات و در نهایت زندگی خصوصی ما استفاده می‌کنند. بر خلاف فناوری‌های قبلی مانند کتاب و رادیو، هراری می‌نویسد: «هوش مصنوعی اولین ابزاری است که به تنهایی قادر به تصمیم‌گیری و تولید ایده است». ما در میانمار در سال‌های ۲۰۱۶-۲۰۱۷، شاهد بودیم الگوریتم‌های فیس‌بوک که وظیفه به حداکثر رساندن تعامل کاربران را بر عهده داشتند، با ترویج تبلیغات نفرت‌آمیز ضدروهینگیا به کشتار جمعی و پاک‌سازی قومی دامن زدند. می‌توان گفت، در میانمار شاهد هشدار اولیه چیزی بودیم كه احتمال وقوع آن حتی كم هم نیست. هراری هشدار می‌دهد، اگر اقدام فوری انجام ندهیم، این «هوش بیگانه» رو به رشد، همانطور که او ترجیح می‌دهد آن را بخواند، می‌تواند فاجعه‌هایی را ایجاد کند که حتی نمی‌توانیم تصور کنیم، و این روند میتواند تا نابودی تمدن بشری پیش برود.