بیم‌ها و امیدهای هوش مصنوعی

همایش مبانی علمی و فلسفی هوش مصنوعی با پیام دکتر رضا داوری اردکانی و سخنرانی دکتر سیدمصطفی محقق داماد

همایش «مبانی علمی و فلسفی هوش مصنوعی» صبح چهارشنبه ۲۱ آبان به همت گروه کوانتوم و هوش مصنوعی فرهنگستان علوم برگزار شد.
دکتر رضا داوری‌اردکانی، استاد ممتاز دانشگاه تهران و عضو پیوسته فرهنگستان علوم، متن مکتوبی برای این همایش فرستاد که در آن آمده: به نام خدایی که هرچه هست از اوست و علم را هم او به ما آموخته و بخشیده است.
از استادان عزیز، آقایان دکتر علی‌اکبرصالحی و دکتر جواد صالحی ممنونم که سال‌خورده گوشه‌گرفته‌ای را برای ایراد سخن در این مجلس شریف دعوت فرموده‌اند. من افتاده و ناتوانم و سخنی که لایق چنین مجلسی باشد، ندارم اما چون خود را موظف به اجابت دعوت و اطاعت امر می‌دانم چیزی که به نظرم رسیده است را نوشته‌ام و تقدیم می‌کنم. خلاصه نظرم این است که هوش مصنوعی، چیزی بیش از یک ماشین عظیم پر از اطلاعات و اطلاعات‌پرداز است. هوش مصنوعی می‌تواند منشاء آثار مفید و مضر باشد. اما به احتمال قوی در جهانی که نشان مهر و دوستی در آن کمتر پیدا و میل به قهر و دشمنی غالب است، قدرت ویران‌گری بیشتری دارد. هوش مصنوعی، مرحلۀ اخیر رشد تکنولوژی است و خدا کند که مرحلۀ آخر آن نباشد. این تکنولوژی که حضور علم را در آن آشکارا می‌توان دید، تعلق به عصری دارد که بشر در آن کوشید و تا حدودی توانست طبیعت و هر چه در جهان است را به تصرف خود درآورد و مهار کند. قوام این عصر با تکنیک بود. فهم و درک و تصور غالب این است که تکنیک وسیله‌ای در اختیار آدمی است و برای رفع نیازهای آدمی پدید آمده است. یعنی تکنیک را با حرفه و صنعت قدیم اشتباه می‌کنند ولی تکنیک صورت کامل صنعت قدیم نیست و از حیث ماهیت با آن تفاوت دارد. کسانی که می‌پندارند که تکنیک از جنس صنعت قدیم است، ملتفت نیستند که تکنیک با خواست و بر اثر اظهار نیاز آنان پدید نیامده بلکه از لوازم اصلی جهان مدرن برای تسخیر و تصرف طبیعت بوده و مردمان پس از پدید آمدن خود را به آن محتاج دیده و وابسته‌اش شده‌اند. کسانی هم تا آن‌جا پیش رفته و گفته‌اند ممکن است روزی بیاید که بشر برده تکنیک شود. آنچه محرز است اینکه تکنیک راه خود را می‌رود و به نیازهای مردمان کاری ندارد بلکه می‌آید و مردمان را به آن‌چه آورده است، نیازمند می‌سازد. هوش مصنوعی مرحله اخیر رشد تکنیک است و بیم آن می‌رود که آخرین مرحله آن باشد. زیرا دارای قدرتی است که می‌تواند، جهان را به هر صورتی که می‌خواهد تصویر کند و با دگرگون جلوه دادن وضع جهان و احوال مردمان و حوادث و کارها و چیزها، نظم جهان را بر هم زند و هر آشوبی که بتواند در هر جا پدید آورد. اکنون وقتی از هوش مصنوعی می‌گوییم بیشتر نظر به فایده‌اش داریم و بر لزوم برخورداری از آن تأکید می‌کنیم و کمتر می‌اندیشیم که این ماشین هوشمند بر سر جهان و مردم جهان چه می‌تواند بیاورد. اگر اثر وجودی‌اش چیزی باشد که تاکنون از آن دیده‌‎ایم بیشتر می‌توانیم آن را خطرناک بدانیم. هوش مصنوعی با لطیفه‌های عجیبی که زیر دام و دانه خود دارد، می‌تواند در یک لحظه جهان را پرآشوب و حتی نابود کند. این گمان که اختیار هوش مصنوعی به دست صاحبان آن است، توهم بدی است. هوش مصنوعی در جایی وجود دارد که آنجا کانون قدرت باشد و همواره با قدرت است نه در اختیار دانشمندان. هوش مصنوعی انسان خردمند نیست. طراحان آن نیز ابتدا نمی‌خواستند که انسان مصنوعی بسازند؛ مع‌هذا شاید از جهاتی به انسان مصنوعی شبیه باشد. بعضی از رمانتیک‌های اروپا صورتی از بشر مصنوعی را در خیال خود پرورده بودند که یکی از آن‌ها هیولای فرانکّنشتاین بود. موجودی خطرناک که ویران‌گر بود و آدم می‌کشت اما بالاخره کشته شد. نمی‌دانیم اگر هوش مصنوعی هم به کارهای خطرناک دست بزند و حامل طرحی برای کشتار آدمیان باشد، مردمانی باقی می‌مانند که بتوانند او را از میان بردارند. شاید اگر بخواهد همه چیز را نابود کند وقتی کارش را انجام داد، وجودش دیگر وجهی نداشته باشد و خود به خود از میان برود. آن‌چه اکنون اهمیت دارد این است که از هوش مصنوعی رو نگردانیم اما شیفته آن نباشیم که این شیفتگی با خرد و دانایی نمی‌سازد. هوش مصنوعی مانند هر تکنولوژی دیگر فایده‌ها دارد و از عهده کارهای بزرگ برمی‌آید اما در وضع کنونی بیشتر به کار ویران‌گری می‌آید زیرا قدرت در مسیر ویران‌گری است. هوش مصنوعی هم میلش به سوی قدرت است و کاری به صلح و صلاح و بهبود زندگی انسان ندارد. شاید بتواند با محاسبه صلاح را تشخیص دهد اما آن را ترجیح نمی‌دهد زیرا در بند خوب و بد و زشت و زیبا نیست. سرمایه‌اش هم اطلاعات است بی‌آن‌که از خرد عملی بهره داشته باشد. ما اکنون نسبتی با تکنیک داریم که نمی‌توانیم از آن رو بگردانیم. امیدواریم هوش مصنوعی هرچه هست، پایان تکنولوژی نباشد. از دانشمندان مجلس استدعا دارم به پرسش‌ها و ابهام‌هایی که در باب کارکرد هوش مصنوعی وجود دارد، پاسخ بدهند. هوش مصنوعی تنها تکنیکی است که مردم نیز به آن اظهار علاقه می‌کنند و در انتظار آنند و چه خوب است به آن‌ها گفته شود که چه انتظارهایی با آن برآورده می‌شود و چه کارهایی از عهده‌اش برنمی‌آید. مشکل اساسی این است که از این ساخته دست آدمی می‌توان سؤال و درخواست داشت اما نمی‌توان برایش تکلیف معین کرد. جهان کنونی را تکنیک راه می‌برد و متأسفانه نمی‌دانیم این راه به کجا می‌رود. سخن را با درود و احترام به حاضران گرامی پایان می‌دهم.
رضا داوری اردکانی
آبان ۱۴۰۴

هوش مصنوعی به تعقل نرسیده
آیت‌الله سیدمصطفی محقق‌داماد، رئیس گروه علوم اسلامی فرهنگستان علوم هم در همایش تخصصی «مبانی علمی و فلسفی هوش مصنوعی» به بررسی جایگاه فلسفۀ اسلامی در مواجهه با پیشرفت‌های هوش مصنوعی پرداخت و گفت: «سرعت پیشرفت این دانش به گونه‌ای است که جامعه علمی ما هنوز همراهی لازم را ندارد. شتاب انفجار اطلاعات به قدری است که فرصت یادگیری کافی برای همه فراهم نشده است. ما طلبه‌های فلسفه بر این باوریم که فیلسوفان اسلامی، صاحب مکتب بودند. ابن‌سینا، فارابی، خواجه طوسی و ملاصدرا هر یک مکتب فلسفی خاص خود را داشته‌اند. مفهوم صاحب مکتب این است که حتی اگر سوالی در زمان آنان مطرح نبوده، قرن‌ها بعد می‌توان بر اساس همان مکتب به آن پاسخ داد. ابن‌سینا در کتاب «الاشارات و التنبیهات» بیان می‌کند، هستی محدود به موجودات مادی نیست و بخش اعظم آن غیرمادی است. انسان دارای دو بخش است؛ بخش محسوس و بخش نامحسوس که همان روح و نفس است. این بخش غیرمادی تصمیم‌گیرنده و اداره‌کننده انسان است و مغز یا بدن تنها ابزار آن محسوب می‌شوند. ملاک اصلی در فلسفۀ اسلامی برای اثبات وجود نفس، فعالیت‌هایی است که ماده قادر به انجام آن نیست. مهم‌ترین دلیل نیز علم و اندیشه انسان است که مادی نیست. اگرچه آسیب به مغز ممکن است یادگیری را مختل کند اما علم و اندیشه ذاتاً غیرمادی هستند.»
رئیس گروه علوم اسلامی فرهنگستان علوم در ادامه به تفاوت تفکر و تعقل اشاره کرد و گفت: «هوش مصنوعی ممکن است بتواند تفکر کند یعنی از داده‌های موجود به نتیجه برسد. برای مثال، ماشین می‌تواند با دریافت اطلاعات، تشخیص سرطان بدهد. اما تعقل، یعنی درک کلیات و استخراج قواعد فلسفی از آن‌ها، هنوز در دست انسان است و هوش مصنوعی به این مرحله نرسیده است. در فلسفۀ اسلامی، بار اثبات تجرد نفس بر تعقل است نه تفکر. تعقل به معنای درک کلیات است؛ مثلاً از مشاهده چندین انسان، مفهوم کلی «انسان» استخراج می‌شود که شامل تمام انسان‌های جهان است. این توانایی تاکنون برای ماشین‌های هوش مصنوعی، قابل دستیابی نبوده است. تا امروز هوش مصنوعی تنها می‌تواند از داده‌ها نتیجه‌گیری کند و ابداع نمی‌کند. بنابراین، حکمت اسلامی با پیشرفت هوش مصنوعی مشکلی ندارد و هم‌چنان جایگاه خود را حفظ می‌کند. اگر در آینده ماشین‌ها به توانایی تعقل برسند، آن‌گاه می‌توان دربارۀ چالش‌های جدید صحبت کرد.»