هوش مصنوعی

در ادامه اشاره هایم به کتاب « پاسخ های کوتاه به پرسش های بزرگ»، امروز بخش هایی دیگر از این کتاب که اشاره ای به هوش مصنوعی می کند نقل می کنم:

در سال 1947 ساعت آخرالزمان راه اندازی شد و زمان آن روی هفت دقیقه مانده به نیمه شب یعنی ساعت 12 تنظیم شد. در سال 2018 این ساعت به دو دقیقه مانده به ساعت 12 نیمه شب تغییر داده شده. البته این ساعت و حرکتش کاملاً نمادین است ولی من خودم را ملزم می دانم که بگویم همچون اخطاری از دانشمندان را باید جدی گرفت.

سرعت فعلی رشد جمعیت نمی تواند در هزاره بعدی نیز ادامه یابد . سال 2600 جمعیت به حدی می رسد که شانه هایمان مماس می شوند و مصرف برق باعث می شود زمین گداخته شود.

برخی افراد می گویند کامپیوترها هرگز نخواهند توانست خرد واقعی داشته باشند. ولی به نظر من اگر مولوکول های بسیار پیچیده بتوانند در بشر به نحوی عمل کنند که خردمند شوند پس مدارهای الکتریکی دارای همان پیچیدگی نیز خواهند توانست کاری کنند که کامپیوترها نیز خردمندانه رفتار کنند.

اگر تبعیت کامپیوترها از قانون مور ادامه یابد و حافظه آنها هر هجده ماه دو برابر شود ، نتیجه این می شود که حافظه آنها روزی از بشر پیشی خواهد گرفت. ممکن است با انفجاری از هوش مصنوعی مواجه شویم که نتیجه ماشین هایی باشند که هوش آنها همان قدر از ما بیشتر باشد که ما از حلزون ها. تصور ایده دستگاه های هوشمند به عنوان ایده ای علمی تخیلی اشتباه است اشتباهی که ممکن است بدترین اشتباه ما باشد.

من اطمینان دارم در اواخر همین قرن افرادی روش تغییر هوش و غرایزی مثل تهاجم را خواهند یافت. وقتی ابَر انسان ها ظاهر شوند مشکلات سیاسی عمده ای با افراد بهبود نیافته خواهند داشت. یعنی با افرادی که نمی توانند با آنها رقابت کنند. می توان فرض کرد منقرض شوند و یا اهمیت خود را از دست بدهند. اگر نژاد بشر بتواند خود را باز طراحی کند احتمالا قلمرو خود را توسعه خواهد داد و برای سکونت به سیارت و ستارگان دیگر خواهد رفت.

موفقیت در ایجاد هوش مصنوعی می تواند بزرگترین واقعه در تاریخ بشر باشد و متاسفانه ممکن است آخرین واقعه نیز باشد.

خطر راستین هوش مصنوعی بد خواهی آن نیست، بلکه عُرضه و توانایی زیاد آن است. هوش مصنوعی بسیار توانمند در رسیدن به اهدافش بسیار موفق خواهد بود و اگر این اهداف در جهت اهداف ما نباشد به دردسر خواهیم افتاد. شما احتمالا یک آدم بد ذات ضد مورچه نیستید که از سر بد جنسی مورچه له می کند.

محققان و سازندگان باید تضمین کنند که همه طرح های ربات ها دارای کلید قاتل باشد؛ یعنی کلیدی که با آن بتوان ربات را فوراً از کار انداخت.

وقتی آتش را اختراع کردیم به کرّات خرابکاری کردیم تا توانستیم ابزار اطفای حریق بسازیم. با فن آوری های قدرتمندی مانند هوش مصنوعی و انرژی هسته ای باید بجای تکرار رویکرد گذشته آینده نگر باشیم. شاید فرصت دومی نداشته باشیم.

در میان مدت هوش مصنوعی می تواند باعث رفاه و برابری عظیمی شود. تاثیر کوتاه مدت هوش مصنوعی وابسته به کسی است که مهار آن را بدست دارد ولی تاثیر دراز مدت آن وابسته به این است که اصولاً آیا قابل مهار باشد یا نه؟