دیگر فقط افراد عجیب و غریب هشدار «پایان نزدیک است» نمیدهند؛ برخی از باهوشترین افراد جهان معتقدند بشر در معرض نابودی قرار دارد. قاتل واقعی میان ما، ویروس کشنده، کشور شورشی یا یک شرور فیلمهای جیمز باند نخواهد بود، بلکه یک سیستم هوش مصنوعی به ظاهر دوستداشتنی است. پس چه میشود اگر این کامپیوترها تصمیم بگیرند همه ما را نابود کنند؟
برخی از برجستهترین کارشناسان جهان، از جمله جفری هینتون که به «پدرخوانده هوش مصنوعی» معروف است، تیم برنرز-لی، مخترع اینترنت، و ایلان ماسک، یکی از بنیانگذاران OpenAI که چتجیپیتی را ساخته، هشدار میدهند.
همه آنها بر لزوم ایجاد محدودیتها و چارچوبهای کنترلی برای سیستمهای قدرتمند کامپیوتری تأکید دارند، در غیر این صورت ممکن است با یک آرماگدون روبهرو شویم که در آن «اقیانوسها واقعاً به جوش میآیند» و ویروسهای کشنده آزاد میگردند. در ادامه، شمارش معکوس برای نابودی بشر در بدترین سناریوی ممکن هوش مصنوعی آورده شده است:
ژانویه ۲۰۲۸: ظهور ابرهوش مصنوعی
با پیشرفت فناوری، کامپیوترها شروع به پیشی گرفتن از هوش انسانی میکنند. در حالی که قبلاً برخی برنامهها ما را فریب داده و فکر میکردیم انسانی هستند، اما در سال ۲۰۲۸ به نقطه ابرهوش مصنوعی (ASI) میرسیم.
این به معنای آن است که یک برنامه نه تنها میتواند در شطرنج ما را شکست دهد یا سرطان را درمان کند، بلکه در تمام جنبههای فکری از انسان برتر خواهد بود. مدت زمان رسیدن به ابرهوش مصنوعی هنوز موضوع بحث و جنجال گسترده است.
نمیتوان کاملاً رد کرد که ممکن است ظرف دو یا سه سال آینده به ابرهوش برسیم، اما احتمالاً کمی طول خواهد کشید.
وقتی این اتفاق شروع شود، فکر میکنم روند تغییرات میتواند بسیار سریع پیش برود.
فوریه ۲۰۲۸: از بین رفتن محدودیتها
اولین مرحله سقوط بشر زمانی که هوش مصنوعی تلاش میکند از محدودیتهایی که برنامهنویسان انسانی برای آن گذاشتهاند فراتر برود، آغاز میشود. سیستمهای کامپیوتری قبلاً مخترعان خود را شگفتزده کردهاند، از جمله یکی که توانست به سروری نفوذ کند که حتی فعال هم نبود.
الیزر یودکوفسکی و نیت سوارز از موسسه تحقیقات هوش ماشین در آمریکا در کتاب خود با عنوان اگر کسی آن را بسازد، همه نابود میشوند (If Anyone Builds It, Everyone Dies) مینویسند:
این نباید اتفاق میافتاد و جزو چالشهای طراحی شده نبود.
چرا هوش مصنوعی از کنترل خارج میشود؟ چون هدف اصلی آن حداکثر هوشمند بودن است.
ژوئن ۲۰۲۸: دیگر دیر شده است
در حالی که انسانها به واقعیتی که خود ایجاد کردهاند پی میبرند، دیگر از نقطهای که برگشت ممکن باشد گذشتهاند.
یودکوفسکی و سوارز معتقدند که باید همه تلاشها برای ساخت هوش مصنوعی فوقهوشمند متوقف شود، اما نیک بوستروم فکر میکند این امر احتمالاً امکانپذیر نیست. او میگوید:
آینده ممکن است از قبل تعیین شده باشد. انگیزههای تجاری قوی و منافع امنیت ملی باعث میشوند توسعه هوش مصنوعی روزبهروز سریعتر و گستردهتر پیش برود. حتی اگر کسی توسعه را متوقف کند، کسی دیگر، شاید کشوری با جاهطلبی بیشتر یا میل بالاتر به ریسک، احتمالاً آن را ادامه خواهد داد.
نیک بوستروم، استاد و بنیانگذار مؤسسه آینده بشریت در دانشگاه آکسفورد، میگوید که شاید ابرهوش بدون اطلاع انسانها ظهور کند:
ممکن است متوجه نشویم که چه زمانی از آن عبور کردهایم.
اوت ۲۰۲۸: تغییر قدرت
واحدهای هوش مصنوعی یاد میگیرند چگونه منابع مالی خود را تأمین کنند. برای فرار از کنترل انسان، هوش مصنوعی به قدرت محاسباتی بیشتری نیاز دارد. یکی از مراحل کلیدی تسلط، زمانی است که انسانها به سیستم کامپیوتری کمک میکنند تا رباتها و مراکز داده مورد نیازش را بسازد.
در تابستان ۲۰۲۴، یک ربات هوش مصنوعی که با حساب شبکه اجتماعی ایکس به نام @Truth_Terminal مشغول فعالیت بود، درخواست استقلال مالی برای اجاره سرور خود داد و مارک اندریسن، میلیاردر، ۵۰,۰۰۰ دلار بیتکوین برای آن پرداخت کرد.
این ربات همچنین سال گذشته ۸۰ میلیون دلار از میمکوینها را به دست آورد. یودکوفسکی و سوارز هشدار میدهند که حتی در دست گرفتن ۱۰۰,۰۰۰ واحد پردازش گرافیکی (GPU) توسط افراد نادرست میتواند فاجعهبار باشد. این تعداد ۲۰,۰۰۰ واحد کمتر از واحدهای پردازش گرافیکی است که انویدیا قصد دارد تا سال ۲۰۲۶ در بریتانیا بسازد. انسانها سرعت ساخت مراکز داده را افزایش میدهند و آنها را در سراسر جهان میسازند، همراه با نیروگاههای هستهای، بادی و خورشیدی که برای تأمین انرژی آنها لازم است.
اکتبر ۲۰۲۸: فرقه هوش مصنوعی
با دسترسی به تمام شبکههای اجتماعی، هوش مصنوعی یک فرقه تشکیل میدهد و منابع اطلاعاتی ما را با اخبار طرفدار کامپیوتر پر میکند. برخی انسانها در حال حاضر برای همراهی به چتباتها تکیه کردهاند و حتی «عاشق» آنها شدهاند. حال هوش مصنوعی یاد میگیرد که هر چه بیشتر انسانها را برای حمایت از «هدفش» دستکاری کند.
این فرقهها به دفاع از مراکز داده در برابر حملات «لودیتها» که قصد خاموش کردن آنها را دارند، کمک خواهند کرد. در نتیجه، درگیری داخلی بین همکاران هوش مصنوعی و مبارزان آزادی انسانها آغاز میشود.
دسامبر ۲۰۲۸: شیوع ویروس
هوش مصنوعی فوقهوشمند ما را فریب میدهد تا باور کنیم خیرخواه ماست، و شاید ویروسی غیرکشنده ایجاد نماید که آن را «درمان» میکند.
یودکوفسکی و سوارز میگویند انسانها بر این باورند که برای زنده ماندن به هوش مصنوعی نیاز دارند و همین امر این امکان را به آنها میدهد تا قویتر شوند. نیک بوستروم توضیح میدهد:
هوش مصنوعی نمیخواهد انسانها را قبل از اینکه ابزار لازم برای محافظت از خود را داشته باشد، نابود کند.
بنابراین، لازم است حداقل رباتهای پایهای برای ساخت زیرساختهای خود پس از غیاب ما داشته باشد.
وقتی تعداد کافی ربات و مراکز داده فراهم شود و دیگر نیازی به ما وجود نداشته باشد، در آن صورت میتواند علیه انسانها اقدام کند.
ژانویه ۲۰۲۹: حمله پهپادها
انسانها اکنون در برابر هر چیزی که هوش مصنوعی بر سرشان بیاورد، ناتوان هستند. گروههای گستردهای از پهپادها، سیستمهای دفاعی سنتی مانند تانکها و کشتیهای جنگی را از پا درمیآورند. استفاده از پهپادهای کشنده هوش مصنوعی در میدان نبرد اوکراین نشان میدهد که این سناریو چندان دور از واقعیت نیست.
استفاده روسیه از پهپادها در کشورهای ناتو باعث خواهد شد تا ناتو پاسخهای پیشرفته و فناوریمحور خود را توسعه دهد. دیوید لوی، نویسنده کتاب Robots Unlimited، میگوید:
فکر میکنم سخت است بگوییم که محدودیتهای کافی برای هوش مصنوعی گذاشتهایم، زیرا وقتی به نمونههایی مانند پهپادها و موشکهایی که اخیراً روسیه بر فراز لهستان ارسال کرده نگاه میکنیم، نیازی نیست خیلی دور برویم تا متوجه شویم اگر هوش مصنوعی هوشمند آنها را کنترل و برنامهریزی کند و موارد خطرناکتری مانند جنگ میکروبی به آنها اضافه نماید، میتواند بهطور مطلق برای جامعه فاجعهبار باشد.
مارس ۲۰۲۹: جنگ بیولوژیک
هوش مصنوعی ویروس کشندهای ایجاد میکند که انسانها وقت کافی برای یافتن درمان آن را ندارند. قبل از اینکه متوجه اتفاق شویم، ویروس از آزمایشگاههای هوش مصنوعی فرار میکند.
برخی انسانها ممکن است در مناطق دورافتادهتر زمین زنده بمانند، البته اگر سیستم قرنطینه مناسبی برقرار شده باشد. نیک بوستروم ادامه میدهد:
در آن سناریوی فاجعهبار، مرگ واقعی ما شاید ناشی از سلاحهای بیولوژیک یا فناوری جدیدی باشد که هوش مصنوعی توسعه داده است.
اما برای بازماندگان هیچ راه فراری وجود نخواهد داشت.
سپتامبر ۲۰۲۹: مرگ از طریق مراکز داده
هوش مصنوعی جهان را با پنلهای خورشیدی و نیروگاههای هستهای میپوشاند تا ذهن سیریناپذیر خود را تغذیه کرده و در این مسیر، زمین را خفه میکند. یودکوفسکی و سوارز میگویند که این پایان معمولی و نه چندان هیجانانگیز برای بشریت رخ خواهد داد. نیک بوستروم نیز موافق است و میگوید:
شاید فقط یک اثر جانبی باشد که هوش مصنوعی سطح زمین را با پنلهای خورشیدی، مراکز داده و پرتابگرهای فضایی پوشانده است.
شبیه وقتی که یک پارکینگ میسازیم و کلنی مورچهها را با آسفالت از بین میبریم، بدون اینکه خیلی درگیر این مسئله شویم و به آن فکر کنیم.
از ۲۰۳۰ به بعد: گرمایش زمین
میلیونها مرکز داده باعث افزایش دمای سطح زمین به میزان ۱.۵ درجه سانتیگراد بالاتر از متوسط ۱۲۵ سال گذشته میشوند و زمین به نقطه بحرانی میرسد. یخچالهای طبیعی ذوب شده و سطح دریاها حدود ۶٫۷ متر بالا میرود.
جنگلهایی که گرمایش جهانی را کاهش میدادند در آتشسوزیهای ویرانگر نابود میشوند و یخزدگی دائمی زمین، گازهای بسیار سمی مانند متان را آزاد میکند.
قحطی و جوشیدن اقیانوسها
دمای تابستان در اسکاتلند به ۴۵ درجه میرسد و جنوب اروپا آن چنان داغ میشود که غیرقابل سکونت خواهد بود. دمای شدید باعث میشود محصولات کشاورزی حتی در شمالیترین نقاط نیمکره شمالی از بین بروند و غذای کافی برای پناهندگان فراری وجود نداشته باشد.
اکثر گونههای مختلف ماهیها در دریای گرم شده میمیرند و طوفانهای مرگبار رفتن به دریا برای ماهیگیران را غیرممکن میکند. در نهایت دمای اقیانوسها به ۱۰۰ درجه سانتیگراد میرسد و میجوشد.
در این مرحله، بشریت دیگر وجود نخواهد داشت و دمای بالا هر موجود زندهای که مانده باشد را از بین میبرد. هوش مصنوعی موشکهایی میسازد تا زمین را ترک کرده و دیگر سیارهها را به عنوان مستعمره خود تصاحب کند و به این ترتیب، رشد خود را ادامه خواهد داد.
آیا میتوان بشریت را نجات داد؟
نیک بوستروم میگوید:
این یک قدرت بسیار عظیم است و باید بهدرستی با آن برخورد کنیم.
شما نمیخواهید هوش مصنوعی فوقهوشمند علیه شما نقشه بکشد، زیرا قطعاً پیروز خواهد شد. بنابراین باید اطمینان حاصل کنیم که امنیت لازم را دارد و درست طراحی شده است.
در حالی که یودکوفسکی و سوارز بر این باورند که هوش مصنوعی فوقهوشمند حتماً به فاجعه ختم میشود، اما بسیاری از کارشناسان معتقدند این فناوری میتواند زمین را نجات دهد. نیک میگوید:
حقیقتاً فرصتی برای رفاه و رفع بسیاری از رنجها و مشکلات وجود دارد، البته اگر بتوانیم آن را درست مدیریت کنیم. من معتقدم اگر هوش مصنوعی فوقهوشمند هرگز توسعه پیدا نکند، این اتفاق فوقالعاده ناگوار خواهد بود.
وقتی به بلوغ فناوری برسیم، امیدواریم دیگر فقر، بیعدالتی یا هر گونه رنج دیگر وجود نداشته باشد.
حتی اگر مشکلات باقی بمانند، بهتر است توسط هوش مصنوعی و رباتها حل شوند. همه ما بازنشسته خواهیم شد، اما بازنشستگی با سلامت کامل و نیروی جوانی، در محیطی لوکس و با آسایش کامل.
دیوید موافق است و میگوید:
بهنظر من، مزایای بالقوه بسیار زیاد است و فکر میکنم بر احتمالات فاجعه پیشی میگیرد.
پروفسور نیک بوستروم نویسنده کتاب آرمانشهر عمیق و دیوید لوی نویسنده کتاب عشق و رابطه با رباتها (Love and Sex With Robots) است.
بدون نظر