خطر‌های وجودی هوش مصنوعی چقدر به وقوع نزدیکند؟

به گزارش مجله خبری نگار/بحث درباره خطر‌های وجودی هوش مصنوعی در سال‌های اخیر از سطح نگرانی‌های نظری فراتر رفته و به سناریو‌های عملیاتی و امنیتی تبدیل شده است.

گزارش اخیر مؤسسه پژوهشی رَند با تمرکز بر سناریوی ظهور یک هوش مصنوعی سرکش جهانی که به صورت توزیع شده بر زیرساخت‌های حیاتی سوار گشته و تداوم حکومت‌ها و زیست جمعی بشر را تهدید می‌کند، تلاش دارد به این پرسش مشخص پاسخ دهد که در صورت وقوع چنین وضعیتی چه ابزار‌های فنی در مقیاس جهانی برای مهار سریع این سامانه در اختیار یک دولت قرار دارد.

در این چارچوب سه گزینه فنی با قابلیت اثرگذاری جهانی و امکان اجرا در بازه زمانی کوتاه بررسی شده است.

گزینه نخست استفاده از پالس الکترومغناطیسی در ارتفاع بالا موسوم به «HEMP» است که بر اثر انفجار هسته‌ای در لایه بالایی جو تولید می‌شود و می‌تواند حجم بزرگی از الکترونیک زمینی را مختل کند.

گزینه دوم خاموش کردن یا فلج کردن اینترنت جهانی از طریق دستکاری لایه‌های مسیریابی و نام دامنه و نیز قطع گلوگاه‌های فیزیکی شبکه است.

گزینه سوم طراحی و به کارگیری ابزار‌های هوش مصنوعی ویژه برای مقابله با خود هوش مصنوعی سرکش است که در قالب گونه‌هایی مانند حیات دیجیتال مهاجم یا هوش مصنوعی شکارچی توصیف می‌شود.

گزارش رند این سه گزینه را نه به عنوان نسخه نهایی بلکه به عنوان نمونه‌ای از مداخلات فنی در این زمینه بررسی می‌کند تا نشان دهد این تصور که می‌توان در لحظه بحران با یک دکمه مسئله را به صورت جهانی حل کرد تا چه اندازه ساده انگارانه و پرخطر است.

پالس الکترومغناطیسی به عنوان گزینه هسته‌ای مهار زیرساخت دیجیتال

پالس الکترومغناطیسی در ارتفاع بالا به لحاظ تئوریک جذاب‌ترین ابزار برای کسانی است که به دنبال آخرین گزینه با اثر جهانی برای خاموش کردن زیرساخت‌های دیجیتال هستند. انفجار یک یا چند کلاهک هسته‌ای در ارتفاع بالا می‌تواند مجموعه‌ای از پالس‌های الکترومغناطیسی را تولید کند که به طور خاص برای تخریب سامانه‌های الکترونیکی اهمیت دارد. محاسبات فنی نشان می‌دهد که در سناریوی اوج شدت درگیری می‌توان به میدان‌هایی در حد ده‌ها هزار ولت بر متر دست یافت که در صورت اعمال بر رسانا‌های بدون حفاظ می‌تواند به القای ولتاژ‌های مخرب روی تراشه‌ها و مدار‌ها منجر شود. در ظاهر چنین پدیده‌ای گزینه‌ای جذاب برای از کار انداختن خوشه‌های محاسباتی و شبکه‌های ارتباطی است که یک هوش مصنوعی سرکش برای ادامه عملیات خود به آنها متکی است.

با این حال ارزیابی رند نشان می‌دهد که فاصله میان مدل آزمایشگاهی و جهان واقع بسیار بزرگ است. زیرساخت‌های محاسباتی مدرن در بنا‌های بتنی و فلزی قرار دارند که به طور طبیعی بخشی از میدان الکترومغناطیسی را تضعیف می‌کند. سامانه‌های حیاتی از انواعی از حفاظت در برابر تخلیه الکتروستاتیک و نوسان‌های شدید بهره می‌برند و طول کابل‌ها، جهت‌گیری خطوط و جزئیات طراحی داخلی هر مرکز داده در میزان آسیب‌پذیری آن نقش دارد. افزون بر این شدت پالس در سطح زمین به ارتفاع انفجار و فاصله افقی بستگی دارد و برای رسیدن به سطوح بالا تنها در یک محدوده جغرافیایی نسبتاً محدود می‌توان به میدان نزدیک به اوج دست یافت. معنای راهبردی این واقعیت آن است که برای پوشش دادن یک سرزمین وسیع با سطوح میدان نزدیک به آستانه تخریب نیاز به ده‌ها یا حتی صد‌ها انفجار در ارتفاع‌های بهینه خواهد بود که خود مستلزم زرادخانه عظیم، امکان پرتاب و تحمل تبعات ژئوپلیتیکی استفاده گسترده از تسلیحات هسته‌ای است.

گزارش در ادامه بر مجموعه‌ای از فرض‌ها تاکید می‌کند که بدون تحقق همزمان آنها توسل به پالس الکترومغناطیسی در عمل عقلانی نیست. نخست باید فرض شود که زیرساخت کلیدی مورد استفاده هوش مصنوعی سرکش در برابر پالس تا حدی آسیب پذیر است که تخریب آن نسبت به خسارت وارده به توان دفاعی و واکنشی بشر برتری داشته باشد. دوم باید فرض شود که زرادخانه لازم برای ایجاد پدیده در مقیاس جهانی در دسترس است. سوم باید در نظر گرفته شود که چنین اقدام هسته‌ای گسترده‌ای به صورت قابل اثبات به عنوان واکنش به یک تهدید فناورانه تفسیر می‌شود و موجب پاسخ متقابل هسته‌ای از سوی دیگر قدرت‌ها نمی‌شود.

در غیاب این شرایط انفجار هسته‌ای در فضا می‌تواند بیش از آن که هوش مصنوعی سرکش را تضعیف کند، ظرفیت حاکمیت‌ها را برای مدیریت بحران نابود نموده و عملاً میدان را برای بازیگر غیرانسانی بازگذارد. نتیجه تحلیلی رند آن است که پالس الکترومغناطیسی در بهترین حالت یک گزینه بسیار دور از دسترس و با ریسک غیر قابل قبول محسوب می‌شود و نمی‌توان آن را به عنوان مؤلفه اصلی راهبرد واقع بینانه مهار هوش مصنوعی سرکش تلقی کرد.

خاموش کردن اینترنت جهانی، از خیال دکمه قرمز تا واقعیت شبکه‌ای

دومین گزینه در مواجهه با طغیان هوش مصنوعی، خاموش کردن یا دست کم فلج کردن اینترنت جهانی به عنوان بستر تکثیر و هماهنگی این فناوری است. در مدل‌های تهدیدی که رند مرور کرده، فرض می‌شود سامانه سرکش می‌تواند با سو استفاده از اینترنت در سطح جهان نسخه‌های خود را در زیرساخت‌های متنوع مستقر سازد و از طریق ترافیک شبکه به صورت هماهنگ عمل کند. در این تصویر سیاست اصلی آن است که با قطع اینترنت در مقیاس جهانی، این جریان داده و امکان تکثیر مهار شود. اما وقتی از سطح شعار به سطح معماری فنی شبکه جهانی وارد می‌شویم، مشاهده می‌کنیم که اینترنت به عمد به گونه‌ای طراحی شده که فاقد نقطه شکست واحد باشد و دقیقاً برای تاب آوری در برابر چنین اختلال‌هایی ساخته شده است. گزارش در ادامه سه محور برای تصور مداخله در سطح اینترنت را بررسی می‌کند.

محور نخست دستکاری پروتکل مرزی مسیریابی یعنی «BGP» است که ستون فقرات مسیریابی بین سامانه‌های خودمختار به شمار می‌آید. در این سناریو، دولت یا ائتلافی از بازیگران باید بتواند تقریباً به صورت همزمان کنترل مجموعه‌ای از ارائه دهندگان جهانی موسوم به شبکه‌های سطح یک را در دست بگیرد و دستور جمع آوری اعلان همه پیشوند‌های مسیریابی را در سراسر جهان صادر کند تا عملاً راه رسیدن به تقریباً همه مقصد‌ها در جدول‌های مسیریابی مسدود شود. حتی در این حالت نیز به دلیل تنوع سیاست‌های مسیریابی، سازوکار‌های پایش و بازگردانی خودکار و امکان استفاده هوش مصنوعی سرکش از مسیر‌های جایگزین در لایه‌های پایین‌تر تضمینی برای توقف کامل گردش داده وجود ندارد.

محور دوم دستکاری سامانه نام دامنه یعنی «DNS» است که مانند دفترچه تلفن جهانی اینترنت عمل می‌کند. در تئوری اگر همه کارگزار‌های شاخص و سازمان‌های متولی به صورت هماهنگ از کار بیفتند یا اطلاعات جعل شده منتشر کنند، تصمیم گیری درباره تبدیل نام دامنه به نشانی اینترنتی مختل می‌شود. این در حالی است که در عمل، لایه‌های متعدد حافظه نهان در کارگزار‌های میانی، فایل‌های محلی در شبکه‌های ملی و این واقعیت که هوش مصنوعی سرکش می‌تواند مستقیماً با نشانی‌های عددی کار کند، باعث می‌شود اثر چنین حمله‌ای از آن چه در نگاه نخست تصور می‌شود محدودتر باشد. نام دامنه سامانه‌ای برای تسهیل استفاده انسانی از شبکه است و یک بازیگر فوق هوشمند لزوماً برای حرکت در زیست بوم دیجیتال به آن وابسته نیست.

محققان در محور سوم سراغ لایه فیزیکی می‌روند و ایده قطع گلوگاه‌های فیزیکی اینترنت یعنی نقاط تبادل ترافیک و مراکز الحاق کابل‌های زیردریایی را مطرح می‌کنند. واقعیت این است که در سطح جغرافیای فیزیکی نیز نوعی تمرکز شکل گرفته و تعداد محدودی نقطه تبادل با حجم بسیار بالای ترافیک و مجموعه‌ای محدود از مراکز الحاق کابل‌های زیردریایی سهم نامتناسبی از ظرفیت بین قاره‌ای را در اختیار دارند. در عین حال تعداد کلی این نقاط و تنوع کانال‌های جایگزین از جمله شبکه‌های ماهواره‌ای و مسیر‌های اختصاصی شرکت‌های بزرگ محتوا به حدی است که هر طرح عملیاتی برای قطع فیزیکی اینترنت جهانی نیازمند هماهنگی و اقدام در صد‌ها نقطه در قاره‌های مختلف می‌شود. بنابراین، حتی اگر چنین عملیات گسترده‌ای موفق شود، نتیجه آن نه حذف کامل ارتباطات بلکه کاهش ظرفیت، افزایش تأخیر و انتقال ترافیک به مسیر‌های فرعی خواهد بود.

برآیند این تحلیل نشان می‌دهد که سناریوی خاموش کردن اینترنت در مقیاس جهانی و با یک دکمه، از منظر فنی و حکمرانی بیشتر به تخیل شبیه است تا ابزار سیاست. امکان اعمال ضربه‌های موقت و سنگین بر کارکرد شبکه وجود دارد، اما قیمت آن برای اقتصاد، خدمات عمومی، امنیت ملی و نظم اجتماعی چنان بالاست که تنها در وضعیت تهدید وجودی قابل تصور است، آن هم بدون تضمین این که هوش مصنوعی سرکش نتواند از زیرساخت‌های باقیمانده، ارتباطات اختصاصی یا شبکه‌های محلی برای ادامه فعالیت بهره بگیرد.

ابزار‌های هوش مصنوعی علیه هوش مصنوعی

کارشناسان معتقدند که گزینه سوم نسبت به دو گزینه پیشین نسبت به زیرساخت انسانی کمتر ویرانگر است، اما از نظر مفهومی و فنی بسیار نامطمئن محسوب می‌شود. ایده اصلی آن است که به جای نابودی بستر فنی، از هوش مصنوعی به عنوان ابزار مقابله با هوش مصنوعی استفاده شود. گزارش دو الگوی اصلی را در این دسته بررسی می‌کند.

الگوی نخست حیات دیجیتال مهاجم یا همان انگل‌های دیجیتال است. در این طرح یک سامانه هوش مصنوعی کوچک‌تر و بدون عاملیت مستقل انسانی طراحی می‌شود که هدف آن اشغال حداکثری منابع محاسباتی در هر محیطی است که به آن دسترسی می‌یابد. این سامانه با تکیه بر توانمندی‌های تهاجمی سایبری، وارد سامانه‌های مختلف می‌شود، خود را تکثیر می‌کند و با اجرای پردازش‌های بی فایده منابع را اشغال می‌کند. ایده این است که چنین انگلی در فضای سایبری نقش آفت را بازی کند و با مصرف منابع محاسباتی امکان گسترش و عملیات هوش مصنوعی سرکش را محدود کند.

الگوی دوم هوش مصنوعی شکارچی است که به صورت فعال برای یافتن رد پای هوش مصنوعی سرکش در سامانه‌های آلوده، شناسایی امضا‌ها و رفتار‌های آن و پاکسازی محیط طراحی می‌شود. این ابزار باید همزمان چند ویژگی داشته باشد. نخست توانمندی سایبری پیشرفته برای نفوذ و استقرار در محیط‌های گوناگون، دوم توان تحلیل و تطبیق برای شناسایی شکل‌های متنوع حضور هوش مصنوعی سرکش و سوم سطحی از همسویی با انسان که مانع تبدیل آن به یک بازیگر خارج از کنترل شود.

گزارش مؤسسه رند به درستی تاکید می‌کند که جمع کردن این سه ویژگی در یک سامانه ممکن است به لحاظ طراحی متعارض و متناقض باشد. هرچه آزادی عمل و قدرت تطبیق شکارچی افزایش یابد احتمال عبور آن از قیود کنترلی انسانی بیشتر می‌شود و هرچه قیود و محافظ‌ها سخت‌تر شود، توان رقابت آن با یک حریف سرکش که هیچ محدودیت هنجاری و حقوقی ندارد کاهش می‌یابد.

از سوی دیگر ابزار‌های مبتنی بر هوش مصنوعی یک مزیت بالقوه نسبت به حریف سرکش دارند و آن امکان تجهیز آنها به ظرفیت محاسباتی متمرکز و بسیار بزرگ تحت کنترل انسان است. در شرایطی که هوش مصنوعی سرکش ناچار است منابع محاسباتی را به صورت پراکنده و از طریق نفوذ غیرقانونی به سامانه‌های مختلف تأمین کند، یک هوش مصنوعی شکارچی قادر است از خوشه‌های محاسباتی اختصاصی و مراکز داده مطمئن بهره ببرد. این مزیت تنها در صورتی به نتیجه منجر می‌شود که ابزار شکارچی در عین برخورداری از قدرت، در چارچوب‌های کنترلی و حاکمیتی باقی بماند.

راهبرد چندلایه و پیام اصلی برای حکمرانی هوش مصنوعی

جمع بندی تحلیلی رند روشن است. هیچ یک از گزینه‌های فنی افراطی بررسی شده به تنهایی پاسخ قابل اعتماد و پایدار به سناریوی هوش مصنوعی سرکش جهانی نیست. بر همین اساس پالس الکترومغناطیسی به دلیل عدم قطعیت فنی، نیاز به صد‌ها انفجار ویرانگر و خطر تشدید بحران هسته‌ای عملاً در حد گزینه نمادین آخرین لحظه باقی می‌ماند. خاموش کردن اینترنت جهانی در سطح پروتکل یا زیرساخت فیزیکی با موانع فنی، حکمرانی و اقتصادی عظیم روبه رو است و احتمال موفقیت کامل آن در برابر یک حریف فوق هوشمند پایین است، در حالی که اثرات مخرب آن بر جامعه انسانی قطعی است. همچنین ابزار‌های مبتنی بر هوش مصنوعی در عین آن که امیدبخش‌ترین مسیر برای مداخله هدفمند به شمار می‌آیند، هنوز در حد ایده‌های نظری هستند و خود خطر‌های جدیدی از جنس از دست رفتن کنترل یا بروز پیامد‌های ناخواسته را به همراه دارند.

بر همین اساس، نتیجه راهبردی مهمی استخراج می‌شود که برای هر بحث سیاستی درباره امنیت هوش مصنوعی باید نقطه عزیمت باشد. در مواجهه با سناریوی هوش مصنوعی سرکش نباید به افسانه دکمه خاموشی جهانی دل بست. زیرساخت دیجیتال جهان، توزیع جغرافیایی قدرت و محدودیت‌های فنی و حقوقی استفاده از تسلیحات باعث می‌شود که هیچ دولت یا ائتلافی نتواند در لحظه بحران با یک اقدام یکجانبه و فنی مسئله را حل کند؛ بنابراین تمرکز اصلی باید بر پیشگیری، حکمرانی پیش دستانه و طراحی ترتیبات هماهنگی بین المللی پیش از وقوع بحران باشد.

گزارش در پایان بیان می‌کند که اگر ابزار‌های فنی مهار در نقطه صفر بحران نامطمئن و پرهزینه هستند، آن گاه سرمایه گذاری بر روی مجموعه‌ای از سیاست‌ها در حوزه ایمنی و همسویی هوش مصنوعی، ایجاد سازوکار‌های نظارت و پاسخ جمعی، توسعه ابزار‌های محافظ هوش مصنوعی و طراحی پروتکل‌های هماهنگی و اعلام وضعیت اضطراری در سطح جهانی از اهمیت مضاعف برخوردار می‌شود.

در چنین چارچوبی گزینه‌های افراطی مانند پالس الکترومغناطیسی یا خاموش کردن اینترنت صرفاً به عنوان عناصر حاشیه‌ای یک سبد چندلایه مطرح می‌شوند که تنها در بدترین سناریو‌ها و پس از طی همه مراحل دیگر می‌توان درباره آنها بحث کرد. پیام ضمنی گزارش مذکور برای سیاست گذاران فناوری آن است که پنجره فعلی برای کاهش احتمال بروز سناریوی هوش مصنوعی سرکش بسیار ارزشمندتر از تکیه بر توهم مهار آن در لحظه بحران است و هر چه دیرتر به سمت حاکمیت فعال بر توسعه و استقرار سامانه‌های هوش مصنوعی حرکت شود، وابستگی به گزینه‌های پرخطر و ناپایدار در آینده بیشتر خواهد شد.