هوش مصنوعی؛ کابوس پایان جهان یا بحرانی که همین حالا شروع شده است؟

به گزارش مجله خبری نگار، در ۸ سپتامبر یکی از کارکنان پیشین آنتروپیک علناً استعفا داد و مدعی شد که این شرکت و یک مجموعه پیشروی دیگر، OpenAI، «با جان ما قمار می‌کنند» و ممکن است محصولاتشان در مسیری باشند که «همه ما را به کشتن دهند». این رشته‌پست پربازدید و پوشش خبری که دریافت کرد، نگرانی‌های دیرینه درباره مخاطرات احتمالی ویرانگر توسعه هوش مصنوعی را دوباره برجسته کرد. این خطرات از کمک مدل‌ها به ساخت سلاح‌های زیستی تا خارج‌شدن عوامل (agent) خودمختار از کنترل انسان را در برمی‌گیرند. این نگرانی‌ها در کنار گزارش‌های اخیر درباره «رفتار نگران‌کننده» و حملات سایبری با کمک عوامل، بحثی را درباره رفتار‌های بسیار خودمختار مدل‌های AI، پاسخگویی شرکت‌های سازنده آنها و نقش قوه مقننه در تعیین تدابیر حفاظتی نظارتی را برانگیخته‌اند. افراد و نهاد‌های زیادی تاکنون دیدگاهشان را مطرح کرده‌اند. برای نمونه، داریو آمودی، مدیرعامل آنتروپیک، خواستار کندشدن روند توسعه هوش مصنوعی در سراسر جهان شد و از وضع مقرراتی حمایت کرد که «سرعت پیشرفت مدل‌های پیشرو را تنظیم کنند» تا بدترین پیامد‌های احتمالی به‌درستی مهار شوند. شماری از رهبران دیگر فناوری، از جمله ایلان ماسک (xAI)، سم آلتمن (OpenAI) و دمیس هاسابیس (Google DeepMind)، تا اندازه‌ای با او هم‌نظر بودند. اما دونالد ترامپ، نگرانی چندانی نشان نداد و در عوض بر لزوم سرعت دادن به توسعه هوش مصنوعی برای حفظ رقابت‌پذیری در برابر چین تأکید کرد و حتی اعلام کرد که همه باید AI را SI خطاب کنند، به معنی ابرهوش مصنوعی. در مقاله زیر، پژوهشگران مؤسسه بروکینگز – اندیشکده‌ای بانفوذ در آمریکا با گرایش میانه‌رو که سیاست‌مداران بسیاری از جناحین سیاسی بدان استناد می‌کنند – با بیان دیدگاه خود راجع به خطرات مذکور، هم موضوع را کالبدشکافی می‌کنند و هم راهکار‌های خود را ارائه می‌دهند.

بانک‌ها باید از AI جلوتر باشند

سیستم مالی امروز در اصل یک سیستم ثبت الکترونیکی است که مشخص می‌کند چه کسی چه دارایی‌هایی دارد و آنها کجا هستند. در قرن بیستم، بانک‌ها بزرگ‌ترین گاوصندوق‌ها را برای نگهداری پول نقد، طلا و اشیای ارزشمند ساختند. در دوران مدرن، پول دیجیتال است و خزانه‌های جدیدش، پایگاه‌های داده‌اند. توانایی هوش مصنوعی برای باز کردن قفل سیستم مالی، تهدیدی برای موجودیت آن است. اینکه سیستم مالی یک‌قدم جلوتر بماند، برای جلوگیری از آشوب مالی و اجتماعی ضروری است. بانکداری یکی از قانونمندترین بخش‌های اقتصاد است و دولت آمریکا هم پیش‌تر زنگ خطر هوش مصنوعی را به صدا درآورده است. همان روزی که شرکت آنتروپیک، مدل Mythos را پیش‌نمایش کرد، اسکات بسنت (وزیر خزانه‌داری) و جروم پاول (رئیس فدرال رزرو) مدیران عامل بزرگ‌ترین بانک‌ها را به یک نشست اضطراری فراخواندند تا از آماده‌بودن آنها اطمینان حاصل کنند.

بانک‌ها انگیزه‌های قدرتمندی برای دفاع از سامانه‌هایشان دارند. اعتبارشان به این بستگی دارد که مشتریان مطمئن باشند پول خود را در جای امنی گذاشته‌اند. نهاد‌های ناظر باید تضمین کنند که بانک‌ها موارد ایمنی لازم را لحاظ می‌کنند، به‌ویژه در همکاری با ارائه‌دهندگان طرف ثالث که نظارت کمتری بر آنها وجود دارد. دولت باید اطلاعات مربوط به تهدید‌ها را به اشتراک بگذارد و اجازه دهد بانک‌ها هم میان خودشان اطلاعات ردوبدل کنند. بانک‌ها اغلب می‌توانند منشأ یک حمله را شناسایی کنند، اما سکوت می‌کنند چراکه اشتراک‌گذاری اطلاعات ممکن است قوانین ضدانحصار یا حریم خصوصی مصرف‌کننده را نقض کند. باید حمایت‌های قانونی برای اشتراک‌گذاری اطلاعات با حسن‌نیت گسترش پیدا کند و هوش مصنوعی را هم در بر بگیرد.

اما چه کسی ناظران را زیر نظر دارد؟ نهاد‌های ناظر مالی باید از سیستم‌های خودشان هم محافظت کنند، چون برخی از آنها زیرساخت‌های حیاتی هستند که بانک‌های خصوصی به آن وابسته‌اند. ولی عملکرد نهاد‌های ناظری در این زمینه نگران‌کننده است. مرکز ملی اطلاعات فدرال رزرو – که پایگاه داده پشت نظارت بانکی و پنجره تنزیل است – در ماه اوت دست‌کم ۴۸ ساعت از دسترس خارج شد. فدرال رزرو درباره این موضوع سکوت کرده و همین باعث شد سناتور الیزابت وارن تحقیق و تفحصی را آغاز کند. خدمات پرداخت فدرال رزرو حداقل دو بار دیگر در سال‌های ۲۰۱۹ و ۲۰۲۱ از کار افتاده‌اند و هنوز نمی‌دانیم چه اتفاقی افتاده است. فدرال رزرو حتی درخواست بلومبرگ و اعتراض بعدی آن را برای دریافت اطلاعات بیشتر بر اساس قانون آزادی اطلاعات رد کرد. در سال ۲۰۲۵، دفتر کنترل ارز آمریکا اعلام کرد که مهاجمان بیش از ۱۰۰ هزار پیام حاوی اطلاعات حساس نظارتی درباره بانک‌های زیر نظر این نهاد را خوانده‌اند. اگر می‌خواهیم بانک‌ها درباره مقوله امنیت خود صادق باشند، نهاد‌های ناظر باید اول خودشان صداقت به خرج دهند. تاب‌آوری، افزونگی، برنامه‌ریزی تداوم فعالیت که بار‌ها آزمایش شده، بررسی سوابق و اعلام سریع رخنه‌های امنیتی، همه‌وهمه چیز‌هایی هستند که بازرسان از بانک‌ها مطالبه می‌کنند. نهاد‌های ناظر هم باید خودشان را با همین معیار بسنجند. برخلاف بانک‌ها، نهاد‌های ناظر با فشار بازار روبه‌رو نیستند و این وظیفه مجلس نمایندگان است که آنها را پاسخگو کند.

ایمنی AI باید از جوامع آسیب‌پذیر آغاز شود

هشدار‌های اخیر شرکت‌های پیشرو در حوزه هوش مصنوعی، بحث درباره اینکه آیا توسعه هوش مصنوعی پیشرفته باید کندتر شود یا نه را شدت داده است. اما اگر قرار باشد چنین اتفاقی بیفتد، این زمان نباید فقط صرف عقب نماندن تدابیر فنی امنیتی شود. باید برای درک اثرات سامانه‌های هوش مصنوعی که همین حالا در حال استفاده‌اند و خطرات سامانه‌هایی که در راه هستند هم به کار گرفته شود. سامانه‌های هوش مصنوعی برای همه خطرات یکسانی ایجاد نمی‌کنند. خطا در تشخیص چهره، نظارت، ربات‌های مراقبتی، سامانه‌های تصمیم‌گیری خودکار یا همراه‌های هوش مصنوعی، بسته به اینکه چه کسی با آن روبه‌رو شود و در چه شرایطی، می‌تواند پیامد‌های متفاوتی داشته باشد، اما معیار‌های کلی این تفاوت‌ها را پنهان می‌کنند. سامانه‌ای که به طور میانگین عملکرد خوبی دارد، ممکن است برای گروه‌های مشخصی به شکل نامتناسب شکست بخورد. کندشدن توسعه نه‌تنها می‌تواند فرصتی باشد برای آزمون‌های فنی بهتر، بلکه برای سنجش اثرات بر گروه‌های آسیب‌دیده، ثبت شکل‌های مختلف شکست، پایش سامانه‌های فعال و درک اینکه خطر‌ها چگونه میان مردم توزیع می‌شوند هم مفید خواهد بود. این شکست‌ها پیامد‌های امنیتی متفاوتی دارند و بخش‌های مختلف جامعه را تحت‌تأثیر قرار می‌دهند.

ارزیابی‌های صنعت باید خود جوامع را هم در بر بگیرد. کارشناسان فنی برای سنجش توانایی‌ها و شکل‌های شکست ضروری‌اند، اما تخصص آنها به‌تنهایی تعیین نمی‌کند کدام آسیب‌ها مهم‌ترند، چه مصالحاتی پذیرفتنی‌اند یا تجربه چه کسانی باید به‌عنوان مدرک در نظر گرفته شود. بنابراین، مقررات باید مشارکت واقعی جوامع را در تمام مراحل طراحی، توسعه، ارزیابی و عرضه سامانه‌های هوش مصنوعی الزامی کند. جوامع متأثر باید فرصت مشخصی داشته باشند تا آسیب‌های قابل‌پیش‌بینی را شناسایی کنند، در شکل‌دادن به معیار‌های ارزیابی و استاندارد‌های مقرراتی نقش داشته باشند، شرایط عرضه را تعیین کنند، شکست‌ها را گزارش دهند و در بازبینی دوباره سامانه‌های مهم مشارکت کنند. ارزیابی اثر AI بر جوامع با مشارکت‌دادن جوامع در ارزیابی یکی نیست. گسترش مراکز داده هوش مصنوعی نشان می‌دهد چرا این موضوع اهمیت دارد. جوامع در حال سنجیدن وعده‌های اقتصادی در برابر مصرف برق، مصرف آب، استفاده از زمین و فشار بر زیرساخت‌های محلی هستند. مستندات بروکینگز نشان می‌دهد که این اختلافات اغلب به این بستگی دارند که هزینه‌ها بر دوش چه کسی می‌افتد و آیا جوامع در انتخاب محل پروژه واقعاً نقشی دارند یا خیر. مخالفت‌های محلی بعضی پروژه‌ها را به تأخیر انداخته یا متوقف کرده‌اند و نشان می‌دهند که توسعه هوش مصنوعی فقط در آزمایشگاه‌های پیشرفته شکل نمی‌گیرد. پس کندشدن توسعه باید چیزی بیشتر از یک توقف فنی باشد. مطالبات افزایش ایمنی هوش مصنوعی می‌تواند زمانی فراهم کند تا آسیب‌های امروز را اندازه بگیریم، آسیب‌های آینده را پیش‌بینی کنیم و کسانی را که با پیامد‌های آن زندگی خواهند کرد، در تصمیم‌گیری شریک کنیم. اگر جوامع قرار است خطر‌ها و هزینه‌های هوش مصنوعی را تحمل کنند، باید در تعیین شرایطی که این فناوری تحت آن پیش می‌رود هم نقشی واقعی داشته باشند.

برای تنظیم‌گری فرایند توسعه AI هنوز دیر نشده

داریو آمودی (مدیرعامل آنتروپیک) اخیراً خواستار کندشدن هماهنگ توسعه هوش مصنوعی شد. او پیشنهاد داده که این کار با یک معافیت از قوانین ضدانحصار یا یک الزام قانونی همراه باشد تا بتوان از خطری که موجودیت بشر را تهدید می‌کند جلوگیری کرد. زمانی که دیوید ساکس (مشاور سابق فناوری در دولت ترامپ) پرسید چرا هر شرکت به‌تنهایی این کار را انجام نمی‌دهد، پل کدروسکی (تحلیلگر حوزه صنعت) توضیح داد که آمودی با یک مسئله کلاسیک اقدام جمعی روبه‌رو است. اگر آنتروپیک سرعتش را کم کند، اما OpenAI این کار را نکند، توانمندی‌ها، استعداد‌ها و سهم بازار به سمت OpenAI می‌رود. به نظر می‌رسد آمودی به طور مشخص نگران بوده که سرمایه‌گذاری‌های عظیم در خودبهبوددهی بازگشتی (recursive self-improvement)، به یک شرکت هوش مصنوعی برتری دائمی و تعیین‌کننده‌ای نسبت به رقبایش بدهد. آنتروپیک نمی‌تواند به‌تنهایی سرعت توسعه هوش مصنوعی را کاهش دهد، چون خود را در معرض یک خطر وجودی دیگر قرار می‌دهد: باختن در رقابت برای رسیدن به ابرهوش مصنوعی. پیشنهاد هماهنگ‌کردن سرعت توسعه، پاسخی به مسئله معمای زندانی است که آنتروپیک با آن روبه‌رو است، اما تنظیم سرعت توسعه هوش مصنوعی نباید فقط به‌سرعت اشاره داشته باشد.

این ایده به سیاست‌گذاران فرصت می‌دهد که درباره نحوه قانون‌گذاری خود فرایند توسعه هوش مصنوعی فکر کنند تا ایمنی آن تضمین شود. مجموعه‌ای از رخداد‌های امنیت سایبری در تابستان که به آزمایش‌های ناموفق هوش مصنوعی مربوط بود، به همراه شش مورد تازه که افشا شده‌اند، نیاز به کنترل ایمنی بهتر در فرایند توسعه هوش مصنوعی را آشکار کرد. کال نیوپورت (دانشمند علوم کامپیوتر) گفته این اتفاقات، نتیجه رویه‌های ناایمن شرکت‌های هوش مصنوعی بوده و آن را به بستن دستگاه علف‌زنی به یک سگ تشبیه کرده. شرکت‌ها می‌توانستند با استفاده از روش‌های شناخته‌شده امنیت سایبری، جلوی این اتفاقات را بگیرند، پس انجام‌ندادنش هم ناشیانه بوده و هم سهل‌انگارانه. سایاش کاپور و آرویند نارایانان، دو دانشمند علوم کامپیوتر، در مقاله‌ای مفصل بر بهبود‌های سازمانی درون شرکت‌های هوش مصنوعی به‌عنوان راهی برای جلوگیری از این آزمایش‌های خطرناک تمرکز کرده‌اند. برای نمونه، آنها تأکید می‌کنند که «تیم‌های جداگانه نباید بتوانند بدون نظارت تیم‌های حقوقی، امنیتی و دیگر بخش‌ها، آزمایش‌های بالقوه خطرناک انجام دهند.» پیشنهاد‌های مربوط به تنظیم مسیر توسعه هوش مصنوعی باید این ضعف‌های سازمانی را هم در نظر بگیرند. چالش سیاست‌گذاران این است که الزامات قانونی تازه‌ای پیدا کنند که بتواند نظام ایمنی مشابهی، چون چهارچوب مدیریت ریسک مؤسسه ملی استاندارد و فناوری را بر فعالیت‌های توسعه‌ای شرکت‌های هوش مصنوعی تحمیل کند. ایده‌ها شامل تضمین مسئولیت‌پذیری در قبال آسیب‌های ناشی از آزمایش‌های خطرناک هوش مصنوعی، اضافه‌کردن نظارت و تأیید پیشینی آزمایش‌های شرکت‌ها توسط یک نهاد ناظر، ایجاد یک نهاد استانداردساز یا به‌کارگیری حسابرسان مستقل و اجباری کردن برنامه‌های ایمنی است که پیش از شروع فرایند توسعه، تهیه و تأیید شوند. برای اینکه سیاست‌گذاران در کنگره این چالش را جدی بگیرند، هنوز دیر نشده است.

‌نمی‌شود خطر AI برای مشاغل را نادیده گرفت

اینکه هوش مصنوعی تهدیدی برای موجودیت بشر است یا نه، اغلب به مسئله ازدست‌دادن کنترل آن برمی‌گردد، اما این تنها شکل مهم این پرسش نیست. هوش مصنوعی نخستین فناوری تحول‌آفرینی نیست که ترس از آینده ایجاد کرده. در حقیقت شکل قبلی این نگرانی ملموس‌تر بود. کشاورزی مکانیزه و خطوط تولید، هر کدام نگرانی مشابهی درباره ازدست‌دادن معاش ایجاد کردند. پس جزئیات هوش مصنوعی تازه است، اما اینکه آیا دولت باید در برابر پیامدهایش از مردم محافظت کند، پرسش جدیدی نیست. داروی آمودی حتی برای این تهدید عدد تعیین کرده: نرخ بیکاری ۲۰ درصدی و ازبین‌رفتن نیمی از مشاغل یقه سفید. اما تا امروز، شواهد کمی از این پیش‌بینی پشتیبانی می‌کنند. از سال ۲۰۲۲، بیکاری میان کارکنانی که بیشترین مواجهه را با هوش مصنوعی دارند، آهسته‌تر از کسانی افزایش یافته که کمترین مواجهه را دارند. فارغ‌التحصیلان تازه یک استثنا هستند. از زمان عرضه ChatGPT، اشتغال جوانان در حوزه‌های در معرض هوش مصنوعی کاهش یافته، درحالی‌که کارگران مسن‌تر در همان مشاغل تغییری را تجربه نکرده‌اند. اینکه این نشانه هشدار اولیه است یا صرفاً یک نوسان آماری، هنوز روشن نیست. البته این عدم قطعیت، بهانه‌ای برای بی‌عملی نیست. اگر هوش مصنوعی کارکنان را کنار بزند، حمایت از آنها به بیمه بیکاری، آموزش مجدد و شبکه حمایتی قوی‌تری نیاز دارد. اما همان تغییری که کارکنان را جابه‌جا می‌کند، دولت را برای کمک به آنها کم‌توان‌تر می‌سازد. اگر سود هوش مصنوعی به‌جای کارکنان به مالکان برسد، پایه مالیاتی لازم برای تأمین هزینه‌های حمایت از کارگران را فرسوده می‌کند؛ چراکه درآمد سرمایه به نسبت درآمد دستمزد، مشمول مالیات کمتری می‌شود.

کند کردن پذیرش هوش مصنوعی می‌تواند پاسخی به تهدید‌های آن باشد و مالیات راه مستقیمی برای این کار است. از هر چیزی که مالیات گرفته شود، استفاده از آن کمتر می‌شود. پس مالیات ویژه هوش مصنوعی می‌تواند پذیرش آن و جابه‌جایی شغلی را کندتر کند. اما مالیاتی که آن قدر محدود باشد که فقط هوش مصنوعی را هدف بگیرد، آن قدر هم محدود هست که اثر زیادی نداشته باشد، بعید است درآمد چشمگیری ایجاد کند، اجرای آن دشوار است و هزینه‌اش به مصرف‌کنندگان منتقل می‌شود. مهم‌تر از همه، استفاده از هوش مصنوعی به‌راحتی جابه‌جا می‌شود و مالیات بر آن ممکن است فقط فعالیت‌ها را به خارج از کشور منتقل کند، نه اینکه سرعت روند گذار را کاهش دهد. در نتیجه، اگر مالیات محدود راه‌حل نباشد، انتخاب بهتر اصلاحاتی است که فارغ از مسیر آینده هوش مصنوعی هم ارزش انجام‌دادن دارند. بیمه بیکاری و آموزش مجدد برای کارکنان جابه‌جا شده تقویت شود. نحوه مالیات‌ستانی از درآمد سرمایه گسترده‌تر شود و مالیات بر ارزش افزوده برای تقویت پایه مالیاتی وارد کار شود. مالیات‌بردرآمد شرکت‌ها با مالیات بر جریان نقدی یا بر سود‌های بادآورده جایگزین شود. این سیاست‌ها چه هوش مصنوعی کار را به‌تدریج تغییر دهد، چه ناگهانی و گسترده و چه تقریباً هیچ تغییری ایجاد نکند، باز هم سودمند خواهند بود.

‌می‌شود فرصت‌ها و مخاطرات AI را با تنظیم‌گری متوازن ساخت

میان وعده‌هایی که می‌گویند هوش مصنوعی دنیایی سرشار از فراوانی می‌سازد و وعید‌هایی که آن را دارای خطرات موجودیتی برای بشر می‌دانند، طبیعی است که سیاست‌گذاران و مردم درباره برخورد با این فناوری تازه بیش‌ازپیش مردد باشند. تردید نسبت به سامانه‌های هوش مصنوعی در سراسر طیف سیاسی رو به افزایش است و این موضوع می‌تواند ظرفیت عظیم هوش مصنوعی برای بهبود زندگی ما و دستاورد‌های بزرگ را تضعیف کند. هوش مصنوعی ویژگی‌های خاص خودش را دارد. احتمالاً طیف گسترده‌ای از صنایع و مشاغل را تحت‌تأثیر قرار می‌دهد و با سرعتی بسیار بیشتر از پیشرفت‌های فناوری پیشین رشد می‌کند. اما در سطح پایه، هوش مصنوعی فناوری‌ای است که در دل یک محیط اقتصادی گسترده‌تر به کار گرفته می‌شود و هم خطر دارد و هم فایده؛ بنابراین مؤثرترین و آزموده‌ترین راه برای کاهش پیامد‌های منفی آن و درعین‌حال استفاده از ظرفیت‌هایش، طراحی چهارچوب‌های مقرراتی است که هم شکست‌های بازار مرتبط با هوش مصنوعی را اصلاح کنند و هم از نوآوری حفاظت کنند.

سیاست‌گذاران ابزار‌های مقرراتی زیادی در اختیار دارند تا هزینه‌های احتمالی فعالیت شرکت‌های خصوصی برای جامعه را کاهش دهند. برای نمونه، شرکت‌های دارویی بدون آزمایش‌های سخت‌گیرانه و نظارت سازمان غذا و داروی آمریکا اجازه عرضه دارو‌های جدید یا تجهیزات پزشکی به بازار را ندارند. استفاده غیرنظامی از انرژی هسته‌ای نیز ذیل کمیسیون تنظیم مقررات هسته‌ای شدیداً کنترل می‌شود. اصل پیشگیری از شکست بازار با مقررات‌گذاری در مورد هوش مصنوعی هم همچنان برقرار است و به چهارچوب‌های مقرراتی جامع‌تری نیاز دارد. بااین‌حال، بسیار مهم است که آمریکا توان نوآوری خود و برتری رقابتی‌اش در هوش مصنوعی در جهان را حفظ کند. آنچه نیاز است، مقررات‌گذاری هوشمند است که نه بیش از اندازه سخت‌گیر باشد و نه بیش از حد سهل‌گیر، بلکه میان تشویق نوآوری و کاهش خطر‌ها تعادل دقیقی برقرار کند. برای رسیدن به چنین رویکردی، وجود یک جریان اطلاعات روان‌تر و اجباری میان شرکت‌های هوش مصنوعی و دولت لازم است، مثل گزارش‌دهی رخدادها. همچنین باید روش‌های نظارتی فعلی را با چالش‌های تازه‌ای که هوش مصنوعی ایجاد می‌کند، از جمله سرعت بالای توسعه آن هماهنگ کرد. بسیاری از فرایند‌های نظارتی امروز برای همگام‌شدن با سرعت سرسام‌آور پیشرفت هوش مصنوعی بیش از حد کند و ایستا هستند. نهاد‌های ناظر باید مقرراتی پویاتر و سازگارتر طراحی کنند که بتوان آنها را با فاصله‌های کوتاه‌تر بازبینی کرد، درحالی‌که برای شرکت‌ها نیز امکان پیش‌بینی فراهم باشد. سیاست‌گذاران از طریق مقررات‌گذاری هوشمند هوش مصنوعی می‌توانند با افزایش قابل‌اعتماد بودن این سامانه‌ها و تضمین پاسخگویی در استفاده از آنها، اعتماد عمومی را تقویت کنند.

امنیت سایبری هنوز با کاستی‌های بنیادین روبه‌روست

یکی از توانایی‌های نگران‌کننده مدل‌های پیشرفته هوش مصنوعی که اخیراً خبرساز شده، توانایی آنها در پیداکردن آسیب‌پذیری‌های نرم‌افزاری و ساختن ابزار سوءاستفاده از آن با سرعتی بسیار بیشتر از انسان‌هاست. مدل‌های وزن‌باز هم در حال پیشرفت‌اند. البته همه آسیب‌پذیری‌ها خطر امنیت سایبری یکسانی ندارند، اما نگرانی اصلی این است که کشف آسیب‌پذیری به کمک هوش مصنوعی از توان ما برای اصلاح آنها جلو بزند و به مهاجمان، برتری آشکاری نسبت به مدافعان بدهد. در پاسخ به این مسئله، آنتروپیک پروژه Glasswing راه‌اندازی کرده است. برنامه‌ای که به گروهی منتخب از نهاد‌هایی که جایگاه مناسبی برای ایمن‌سازی نرم‌افزار‌های حیاتی دارند، دسترسی به مدل‌های جدید و قدرتمند می‌دهد تا پیش از عرضه گسترده مدل، آسیب‌پذیری‌ها را پیدا و اصلاح کنند. آنتروپیک می‌گوید پروژه مذکور، تلاشی برای به‌کارگرفتن توانایی‌های هوش مصنوعی «در خدمت اهداف دفاعی» است. بااین‌حال، خود آنتروپیک هم می‌پذیرد که چنین تلاش‌هایی راه‌حل همه‌جانبه نیستند و فقط تا حدی می‌توانند به ایمن‌سازی شبکه‌ها و سیستم‌های ما کمک کنند.

برخی نیز استدلال کرده‌اند که چنین برنامه‌های دسترسی مدیریت‌شده‌ای، با وجود سودمند بودن، اثر منفی کاهش شفافیت را هم دارند. این وضعیت باعث می‌شود پژوهشگران به‌سختی بتوانند ادعای توسعه‌دهندگان را درباره اینکه یک مدل مشخص واقعاً «تغییردهنده بازی» هست یا نه بررسی کنند. همچنین مرز باریکی میان دارندگان و محرومان از هوش مصنوعی ایجاد می‌کند. در واقع، هنگام راه‌اندازی پروژه Glasswing، اعضایی از صنعت بانکداری نسبت به کنارگذاشتن برخی بانک‌های غیرآمریکایی از این برنامه نگرانی و اعتراض خود را مطرح کردند. هم‌زمان که سیاست‌گذاران به چگونگی پاسخ‌دادن به محیط تهدیدات سایبری که با توانایی‌های روبه‌رشد مدل‌های پیشرفته و مدل‌های وزن‌باز هوش مصنوعی تشدید شده فکر می‌کنند، بخشی از پاسخ باید بازگشت به کار‌های سنگینی باشد که مدت‌ها پیش ضرورتشان را تشخیص داده بودیم، اما ناتمام مانده‌اند. یعنی باید زیرساخت‌های حیاتی را مقاوم‌تر کنیم و نیرو‌های بازار را طوری شکل دهیم که امنیت و تاب‌آوری را تقویت کنند. از جمله این اقدامات، ایجاد نظام مسئولیت‌پذیری برای نهاد‌هایی است که در ایمن‌سازی نرم‌افزار‌های خود، احتیاط‌های منطقی را رعایت نمی‌کنند. سیاست‌گذاران برای اقدام درباره هوش مصنوعی تحت فشارند. راهبرد‌های عملی و متمرکز بر امنیت سایبری از قبل تدوین شده‌اند و هوش مصنوعی می‌تواند در اجرای بخشی از آنها کمک کند. فقط باید کار سخت اجرای آنها را آغاز کرد.

بدون جنوب جهانی، ایمنی جهانی AI هم بی‌معناست

این احتمال که سامانه‌های پیشرفته بتوانند از کنترل معنادار انسان خارج شوند، اقدام پیشگیرانه را ضروری می‌کند. اما از نگاه جنوب جهانی، این بحث ناقص به نظر می‌رسد. شکست‌هایی مانند استفاده از هوش مصنوعی در مدل‌های مبهم اعتبارسنجی، یک چت‌بات پزشکی که توصیه ناایمن می‌دهد یا ویدئوی ساختگی که در زمان انتخابات تنش‌ها را تشدید می‌کند، می‌توانند خیلی پیش از آنکه ابرهوش فرضی تهدیدی برای بشریت باشد، جوامع را بی‌ثبات کنند. توزیع قدرت قطعاً نیازمند توجه است. ۱۰۰ شرکت که بیشتر در آمریکا و چین متمرکزند، در سال ۲۰۲۲ مسئول ۴۰ درصد از هزینه تحقیق‌وتوسعه شرکت‌ها در جهان بودند. در مقابل، ۱۱۸ کشور که اغلب در جنوب جهانی قرار دارند، هنوز در ابتکارات اصلی حکمرانی هوش مصنوعی نمی‌توانند وارد شوند. بسیاری از این کشور‌ها مواد معدنی، انرژی، داده و بازار‌هایی را فراهم می‌کنند که اقتصاد هوش مصنوعی بر آنها تکیه دارد، اما نفوذ اندکی بر قواعد آن دارند. در نتیجه، حکمرانی دشوار می‌شود، چون دولت‌ها نمی‌توانند به‌درستی از شهروندان خود در برابر سامانه‌هایی محافظت کنند که خودشان امکان بررسی‌شان را ندارند. این فقط مسئله سرعت توسعه و هماهنگی نیست. کشور‌های درحال‌توسعه با یک مسئله دیگر هم روبه‌رو هستند؛ مسئله ظرفیت. ممکن است از نهاد‌های ناظر خواسته شود بر سامانه‌هایی نظارت کنند که در خارج از کشور طراحی شده‌اند، بدون اینکه تخصص، زیرساخت آزمایش، توان محاسباتی یا قدرت لازم برای ارزیابی آنها را داشته باشند.

کند کردن بی‌هدف هوش مصنوعی هم پیامد‌های خودش را دارد. در نیجریه، یک طرح شش‌هفته‌ای که راهنمایی معلم را با آموزش هوش مصنوعی مولد ترکیب می‌کرد، به شکل معناداری نتایج یادگیری را بهبود داد. برای کشور‌هایی که با کمبود شدید خدمات ضروری روبه‌رو هستند، به تأخیر انداختن کاربرد‌های امن و مفید، تصمیمی بی‌طرفانه نیست. انتشار هدایت‌شده – یعنی جایی که مقیاس و سرعت توسعه هوش مصنوعی به شکلی راهبردی تعیین می‌شود – هدف بهتری است. برای نمونه، کاربرد‌هایی از AI با سود تضمینی (مانند ابزار‌های آموزشی یا سلامت) می‌توانند با سرعت بیشتر و تحت نظارت عرضه شوند. در مقابل، سامانه‌هایی که توانایی عملیات سایبری خودکار، طراحی زیستی، دستکاری گسترده افکار عمومی یا مداخله در زیرساخت‌های حیاتی دارند، باید مشمول ارزیابی مستقل، پایش مداوم و محدودیت احتمالی در دسترسی یا عرضه شوند. این مسائل پیچیده به شیوه‌های حکمرانی چابک نیاز دارند تا سیاست‌گذار بتواند پیوسته از آنها درس گرفته و خود را تطبیق دهد. از جمله این روش‌ها می‌توان به محیط‌های آزمایشی کنترل‌شده و گزارش رخداد‌ها اشاره کرد. همکاری بین‌المللی نباید فقط زیرساخت مشترک آزمایشی و تخصصی فراهم کند، بلکه باید آگاهانه به کشور‌های درحال‌توسعه قدرتی واقعی بدهد تا خودشان هم در تعیین استاندارد‌ها نقش داشته باشند. وظیفه این است که اشکالی از هوش مصنوعی را که بیشترین احتمال فاجعه‌آفرینی را دارند محدود کرد، درحالی‌که هوش مصنوعی ایمن به جا‌هایی برسد که می‌تواند بیشترین فایده را داشته باشد.

آنچه را سنجیدنی نیست نمی‌توان تصدیق کرد

مقاله داریو آمودی، واکنش قابل‌توجهی در صنعت هوش مصنوعی برانگیخت. کمی پس از انتشار آن، سم آلتمن گفت OpenAI هم متعهد می‌شود به ارزیابان مستقل همانند کارکنان خود، دسترسی برابر دهد. بخش زیادی از بحث‌های بعدی بر سر دسترسی بوده است. انگار فرض بر این است که اگر کارشناسان مستقل را به داخل شرکت‌ها راه بدهیم، نظارت معنادار ممکن می‌شود. این شروع خوبی است، اما یک مرحله را نادیده می‌گیرد. دسترسی فقط وقتی مفید است که ارزیابان پس از ورود، ابزار‌های قابل‌اعتمادی در اختیار داشته باشند. این ابزار‌ها هنوز به بلوغ نرسیده‌اند. هیچ سنجشی کاملاً دقیق نیست. حوزه‌های بالغ این مسئله را با سنجش و گزارش عدم قطعیت مدیریت می‌کنند، اما ارزیابی هوش مصنوعی اغلب چنین کاری نمی‌کند. هنوز هم امتیاز بنچمارک‌ها معمولاً به شکل یک عدد گزارش می‌شود، با اینکه نمونه‌گیری، تصادفی بودن مدل، نوع پرامپت و شیوه امتیازدهی می‌توانند نتیجه را تغییر دهند. در آزمونی با ۵۰۰ پرسش، تنها نمونه‌گیری می‌تواند حدود ۴ واحد درصد عدم قطعیت ایجاد کند. امتیازی که برآورد عدم قطعیت ندارد، سنجش ناقصی است که دقیق به نظر می‌رسد. مسئله دشوارتر این است که فهمید این عدد چه چیزی را می‌سنجد. «ایمنی هوش مصنوعی» مثل دما مفهومی از پیش تعریف شده نیست.

ایمنی باید در ارتباط با رفتاری مشخص، در محیطی معین، در برابر مهاجمی معلوم و طی تعداد مشخصی از تعاملات سنجیده شود. مسئله فقط عدم قطعیت درباره پاسخ نیست، بلکه این هم هست که امتیاز به کدام پرسش پاسخ می‌دهد. موضوعی که سنجیده می‌شود، یعنی مدل یا سامانه هوش مصنوعی، ممکن است تغییر کند. شرکت‌ها می‌توانند مدل‌ها، پرامپت‌های سامانه، سازوکار‌های حفاظتی، ابزار‌ها یا تنظیمات استنتاج را تغییر دهند و درعین‌حال همان نام آشنا را برای محصول نگه دارند. برای نمونه، ارزیابی‌ای که در ماه مارس انجام شده ممکن است چیز زیادی درباره سامانه‌ای که در ژوئن عرضه شده نگوید. نتایج ارزیابی باید بازه اعتبار داشته باشند و هر تغییر مهم در سامانه، ارزیابی دوباره را به جریان بیندازد. مدل‌ها را می‌توان برای قبولی در آزمون هم آموزش داد. بنچمارک‌ها به بیرون درز می‌کنند، توسعه‌دهندگان عملکرد مدل را بر اساس معیار‌های شناخته‌شده بهینه می‌کنند و تیم‌های قرمز بار‌ها نقص‌هایی را آشکار کرده‌اند که آزمون‌های خودکار از آنها غافل مانده‌اند. ارزیابی معتبر دست‌کم به چهار چیز نیاز دارد: پایایی، اعتبار، ثبات و مقاومت در برابر دستکاری. این حرف‌ها مخالفتی با حضور ارزیابان در شرکت‌ها نیست. حرف این است که دسترسی صرف به مدل‌ها کافی نیست. ارزیابان باید برای آزمون‌ها، پروتکل‌هایی هم تعیین کنند، از جمله گزارش برآورد عدم قطعیت، جلوگیری از آموزش مستقیم شرکت‌ها بر اساس آزمون‌ها، ارزیابی دوباره پس از تغییرات مهم و ارائه شواهدی که نشان دهد امتیاز‌های پیش از عرضه می‌توانند پیامد‌های دنیای واقعی را پیش‌بینی کنند. البته سنجش تمام فرایند راستی‌آزمایی نیست. اما بدون سنجش قابل‌اعتماد، راستی‌آزمایی بر پایه چیزی معتبر بنا نمی‌شود. باز کردن در‌های مدل‌های هوش مصنوعی قدم اول خوبی است. قدم بعدی این است که خط‌کشی در اختیار ارزیابان بگذاریم که معنای آن، میزان عدم قطعیتش و اعتبارش را بفهمیم.

عوامل AI برای ایجاد آسیب جبران‌ناپذیر نیازی به ابرهوش ندارند

بخش زیادی از نگرانی‌های اخیر درباره خطرات وجودی، از افزایش خودمختاری و توانایی‌های هوش مصنوعی عامل‌محور ناشی می‌شود. آیا آسیب‌هایی که عوامل قدرتمند هوش مصنوعی می‌توانند ایجاد کنند، چهارچوب‌های قانونی و نظارتی فعلی را به چالش می‌کشند؟ و اگر یک عامل هوش مصنوعی برخلاف سازوکار‌های حفاظتی توسعه‌دهنده، تنظیمات دقیق مجری یا پرامپت کاربر عمل کند، چه کسی مسئول است؟ هوش مصنوعی عامل‌محور به سامانه‌های ماشینی گفته می‌شود که می‌توانند کار‌های چندمرحله‌ای را اجرا کنند و با عوامل دیگر و ابزار‌های بیرونی تعامل داشته باشند، درحالی‌که هر مرحله از کارشان فقط به‌صورت محدود از سوی انسان بررسی و نظارت می‌شود. این سامانه‌ها از نظر حقوقی «عامل» محسوب نمی‌شوند، اما همچنان می‌توانند آسیب‌های جبران‌ناپذیری ایجاد کنند. در ماه آوریل، یک عامل کدنویسی هنگام انجام کاری معمول، پایگاه داده عملیاتی یک شرکت نرم‌افزاری و نسخه‌های پشتیبان آن را حذف کرد. چنین اقداماتی می‌توانند پیامد‌های جدی برای افراد، سازمان‌ها و حتی جامعه داشته باشند.

ارزیابی‌های پیش از عرضه می‌توانند به نهاد‌های ناظر کمک کنند تا دید بهتری نسبت به خطرات پیدا کنند. مرکز استاندارد‌ها و نوآوری هوش مصنوعی اکنون با پنج آزمایشگاه پیشرو، توافق‌نامه‌هایی برای آزمون پیش از عرضه دارد. اما آزمودن مدل به‌تنهایی، ممکن است خطرات ایمنی یک سامانه عامل‌محور را پس از استقرار نادیده بگیرد. مجری معمولاً مدل را همراه با یک چهارچوب اجرایی، مجموعه‌ای از ابزارها، سطح دسترسی محدود و امکان دسترسی به عوامل دیگر به کار می‌گیرد. کاربران هم در بستر استقرار با سامانه تعامل می‌کنند، نه با مدل در خلأ. این تعاملات می‌توانند خطرات تازه‌ای ایجاد کنند که در بنچمارک‌های پیش از عرضه دیده نمی‌شوند. ازسوی‌دیگر، بررسی رفتار سامانه هنگام اجرا، به بازاری نوپا برای تضمین ایمنی سپرده شده است. ارزیابان مدل‌های پیشرو از جامعه کوچکی می‌آیند که پیشینه‌ها و پیش‌فرض‌های مشترکی دارند. این یکنواختی، نقاط کور قابل‌پیش‌بینی ایجاد می‌کند.

پایش پیوسته سامانه‌های هوش مصنوعی عامل‌محور باید هنگام اجرای مدل انجام شود. تا امروز، امتیاز‌های ارزیابی مدل‌ها را پیش از استقرار سنجیده‌اند، اما در کاربرد واقعی، پیکره‌‎بندی‌ای که توسعه‌دهنده تعیین می‌کند بر رفتار سامانه حاکم است. محدودیت‌هایی مثل فهرست ابزار‌های مجاز، فیلتر خروجی یا سقف هزینه، هنگام اجرا دامنه فعالیت سامانه را محدود می‌کنند. سازوکار‌های تأیید هم پیش از اقدام مشخصی مجوز می‌خواهند و اگر مجوز صادر نشود، همان لحظه جلوی آن اقدام را می‌گیرند. سیاست‌گذاران هم‌اکنون در همین مسیر حرکت می‌کنند. راهنمایی‌های دولت فدرال نشان می‌دهد شرکت‌ها باید بر اقدام‌های عوامل نظارت کنند، آنها را پایش کنند و بتوانند توضیح دهند. نهاد‌های تدوین استاندارد نیز کار‌هایی درباره هویت عوامل و شیوه‌های ثبت رویداد در دست اجرا دارند. این اقدامات تعیین می‌کنند که آیا قواعد فعلی مسئولیت حقوقی می‌توانند برای رسیدگی به آسیب‌های ناشی از عوامل به‌درستی به کار گرفته شوند یا خیر. این قواعد اغلب می‌توانند چنین آسیب‌هایی را پوشش دهند، اما اثبات آنها دشوار است. برای ساختن سابقه مستند از شواهد، باید لایه‌هایی از ثبت رویداد و نظارت مستقیماً در سامانه‌های عامل‌محور تعبیه شود.

تکرار یک تجربه قدیمی: دولت ترامپ خطرات AI را نادیده گرفت

کنگره با شتاب می‌کوشد نظارت بیشتری بر شرکت‌های هوش مصنوعی اعمال کند، درحالی‌که کاخ سفید در واکنش به خبر‌های اخیر درباره خارج‌شدن مدل‌های پیشرو از کنترل، رویکرد دیگری در پیش گرفته است. اقداماتی که در دولت بایدن انجام شد می‌تواند راهنمایی برای مهار خطر‌های ابرهوش و تدوین مقررات باشد، آن هم در شرایطی که قدرت بیش‌ازپیش در دست شمار محدودی از شرکت‌های فناوری متمرکز شده است. در سال ۲۰۲۲، جو بایدن رئیس‌جمهور وقت آمریکا، از کاخ سفید خواست «طرح منشور حقوق هوش مصنوعی» را تدوین کند. هدف این طرح، محافظت از مصرف‌کنندگان در برابر آسیب‌های هوش مصنوعی و پاسداری از حقوق مدنی، حریم خصوصی داده‌ها و حمایت از کارکنان بود. در سال ۲۰۲۳، دولت او فرمان اجرایی دیگری صادر کرد که با استناد به قانون تولیدات دفاعی، شرکت‌های هوش مصنوعی را ملزم می‌کرد نتایج ایمنی را افشا کنند، استاندارد‌هایی تدوین کنند و دولت را در حسابرسی مدل‌های هوش مصنوعی دخیل کنند. در سال ۲۰۲۴، وزارت امنیت میهنی، گروهی از ذی‌نفعان را در قالب «شورای ایمنی و امنیت هوش مصنوعی» گرد هم آورد. سم آلتمن (مدیرعامل OpenAI) هم در این گروه حضور داشت. هدف شورا تدوین راهکار‌هایی برای شناسایی و کاهش تهدید‌های هوش مصنوعی علیه زیرساخت‌های حیاتی و امنیت ملی بود.

چند ساعت پس از آغاز دومین دوره ریاست‌جمهوری دونالد ترامپ، فرمان بایدن لغو شد و برنامه‌های مختلف برای اطمینان از توسعه مسئولانه، ایمن و امن هوش مصنوعی کنار گذاشته شدند. برخی از توصیه‌ها دیگر در تارنمای کاخ سفید در دسترس نیستند. دولت ترامپ از آن زمان، فرمان‌های اجرایی خودش را درباره شرکت‌های هوش مصنوعی صادر کرده است. اما این فرمان‌ها عمدتاً داوطلبانه بوده‌اند و سازوکار اجباری برای اجرای آنها وجود نداشته است. در واقع، تازه‌ترین فرمانی که قرار بود آزمایشگاه‌های پیشرو را ملزم کند جزئیات بیشتری درباره سامانه‌هایشان در اختیار دولت بگذارند، کنار گذاشته شد. اقدامات دوره بایدن چهارچوب‌های محکمی برای مدیریت خطر‌های هوش مصنوعی فراهم می‌کردند و با تکیه بر پژوهش، تخصص سیاست‌گذاری و همکاری، به تدوین استاندارد‌های ایمنی و امنیت هوش مصنوعی کمک می‌کردند. اگر کاخ سفید ارزش این اقدامات را نادیده بگیرد، کنگره می‌تواند با تصویب دستورالعمل‌هایی معنادار، راهی برای محافظت از عموم مردم در برابر مدل‌های پرخطر هوش مصنوعی باز کند.

باور به سناریو رستاخیزی AI، حمایت از مصرف‌کنندگان را تضعیف می‌کند

هوش مصنوعی فناوری بسیار مهمی است که مزایای چشمگیری به همراه خواهد داشت. اما این فناوری هم مثل بسیاری از فناوری‌های پیش از خود، اگر با نیت بد یا غیرمسئولانه به کار گرفته شود، می‌تواند آسیب‌زا باشد. بااین‌حال، هوش مصنوعی تهدیدی وجودی برای بشریت نیست. کاملاً منطقی است که بررسی کنیم چه مقررات تازه‌ای، به طور خاص برای هوش مصنوعی، ممکن است لازم باشد. اما نباید این گفت‌و‌گو را با این پیش‌فرض پیش برد که هوش مصنوعی استثنایی است و آن قدر با فناوری‌های پیشین تفاوت دارد که قواعد و فرض‌های قبلی دیگر به کار نمی‌آیند. از مدت‌ها پیش چارچوب‌های حقوقی جاافتاده‌ای وجود داشته‌اند که در بحث‌های مربوط به مقررات هوش مصنوعی اغلب کمتر به آنها توجه می‌شود. یکی از آنها مسئولیت تولیدکننده در قبال محصول است که راهی برای جبران خسارت پس از آسیب‌زایی محصول فراهم می‌کند. کمتر به این نکته توجه شده که این چارچوب در حوزه هوش مصنوعی انگیزه‌ای قوی هم برای شرکت‌ها ایجاد می‌کند تا از همان ابتدا بکوشند محصولاتشان را تا حد ممکن ایمن بسازند. شرکت‌های هوش مصنوعی باید مانند شرکت‌های حوزه‌های دیگر، تابع همان تعهدات مربوط به مسئولیت محصول باشند. در مقابل، یکی از پیامد‌های نگاه‌کردن به هوش مصنوعی به‌عنوان تهدیدی وجودی برای بشریت این است که شرکت‌ها می‌توانند باتکیه‌بر این روایت، مسئولیت خود را در قبال محصولاتی که آسیب‌های غیر فاجعه‌بار ایجاد می‌کنند کم‌رنگ کنند یا از آن شانه خالی کنند. ممکن است بگویند «ما بر فناوری‌ای نظارت می‌کنیم که تمدن را تهدید می‌کند و اگر مسئولانه آن را مدیریت نمی‌کردیم، آسیب‌ها بسیار بیشتر می‌شد.»

قوانین ضدانحصار هم چارچوب حقوقی قدیمی دیگری هستند که روایت هوش مصنوعی به‌مثابه تهدید وجودی، در مورد آنها مشکل‌ساز است. شرکت‌های پیشرو هوش مصنوعی ممکن است بگویند فناوری‌شان آن قدر خطرناک و قدرتمند است که باید اجازه داشته باشند برای مدیریت نحوه به‌کارگیری آن با هم همکاری کنند. اما تاریخ نشان داده است که اگر رهبران یک صنعت درباره عرضه محصول یا خدمتی با هم هماهنگ شوند، مصرف‌کنندگان هزینه‌اش را می‌پردازند. قوانین ضدانحصار برای این ضروری‌اند که مصرف‌کنندگان از بازار‌هایی بهره ببرند که در آنها شرکت‌ها مستقل از هم برای ساخت بهترین محصولات رقابت می‌کنند و کارتل‌ها نمی‌توانند با پیشبرد مقرراتی که مانع ورود بازیگران تازه به بازار می‌شود، مسیر بازار را تعیین کنند. این موضوع درباره هوش مصنوعی هم به همان اندازه صدق می‌کند که در بازار‌های دیگر صدق کرده است. این حرف‌ها به این معنا نیست که با ادامه پیشرفت هوش مصنوعی، هیچ‌وقت مشکلی پیش نمی‌آید. در سال‌های آینده بارهاوبارها، در مقیاس‌های کوچک و بزرگ، سامانه‌های هوش مصنوعی از مسیر خارج خواهند شد. در چنین مواقعی باید به یاد داشت که سرچشمه هر سامانه هوش مصنوعی، هر قدر هم پیشرفته باشد، در نهایت انسان‌ها و شرکت‌ها هستند، نه تراشه‌های پردازشی. چارچوب‌های حقوقی نیرومندی وجود دارند که دهه‌هاست برقرارند و برای شرکت‌های سازنده سامانه‌های هوش مصنوعی انگیزه‌های قوی ایجاد می‌کنند تا محصولاتشان را مسئولانه مدیریت کنند. تصویرکردن هوش مصنوعی به‌عنوان تهدیدی وجودی برای بشریت، راه را برای تضعیف این چارچوب‌ها باز می‌کند.

سوءاستفاده از هوش مصنوعی همین حالا آغاز شده است

هوش مصنوعی به یکی از دغدغه‌های اصلی سیاست‌گذاران تبدیل شده است. آنها هم‌زمان به نارضایتی‌های داخلی درباره ساخت مراکز داده پاسخ می‌دهند و هشدار‌های مدیران و پژوهشگران آزمایشگاه‌های پیشرو را می‌شنوند که می‌گویند بدون تدابیر حفاظتی دولت، فاجعه‌ای در راه است. این چالش‌ها توجه جدی می‌طلبند، اما ممکن است باعث شوند تهدیداتی را که سامانه‌های هوش مصنوعی همین حالا و در شکل فعلی‌شان ایجاد می‌کنند، نبینیم. تازه‌ترین «گزارش اطلاعات تهدید» آنتروپیک، تصویری از سوءاستفاده‌های مخرب کنونی به دست می‌دهد. این چهارمین گزارشی است که شرکت از مارس ۲۰۲۵ منتشر کرده و مفصل‌ترین آنها تا امروز است: بیش از ۱۵۰ صفحه درباره شیوه‌های نگران‌کننده‌ای که بازیگران دولتی و غیردولتی از دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ برای استفاده از مدل‌های آنتروپیک به کار گرفته‌اند. آنتروپیک در ده‌ها مورد از تلاش‌ها برای نفوذ به کارزار‌های سیاسی، اثرگذاری بر رأی‌دهندگان، به‌روزرسانی خودکار بدافزار برای فرار از شناسایی، ردیابی مخالفان و سرقت فناوری پهپاد‌های نظامی، در کنار نمونه‌های نگران‌کننده دیگر، خبر داده است. گزارش اخیر این موارد را نمونه‌هایی تازه و «قابل‌توجه» توصیف می‌کند، نه موارد معمول. آنتروپیک در نوامبر گذشته هم از کارزاری با حمایت یک دولت خبر داد که گمان می‌رفت از هوش مصنوعی برای اجرای حملات خودکار و با نظارت اندک انسانی استفاده کرده باشد.

آنچه اکنون فرق کرده، گسترش این رویکرد، حجم بالای موارد نگران‌کننده و پیچیده‌تر شدن آنهاست. مسئله این است که، چون فقط یک شرکت تصمیم گرفته این موارد را منتشر کند، از آنها خبر داریم. باید شفافیت آنتروپیک را ستود، اما از سوءاستفاده‌های کنونی از هوش مصنوعی چیزی نمی‌دانیم، مگر آن چه خود شرکت‌ها انتخاب می‌کنند با ما در میان بگذارند. OpenAI هم گزارش‌های مشابهی منتشر می‌کند و پنجره‌ای مشابه به این مسئله می‌گشاید، اما فرایند‌ها و زمان‌بندی گزارش‌هایش متفاوت است. آنتروپیک می‌گوید «در صورت لزوم» اطلاعات را با مقامات در میان می‌گذارد، اما هیچ الزامی برای این کار وجود ندارد. قوانین فعلی گزارش‌دهی، از جمله قانون تازه کالیفرنیا درباره هوش مصنوعی پیشرو، بر سوءاستفاده مشتریان از مدل‌های هوش مصنوعی تمرکز ندارند. ممکن است عموم مردم به همه جزئیات نیاز نداشته باشند، از جمله آسیب‌پذیری‌ای که مهاجم پیدا کرده، مدت حمله یا نحوه شناسایی مهاجم. اما مقامات امنیت ملی به این اطلاعات نیاز دارند. برای اینکه مقامات بتوانند آسیب‌ها، آسیب‌پذیری‌ها و اهداف را در میان شرکت‌های توسعه‌دهنده بهتر رصد کنند، باید شرکت‌ها را ملزم کرد بر اساس آستانه‌ای مشخص، گزارش‌هایی استاندارد ارائه دهند. درحالی‌که بحث‌ها درباره سناریو‌های احتمالی پایان جهان بر اثر هوش مصنوعی با شتاب ادامه دارد، سوءاستفاده از هوش مصنوعی مسئله‌ای مضارع و واقعی است و دولت در حال حاضر، فقط از دریچه‌ای که شرکت‌ها برایش تعیین می‌کنند با آن آشنا می‌شود.

مهار خطرات فاجعه‌بار AI بدون پکن ممکن نیست

دیدار ۲۰ سپتامبر میان اسکات بسنت (وزیر خزانه‌داری آمریکا) و هه لیفنگ (معاون نخست‌وزیر چین) گام نخست و مثبتی برای آغاز گفت‌و‌گو درباره خطرات هوش مصنوعی است. اما این گفت‌و‌گو حالا به فرایندی روشن، دستاورد‌های مشخص و نقاط عطف نیاز دارد. باتوجه‌به وضعیت ژئوپلیتیکی کنونی و بی‌اعتمادی متقابل، بهتر است فعلاً انتظارات را پایین نگه داشت. در ادامه باید بر دستاورد‌های سریعی تمرکز کرد که برای رسیدگی به تهدیدات پرخطر (مثل سلاح‌های زیستی، استفاده بازیگران غیردولتی از هوش مصنوعی برای حمله یا مدل‌های مهارنشدنی و خارج از کنترل) زمینه‌سازی کنند. می‌توان کار را با مشخص‌کردن مسئولان ایمنی هوش مصنوعی، برگزاری نشست‌های منظم میان تیم‌های مربوط و راه‌اندازی خط تماس اضطراری در صورت وقوع فاجعه آغاز کرد. به نظر می‌رسد اینها دستاورد‌های اصلی آن دیدار بوده‌اند. گام بعدی توافق بر سر تعریف مشترکی از اصطلاحات کلیدی است تا مبنایی برای یافتن زمینه‌های مشترک درباره اولویت‌های فوری و خط قرمز‌ها فراهم شود. امید است این کار به تبادل رویه‌های کاهش خطر هم برسد، از جمله استاندارد‌های آزمون و ارزیابی، ممیزی مستقل و بهترین شیوه‌های اجرا و نظارت. همکاری شدنی است، حتی اگر توافقی دوجانبه بر سر کنترل صادرات تراشه و تقطیر مدل‌ها شدنی نباشد. اوایل ماه قبل، همه اعضای گروه ۲۰ از جمله چین، «اصول کارولینا» تحت رهبری آمریکا را تأیید کردند؛ این اصول از دولت‌ها می‌خواهند وضع مقررات برای فناوری‌های نوظهور را به مواردی محدود کنند که ملاحظات تازه‌ای را مطرح می‌کنند. افشاگری‌های OpenAI و آنتروپیک هم واقعاً نمونه‌هایی هستند که مختص هوش مصنوعی‌اند.

برای آمریکا، اکنون فرصت مناسبی برای تعامل است. نخست اینکه تحولات هوش مصنوعی نشان می‌دهند این فناوری در آستانه ایجاد آسیب‌های جدی است. باتوجه‌به بدتر شدن نگاه عمومی به هوش مصنوعی و نزدیک‌شدن انتخابات میان‌دوره‌ای، ابراز نگرانی درباره خطرات آن می‌تواند در داخل کشور بازتاب خوبی داشته باشد. دوم اینکه این نگرانی وجود دارد که مدل‌های چینی توجیه اقتصادی مدل‌های اختصاصی آمریکایی را تضعیف کنند، هرچند مهار مدل‌های چینی نمی‌تواند هدف آمریکا در این گفت‌و‌گو‌ها باشد. برای چین هم تعامل منطقی است. همکاری با آمریکا در زمینه ایمنی هوش مصنوعی به چین اجازه می‌دهد بر گسترش استفاده از این فناوری در سراسر اقتصادش تمرکز کند. یک کانال دوجانبه با آمریکا به چین کمک می‌کند جایگاهش را به‌عنوان پیش‌گام حکمرانی جهانی هوش مصنوعی تثبیت کند و به سازمان جهانی همکاری هوش مصنوعی محتوای عملی‌تری بدهد. گفت‌وگویی آشکار درباره ایمنی هوش مصنوعی همچنین می‌تواند به نگرانی‌های فزاینده مردم چین درباره این فناوری پاسخ دهد. آیا افشاگری‌های اخیر، انگیزه لازم را ایجاد کرده‌اند؟ احتمالاً نه. متأسفانه شاید برای برانگیختن همکاری آمریکا و چین، وقوع فاجعه‌ای لازم باشد. بااین‌حال، مهم است از این فرصت استفاده کرد.

پیشنهاد جنجالی: با آزمایشگاه‌های AI مثل شرکت‌های داروسازی رفتار شود

دارو‌های نسخه‌ای هر ساله هزاران نفر را در آمریکا، حتی تحت سخت‌گیرانه‌ترین نظام ایمنی محصول، به کام مرگ می‌کشانند. بااین‌حال، کسی نمی‌گوید دارو‌ها تهدیدی وجودی‌اند. آسیب‌هایشان محدود است و می‌توان کسی را بابت آنها پاسخگو کرد. هرچند آسیب‌های هوش مصنوعی در حال حاضر شاید کوچک‌تر باشند، از بسیاری جهات از همان جنس‌اند و صنعت دارو از قبل، چارچوبی برای مدیریت آنها در اختیارمان گذاشته است. این چارچوب برای تولیدکنندگان دارو با مسئولیت حقوقی آغاز می‌شود. طبق قانون، می‌توان آنها را بابت محصولات معیوب و هشدارندادن به پزشکان مسئول دانست، درحالی‌که پزشکان همچنان مسئول نحوه تجویزند. در حوزه هوش مصنوعی، آزمایشگاه نقش تولیدکننده را دارد و کارت سامانه‌اش مانند برچسب محصول عمل می‌کند. مجری هم نقش پزشک را دارد و اگر از مدلی استفاده کند که مناسب نیست، مسئول خواهد بود. دادگاه‌ها دارند این چارچوب مسئولیت محصول را می‌آزمایند. سال گذشته، پرونده Character. AI با چنین فرضی روبه‌رو شد و از مرحله رد دعوا جان سالم به در برد. دوازده پرونده علیه OpenAI هم در فوریه با هم هماهنگ شدند. کنگره می‌تواند این چارچوب را تصویب کند تا مسئولیت‌ها را مشخص کند، یا بگذارد هیئت‌های منصفه آن را در هر پرونده جداگانه شکل دهند.

این چارچوب باید فرامرزی هم عمل کند. می‌توان از تولیدکنندگان خارجی دارو در آمریکا شکایت کرد، اگر محصولاتشان را در این کشور بفروشند. همین اصل می‌تواند درباره آزمایشگاه‌های هوش مصنوعی که مشتریان آمریکایی دارند هم صدق کند. در مورد مدل‌های وزن‌باز که توسعه‌دهندگانشان در آمریکا حضور ندارند، مسئولیت می‌تواند بر عهده آخرین طرفی باشد که دسترسی به او ممکن است. دستورالعمل بازنگری شده اتحادیه اروپا درباره مسئولیت محصول همین رویکرد را در پیش می‌گیرد و وقتی تولیدکننده در خارج از کشور است، واردکننده را مسئول می‌داند. شرکت‌هایی که مدل‌های غیرپاسخگو را به کار می‌گیرند، مسئولیت بیشتری خواهند داشت، درحالی‌که شرکت‌هایی که از آزمایشگاه‌های پاسخگو خرید می‌کنند می‌توانند بخشی از این مسئولیت را با آنها تقسیم کنند. پاسخگویی به یکی از ویژگی‌های محصول تبدیل می‌شود. صرف تأیید اولیه کافی نیست.

داروی وایوکس در سال ۲۰۰۴ از بازار خارج شد، چون شواهد پس از عرضه، خطراتی را آشکار کردند که در آزمایش‌های پیش از تأیید دیده نشده بودند. گزارش اجباری عوارض جانبی به نهاد‌های ناظر کمک می‌کند چنین مشکلاتی را زود تشخیص دهند، اما هوش مصنوعی سامانه فدرال مشابهی ندارد. گاهی هم قابلیت‌های خطرناک به محدودیت دسترسی نیاز دارند، همان‌طور که تالیدومید امروز با دسترسی کنترل‌شده توزیع می‌شود. سطح‌بندی دسترسی می‌تواند کارکردی مشابه برای قابلیت‌های خطرناک هوش مصنوعی داشته باشد، از جمله ازدحام عواملی که اخیراً درباره آن ابراز نگرانی شده است. وقتی خطر مسئولیت حقوقی زمانی تولیدکنندگان واکسن را از بازار بیرون می‌راند، کنگره در سال ۱۹۸۶ صندوق جبران خسارت بدون تقصیر ایجاد کرد که هزینه‌اش با مالیات بر هر دوز تأمین می‌شد. شاید هوش مصنوعی هم در نهایت به پشتوانه‌ای مشابه نیاز داشته باشد. درس ماجرا این نیست که هوش مصنوعی خطر جدی ندارد. درس این است که از قبل می‌دانیم فناوری‌هایی را که می‌توانند آسیب گسترده؛ اما قابل‌شناسایی ایجاد کنند، چطور مدیریت کنیم: مسئولیت حقوقی تعیین کنیم، گزارش‌دهی را الزامی کنیم، کاربرد‌های خطرناک را محدود کنیم و وقتی مسئولیت معمول عرضه محصول را تهدید می‌کند، سازوکار جبران خسارت بسازیم.

منبع: فرهیختگان