پکن می‌تواند محل تصمیم‌گیری درباره آینده AI باشد

به گزارش مجله خبری نگار/فرهیختگان؛ اگر دیدار «شی جین‌پینگ» و «دونالد ترامپ» از قرار امروزوفردا در پکن صورت پذیرد، به موقعیتی برای گفت‌و‌گو درباره مسائل پیچیده‌ای؛ مانند مسائل تجاری، وضعیت تایوان و احتمال جنگ ایران تبدیل خواهد شد. البته به این فهرست باید «هوش مصنوعی» را هم اضافه کرد. اکونومیست در گزارشی با اشاره به اهمیت این دیدار از نگرانی نخبگان سیاسی و فناوری در پکن و واشنگتن نسبت به پیشرفت شتابان هوش مصنوعی گزارش داده است. هرچه مدل‌های هوش مصنوعی هوشمندتر می‌شوند، نقش آنها در رونق اقتصادی داخلی و افزایش قدرت ژئوپلیتیکی کشور‌ها نیز حیاتی‌تر می‌شود. اما هم‌زمان، خطر‌هایی که این فناوری ایجاد می‌کند نیز افزایش می‌یابد. از زمان ساخت بمب اتم تاکنون، قدرت‌های بزرگ با چنین معمایی روبه‌رو نشده بودند.

مایتوس دیپلماسی هوش مصنوعی را فعال کرد

دولت ترامپ نیز به‌تدریج به این واقعیت پی برده است. این دولت پس از درگیری‌های اخیر با شرکت آمریکایی «آنتروپیک»، رویکرد «عدم مداخله» در تنظیم‌گری فناوری را کنار گذاشته و اکنون در حال بررسی این موضوع است که مدل‌های جدید هوش مصنوعی پیش از انتشار، تحت ارزیابی و تأیید دولت قرار گیرند. شرکت آنتروپیک در ماه آوریل اعلام کرد مدلی به نام «مایتوس» ساخته که توانایی خارق‌العاده‌ای در یافتن ضعف‌های سامانه‌های دفاع سایبری دارد؛ به‌حدی که امکان انتشار عمومی آن وجود ندارد. این موضوع توجه آمریکا و رقبایش را جلب کرد. رسانه‌های دولتی چین که ابتدا با تردید به این موضوع نگاه می‌کردند، بعداً از «توانایی‌های بی‌سابقه مایتوس در حملات سایبری» سخن گفتند و یک شبکه روسی آن را «خطرناک‌تر از بمب اتم» توصیف کرد. نگرانی از اینکه مدل‌های هرچه قدرتمندتر هوش مصنوعی بتوانند حملات سایبری انجام دهند، سلاح‌های زیستی طراحی کنند یا از کنترل انسان خارج شوند، دیپلماسی مرتبط با هوش مصنوعی را به مسئله‌ای فوری تبدیل کرده است.

بیم و امید به تنظیم‌گری بین‌المللی هوش مصنوعی

برخی افراد در آمریکا و چین به‌طور غیرعلنی در حال بررسی این موضوع هستند که آیا می‌توان بر سر تعیین «خطوط قرمز» و محدودیت‌هایی برای این فناوری توافق کرد یا نه؛ فناوری‌ای که هر دو کشور آن را برای شکست‌دادن طرف مقابل حیاتی می‌دانند. بااین‌حال، بی‌اعتمادی عمیقی وجود دارد. هیچ‌یک از دو طرف نمی‌خواهد روند توسعه خود را کند کرده و در نتیجه، مزیتی راهبردی را به رقیب واگذار کند. برخی چهره‌های حوزه فناوری در آمریکا این نظریه را مطرح می‌کنند که کشوری که نخستین‌بار موفق شود یک مدل هوش مصنوعی «خودبهبوددهنده» و در نتیجه، به‌طور مداوم قدرتمندتر بسازد، می‌تواند به برتری راهبردی عظیمی دست یابد. کارشناسان چینی، اما معمولاً هوش مصنوعی را بیشتر ابزاری برای رشد اقتصادی می‌دانند؛ چیزی شبیه «نیروی هسته‌ای» نه «سلاح هسته‌ای». «شوئه لان»، مشاور دولت چین، اواخر آوریل در نشستی در ساختمان کنگره آمریکا گفت که آمریکا و چین در زمینه ایمنی هوش مصنوعی «منافع مشترک» دارند. او تأکید کرد: «اگر یک کشور در امان نباشد، هیچ‌کدام از ما در امان نخواهیم بود. او و «یی زِنگ»، رئیس مؤسسه ایمنی هوش مصنوعی پکن، خواستار تلاش‌های جهانی برای تنظیم‌گری و حتی کند کردن روند توسعه هوش مصنوعی شدند. این موضع با سیاست رسمی چین همخوانی دارد. چین اندکی پس از ظهور «چت‌جی‌پی‌تی» در سال ۲۰۲۲، خواستار همکاری بین‌المللی در حوزه هوش مصنوعی و تشکیل نهادی وابسته به سازمان ملل شد. دیپلمات‌های چینی ایده «توقف موقت» توسعه هوش مصنوعی را مطرح کرده‌اند و معتقدند باید استاندارد‌های جهانی‌ای تدوین شود تا انسان همچنان کنترل این فناوری را در دست داشته باشد. طرح پیشنهادی چین همچنین از کشور‌های غربی می‌خواهد فناوری‌ها و زیرساخت‌های هوش مصنوعی خود را با کشور‌های فقیرتر به اشتراک بگذارند تا جهان به دو دسته کشور‌های برخوردار و محروم از فناوری تقسیم نشود.

۹۰ درصد توان محاسباتی جهان در اختیار چین و آمریکاست

بااین‌حال، احتمال دستیابی به یک چهارچوب دوجانبه میان آمریکا و چین بیشتر است؛ رویکردی که مقام‌های واشنگتن نیز از آن حمایت می‌کنند. آمریکا و چین روی‌هم‌رفته ۹۰ درصد توان محاسباتی پیشرفته جهان را در اختیار دارند و بنابراین تنها کشور‌هایی‌اند که واقعاً قدرت اعمال مقررات مؤثر در این حوزه را دارند. مقام‌های آمریکایی همچنین زیست‌بوم هوش مصنوعی چین را منبعی خاص از خطر می‌دانند. بیشتر مدل‌های چینی «متن‌باز» هستند؛ یعنی وزن‌ها و پارامتر‌هایی که عملکرد مدل را ممکن می‌کنند، به‌صورت عمومی منتشر می‌شود و این مسئله دسترسی بازیگران مخرب به ابزار‌های قدرتمند هوش مصنوعی را آسان‌تر می‌کند.

این اولین‌بار نیست

گفت‌و‌گو‌های مستقیم میان آمریکا و چین در این زمینه کاملاً بی‌سابقه نیست. «دونالد ترامپ» و «شی جین‌پینگ» زمانی که در اکتبر گذشته در «بوسان» کره جنوبی دیدار کردند، توافق کردند که در حوزه هوش مصنوعی «با یکدیگر همکاری کنند». پیش از آن نیز، در سال ۲۰۲۴، «جو بایدن» موفق شده بود از شی جین‌پینگ تعهد بگیرد که کنترل کلاهک‌های هسته‌ای در اختیار انسان باقی بماند، نه هوش مصنوعی. اما سرعت ظهور خطر‌های جدید، دو کشور را وادار کرده است در رویکرد‌های پراکنده و موردی همکاری تجدیدنظر کنند. پژوهشگران آمریکایی و چینی به‌صورت غیرعلنی در برخی حوزه‌ها با یکدیگر همکاری دارند. برای نمونه، برخی از بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی چین، از جمله «بایدو»، از کد‌های متن‌بازی استفاده می‌کنند که توسط توسعه‌دهندگان شرکت آمریکایی «آنتروپیک» نوشته شده تا نحوه ارتباط عامل‌های هوش مصنوعی با یکدیگر را تنظیم کند. در سال‌های اخیر چندین گفت‌وگوی غیررسمی میان مدیران فناوری و مقام‌های بازنشسته آمریکایی و چینی برگزار شده که برخی از آنها محرمانه بوده‌اند. بااین‌حال، شرکت‌کنندگان می‌گویند متخصصان فنی‌ای که برای پیشبرد واقعی هماهنگی در استاندارد‌ها لازم هستند، اغلب اصلاً در این نشست‌ها حضور ندارند.

سه سناریو برای آینده همکاری چین و آمریکا در AI

گزارش اکونومیست، سه سناریو برای آینده تعاملات چین و آمریکا در حوزه هوش مصنوعی پیش‌بینی کرده است.

۱. گفت‌و‌گو و اطمینان‌بخشی راهبردی: یکی از مقام‌های غربی می‌گوید آمریکا و چین می‌توانند وارد نوعی «اطمینان‌بخشی استراتژیک» شوند. در مذاکرات مربوط به تسلیحات هسته‌ای، کشور‌ها معمولاً درباره برنامه‌های خود برای مدیریت خطر، ایجاد اعتماد و کاهش احتمال سوءبرداشت گفت‌و‌گو می‌کنند. ممکن است آمریکا و چین هرکدام به‌طور جداگانه قوانین هوش مصنوعی خود را تدوین کنند، اما بدون آنکه مستقیماً با یکدیگر هماهنگ باشند. «کارسون المگرن» عضو «مؤسسه سیاست‌گذاری و راهبرد هوش مصنوعی» به‌عنوان اندیشکده‌ای آمریکایی می‌گوید: «اگر هر دو طرف مقالات فنی مشابهی بخوانند و برداشت مشترکی از واقعیت داشته باشند، احتمال دارد هر دو به‌صورت منطقی واکنش نشان دهند.»

۲. توافق بر سر شیوه‌های ارزیابی ایمنی مدل‌های هوش مصنوعی: دو کشور می‌توانند بدون تبادل نتایج، بر مجموعه‌ای از معیار‌های مشترک برای سنجش رفتار‌های خطرناک یا شناسایی انگیزه‌هایی که با اهداف سازندگان انسانی مدل‌ها هم‌سو نیست، توافق کنند. «جفری دینگ» از دانشگاه «جورج واشنگتن» یادآور می‌شود که تشخیص تفاوت میان داده‌هایی که برای نظارت بر ایمنی هوش مصنوعی استفاده می‌شوند و اطلاعاتی که برای توسعه خود فناوری اهمیت دارند، دشوار است. به همین دلیل، اگر دو طرف فقط استاندارد‌ها را مشترک کنند؛ اما نتایج را نزد خود نگه دارند، شاید نگرانی‌ها درباره افشای داده‌های فنی کاهش یابد.

۳. همکاری محتاطانه؛ اعتماد توأم با راستی‌آزمایی: اگر ترامپ و شی جین‌پینگ بخواهند جاه‌طلبانه‌تر عمل کنند، ممکن است به دنبال توافق رسمی برای تدوین آزمون‌های مشترک ایمنی و تبادل نتایج این ارزیابی‌ها بروند. اما اجرای چنین توافقی احتمالاً نیازمند روش‌های نظارتی گسترده و مداخله‌گرانه خواهد بود؛ از جمله بازرسی از مراکز حساس یا ارسال اطلاعات مربوط به فعالیت مراکز داده به نهادی بین‌المللی مشابه «آژانس بین‌المللی انرژی اتمی» سازمان ملل که بر مواد هسته‌ای نظارت می‌کند.

بااین‌حال، همه این اشکال همکاری هنوز بسیار دور از دسترس به نظر می‌رسند. پژوهشگران آمریکایی حوزه هوش مصنوعی نسبت به صداقت مقام‌های چینی بدبین‌اند. آزمایشگاه‌های هوش مصنوعی چین تاکنون در زمینه ایمنی نسبتاً سهل‌گیر بوده‌اند؛ شاید؛ چون مدل‌هایشان هنوز آن‌قدر قدرتمند نشده‌اند که تهدیدی وجودی محسوب شوند، یا شاید به دلیل کمبود زمان و منابع مالی برای آزمایش‌های دقیق. اسناد فنی مربوط به مدل «دیپ‌سیک V۴» که ماه گذشته منتشر شد، فاقد بسیاری از سازوکار‌های ایمنی رایج در آزمایشگاه‌های آمریکایی بود. «رایان فداسیوک»، مقام پیشین دولت بایدن، معتقد است نگرانی‌های اعلام‌شده چین درباره ایمنی هوش مصنوعی بیشتر جنبه نمایشی دارد و هدفش «بد جلوه‌دادن آمریکایی‌ها» است. با وجود حمایت علنی چین از حکمرانی جهانی بر هوش مصنوعی، پکن تاکنون در برابر گفت‌و‌گو‌های جزئی و عمیق با آمریکا مقاومت کرده است. در سال ۲۰۲۴، آمریکا گروهی از مقام‌های امنیتی و کارشناسان فنی بلندپایه را برای مذاکره با همتایان چینی به ژنو فرستاد. اما چین مقام‌های سیاسی اعزام کرد که به گفته افرادی مطلع از مذاکرات، حاضر نشدند درباره ایمنی هوش مصنوعی گفت‌و‌گو کنند مگر آنکه آمریکا محدودیت‌های صادرات تراشه‌های پیشرفته را لغو کند. دیپلمات‌های آمریکایی می‌گویند چین سابقه‌ای طولانی در استفاده ابزاری از گفت‌و‌گو‌ها برای اهداف سیاسی دارد. برای مثال، پکن در سال ۲۰۲۲ مذاکرات مربوط به تغییرات اقلیمی را صرفاً به دلیل سفر «نانسی پلوسی» به تایوان متوقف کرد. گفتمان رایج درباره هوش مصنوعی در چین از جمله اظهارات اخیر درباره مدل «مایتوس» گاه بازتاب نوعی بدگمانی است که بر اساس آن، آزمایشگاه‌های آمریکایی از موضوع ایمنی به‌عنوان ابزاری برای کنترل روند توسعه این فناوری استفاده می‌کنند.

برخی در چین نگران هستند که تبادل داده‌های ایمنی، در واقع ترفندی برای دسترسی به اسرار فناورانه این کشور باشد. «تونگ ژائو»، کارشناس مذاکرات کنترل تسلیحات هسته‌ای در بنیاد آمریکایی «کارنگی»، می‌گوید راهبردپردازان چینی معمولاً نسبت به توافق با طرفی که از نظر فناوری برتر است بدبین‌اند. به گفته او، تجربه تاریخی چین از «معاهدات نابرابر» در قرن نوزدهم باعث شده مقام‌های این کشور نسبت به توافق‌هایی که ممکن است توسعه چین را کند کند یا آن را در جایگاه قدرت درجه دوم تثبیت کند، حساس باشند. همکاری در این حوزه به دلیل اهمیت فوق‌العاده موضوع، حتی دشوارتر هم شده است. وزیر خزانه‌داری آمریکا در ماه گذشته به روزنامه «وال‌استریت ژورنال» گفت: «اگر در رقابت هوش مصنوعی پیروز نشویم، بازی تمام شده است.» شی جین‌پینگ نیز اخیراً از هوش مصنوعی به‌عنوان فناوری‌ای «تعیین‌کننده یک عصر تاریخی» یاد کرد. اما شاید خیلی زود رهبران آمریکا و چین، به دلایلی فراتر از رقابت ژئوپلیتیکی، هوش مصنوعی را مسئله‌ای وجودی ببینند. جفری دینگ می‌گوید: «متأسفانه شواهد تاریخی نشان می‌دهد که معمولاً تنها پس از وقوع یک فاجعه واقعی، حرکت جدی آغاز می‌شود.» او به استاندارد‌های جهانی‌ای اشاره می‌کند که پس از فاجعه شیمیایی «بوپال» در سال ۱۹۸۴ و انفجار نیروگاه هسته‌ای «چرنوبیل» در سال ۱۹۸۶ شکل گرفتند. مذاکرات درباره هوش مصنوعی را می‌توان آزمونی واقعی برای سنجش هوش انسان دانست!