ساماندهی کاربرد‌های هوش مصنوعی وارد فاز اجرایی میشود!

به گزارش مجله خبری نگار/سیناپرس، چین در حال عبور از مرحله تدوین قواعد هوش مصنوعی است و به مرحله اجرای گسترده و عملیاتی آنها رسیده است.

اداره فضای سایبری چین (CAC) اعلام کرد نتایج مرحله نخست کارزار ملی «پاکسازی و ساماندهی نابسامانی‌های کاربرد‌های هوش مصنوعی» نشان می‌دهد که پکن دیگر صرفاً به وضع مقررات برای مدل‌های زبانی بزرگ یا محتوای تولیدشده توسط هوش مصنوعی اکتفا نمی‌کند، بلکه سازوکاری مستمر برای پایش، کشف، اصلاح و حذف تخلفات ایجاد کرده است.

این اقدام که از آوریل ۲۰۲۶ آغاز شده، یکی از گسترده‌ترین عملیات‌های نظارتی بر اکوسیستم هوش مصنوعی در جهان به شمار می‌رود و تصویری روشن از الگوی حکمرانی چین در عصر هوش مصنوعی ارائه می‌دهد.

آمار‌های رسمی منتشر شده، ابعاد این عملیات را به‌خوبی نشان می‌دهد. بر همین اساس، تنها در مرحله نخست، بیش از ۱۴ هزار محصول هوش مصنوعی شامل وب‌سایت‌ها، برنامه‌های کاربردی و عامل‌های هوشمند متخلف مورد برخورد قرار گرفته‌اند.

همزمان بیش از شش میلیون محتوای غیرقانونی یا ناقض مقررات از فضای مجازی حذف شده، بیش از ۲۶ هزار حساب کاربری مسدود شده، ۱۳۰۰ محصول مبتنی بر هوش مصنوعی از بازار‌های آنلاین کنار گذاشته شده و ۹ مجموعه‌داده متن‌باز نیز به دلیل مغایرت با الزامات قانونی از دسترس خارج شده‌اند.

مرور این ارقام نشان می‌دهد که واحد اصلی تنظیم‌گری در چین دیگر تنها «مدل هوش مصنوعی» نیست، بلکه کل زنجیره زیست‌بوم هوش مصنوعی، از داده و مدل تا محصول، محتوا، حساب کاربری و بازار توزیع، به‌صورت یکپارچه تحت نظارت قرار گرفته است.

پنج محور اصلی نظارت؛ از ثبت مدل تا مقابله با مسموم‌سازی داده

تمرکز این عملیات بر چند محور مشخص معطوف است:

· نخست، برخورد با شرکت‌هایی که الزامات ثبت و اخذ مجوز برای مدل‌های زبانی بزرگ را رعایت نکرده‌اند.

· دوم، ارتقای توانایی سکو‌ها در ممیزی، پالایش و کنترل خروجی‌های هوش مصنوعی.

· سوم، مقابله با پدیده «مسموم‌سازی داده» که یکی از مهم‌ترین تهدید‌های نوظهور علیه امنیت مدل‌های هوش مصنوعی محسوب می‌شود و می‌تواند از طریق تزریق داده‌های مخرب، رفتار مدل را در مراحل آموزش یا به‌روزرسانی منحرف کند.

· چهارم، اجرای کامل مقررات مربوط به برچسب‌گذاری محتوای مبتنی بر هوش مصنوعی برای افزایش قابلیت تشخیص و ردیابی آن.

· پنجم، ایجاد سازوکار ملی دریافت گزارش‌های مردمی درباره تخلفات مرتبط با کاربرد‌های هوش مصنوعی.

ترکیب این پنج محور نشان می‌دهد که چین، امنیت هوش مصنوعی را صرفاً مسئله‌ای مربوط به خروجی مدل‌ها تلقی نمی‌کند، بلکه چرخه کامل توسعه، آموزش، استقرار و بهره‌برداری از سامانه‌های هوش مصنوعی را به‌عنوان یک زنجیره امنیتی واحد تحت مدیریت قرار می‌دهد.

حکمرانی چندسطحی؛ تقسیم کار میان دولت مرکزی، استان‌ها و شرکت‌های فناوری

یکی از ویژگی‌های مهم این کارزار، معماری چندسطحی اجرای آن است. بر همین مبنا، دولت مرکزی چارچوب‌های سیاستی و شاخص‌های نظارتی را تعیین می‌کند، اما اجرای عملیاتی تا سطح استان‌ها و حتی شرکت‌های فناوری توزیع شده است.

برای نمونه، اداره فضای سایبری پکن سازوکار چهارلایه‌ای شامل خودارزیابی سکوها، بازرسی مستمر، غربالگری فنی و راستی‌آزمایی گزارش‌های دریافتی را طراحی کرده است. شانگهای سازوکار‌های گزارش‌دهی و اعلام عمومی اقدامات اصلاحی را ارتقا داده است.

ژجیانگ تمرکز ویژه‌ای بر افزایش دقت مدل‌ها در تشخیص معنایی، آزمون‌های بازگشتی مکرر و مقابله با مسموم‌سازی داده‌ها قرار داده است. جیانگسو پنجره اختصاصی دریافت گزارش‌های مربوط به تخلفات هوش مصنوعی ایجاد کرده و گوانگ‌دونگ نیز الگوی هماهنگی میان چند دستگاه نظارتی را با ترکیب بازرسی فنی، بازبینی انسانی، نظارت میدانی و اقدامات انضباطی اجرا نموده است.

به باور کارشناسان، این الگو نشان می‌دهد که چین به جای اتکا به یک نهاد متمرکز، از شبکه‌ای از نهاد‌های محلی برای اجرای سیاست‌های ملی استفاده می‌کند و این رویکرد ظرفیت نظارت مستمر را به‌طور قابل توجهی افزایش می‌دهد.

مسئولیت مستقیم شرکت‌های فناوری

در این چارچوب، شرکت‌های فناوری نیز تنها مخاطب مقررات نیستند، بلکه به بازیگران اصلی اجرای سیاست‌های حکمرانی تبدیل شده‌اند. به عنوان نمونه، شرکت هوآوی فرایند بررسی ثبت و برچسب‌گذاری خدمات هوش مصنوعی مولد را در فروشگاه نرم‌افزاری خود تقویت کرده است. علی‌بابا سامانه‌های تطبیق اثرانگشت دیجیتال و رهگیری کلیدواژه‌ها را برای افزایش دقت شناسایی محتوای غیرقانونی توسعه داده است.

شرکت «Zhipu AI» مدل‌های ممیزی چندوجهی را برای تشخیص سناریو‌های پیچیده، از جمله تغییر تدریجی نیت کاربران در گفت‌و‌گو‌های چندمرحله‌ای، به‌کار گرفته است. شرکت «MiniMax» توانایی شناسایی تلاش‌ها برای تولید بدافزار، ویروس و نرم‌افزار‌های فیشینگ را افزایش داده و استارتاپ دیپ سیک نیز الگوریتم‌های تشخیص ناهنجاری را مستقیماً در مراحل جمع‌آوری و پیش‌پردازش داده‌ها ادغام کرده تا از نفوذ نمونه‌های مخرب به داده‌های آموزشی جلوگیری شود.

نکته قابل توجه آن است که بخش مهمی از الزامات امنیتی اکنون به لایه طراحی سامانه‌های هوش مصنوعی منتقل شده و انتظار می‌رود قابلیت‌های ایمنی از ابتدا در معماری فنی محصولات تعبیه گردند و صرفاً پس از انتشار محصول به آنها افزوده نشوند.

از کنترل محتوا به مدیریت ریسک‌های اجتماعی هوش مصنوعی

اداره فضای سایبری چین همزمان اعلام کرده است که مرحله دوم این کارزار با تمرکز بر تهدید‌های پیچیده‌تر آغاز خواهد شد. تولید و انتشار اطلاعات جعلی، جعل هویت افراد، آسیب به حقوق کودکان، انتشار محتوای خشونت‌آمیز و غیراخلاقی و استفاده از هوش مصنوعی برای سازمان‌دهی شبکه‌های عملیات هماهنگ در فضای مجازی، مهم‌ترین اولویت‌های مرحله بعد خواهند بود.

در نهایت، مجموعه این اقدامات نشان می‌دهد چین در حال تثبیت الگویی از حکمرانی هوش مصنوعی است که سه ویژگی اصلی دارد:

· نظارت مستمر به جای مداخله مقطعی

· مسئولیت‌پذیری مشترک دولت و شرکت‌های فناوری

· مدیریت امنیت در سراسر چرخه حیات سامانه‌های هوش مصنوعی

به نقل از مهر، این رویکرد، صرف‌نظر از ارزیابی‌های سیاسی درباره آن، یکی از منسجم‌ترین نمونه‌های گذار از «قانون‌گذاری هوش مصنوعی» به «اجرای عملیاتی حکمرانی هوش مصنوعی» در سطح جهانی محسوب می‌شود.