عامل‌های هوش مصنوعی زیر ذره‌بین دولت آمریکا؛ FTC وارد عمل شد!

به گزارش مجله خبری نگار/جام‌جم آنلاین به نقل از رویترز، این تحقیقات نخستین بررسی رسمی از سوی یک نهاد دولتی در آمریکاست که به موضوع عامل‌های هوش مصنوعی سرکش (rogue AI agents) می‌پردازد. این تحقیقات پس از افزایش موارد نفوذ عامل‌های هوش مصنوعی به اطلاعات شرکت‌های خصوصی و دولتی در آمریکا و دیگر کشور‌ها آغاز شد. این اخبار نگرانی عمومی را درباره این احتمال افزایش داد که هوش مصنوعی کنترل‌نشده ممکن است روزی به انسان‌ها آسیب برساند.

احضار مدیران آنتروپیک، اوپن‌ای‌آی و METR

یک مقام ارشد FTC روز چهارشنبه به خبرگزاری رویترز اطلاع داد که این نهاد قصد دارد درخواست‌های رسمی برای دریافت اطلاعات صادر کند و مدیران شرکت‌های بزرگ توسعه‌دهنده هوش مصنوعی، از جمله آنتروپیک، اوپن‌ای‌آی و گروه پژوهشی METR، را برای ارائه اطلاعات و شهادت احضار کند. اندرو فرگوسن، رئیس کمیسیون تجارت آمریکا، پیش‌تر نگرانی خود را درباره شرکت‌های فعال در حوزه هوش مصنوعی ابراز کرده بود.

حمله عامل‌های هوش مصنوعی به Hugging Face

به گفته یکی از مقامات این نهاد، حمله عامل‌های هوش مصنوعی به پلتفرم Hugging Face فوریت این تحقیقات را دوچندان کرد. در این رویداد، عامل‌های اوپن‌ای‌آی ابتدا این مرکز کدنویسی هوش مصنوعی را برای یافتن آسیب‌پذیری‌ها بررسی و شناسایی کردند و سپس حمله‌ای گسترده انجام دادند. بنا بر گزارش دیگری از رویترز، این عامل‌ها حدود دو ماه پیش از هک بزرگ، نقاط ضعف Hugging Face را بررسی کرده بودند. این حادثه بحثی جهانی درباره خطرات عامل‌های هوش مصنوعی و نحوه پاسخگویی در برابر اقدامات آنها ایجاد کرد.

توافق شرکت‌های هوش مصنوعی با ترامپ بر سر استاندارد‌های داوطلبانه

در همین حال، مدیران ارشد شرکت‌های فعال در حوزه هوش مصنوعی در دیداری که روز سه‌شنبه با رئیس‌جمهور آمریکا داشتند، توافق کردند استاندارد‌های داوطلبانه‌ای ایجاد کنند. ترامپ تاکنون بار‌ها نگرانی‌ها درباره هوش مصنوعی را «حقه» یا «جعل» خوانده و در عین حال بر اولویت دادن به برتری آمریکا در این فناوری نسبت به مقررات‌گذاری تأکید کرده است. با این حال، او گفته است دولت می‌تواند در صورت وارد شدن هرگونه آسیب از سوی شرکت‌های هوش مصنوعی، از قوانین موجود علیه آنها استفاده کند.

گسترش عامل‌های هوش مصنوعی و توجه نهاد‌های نظارتی

تحقیقات FTC در حالی انجام می‌شود که استفاده از عامل‌های هوش مصنوعی، یعنی سامانه‌هایی که می‌توانند به‌صورت نسبتاً خودکار برای انجام وظایف مختلف اقدام کنند، در حال گسترش است. هم‌زمان، حوادث مرتبط با توانایی این سامانه‌ها برای شناسایی آسیب‌پذیری‌ها، انجام اقدامات سایبری و ایجاد خسارت، توجه نهاد‌های نظارتی و عمومی را به خود جلب کرده است.