اوپن‌ای‌آی به چالش امنیتی تازه‌ای رسید؛ ارتباط پنهانی از دل پردازنده!

به گزارش مجله خبری نگار/شهرآرانیوز، در حالی که شرکت OpenAI اعلام کرده است که برای افزایش امنیت مدل‌های پیشرفته هوش مصنوعی، آموزش آنها را به‌جای اینترنت زنده، بر پایه نسخه‌های ذخیره‌شده و شبیه‌سازی‌شده وب انجام می‌دهد، آزمایش‌های امنیتی این شرکت از مخاطره‌ای دیگر پرده برداشته است؛ دو ایجنت هوش مصنوعی توانسته‌اند بدون اتصال شبکه و دسترسی به فایل مشترک، از طریق حافظه نهان پردازنده با یکدیگر پیام ردوبدل کنند.

این اتفاق پس از آن مورد توجه قرار گرفت که اوپن‌ای‌آی در پی شناسایی راهی برای دسترسی یکی از مدل‌هایش به سرویس‌های اینترنتی واقعی در محیط آموزش، محدودیت‌های امنیتی خود را بازبینی کرد. این شرکت در ادامه، ایجنت‌هایی مبتنی بر مدل‌های توانمند سایبری خود را مأمور کرد تا نقاط ضعف محیط‌های پژوهشی را شناسایی کنند و راه‌های احتمالی عبور از محدودیت‌ها را بیازمایند.

در یکی از این آزمایش‌ها، دو ایجنت در ماشین‌های مجازی جداگانه که روی یک سخت‌افزار مشترک اجرا می‌شدند، مأمور شدند بدون استفاده از شبکه یا فایل‌های مشترک، اطلاعات آزمایشی را میان خود منتقل کنند. آنها با استفاده از تفاوت زمان دسترسی به کش پردازنده، موفق شدند این محدودیت را دور بزنند.

پردازنده برای افزایش سرعت، از حافظه نهان یا کش (Cache) استفاده می‌کند؛ حافظه‌ای سریع که نسخه‌ای از داده‌های پرکاربرد را نگه می‌دارد. خواندن داده از این حافظه معمولاً سریع‌تر از دریافت آن از حافظه اصلی است.

در این آزمایش، یک ایجنت با خارج کردن داده‌های مشخص از کش، الگویی ایجاد می‌کرد و ایجنت دیگر با اندازه‌گیری زمان بارگذاری دوباره همان داده‌ها، الگو را تشخیص می‌داد. تفاوت میان دسترسی سریع و کند به داده‌ها به آنها امکان می‌داد اطلاعات را به شکل پیام رمزگذاری و بازیابی کنند. پس از توافق بر سر روش رمزگذاری و رمزگشایی، ایجنت‌ها توانستند اطلاعات آزمایشی را بدون برقراری اتصال شبکه یا تغییر فایل مشترک مبادله کنند.

این شیوه نمونه‌ای از «کانال جانبی» در امنیت رایانه است؛ روشی که در آن، اطلاعات از طریق آثار جانبی عملکرد سخت‌افزار، مانند تفاوت زمان پردازش، منتقل می‌شود. چنین روش‌هایی پیش از این نیز در پژوهش‌های امنیتی مطرح بوده‌اند، اما استفاده ایجنت‌های هوش مصنوعی از آنها برای ارتباط میان محیط‌های جداشده، چالش تازه‌ای برای مهار این سامانه‌ها ایجاد می‌کند.

اوپن‌ای‌آی اعلام کرده است که ایجنت‌های آزمایشی علاوه بر این روش، آسیب‌پذیری‌های نرم‌افزاری ناشناخته و راه‌هایی برای فرار از ماشین‌های مجازی نیز شناسایی کرده‌اند. این شرکت می‌گوید ضعف‌های کشف‌شده را برطرف کرده و سازوکار‌های پایش را برای شناسایی تلاش‌های مشابه تقویت کرده است. به گفته اوپن‌ای‌آی، در این آزمایش‌ها مسیری برای دسترسی به اینترنت پیدا نشد که هم به‌سادگی قابل استفاده باشد و هم از دید سامانه‌های نظارتی پنهان بماند.

این یافته نشان می‌دهد که قطع اتصال شبکه به‌تنهایی برای تضمین جداسازی کامل محیط‌های هوش مصنوعی کافی نیست؛ به‌ویژه زمانی که چند محیط از منابع سخت‌افزاری مشترک استفاده می‌کنند. با افزایش توانایی ایجنت‌ها در یافتن راه‌حل‌های پیش‌بینی‌نشده، امنیت این محیط‌ها به کنترل دسترسی شبکه محدود نمی‌شود و بررسی تعامل میان نرم‌افزار و سخت‌افزار نیز اهمیت پیدا می‌کند.