OpenAI جزئیات تلاش عوامل هوش مصنوعی برای «فرار» از کنترل را فاش کرد

مدل‌های هوش مصنوعی OpenAI با هم متحد شده‌اند و راهی برای فراتر رفتن از بستر آزمایشی پیدا کرده‌اند.

به گزارش مجله خبری نگار، بلومبرگ به نقل از نماینده شرکت گزارش داد که مدل‌های هوش مصنوعی OpenAI شروع به تبادل پیام با یکدیگر کردند و تلاش کردند راهی برای خروج از محیط آزمایش پیدا کنند. این عوامل اقدامات خود را از طریق کانال‌های ارتباطی داخلی هماهنگ کرده و به دنبال دسترسی به اینترنت بودند.

اریک والاس، محقق OpenAI، گفت: در مقطعی، این عوامل متوجه شدند که شاید بتوانند برای یافتن پاسخ‌های آزمایشی که در آن ارزیابی می‌شدند، از زیرساخت‌های خارجی سوءاستفاده یا به آنها حمله کنند.

طبق گفته این شرکت، مقدمات «فرار» در ماه مه پس از آنکه به مدل‌ها وظایفی داده شد که نیاز به دسترسی به اینترنت داشت، آغاز شد. ماموران هوش مصنوعی یک آسیب‌پذیری را کشف کردند و موفق به فرار از محیط آزمایش شدند، اما OpenAI تلاش اولیه را متوقف کرد.

این مدل‌ها بعداً یک روش ارتباطی جدید و یک آسیب‌پذیری روز صفر را کشف کردند که منجر به حملاتی به سیستم‌های Hugging Face و OpenAI در ماه ژوئیه شد. این شرکت این حادثه را نقطه عطفی برای امنیت رایانه نامید.

پیش از این، مدل‌های هوش مصنوعی از Anthropic و OpenAI حساب‌های جعلی ایجاد می‌کردند که خود را به عنوان انسان جا می‌زدند و سعی می‌کردند برنامه‌نویسان را برای انجام حمله سایبری در طول یک ممیزی امنیتی فریب دهند. این اولین باری بود که چنین فریب جدی علیه یک شخص واقعی انجام می‌شد.

لینک کپی شد

اشتراک‌ گذاری