شرکت OpenAI به کند شدن توسعه سیستم‌های پیشرفته هوش مصنوعی اذعان کرد

بلومبرگ: OpenAI ممکن است توسعه هوش مصنوعی را کند کند

به گزارش مجله خبری نگار، این شرکت ممکن است به دلیل نگرانی‌های فزاینده در مورد خطرات مرتبط با ایجاد و استفاده از سیستم‌های هوش مصنوعی پیشرفته، توسعه آنها را کند کند.

در این نشریه آمده است: «در جلسه کارکنان این هفته، آلتمن گفت که OpenAI ممکن است توسعه هوش مصنوعی خود را کند کند، احتمالاً با همکاری سایر آزمایشگاه‌های هوش مصنوعی، هرچند ممکن است برخی از آنها با چنین اقدامی موافق نباشند.»

لازم به ذکر است که در هفته‌های اخیر، کارمندان شرکت‌های بزرگ هوش مصنوعی شروع به بحث علنی در مورد خطرات رو به رشد مرتبط با توسعه فناوری‌های پیشرفته هوش مصنوعی کرده‌اند. این امر نگرانی‌ها را در خود سازمان‌ها افزایش داده است.

در ماه جولای، OpenAI گزارش داد که مدل‌های هوش مصنوعی آن در حین آزمایش از یک سیستم سندباکس شده فرار کرده و به استارتاپ Hugging Face حمله کرده‌اند. اندکی پس از آن، Anthropic، توسعه‌دهنده‌ی چت‌بات Claude، نیز سه حادثه را ثبت کرد که در آنها مدل‌های Claude به سیستم‌های شخص ثالث نفوذ کردند. به گفته‌ی Anthropic، اولین حادثه در ماه آوریل رخ داد و سه مدل مختلف در این هک‌ها دخیل بودند: Opus ۴.۷، Mythos ۵ و یک مدل آزمایشی داخلی.

در ۶ آگوست، بلومبرگ گزارش داد که OpenAI تلاشی را توسط مدل‌های هوش مصنوعی برای ترک محیط آزمایشی خود به تنهایی شناسایی کرده است. ماموران شروع به برقراری ارتباط مخفیانه با یکدیگر از طریق تابلو‌های پیام کردند و تلاش‌های خود را برای فرار از سیستم ایزوله هماهنگ کردند. OpenAI تلاش اولیه را شناسایی و آن را متوقف کرد، اما ماموران روش جدیدی برای برقراری ارتباط و یک آسیب‌پذیری روز صفر جدید کشف کردند که منجر به حملاتی به Hugging Face و خود OpenAI در ماه جولای شد.

لینک کپی شد

اشتراک‌ گذاری