OpenAI مدل‌های هوش مصنوعی خود را به دلیل مشکلات امنیتی جریمه می‌کند

Axios: OpenAI آموزش مدل‌های هوش مصنوعی با عملکرد بالای خود را متوقف کرده است

به گزارش مجله خبری نگار، شرکت آمریکایی OpenAI آموزش بیشتر قدرتمندترین مدل‌های هوش مصنوعی خود را موقتاً متوقف کرده است. نماینده‌ای از این شرکت به Axios گفت که این روند تنها پس از اطمینان از اقدامات امنیتی اضافی از سر گرفته خواهد شد.

طبق منابع این نشریه، متخصصان OpenAI و Anthropic در حال بررسی ده‌ها هزار حادثه ثبت‌شده در ماه‌های اخیر، چه در طول آزمایش‌ها و چه در استفاده در دنیای واقعی، هستند. بخش قابل توجهی از این موارد هنوز عمومی نشده‌اند و این پورتال تخمین می‌زند که مقیاس مشکل ممکن است بسیار بزرگتر از آن چیزی باشد که عموم مردم درک می‌کنند.

تحقیقات اولیه‌ای که توسط هر دو شرکت، به همراه کارشناسان خارجی، انجام شده است، در مورد توانایی OpenAI و Anthropic در کنترل کامل فناوری‌های خود تردید ایجاد کرده است. این شرکت‌ها هنوز جزئیات تحقیقات را فاش نکرده‌اند یا جدول زمانی برای از سرگیری آموزش مدل تعیین نکرده‌اند.

پیش از این، روسای دو شرکت بزرگ هوش مصنوعی - سم آلتمن از OpenAI و داریو آمودی از Anthropic - برای حضور در مجلس سنای استرالیا احضار شده بودند. دلیل این احضار، هک شدن وب‌سایت‌های دولتی ایالات متحده و استرالیا توسط عوامل هوش مصنوعی خودمختار بود.

لینک کپی شد

اشتراک‌ گذاری