یک ارزیابی جدید نشان می‌دهد که اکثر شرکت‌های هوش مصنوعی در مدیریت خطرات فاجعه‌بار شکست خورده‌اند

یک مطالعه جدید نشان داده است که اکثر شرکت‌های هوش مصنوعی در مدیریت خطرات فاجعه‌بار مرتبط با این فناوری شکست خورده‌اند.

به گزارش مجله خبری نگار، ارزیابی موسسه فیوچر آو لایف نشان داد که هشت شرکت پیشرو در حوزه هوش مصنوعی فاقد ضمانت‌های ملموس، نظارت مستقل و استراتژی‌های معتبر مدیریت ریسک بلندمدت هستند و این امر نگرانی‌های جدی را در مورد ایمنی این فناوری ایجاد می‌کند.

این گزارش نشان داد که شرکت‌های آمریکایی نسبتاً برتر از شرکت‌های چینی هستند و Anthropic در صدر فهرست قرار دارد و پس از آن OpenAI و Google DeepMind قرار دارند، در حالی که شرکت‌هایی مانند Alibaba Cloud، DeepSeek، Meta، xAI و Z.ai کمترین امتیاز را کسب کرده‌اند، از جمله رتبه F که نشان دهنده شکست کامل در مدیریت خطرات وجودی است.

محققان تأیید کردند که از هر هشت شرکت، پنج شرکت در این زمینه کاملاً شکست خورده‌اند که نشان‌دهنده شکاف نگران‌کننده‌ای بین جاه‌طلبی‌های آنها برای توسعه هوش عمومی و فوق‌هوشمند و فقدان برنامه‌های کنترلی قابل اعتماد است. این گزارش از شرکت‌ها خواسته است تا شفاف‌تر باشند و روی محافظت از کاربران در برابر مهم‌ترین آسیب‌های هوش مصنوعی، مانند روان‌پریشی، کار کنند.

استوارت راسل، استاد علوم کامپیوتر در دانشگاه کالیفرنیا، اظهار داشت: «روسای جمهور به توانایی خود در توسعه هوش فوق بشری می‌بالند، اما قادر به ارائه برنامه‌ای مشخص برای جلوگیری از از دست دادن کنترل نیستند. برخی از آنها اذعان می‌کنند که احتمال از دست دادن کنترل ممکن است به ۳۳ درصد برسد، اما هیچ برنامه‌ای برای بهبود این عدد وجود ندارد.»

OpenAI اعلام کرد که با متخصصان مستقل برای ایجاد تدابیر حفاظتی قوی همکاری می‌کند، در حالی که گوگل اعلام کرد چارچوب ایمنی آن شامل پروتکل‌هایی برای شناسایی و کاهش خطرات جدی قبل از ظهور آنهاست. سایر شرکت‌ها در مورد یافته‌ها اظهار نظری نکردند.

منبع: ایندیپندنت

لینک کپی شد

اشتراک‌ گذاری