یک موسسه بریتانیایی اعلام کرده است که کنترل بر هوش مصنوعی می‌تواند ظرف پنج سال آینده از دست برود

در گزارشی که توسط موسسه آلن تورینگ در بریتانیا منتشر شد، آمده است که طی پنج سال آینده، سیستم‌های هوش مصنوعی (AI) ممکن است ظهور کنند که در تمام وظایف شناختی از انسان‌ها پیشی بگیرند و خطر از دست دادن کنترل معنادار انسان بر آنها را ایجاد کنند.

به گزارش مجله خبری نگار، جورج ویلیامسون، مدیرعامل این موسسه، گفت: «سوالات مربوط به آینده بلندمدت بشریت شایسته توجه هستند، اما بحث‌ها در مورد هوش مصنوعی پیشرفته نباید صرفاً توسط شرکت‌های فناوری هدایت شود یا حول افراطی‌ترین سناریو‌ها متمرکز شود. ما به اندازه کافی در مورد خطرات جدی ناشی از هوش مصنوعی می‌دانیم که اقدامی انجام دهیم.»

نویسندگان این مطالعه خاطرنشان کردند که سیستم‌های هوش مصنوعی قدرتمندتر و مستقل‌تری می‌توانند در پنج سال آینده ظهور کنند که ارزیابی، کنترل و در صورت لزوم، لغو رفتار آنها را برای انسان‌ها دشوارتر می‌کند. با این حال، این موسسه تأکید کرد که عدم قطعیت پیرامون تهدید‌های بلندمدت نباید مانع تلاش‌ها برای مقابله با خطرات موجود شود.

این گزارش همچنین به تهدیدات علیه امنیت سایبری و فرآیند‌های دموکراتیک، خطر انحراف اقدامات هوش مصنوعی از نیات انسانی و تهدیدات بالقوه شیمیایی و بیولوژیکی اشاره کرده است. به گزارش Gazeta، این موسسه خواستار بررسی و نظارت بیشتر نه تنها بر مدل‌های منفرد، بلکه بر سیستم‌های کامل هوش مصنوعی پس از پیاده‌سازی آنها شده است.

در ۱۴ سپتامبر، سم آلتمن، مدیرعامل OpenAI، اظهار داشت که پیشرفت هوش مصنوعی می‌تواند دو مسیر بسیار خطرناک را دنبال کند که بشریت باید به هر قیمتی از آنها اجتناب کند. آلتمن اولین تهدید جهانی را خطر بالقوه از دست دادن کامل کنترل سیستم‌های در حال تکامل بر آینده دانست. به گفته رئیس OpenAI، دومین مشکل اساسی، تمرکز احتمالی و بیش از حد قدرت نامحدود در دست تعداد کمی از افراد است.

لینک کپی شد

اشتراک‌ گذاری