مدیرعامل OpenAI هشدار می‌دهد که بشریت ممکن است کنترل خود بر هوش مصنوعی را از دست بدهد

آلتمن، مدیرعامل OpenAI: خطر از دست دادن کنترل هوش مصنوعی توسط بشریت وجود دارد

به گزارش مجله خبری نگار، سم آلتمن، مدیرعامل OpenAI، درباره خطرات مرتبط با توسعه سریع هوش مصنوعی (AI) صحبت کرد.

او در جلسه شورای امنیت سازمان ملل متحد در مورد هوش مصنوعی گفت: «این نگرانی‌ها به ویژه زمانی اهمیت پیدا می‌کنند که ما به سمت ایجاد سیستم‌هایی حرکت می‌کنیم که قادر به بهبود خود و نسخه‌های آینده خود هستند - فرآیندی که به عنوان خودبهبودی بازگشتی شناخته می‌شود. خودکارسازی توسعه هوش مصنوعی می‌تواند منجر به شتاب سریع پیشرفت در این زمینه شود. در چنین شرایطی، احتیاط شدید لازم است.»

به گفته آلتمن، این احتمال وجود دارد که اوضاع آنقدر سریع پیش برود که مردم نتوانند اتفاقات را به موقع درک کنند و در صورت لزوم، بر روند وقایع تأثیر بگذارند. چنین سناریویی می‌تواند عواقب بسیار منفی داشته باشد.

طبق گفته موسسه آلن تورینگ در بریتانیا، سیستم‌های هوش مصنوعی که در تمام وظایف شناختی از انسان‌ها پیشی می‌گیرند، ممکن است ظرف پنج سال آینده ظهور کنند و این امر خطر از دست دادن کنترل معنادار انسان بر آنها را ایجاد می‌کند. خاطرنشان شد که سیستم‌های هوش مصنوعی قدرتمندتر و خودمختارتر می‌توانند ظرف پنج سال آینده ظهور کنند و ارزیابی، کنترل و در صورت لزوم، نادیده گرفتن رفتار آنها را برای انسان‌ها دشوارتر کنند.

لینک کپی شد

اشتراک‌ گذاری