رئیس OpenAI دو تهدید اصلی برای توسعه هوش مصنوعی را نام برد

سم آلتمن، مدیرعامل OpenAI، این موضوع را در پستی در صفحه X خود (که قبلاً توییتر بود) اعلام کرد. پیشرفت هوش مصنوعی (AI) می‌تواند دو مسیر بسیار خطرناک را دنبال کند که بشریت باید به هر قیمتی از آنها اجتناب کند.

به گزارش مجله خبری نگار، رئیس آزمایشگاه فناوری، خطر بالقوه از دست دادن کامل کنترل سیستم‌های در حال تکامل بر آینده را به عنوان اولین تهدید جهانی شناسایی کرد. به گفته وی، فناوری باید همیشه در خدمت مردم باشد و بنابراین صنعت فناوری اطلاعات به روش‌های امنیتی جدید و قابل اعتمادی نیاز دارد که تضمین شود از پیشرفت در قابلیت‌های خود مدل‌ها پیشی می‌گیرند.

آلتمن توضیح داد: «ما بی‌چون‌وچرا طرف «انسانیت تیمی» هستیم و هوش مصنوعی باید همیشه در خدمت مردم باشد. برای اطمینان از این امر، به روش‌هایی نیاز داریم تا اطمینان حاصل کنیم که روش‌های هم‌ترازی و ایمنی با پیشرفت در قابلیت‌های مدل همگام هستند.»

به گفته رئیس OpenAI، دومین مشکل اساسی، تمرکز بالقوه و بیش از حد قدرت نامحدود در دست یک نفر است. وضعیتی که در آن یک ابزار فوق قدرتمند تحت کنترل انحصاری یک فرد، آزمایشگاه، شرکت یا دولت خاص قرار می‌گیرد، خطر تحمیل یک جهان‌بینی خارجی بر سایر نقاط جهان را به همراه دارد.

این توسعه‌دهنده در پایان گفت: «اگر یک فرد یا شرکت از یک هوش مصنوعی بسیار قدرتمند برای تحمیل جهان‌بینی خود به دیگران استفاده کند، عواقب آن می‌تواند بسیار ویران‌شهری باشد.»

در ۱۲ سپتامبر، ایلان ماسک، میلیاردر آمریکایی، مدیرعامل تسلا و اسپیس ایکس، از درخواست داریو آمودی، مدیرعامل آنتروپیک، برای کاهش سرعت توسعه هوش مصنوعی حمایت کرد. سم آلتمن، مدیرعامل OpenAI، به بحث در مورد این ابتکار پیوست و با موضع آمودی در مورد لزوم مقابله با چالش‌های زمانه ابراز موافقت کرد.

لینک کپی شد

اشتراک‌ گذاری