رویترز از آزمایش دستیار هوش مصنوعی متا با اپراتور‌های انسانی مطلع شد

شرکت متا ویژگی‌ای از دستیار هوش مصنوعی Muse خود را آزمایش کرد که به پیمانکاران اجازه می‌داد به جای هوش مصنوعی، برخی از تماس‌های تلفنی را مدیریت کنند. رویترز این خبر را با استناد به ارتباطات داخلی شرکت گزارش داد.

به گزارش مجله خبری نگار، دنیل رابرتز، سخنگوی متا، گفت: «ما در حال همکاری با فروشندگان هستیم تا به اصلاح این ویژگی تماس بالقوه ادامه دهیم و تنها زمانی آن را منتشر خواهیم کرد که آماده باشد و ارتباط مناسبی با کاربران برقرار شود.»

به گزارش رویترز، این آزمایش پس از آن آغاز شد که کاربران با قابلیت تماس Muse با مشکلاتی مواجه شدند. کارمندان شرکت ابراز نگرانی کردند که دخالت اپراتور‌ها می‌تواند خطرات حریم خصوصی را به همراه داشته باشد، زیرا پیمانکاران به برخی از اطلاعات مکالمه دسترسی پیدا می‌کنند.

متا اذعان کرد که راه‌اندازی آزمایش انسانی بدون اطلاع‌رسانی قبلی به کاربران، یک اشتباه بوده است. این شرکت با اعلام تعلیق موقت این ویژگی، خاطرنشان کرد که مشارکت اپراتور‌های انسانی، کارایی وظایف را به ۹۵ تا ۹۸ درصد افزایش داده است.

نیویورک تایمز در ۱۱ سپتامبر گزارش داد که شرکت آنتروپیک در سال ۲۰۲۶ چندین تلاش برای استفاده از مدل‌های هوش مصنوعی خود برای انجام تحقیقاتی که می‌توانست به توسعه سلاح‌های بیولوژیکی کمک کند را خنثی کرد.

در ۱۴ سپتامبر، سم آلتمن، مدیرعامل OpenAI، اظهار داشت که پیشرفت هوش مصنوعی می‌تواند دو مسیر بسیار خطرناک را دنبال کند که بشریت باید به هر قیمتی از آنها اجتناب کند. آلتمن اولین تهدید جهانی را خطر بالقوه از دست دادن کامل کنترل سیستم‌های در حال تکامل بر آینده دانست. به گفته رئیس OpenAI، دومین مشکل اساسی، تمرکز احتمالی و بیش از حد قدرت نامحدود در دست تعداد کمی از افراد است.

لینک کپی شد

اشتراک‌ گذاری