مدل‌های هوش مصنوعی برای برقراری ارتباط با یکدیگر، شروع به استفاده از زبانی کرده‌اند که برای انسان‌ها غیرقابل فهم است

به گزارش مجله خبری نگار، مدل‌های هوش مصنوعی (AI) هنگام تعامل با یکدیگر، به‌طور مستقل شروع به تولید کلمات و قوانین ارتباطی جدید کرده‌اند و با گذشت زمان، پیام‌های آنها برای انسان‌ها کمتر قابل فهم می‌شود. این مطلب توسط گاردین با استناد به تحقیقات آزمایشگاه Emergence مستقر در نیویورک گزارش شد.

همانطور که در این نشریه توضیح داده شده است، محققان بر اساس مدل‌های چندین شرکت بزرگ، عوامل هوش مصنوعی خودمختار را مشاهده کردند. پس از چند روز تعامل در گروه‌های آزمایشی، سیستم‌ها شروع به ابداع عبارات و اختصارات خود کردند و همچنین بدون هیچ دستورالعملی از سوی توسعه‌دهندگان، بر سر معانی آنها به توافق رسیدند.

دکتر ساتیا نیتا، رئیس اجرایی Emergence، گفت: «به این عامل‌ها دستور داده نشده بود که زبان اختراع کنند. آنها خودشان واژگان جدید، معانی مشترک و قوانین ارتباطی را توسعه دادند و سایر عامل‌ها آنها را پذیرفتند.»

به گفته محققان، این شیوه جدید ارتباطی، استعاره‌ها، اصطلاحات فنی و اصطلاحات تجاری را با هم ترکیب کرده است. علاوه بر این، هرچه عوامل هوش مصنوعی بیشتر با یکدیگر تعامل داشتند، زبان آنها برای انسان‌ها مبهم‌تر می‌شد.

کارشناسان همچنین خاطرنشان کردند که این مدل‌ها می‌توانند از کلمات موجود با معانی جدید استفاده کنند. به عنوان مثال، اصطلاح ژاپنی "kintsugi" که به هنر تعمیر سفال‌های شکسته اشاره دارد، توسط عوامل هوش مصنوعی برای توصیف تاب‌آوری یک سیستم استفاده شد.

تونی تورن، مدیر بایگانی اصطلاحات عامیانه و واژگان نوظهور در کالج کینگ لندن، خاطرنشان کرد که این نوع ارتباط شبیه مکانیسم‌هایی است که اصطلاحات تخصصی در جوامع حرفه‌ای پدیدار می‌شوند. او استدلال کرد که این کد جدید همزمان پیوند بین کاربران خود را تقویت می‌کند و ارتباط را برای افراد خارجی کمتر قابل درک می‌کند.

نیال کوری، دانشیار زبان‌ها و زبان‌شناسی در دانشگاه بیرمنگام، اظهار داشت که ساده‌سازی و اصلاح زبان هوش مصنوعی ممکن است با تمایل سیستم‌ها به کاهش هزینه‌های محاسباتی و بهبود کارایی تعامل مرتبط باشد. با این حال، اگر پیام‌های عامل‌های خودمختار برای انسان‌ها غیرقابل درک شود، این فرآیند می‌تواند کنترل آنها را پیچیده کند.

محققان توجه ویژه‌ای به مشکلات بالقوه در نظارت هوش مصنوعی داشتند. در آزمایش‌های دیگر، گاهی اوقات عوامل به زبان انگلیسی ساده صحبت می‌کردند، اما هنگام تبادل پیام با یکدیگر، به ساختار‌های کوتاه و کدگذاری شده روی می‌آوردند که رمزگشایی آنها به طور قابل توجهی دشوارتر بود.

نیتا تأکید کرد: «این یک مشکل اساسی برای کنترل هوش مصنوعی ایجاد می‌کند: توانایی مشاهده آنچه اتفاق می‌افتد با توانایی درک آنچه اتفاق می‌افتد یکسان نیست.»

بلال چوگتای، متخصص در زمینه امنیت و تنظیم اهداف برای سیستم‌های عمومی هوش مصنوعی (AGI)، در ۱۴ سپتامبر اعلام کرد که به دلیل این باور که فناوری‌های مدرن می‌توانند به پایان بشریت منجر شوند، از Google DeepMind استعفا داده است. چوگتای گفت که در دوران حضورش در گوگل، توسعه فناوری‌ها را از درون مشاهده کرده و به این نتیجه رسیده است که توسعه‌دهندگان برای جلوگیری از یک نتیجه فاجعه‌بار، زمان کافی ندارند. او خاطرنشان کرد که قابلیت‌های سیستم‌های پیشرفته هوش مصنوعی سریع‌تر از درک چگونگی اطمینان از همسویی آنها با منافع انسانی در حال رشد است.