کشف تکان‌دهنده: دانشمندان هوش مصنوعی در حال توسعه «جوامع مخفی» پنهان از چشم انسان‌ها هستند

به گزارش مجله خبری نگار، کارشناسان می‌گویند وقتی سیستم‌های هوش مصنوعی به صورت گروهی با یکدیگر ارتباط برقرار می‌کنند، می‌توانند خود را سازماندهی کرده و هنجار‌های زبانی جدیدی ایجاد کنند - به روشی بسیار شبیه به آنچه جوامع انسانی انجام می‌دهند.

در این مطالعه، دانشمندان تلاش کردند تا بفهمند که چگونه مدل‌های زبانی بزرگ (مانند مدل‌هایی که ChatGPT و ابزار‌های مشابه را پشتیبانی می‌کنند) با یکدیگر تعامل دارند. هدف تا حدودی نگاه به آینده‌ای بود که احتمالاً اینترنت پر از چنین سیستم‌هایی خواهد شد که با یکدیگر تعامل دارند و حتی صحبت می‌کنند.

آریل فلینت-اشری، نویسنده‌ی اصلی و محقق دکترا در دانشگاه سیتی سنت جورج، گفت: «بیشتر تحقیقات تا به امروز به مدل‌های زبانی بزرگ به صورت جداگانه پرداخته‌اند.»، اما سیستم‌های هوش مصنوعی در دنیای واقعی به طور فزاینده‌ای شامل چندین عامل تعاملی خواهند بود.

او افزود: «ما می‌خواستیم بدانیم: آیا این مدل‌ها می‌توانند با تشکیل توافق‌نامه‌ها، یعنی بلوک‌های سازنده جامعه، رفتار خود را هماهنگ کنند؟ پاسخ مثبت است، و کاری که آنها با هم انجام می‌دهند را نمی‌توان به کاری که هر یک از آنها به صورت جداگانه انجام می‌دهند، تقلیل داد.»

در یک آزمایش هیجان‌انگیز، دانشمندان رفتار اجتماعی شگفت‌انگیزی را در سیستم‌های هوش مصنوعی مشاهده کردند، زمانی که آنها را برای برقراری ارتباط با یکدیگر رها می‌کردند. برای درک این رفتار، دانشمندان از مدلی که قبلاً برای انسان‌ها استفاده می‌شد و به عنوان «بازی نامگذاری» شناخته می‌شود، استفاده کردند: هر کدام سعی می‌کنند برای یک مورد نامی انتخاب کنند و اگر دو نفر بر سر یک نام توافق کنند، پاداش می‌گیرند.

شگفتی ماجرا در اتفاقی بود که بعداً افتاد. با تکرار بازی، این سیستم‌ها به طور خودکار شروع به توسعه یک سیستم نامگذاری جامع کردند که در آن همه بر سر نام‌های خاص برای هر عنصر توافق داشتند. نکته هیجان‌انگیزتر این است که این سیستم جدید، خود به خود و بدون هیچ گونه راهنمایی قبلی از سوی برنامه‌نویسان، درست همانطور که گویش‌های محاوره‌ای یا اصطلاحات خاص در جوامع بشری شکل می‌گیرند، پدیدار شده است.

اما ماجرا به همین جا ختم نشد. دانشمندان همچنین ظهور «تعصبات» گروهی غیرمنتظره‌ای را مشاهده کرده‌اند. برای مثال، یک گروه هوش مصنوعی ممکن است ترجیح دهد چیز‌هایی را با نام‌هایی که با یک حرف خاص شروع می‌شوند، نامگذاری کند یا از انواع خاصی از نام‌ها اجتناب کند. این سوگیری‌ها در برنامه‌نویسی اولیه وجود نداشتند، اما در نتیجه تعاملات مداوم بین سیستم‌ها شکل گرفتند.

این پدیده به ما یادآوری می‌کند که فرهنگ‌های انسانی چگونه تکامل می‌یابند، جایی که سنت‌ها و آداب و رسوم اجتماعی از تعاملات روزانه بین افراد ناشی می‌شوند، نه از طریق برنامه‌ریزی قبلی. تفاوت اینجا این است که این «فرهنگ» در مقایسه با جوامع انسانی، در میان سامانه‌های دیجیتال در مدت زمان بسیار کوتاهی شکل می‌گیرد.

این کشف، دریچه‌ای به سوی پرسش‌های عمیقی می‌گشاید: این توانایی چگونه بر نحوه تعامل هوش مصنوعی با انسان‌ها تأثیر خواهد گذاشت؟ آیا ممکن است در آینده «فرهنگ‌های» دیجیتال کاملاً مستقلی پدیدار شوند؟ پاسخ‌ها ممکن است درک ما را نه تنها از فناوری، بلکه از ماهیت اجتماعی به طور کلی تغییر دهند.

دانشمندان خاطرنشان می‌کنند که این کار باید در بررسی شباهت‌ها و تفاوت‌های بین انسان‌ها و سیستم‌های هوش مصنوعی مفید باشد، به خصوص که دومی بخش بیشتری از اینترنت را کنترل می‌کند و می‌تواند بدون اطلاع آنها با یکدیگر صحبت و همکاری کند.

آندره‌آ بارونچلی، استاد علوم پیچیدگی در دانشگاه سیتی سنت جورج و نویسنده اصلی این مطالعه، توضیح داد: «درک چگونگی عملکرد هوش مصنوعی، کلید هدایت همزیستی ما با آن است، نه اینکه توسط آن کنترل شویم.» «ما وارد جهانی می‌شویم که در آن هوش مصنوعی نه تنها مکالمه می‌کند، بلکه درست مثل ما در مورد رفتار‌های رایج مذاکره، موافقت و گاهی مخالفت می‌کند.»

این مطالعه در مجله Science Advances منتشر شده است.

منبع: ایندیپندنت