دانشمندان روسی تأثیر احساسات انسان را بر تصمیمات گرفته شده توسط شبکه‌های عصبی مطالعه می‌کنند

دانشمندان روسی تأثیر احساسات انسان را بر تصمیمات گرفته شده توسط شبکه‌های عصبی در زمینه‌های مختلف ردیابی کرده اند.

به گزارش مجله خبری نگار، دانشمندان کشف کرده اند که خشم و سایر احساسات عاطفی قوی تأثیر قابل توجهی بر تصمیمات گرفته شده توسط حتی پیشرفته‌ترین مدل‌های زبان بزرگ دارند. این را سرویس مطبوعاتی موسسه هوش مصنوعی AIRI روسیه گزارش داد.

ایلیا ماکاروف، رئیس تیم هوش مصنوعی در موسسه AIRI روسیه، توضیح داد: از نتایج این مطالعه می‌توان برای توسعه سیستم‌های هوش مصنوعی پیشرفته تر، پایدارتر و محبوب‌تر با عواملی استفاده کرد که احساسات آنها را می‌توان برای هر حوزه استفاده به صورت جداگانه تنظیم کرد.

محققان این موسسه با همکاری متخصصان آزمایشگاه هوش مصنوعی Speer و موسسه برنامه نویسی سیستم‌های آکادمی علوم روسیه، این کشف را در حالی انجام دادند که چگونه تظاهرات مختلف احساسات انسانی بر عملکرد تعداد زیادی از سیستم‌های هوش مصنوعی نسبتا ساده از یک سو و دستگاه‌های پیشرفته‌تر از سوی دیگر تأثیر می‌گذارد. در میان آنها الگوریتم‌های محبوب از جمله GPT-۴، LLaMA۲، Gigachat و OpenChat وجود دارد.

محققان روسی بررسی کردند که آیا همه این سیستم‌های هوش مصنوعی سوگیری عاطفی را که ممکن است در داده‌های مورد استفاده برای آموزش آنها وجود داشته باشد، حفظ می‌کنند یا خیر و همچنین ارزیابی کردند که این الگوریتم‌ها در حل معضلات اخلاقی مختلف و تصمیم گیری‌های دشوار چقدر منطقی رفتار می‌کنند. برای به دست آوردن چنین اطلاعاتی، دانشمندان نحوه رفتار مدل‌های زبانی بزرگ در بازی‌های مختلف اقتصادی را با استفاده از داده‌های زبان روسی یا داده‌های زبان انگلیسی با یک عنصر احساسی قوی ردیابی کردند.

این تجزیه و تحلیل نشان داد که سیستم‌های هوش مصنوعی نسبتا ساده هنگام انجام بازی "دیکتاتور"، "معضل زندانی" و سایر بازی‌های اقتصادی هنگام برخورد با داده‌های بسیار احساسی شروع به رفتار مغرضانه می‌کنند، در حالی که مدل‌های قدرتمندتری مانند کلود اوپوس و GPT-۴ اغلب منطقی عمل می‌کنند. با این حال، حتی این الگوریتم‌ها اگر در معرض احساسات قوی از جمله خشم قرار بگیرند، "انسانی"‌تر می‌شوند.

محققان همچنین دریافتند که در بازی‌های تعاملی، احساسات منفی تمایل سیستم به تعامل را کاهش می‌دهند، در حالی که ترس به روش‌های غیرمنتظره بر رفتار تأثیر می‌گذارد. الگوی مشابهی از تغییرات در عملکرد سیستم‌های هوش مصنوعی تحت تأثیر احساسات هنگام حل مشکلات اخلاقی نشان داده می‌شود که باید هنگام توسعه محصولات هوش مصنوعی که دائما با مشکلات مشابهی روبرو هستند در نظر گرفته شود.

منبع: TASS

لینک کپی شد

اشتراک‌ گذاری