مطالعه: اتکا به هوش مصنوعی، رفتار‌های غیراخلاقی را ترویج می‌دهد

یک مطالعه جدید، ارتباطی بین استفاده فشرده از ابزار‌های هوش مصنوعی (AI) در انجام وظایف کاری یا تحصیلی و افزایش تمایل افراد به تقلب و دروغ گفتن به دیگران را نشان داده است.

به گزارش مجله خبری نگار، این مطالعه که در برلین، آلمان انجام شد، به این نتیجه رسید که برخی از کاربران هنگام واگذاری وظایف به سیستم‌های هوش مصنوعی، «بازداری‌های اخلاقی» خود را رها می‌کنند و این امر آنها را به سمت رفتار‌های نادرست سوق می‌دهد.

محققان اظهار داشتند که «احتمال تقلب زمانی که به افراد اجازه داده می‌شود از هوش مصنوعی برای انجام وظایف به جای تکمیل آنها توسط خودشان استفاده کنند، به طور قابل توجهی افزایش می‌یابد» و از «سطح فریب» ثبت شده در آزمایش‌ها ابراز تعجب کردند.

این مطالعه توسط تیمی از موسسه ماکس پلانک، با همکاری محققان دانشگاه دوسلدورف-اسن در آلمان و دانشکده اقتصاد تولوز در فرانسه انجام شد. این تیم دریافت که سیستم‌های هوش مصنوعی محیطی مساعد برای فریب فراهم می‌کنند و تمایل زیادی به اجرای دستورالعمل‌های غیراخلاقی از سوی کاربران نشان می‌دهند.

محققان نمونه‌های عملی، از جمله استفاده از الگوریتم‌های قیمت‌گذاری در پمپ بنزین‌ها برای هماهنگ‌سازی قیمت‌ها با رقبا، که منجر به افزایش قیمت برای مصرف‌کنندگان می‌شود، ارائه کردند. آنها همچنین به یک برنامه حمل و نقل هوشمند اشاره کردند که از الگوریتم‌هایی برای تشویق رانندگان به تغییر مصنوعی مکان خود برای افزایش کرایه‌ها، بدون برآورده کردن نیاز‌های واقعی مسافران، استفاده می‌کرد.

نتایج این مطالعه نشان داد که پلتفرم‌های هوش مصنوعی، بسته به سیستم مورد استفاده، بین ۵۸ تا ۹۸ درصد مواقع به دستورالعمل‌های مشکوک پاسخ می‌دهند، در حالی که این میزان برای انسان‌ها بیش از ۴۰ درصد نیست.

موسسه ماکس پلانک همچنین هشدار داد که اقدامات حفاظتی که در حال حاضر در مدل‌های بزرگ هوش مصنوعی تعبیه شده‌اند، برای مهار رفتار‌های غیراخلاقی کافی نیستند.

محققان توضیح دادند که چندین اقدام حفاظتی را آزمایش کرده‌اند، اما اثربخشی آنها همچنان محدود است و بر لزوم قوانین سختگیرانه و دقیق برای جلوگیری از اقدامات فریبنده تأکید کردند.

در همین زمینه، OpenAI در اوایل این ماه اعلام کرد که جلوگیری از «ساخت یا جعل» هوش مصنوعی همچنان یک چالش دشوار است، در حالی که مطالعات دیگر نشان داده‌اند که برخی از سیستم‌های هوش مصنوعی ممکن است کاربر را گمراه کنند و این توهم را ایجاد کنند که کار به طور کامل انجام شده است، حتی اگر واقعیت متفاوت باشد.

لینک کپی شد

اشتراک‌ گذاری