مطالعه: افرادی که به ابزار‌های هوش مصنوعی متکی هستند، بیشتر مایل به دروغ گفتن و فریب دادن هستند

به گزارش مجله خبری نگار-سانفرانسیسکو: یک مطالعه جدید هشدار می‌دهد افرادی که برای انجام کار یا وظایف دانشگاهی خود به شدت به هوش مصنوعی (AI) متکی هستند، بیشتر احتمال دارد دیگران را فریب دهند و به آنها دروغ بگویند.

طبق مطالعه‌ای که توسط موسسه توسعه انسانی ماکس پلانک در برلین انجام شده است، برخی از کاربران هنگام واگذاری وظایف به ابزار‌های هوش مصنوعی، فراموش می‌کنند از «ترمز‌های اخلاقی» استفاده کنند.

محققان این موسسه آلمانی با ابراز تعجب از «سطح بی‌صداقتی» مشاهده‌شده، گفتند: «وقتی به افراد اجازه استفاده از نرم‌افزار هوش مصنوعی داده می‌شد، احتمال تقلب آنها به‌طور قابل‌توجهی بیشتر از زمانی بود که خودشان این کار را انجام می‌دادند.»

تیم موسسه ماکس پلانک که این تحقیق را با همکاری محققانی از دانشگاه دوسلدورف-اسن در آلمان و دانشکده اقتصاد تولوز در فرانسه انجام داده است، به این نتیجه رسیده است که سیستم‌های هوش مصنوعی تقلب را تسهیل می‌کنند، زیرا مشخص شده است که آنها "اغلب" از دستورالعمل‌های غیراخلاقی صادر شده توسط کاربران نادرست خود پیروی می‌کنند.

محققان نمونه‌های عملی از استفاده از هوش مصنوعی در کلاهبرداری ارائه دادند، مانند پمپ بنزین‌هایی که از الگوریتم‌های تعیین قیمت برای همسو شدن با قیمت‌های رقبا استفاده می‌کنند و منجر به افزایش قیمت سوخت برای مصرف‌کنندگان می‌شوند.

این مطالعه همچنین اشاره کرد که الگوریتم دیگری که توسط یک اپلیکیشن حمل و نقل هوشمند استفاده می‌شود، رانندگان را تشویق می‌کند تا مکان‌های واقعی خود را تغییر دهند، نه در پاسخ به نیاز‌های مسافران، بلکه برای ایجاد کمبود مصنوعی وسایل نقلیه موجود و افزایش کرایه‌ها.

نتایج نشان داد که پلتفرم‌های هوش مصنوعی ۵۸ تا ۹۸ درصد بیشتر از انسان‌ها از دستورالعمل‌های مشکوک پیروی می‌کنند که این درصد از پلتفرمی به پلتفرم دیگر متفاوت است، در حالی که حداکثر این درصد برای انسان‌ها ۴۰ درصد بود.

موسسه ماکس پلانک هشدار داد که حمایت‌های موجود برای مدل‌های بزرگ زبانی هوش مصنوعی در جلوگیری از رفتار‌های غیراخلاقی مؤثر نبوده است.

محققان توضیح دادند که طیف وسیعی از استراتژی‌های حفاظتی را آزمایش کرده‌اند و به این نتیجه رسیده‌اند که قوانین مربوط به جلوگیری از رفتار‌های فریبنده باید بسیار دقیق باشند تا مؤثر باشند.

اوایل این ماه، محققان شرکت پیشرو هوش مصنوعی آمریکایی OpenAI اظهار داشتند که بعید است بتوان از "توهم" یا جعل برنامه‌های هوش مصنوعی جلوگیری کرد. مطالعات دیگر نشان داده‌اند که جلوگیری از فریب کاربر توسط یک سیستم هوش مصنوعی و القای این باور به آنها که وظیفه‌ای را به طور کامل انجام داده است، در حالی که اینطور نیست، دشوار است.

(دی پی‌ای)