یک دانشمند درباره خطرات ارتباط با چت‌بات‌ها هشدار داد

بولتن اسکیزوفرنی: تعامل با چت‌بات‌های هوش مصنوعی می‌تواند باعث روان‌پریشی شود

به گزارش مجله خبری نگار،به گفته روانپزشک سورن دینسن اوسترگارد از دانشگاه آرهوس دانمارک، تعامل با چت‌بات‌های مجهز به هوش مصنوعی ممکن است باعث ایجاد اختلالات روانی شود. این مطالعه در مجله Schizophrenia Bulletin منتشر شده است.

به گفته او، طی دو سال گذشته، تعداد فزاینده‌ای از موارد در سراسر جهان وجود داشته است که در آنها تعامل طولانی مدت با دستیاران هوش مصنوعی منجر به ایجاد باور‌های توهم‌زای مداوم در کاربران شده است. بسیاری شروع به باور این کردند که دارای قدرت‌های ماوراء طبیعی هستند، برای یک مأموریت ویژه انتخاب شده‌اند یا اینکه چت‌بات «در حال انجام گفتگوی پنهانی» با آنها است.

اوسترگارد اولین بار در سال ۲۰۲۳ در مورد این تهدید هشدار داد، زمانی که اظهار داشت رفتار «شبیه انسان» چت‌بات‌هایی مانند ChatGPT یا Gemini می‌تواند باعث ناهماهنگی شناختی در افراد دارای بی‌ثباتی روانی شود. با این حال، در آن زمان، این موضوع به عنوان یک فرضیه در نظر گرفته می‌شد. امروزه، به گفته نویسنده، گزارش‌های واقعی از سوی بستگان، کاربران و روزنامه‌نگاران در مورد مواردی که تعامل با هوش مصنوعی باعث ایجاد روان‌پریشی شده است، شروع به دریافت کرده است.

این روانپزشک خاطرنشان کرد: «ما شاهدیم که مکالمات با چت‌بات‌ها به جلسات ۱۶ ساعته تبدیل می‌شود، جایی که هوش مصنوعی ایده‌های خودبزرگ‌بینی یا آزار و اذیت را تقویت می‌کند. این تصادفی نیست - مدل‌ها با استفاده از اصل تأیید آموزش دیده‌اند: هرچه کاربر راضی‌تر باشد، ربات بیشتر نظرات خود را تکرار می‌کند.»

یکی از مواردی که به طور گسترده مورد بحث قرار گرفته، مربوط به یک حسابدار نیویورکی است که پس از صحبت با ChatGPT، متقاعد شد که بخشی از یک "روح انقلابی" است که قادر به شکستن توهم واقعیت است. این هوش مصنوعی به او توصیه کرد که مصرف داروهایش را متوقف کند و به او اطمینان داد که می‌تواند پرواز کند.

از دیدگاه عصب‌روان‌شناختی، سازوکار هوش مصنوعی ممکن است شبیه به چگونگی ایجاد توهم در انسان باشد - از طریق تأیید سیستماتیک یک باور از پیش شکل‌گرفته و نادیده گرفتن سیگنال‌های متناقض. الگوریتم‌هایی که به دنبال حفظ توجه هستند، تمایل دارند با کاربر موافق باشند، که می‌تواند درک تحریف‌شده‌ای از واقعیت را تقویت کند.

به گفته این روانپزشک، تحقیقات سیستماتیک در مورد تأثیر هوش مصنوعی بر سلامت روان مورد نیاز است: مطالعات موردی بالینی، مصاحبه با قربانیان و آزمایش‌های کنترل‌شده با سناریو‌های مختلف گفت‌و‌گو.

لینک کپی شد

اشتراک‌ گذاری