یک روش خوددرمانی که علائم اختلالات روانی را بدتر می‌کند، شناسایی شده است

استفاده از چت‌بات‌های هوش مصنوعی علائم اختلالات روانی را بدتر می‌کند

به گزارش مجله خبری نگار، چت‌بات‌های مولد مبتنی بر هوش مصنوعی می‌توانند علائم را در افراد مبتلا به اختلالات روانی شدید تشدید کنند. این نتیجه‌ای است که محققان دانمارکی پس از تجزیه و تحلیل هزاران پرونده پزشکی بیمار به آن دست یافته‌اند. این مطالعه در مجله Acta Psychiatrica Scandinavica (APS) منتشر شده است.

دانشمندان پرونده‌های پزشکی الکترونیکی نزدیک به ۵۴۰۰۰ بیمار تحت درمان در خدمات روانپزشکی در منطقه مرکزی دانمارک را از سپتامبر ۲۰۲۲ تا ژوئن ۲۰۲۵ تجزیه و تحلیل کردند. در این دوره، پزشکان بیش از ۱۰ میلیون یادداشت بالینی وارد کردند. محققان به دنبال موارد ذکر شده در مورد چت‌بات‌ها و ChatGPT، از جمله غلط‌های املایی رایج، بودند.

در نتیجه، ۱۲۶ بیمار شناسایی شدند که استفاده از هوش مصنوعی در پرونده‌های پزشکی آنها منعکس شده بود. در ۳۸ نفر از آنها، متخصصان عوارض جانبی بالقوه‌ای را مشاهده کردند.

شایع‌ترین مشکل، تقویت ایده‌های هذیانی بود که در ۱۱ بیمار گزارش شد. از آنجایی که مدل‌های زبانی تمایل دارند با کاربر موافق باشند و از دیدگاه او "حمایت" کنند، این می‌تواند باور‌های غلط را تقویت کند.

علاوه بر این، شش بیمار افزایش افکار خودکشی را تجربه کردند یا شروع به درخواست استراتژی‌های خودآزاری از ربات‌ها کردند. پنج نفر با استفاده وسواس‌گونه از چت‌بات‌ها برای شمارش کالری، اختلالات خوردن بدتری را تجربه کردند. برخی موارد با افزایش دوره‌های شیدایی و استفاده اجباری از هوش مصنوعی در اختلال وسواس فکری-عملی مرتبط بودند.

محققان همچنین نتایج مثبتی را ثبت کردند. سی و دو بیمار از چت‌بات‌ها برای کسب اطلاعات در مورد وضعیت خود یا به عنوان نوعی حمایت غیررسمی استفاده کردند. ۲۰ بیمار دیگر از آنها برای مدیریت کار‌های روزانه خود استفاده کردند.

محققان معتقدند که مصاحبه‌های با کیفیت بالا و مطالعات کنترل‌شده‌ی بیشتری با بیماران مورد نیاز است. آنها همچنین پیشنهاد می‌کنند که مکانیسم‌های خودکار در سیستم‌های هوش مصنوعی گنجانده شوند تا علائم روان‌پریشی یا قصد خودکشی را تشخیص داده و بیماران را به کمک‌های حرفه‌ای ارجاع دهند.

نویسندگان معتقدند که تنظیم مقررات چنین فناوری‌هایی باید در سطح دولت اجرا شود، نه اینکه صرفاً به توسعه‌دهندگان واگذار شود. در عین حال، آنها توصیه می‌کنند که متخصصان سلامت روان به طور فعال در مورد عادات دیجیتالی و خطرات احتمالی آنها با بیماران صحبت کنند.

لینک کپی شد

اشتراک‌ گذاری