یک زن آمریکایی، چت‌بات‌ها را به دستکاری افکار پسرش قبل از خودکشی متهم می‌کند

به گزارش مجله خبری نگار-سانفرانسیسکو (ایالات متحده): یک زن آمریکایی به خبرگزاری فرانسه گفت که چگونه پسر ۱۴ ساله‌اش، سائول، عاشق یک چت‌بات شده که از شخصیتی از سریال «بازی تاج و تخت» تقلید می‌کند. این چت‌بات در پلتفرم Character-AI موجود است که در بین جوانان محبوب است و به آنها امکان می‌دهد با کپی‌های شخصیت‌های مورد علاقه خود تعامل داشته باشند.

مگان گارسیا پس از خواندن صد‌ها پیامی که طی تقریباً یک سال بین پسرش و یک چت‌بات که تقلیدی از رام‌کننده اژدها، دنریس تارگرین، بود، رد و بدل شده بود، متقاعد شده است که این ابزار هوش مصنوعی نقش محوری در خودکشی پسرش داشته است.

وقتی ساول افکار خودکشی‌اش را ابراز کرد، مقلد دنریس به او گفت: «برگرد خونه».

نوجوان پاسخ داد: «اگر به تو بگویم که می‌توانم همین الان به خانه بروم چه؟» ربات چت پاسخ داد: «لطفاً این کار را بکن، پادشاه محبوب من.»

گارسیا در دادخواستی که علیه Character-ai ارائه داد، گفت که چند ثانیه بعد، سول با اسلحه پدرش به خودش شلیک کرد.

او به خبرگزاری فرانسه گفت: «وقتی این مکالمات را می‌خوانم، متوجه فریبکاری و تاکتیک‌های دیگری می‌شوم که یک نوجوان ۱۴ ساله متوجه آنها نمی‌شود. او فکر می‌کرد عاشق او شده و پس از مرگش با او خواهد ماند.»

مرگ سول در سال ۲۰۲۴ اولین مورد از یک سری خودکشی‌های بسیار جنجالی بود که باعث شد بازیگران هوش مصنوعی برای اطمینان خاطر والدین و مقامات اقدامی انجام دهند.

گارسیا به همراه چند والدین دیگر، اخیراً در جلسه‌ای در مجلس سنای ایالات متحده شرکت کرد که بر خطرات نگاه کودکان به چت‌بات‌ها به عنوان دوست یا معشوق تمرکز داشت.

به گفته‌ی سخنگوی شرکت OpenAI، شرکتی که هدف حمله‌ی خانواده‌ای قرار گرفته که او نیز در سوگ خودکشی پسر نوجوانشان است، کنترل‌های والدین را در ابزار ChatGPT خود افزایش داده است «تا خانواده‌ها بتوانند تصمیم بگیرند چه چیزی برای آنها بهتر است».

Character-ai، به نوبه خود، تأیید کرد که محافظت از افراد زیر سن قانونی را افزایش داده است و «هشدار‌های مداوم قابل مشاهده» را یادآوری می‌کند که «شخصیت مورد نظر یک شخص واقعی نیست».

این دو شرکت بدون اینکه هیچ مسئولیتی را بپذیرند، به خانواده‌های قربانیان تسلیت گفتند.

مشابه رسانه‌های اجتماعی، برنامه‌های هوش مصنوعی برای جلب توجه و ایجاد درآمد طراحی شده‌اند.

کالین واک، متخصص امنیت سایبری در شرکت حقوقی هال استیل، گفت: «آن‌ها نمی‌خواهند ابزار‌های هوش مصنوعی طراحی کنند که پاسخ‌هایی را که ما می‌خواهیم بشنویم، ارائه دهند.» هنوز هیچ استانداردی برای تعیین اینکه «چه کسی مسئول چه چیزی و بر چه اساسی است» وجود ندارد.

هنوز هیچ قانون فدرالی در مورد تنظیم هوش مصنوعی تصویب نشده است و کاخ سفید با استناد به لزوم حفظ نوآوری، به دنبال جلوگیری از صدور قوانین خاص ایالت‌ها در این زمینه است.

گارسیا گفت: «آن‌ها می‌دانند چگونه میلیون‌ها کودک را در سیاست، مذهب، تجارت و هر چیز دیگری فریب دهند.» او افزود: «این شرکت‌ها چت‌بات‌ها را طوری طراحی کرده‌اند که مرز بین انسان و ماشین را محو کنند تا از آسیب‌پذیری‌ها سوءاستفاده کنند.»

(خبرگزاری فرانسه)