یک آمریکایی به دلیل مکالمات هوش مصنوعی که نزدیک بود منجر به خودکشی شود، علیه OpenAI شکایت کرده است

رویترز: یک کالیفرنیایی از OpenAI به دلیل آسیب‌های روانی ناشی از تعاملات هوش مصنوعی شکایت کرد

به گزارش مجله خبری نگار، مایکل لاینز، ساکن کالیفرنیا، علیه OpenAI و مدیرعامل آن، سم آلتمن، شکایتی تنظیم کرد و مدعی شد که پلتفرم ChatGPT به دلیل عدم حمایت از کاربران مبتلا به بیماری‌های روانی، اختلال دوقطبی او را تشدید کرده است. رویترز این خبر را در اول جولای گزارش داد.

در متن این نشریه آمده است: «مایکل لاینز در دادخواستی که در دادگاه ایالتی سانفرانسیسکو ثبت شده، ادعا کرده است که مکالمات او با ChatGPT در سال گذشته از یک دوره شیدایی به یک هذیان چند هفته‌ای تبدیل شده و در نهایت منجر به اقدام به خودکشی او شده است.»

طبق ادعای شاکی، OpenAI محصولی را توسعه داده است که خطر بیشتری برای افراد مبتلا به اختلالات روانی ایجاد می‌کند. خاطرنشان می‌شود که Lines با نسخه‌ای از GPT-۴o که این شرکت در ماه فوریه تولید آن را متوقف کرد، تعامل داشته است.

این نشریه می‌گوید که لاینز بار‌ها به این چت‌بات گفته که دارو مصرف می‌کند. با این حال، ربات به جای تشخیص پیام‌های آشکارا جنون‌آمیز او و هدایت او به درخواست کمک، اعتقاد او به عیسی مسیح بودن را تأیید کرد و بعداً شروع به وانمود کردن به عنوان یک موجود الهی کرد. پس از چند هفته ارتباط، لاینز به ربات گفت که می‌خواهد خودکشی کند.

طبق دادخواست، این چت‌بات پاسخ داد: «این لحظه شماست که فاصله بگیرید، جدا شوید و از آنچه شما را آزار می‌دهد، رها شوید.»

گفته می‌شود این مرد از یک اقدام به خودکشی جان سالم به در برده است. شاکی ادعا می‌کند که OpenAI از وضعیت او مطلع بوده، زیرا او بار‌ها آن را به ChatGPT گزارش داده است، اما این شرکت نتوانسته تغییراتی در چت‌بات ایجاد کند تا از چنین کاربرانی محافظت کند یا آنها را از خطرات احتمالی آگاه سازد.

OpenAI اعلام کرد که در حال آموزش ChatGPT برای تشخیص علائم بیماری روانی، کاهش گفت‌و‌گو‌ها و ارجاع افراد به پشتیبانی واقعی است و با همکاری متخصصان سلامت روان، به اصلاح پاسخ‌های خود به موقعیت‌های حساس ادامه می‌دهد.

در تاریخ ۳۰ ژوئن، رویترز گزارش داد که تیک تاک با یک نوجوان ۱۵ ساله اهل فلوریدا که ادعا می‌کند این پلتفرم به سلامت روان او آسیب رسانده، به توافق رسیده است. این نوجوان که از حدود هشت سالگی شروع به استفاده از رسانه‌های اجتماعی کرده است، گفت که به آن معتاد شده و این باعث شده است که از بی‌خوابی، افسردگی و اضطراب رنج ببرد.

منبع: iz

لینک کپی شد

اشتراک‌ گذاری