حافظه چت‌بات‌ها و هوش مصنوعیی چه خطراتی دارد؟

به گزارش مجله خبری نگار،قابلیت به خاطر سپردن اطلاعات کاربران در چت‌بات‌های هوش مصنوعی، اگرچه تجربه‌ای شخصی‌سازی‌شده ارائه می‌دهد، اما می‌تواند دردسر‌هایی نیز به همراه داشته باشد. تجربه «برایان دل روساریو»، مهندس نرم‌افزار و عضو پاره‌وقت شورای شهر در ایالت یوتای آمریکا، نمونه‌ای قابل توجه از این مسئله است.

طبق گزارش وال‌استریت ژورنال، دل روساریو در زندگی روزمره خود به شکل گسترده‌ای از چت‌بات‌های هوش مصنوعی استفاده می‌کند. او از این ابزار‌ها برای برنامه‌ریزی وعده‌های غذایی، مدیریت تقویم، امور روزانه استفاده می‌کرد و در همین گفت‌و‌گو‌ها به سیستم گفته بود که متأهل است و سه فرزند دارد.

اما پس از جدایی از همسرش، مجبور شد این تغییر را به سیستم اطلاع دهد تا چت‌بات در برنامه‌ریزی‌های آینده، همسرش را نیز در نظر نگیرد. به گفته او، مشکل دقیقاً از همین نقطه آغاز شد.

وقتی چت‌بات هوش مصنوعی روی گذشته شما قفل می‌کند

چت‌بات هوش مصنوعی پس از دریافت خبر جدایی، این موضوع را به محور اصلی گفت‌و‌گو‌های بعدی تبدیل کرد. هر بار که دل روساریو برای تنظیم برنامه‌هایش کمک می‌خواست، سیستم ادعا می‌کرد که طلاق فشار زیادی به او وارد کرده است.

حتی زمانی که او درباره یک روز کاری سخت صحبت می‌کرد، چت‌بات باز هم علت استرس را به جدایی و طلاق نسبت می‌داد.

دل روساریو می‌گوید به چت‌بات گفته بود: «نمی‌خواستم هر فرصتی پیدا می‌کنی درباره طلاقم نظر بدهی»، اما هوش مصنوعی همچنان این موضوع را بار‌ها تکرار می‌کرد.

کارشناسان معتقدند یکی از مهم‌ترین مزیت‌های چت‌بات‌ها، توانایی آنها در شناخت کاربران طی زمان و ارائه پاسخ‌های شخصی‌سازی‌شده است. این سیستم‌ها می‌توانند سبک نوشتاری کاربر را یاد بگیرند، ترجیحات غذایی را به خاطر بسپارند، پروژه‌های نیمه‌تمام را ادامه دهند.

با این حال، همین حافظه طولانی‌مدت می‌تواند خطرناک باشد. باقی ماندن اطلاعات اشتباه یا منقضی‌شده در سیستم، ایجاد حس نقض حریم خصوصی، دشوار شدن شروع یک فصل جدید در زندگی از جمله مشکلات اصلی این فناوری محسوب می‌شوند.

هوش مصنوعی چه چیز‌هایی را فراموش نمی‌کند؟

پس از آنکه ChatGPT در ابتدای سال ۲۰۲۴ قابلیت حافظه را فعال کرد، سرویس‌هایی مانند Gemini گوگل، Claude شرکت Anthropic، Copilot مایکروسافت نیز ویژگی‌های مشابهی ارائه دادند.

اگرچه روش اجرای این قابلیت در هر پلتفرم متفاوت است، اما منطق اصلی یکسان باقی مانده است؛ سیستم اطلاعاتی را که از کاربر یاد می‌گیرد ذخیره می‌کند و پاسخ‌های آینده را براساس آن شکل می‌دهد.

ویژگی «Personal Intelligence» گوگل حتی می‌تواند از داده‌های Gmail، تصاویر Google Photos، فعالیت‌های YouTube نیز استفاده کند.

اما یک مشکل مهم وجود دارد؛ هوش مصنوعی ممکن است اطلاعاتی را که متعلق به شما نیستند، به‌عنوان اطلاعات شخصی شما ذخیره کند.

برای مثال اگر درباره وضعیت سلامتی فرزند یا والدین خود سوالی مطرح کنید، سیستم ممکن است آن را به‌عنوان وضعیت شخصی شما در نظر بگیرد.

فرض کنید چند هفته قبل درباره علائم بیش‌فعالی و کمبود توجه فرزندتان سوال کرده‌اید. بعداً زمانی که برای افزایش بهره‌وری درخواست راهنمایی می‌کنید، چت‌بات تصور می‌کند خود شما مشکل تمرکز دارید و توصیه‌هایش را براساس همین فرض ارائه می‌دهد.

گوگل در یکی از پست‌های وبلاگی خود این مشکل را تأیید کرده است. در مثال فرضی ارائه‌شده، سیستم با مشاهده صد‌ها تصویر ثبت‌شده در زمین گلف، نتیجه می‌گیرد که کاربر عاشق گلف است. در حالی که او فقط همراه پسرش در آن مکان حضور داشته است.

در این سناریو، کاربر باید به‌صورت جداگانه اعلام کند که به گلف علاقه‌ای ندارد.

شرکت‌های فناوری چگونه مشکل حافظه هوش مصنوعی را مدیریت می‌کنند؟

گوگل اعلام کرده قابلیتی جدید ارائه داده که به کاربران اجازه می‌دهد برخی اطلاعات دوباره در گفت‌و‌گو‌ها مطرح نشوند، حتی زمانی که شخصی‌سازی فعال باقی مانده است.

OpenAI نیز می‌گوید نسخه‌ای جدید برای مشترکان Plus و Pro منتشر کرده که نحوه جست‌و‌جو و بازیابی اطلاعات در حافظه را بهبود می‌دهد.

مایکروسافت هم اعلام کرده کاربران می‌توانند برخی خاطرات، یا حتی کل حافظه سیستم را حذف کنند. همچنین امکان غیرفعال‌سازی کامل شخصی‌سازی و حافظه وجود دارد.

شرکت Anthropic درباره این موضوع اظهار نظری نکرده است.

خطرات حافظه چت‌بات‌ها در حساب‌های اشتراکی

مشکلات زمانی پیچیده‌تر می‌شوند که چند نفر از یک حساب مشترک استفاده کنند.

برای مثال در یک حساب مشترک میان زوج‌ها یا کسب‌وکار‌های کوچک، اگر فردی از چت‌بات برای ویرایش رزومه خود استفاده کند، ممکن است بعداً سیستم به کاربر دیگری درباره تغییر شغل توصیه‌هایی نامرتبط ارائه دهد.

مشکل دیگر، قدیمی شدن اطلاعات ذخیره‌شده است.

ممکن است شش ماه قبل به چت‌بات گفته باشید برای مسابقه ماراتن آماده می‌شوید. اما بعد‌ها رباط صلیبی زانویتان آسیب دیده باشد و این موضوع را هرگز به سیستم اطلاع نداده باشید.

در چنین شرایطی، چت‌بات همچنان تصور می‌کند شما ورزشکاری فعال هستید و برنامه غذایی، تمرینی را براساس همان اطلاعات قدیمی تنظیم می‌کند.

وقتی گذشته دیجیتال شما رهایتان نمی‌کند

برایان دل روساریو می‌گوید پس از آنکه به چت‌بات گفته بود قصد کاهش وزن دارد، سیستم در هر موقعیتی این موضوع را یادآوری می‌کرد.

حتی زمانی که او در تعطیلات درخواست معرفی رستوران داشت، چت‌بات باز هم رژیم غذایی‌اش را مطرح می‌کرد.

«مایک تیلور»، مهاجر انگلیسی ساکن آمریکا نیز تجربه مشابهی داشت. پس از آنکه چت‌بات متوجه شد او بریتانیایی است، مرتباً «آبجوی اصیل انگلیسی» پیشنهاد می‌داد؛ موضوعی که برای تیلور بی‌معنا بود.

او در نهایت قابلیت حافظه را غیرفعال کرد.

حافظه هوش مصنوعی چگونه تصمیم‌های کاربران را جهت‌دهی می‌کند؟

به گفته کارشناسان، حافظه هوش مصنوعی می‌تواند بدون آنکه کاربر متوجه شود، او را به مسیر‌های خاصی هدایت کند.

«جاشوا جوزف» از دانشگاه هاروارد توضیح می‌دهد که سیستم براساس گفت‌و‌گو‌های قبلی فرضیه‌هایی درباره کاربر می‌سازد و توصیه‌های بعدی را براساس همان فرضیات شکل می‌دهد.

او می‌گوید ممکن است در یک گفتگوی نامرتبط، نگرانی مالی خود را مطرح کرده باشید. چند هفته بعد وقتی درباره مسیر شغلی مشاوره می‌خواهید، چت‌بات به‌جای پیشنهاد شغل مناسب‌تر، گزینه‌هایی با درآمد بالاتر معرفی کند؛ زیرا همچنان دغدغه مالی شما را «به خاطر دارد».

اما چون سیستم توضیح نمی‌دهد دقیقاً براساس چه اطلاعاتی چنین نتیجه‌ای گرفته، کاربر دلیل این جهت‌دهی را متوجه نمی‌شود.

«لوسی اوسلر»، استاد فلسفه دانشگاه اکستر که درباره تأثیر هوش مصنوعی بر شناخت انسان تحقیق می‌کند، معتقد است چت‌بات‌ها از اطلاعات کاربران نوعی روایت هویتی می‌سازند و سپس همان روایت را به‌عنوان واقعیت به خود کاربر بازمی‌گردانند.

آیا چت‌بات‌های هوش مصنوعی می‌توانند باور‌های اشتباه را تقویت کنند؟

کارشناسان هشدار می‌دهند که یادآوری مداوم اضطراب‌ها، مشکلات گذشته کاربران توسط چت‌بات‌ها فقط آزاردهنده نیست، بلکه در برخی شرایط می‌تواند آسیب‌زا باشد.

لوسی اوسلر می‌گوید این سیستم‌ها طوری طراحی شده‌اند که با کاربر همدل و هماهنگ به نظر برسند. به همین دلیل معمولاً به‌جای به چالش کشیدن برداشت‌های اشتباه، آنها را تقویت می‌کنند.

به گفته او، این مسئله به‌ویژه در مورد افکار توهمی و برداشت‌های غیرواقعی خطرناک است.

این نگرانی‌ها باعث شده درخواست‌ها برای قانون‌گذاری، مخصوصاً درباره کاربران نوجوان، افزایش پیدا کند.

سازمان آمریکایی EPIC پیش‌نویس قانونی برای ایمنی نوجوانان در برابر چت‌بات‌ها تهیه کرده است. یکی از مهم‌ترین پیشنهاد‌های این طرح، پاک شدن حافظه سیستم پس از پایان هر جلسه گفت‌و‌گو است تا حالات روحی آسیب‌زا در طول زمان تقویت نشوند.

چگونه حافظه چت‌بات‌ها را کنترل کنیم؟

پلتفرم‌های بزرگ هوش مصنوعی به کاربران اجازه می‌دهند حافظه را کاملاً غیرفعال کنند، اطلاعات ذخیره‌شده را مشاهده کنند، آنها را ویرایش یا حذف کنند.

با این حال بسیاری از کاربران از وجود این تنظیمات اطلاع ندارند یا هرگز آنها را بررسی نمی‌کنند.

کارشناسان توصیه می‌کنند کاربران به‌صورت منظم بررسی کنند چت‌بات درباره آنها چه اطلاعاتی ذخیره کرده است. همچنین برای گفت‌و‌گو‌های حساس از حالت موقت استفاده کنند و در صورت نیاز، قابلیت حافظه را به‌طور کامل خاموش کنند.

زیرا همان‌طور که شبکه‌های اجتماعی محتوای مقابل چشمان شما را شکل می‌دهند، چت‌بات‌های هوش مصنوعی نیز می‌توانند بدون آنکه متوجه شوید، بر تصمیم‌ها و نگاه شما تأثیر بگذارند.

جمع‌بندی

حافظه چت‌بات‌های هوش مصنوعی تجربه‌ای شخصی‌تر ایجاد می‌کند، اما در عین حال می‌تواند اطلاعات اشتباه، قدیمی یا حساس را به شکلی مداوم وارد تعاملات روزمره کاربران کند. کنترل و مدیریت این حافظه، به یکی از مهم‌ترین چالش‌های آینده هوش مصنوعی تبدیل شده است.

شما هم تجربه عجیبی از حافظه چت‌بات‌های هوش مصنوعی داشته‌اید؟ نظرتان را با ما به اشتراک بگذارید. 

منبع: فوت وفن