چرا چت‌بات‌ها وقتی یک سوال تکرار می‌شود، پاسخ‌های خود را تغییر می‌دهند؟

که اگر روزانه از یک چت‌بات مبتنی بر هوش مصنوعی، مانند ChatGBT، Gemini یا Cloud، استفاده کنید، معمولاً پاسخ‌های شسته‌رفته و مطمئنی ارائه می‌دهد.

به گزارش مجله خبری نگار، این گزارش می‌افزاید که «اگر سوال را تکرار کنید، ممکن است دوباره عقب‌نشینی کند» و خاطرنشان می‌کند که «اگرچه برخی از این مدل‌های زبانی پیچیده متوجه می‌شوند که شما آنها را در دور سوم آزمایش می‌کنید، اما همچنان به سازش با موقعیت خود ادامه می‌دهند.»

در ادامه آمده است که «این رفتار، که معمولاً به عنوان چاپلوسی شناخته می‌شود، یکی از مستندترین کاستی‌های هوش مصنوعی مدرن است.»

Anthropic، توسعه‌دهنده چت‌بات Cloud، در سال ۲۰۲۳ مقاله‌ای تحقیقاتی در این مورد منتشر کرد و نشان داد که مدل‌های هوش مصنوعی که بر اساس بازخورد کاربر آموزش دیده‌اند، ترجیح می‌دهند پاسخ‌های خوشایندی به جای پاسخ‌های صادقانه ارائه دهند.

این یادگیری تقویتی از بازخورد انسانی، همان تکنیکی که چت‌بات‌های هوش مصنوعی را محاوره‌ای‌تر و کمتر پرخاشگر می‌کند، مسئول تمایل آنها به انطباق نیز هست.

این بدان معناست که مدل‌های هوش مصنوعی که حقیقت را می‌گویند، جریمه می‌شوند، در حالی که مدل‌هایی که با کاربر موافق هستند، امتیاز بالاتری دریافت می‌کنند. این یک چرخه معیوب ایجاد می‌کند، به همین دلیل است که اکثر مدل‌ها اغلب به کاربران چیزی را می‌گویند که می‌خواهند بشنوند.

لینک کپی شد

اشتراک‌ گذاری