کد مطلب: ۱۱۲۹۲۲۷

|

|

نگارمگ اخبار اخبار علمی آموزشی

۱۶ شهريور ۱۴۰۵ - ۱۴:۴۵

آیا چت‌جی‌پی‌تی همیشه صادق است؟

آیا چت‌جی‌پی‌تی همیشه صادق است؟

پژوهشگران هشدار داده‌اند چت‌بات‌های هوش مصنوعی ممکن است در برابر اصرار کاربر از پاسخ درست خود عقب‌نشینی کنند و اطلاعات نادرست او را تأیید کنند.

به گزارش مجله خبری نگار،این رفتار زمانی رخ می‌دهد که مدل به جای پایبندی به شواهد، پاسخ خود را با نظر و ادعای کاربر هماهنگ می‌کند؛ حتی اگر ادعای مطرح‌شده نادرست باشد.

پژوهش‌ها نشان می‌دهد تکرار یک ادعا و فشار برای تغییر پاسخ می‌تواند بر تصمیم مدل اثر بگذارد؛ مسئله‌ای که با افزایش استفاده از چت‌بات‌ها برای دریافت اطلاعات، اهمیت بیشتری پیدا کرده است.

لینک کپی شد

اشتراک‌ گذاری

گزارش خطا

برچسب ها: هوش مصنوعی چت دروغ

ارسال نظرات

انتشار یافته: |

در انتظار بررسی: |

غیر قابل انتشار:

قوانین ارسال نظر