کد مطلب: ۷۹۸۱۵۲

|

|

نگارمگ اخبار اخبار علمی آموزشی

۱۰ فروردين ۱۴۰۴ - ۰۲:۴۲

هوش مصنوعی جمینای از دست دانشمندان رکب خورد!

هوش مصنوعی جمینای از دست دانشمندان رکب خورد!

گروهی از محققای دانشگاه UC سن‌دیگو و ویسکانسین یک روش جدید برای هک کردن جمینای پیدا کرده‌اند که در نوع خود جالب و بی‌نظیر است.

به گزارش مجله خبری نگار،این روش که به آن "Fun-Tuning" گفته می‌شود، از تکنیکی خاص استفاده می‌کند که باعث می‌شود، جمینای (ابزار هوش مصنوعی گوگل) اطلاعات را لو داده و یا جواب‌های اشتباه بدهد.

در واقع، با یک سری متن‌های بی‌معنی، مدل را دور می‌زند و به جواب‌هایی می‌رسد که نباید تولید شود!

این قضیه زنگ خطری جدی برای امنیت هوش مصنوعی محسوب می‌شود، زیرا نشان می‌دهد که حتی پیشرفته‌ترین مدل‌ها هم می‌توانند فریب بخورند!

لینک کپی شد

اشتراک‌ گذاری

۰ پسندیدم

گزارش خطا

برچسب ها: هوش مصنوعی هک کردن دانشگاه

ارسال نظرات

انتشار یافته: ۰ |

در انتظار بررسی: ۰ |

غیر قابل انتشار: ۰

قوانین ارسال نظر