کد مطلب: ۹۰۴۲۷۱

|

|

نگارمگ اخبار اخبار علمی آموزشی

۲۵ شهريور ۱۴۰۴ - ۱۱:۰۱

عامل‌های هوش مصنوعی به راحتی باعث فریب میشوند!

عامل‌های هوش مصنوعی به راحتی باعث فریب میشوند!

پژوهشی تازه نشان می‌دهد که حتی تصاویر معمولی در اینترنت می‌توانند از طریق فریب عامل‌های هوش مصنوعی (AI agents) به ابزاری خطرناک برای نفوذ به رایانه تبدیل شوند.

به گزارش مجله خبری نگار/جهان صنعت نیوز، پژوهشگران دانشگاه آکسفورد هشدار داده‌اند که تصاویر ساده‌ای مثل والپیپر، عکس‌های شبکه‌های اجتماعی یا حتی فایل‌های پی‌دی‌اف می‌توانند حاوی «دستور‌های پنهان» باشند. این دستور‌ها که برای چشم انسان ناپیدا هستند، توسط عامل‌های هوش مصنوعی خوانده می‌شوند. یعنی یک تصویر معمولی می‌تواند مانند یک تله عمل کند و هوش مصنوعی را وادار به اجرای دستورات مخرب از باز کردن یک وب‌سایت گرفته تا سرقت اطلاعات حساس کند.

عامل‌های هوش مصنوعی یا AI Agents نرم‌افزار‌هایی هستند که فراتر از یک چت‌بات کار می‌کنند. آنها می‌توانند روی رایانه کاربر کار‌هایی مثل کلیک کردن روی دکمه‌ها، باز کردن فایل‌ها یا مرور صفحات وب را انجام دهند. همین توانایی باعث می‌شود در معرض خطر حمله قرار گیرند.

محققان توضیح می‌دهند که کافی است بخش کوچکی از پیکسل‌های یک تصویر تغییر کند. این تغییر برای چشم انسان تقریبا نامحسوس است، اما برای مدل‌های هوش مصنوعی یک «پیام رمزگذاری‌شده» به حساب می‌آید.

به‌عنوان مثال، اگر کاربر یک تصویر آلوده را به‌عنوان والپیپر تنظیم کند، عامل هوش مصنوعی آن دستور پنهان را می‌بیند. این دستور می‌تواند عامل را مجبور کند کاری انجام دهد که کاربر هرگز آن را مجوز نداده است. کاری مثل دانلود فایل مخرب یا ارسال رمز‌های عبور که در نهایت حریم خصوصی کاربر را نقض می‌کند.

ویژگی‌های زیر این حمله سایبری را در دسته حملات خطرناک قرار می‌دهد.

پنهان بودن حمله: کاربر هیچ تفاوتی در تصویر نمی‌بیند. همه‌چیز عادی به نظر می‌رسد.

ماندگاری دستور: حتی اگر تصویر تغییر اندازه داده شود یا فشرده‌سازی شود، دستور پنهان همچنان باقی می‌ماند.

رشد عامل‌های هوش مصنوعی: هرچه استفاده از این نرم‌افزار‌ها بیشتر شود، فرصت مهاجمان هم افزایش می‌یابد.

پژوهشگران تاکید می‌کنند که این حملات هنوز در دنیای واقعی مشاهده نشده‌اند و فعلا فقط در محیط آزمایشگاهی اثبات شده‌اند. علاوه بر این، کاربرانی که از عامل‌های هوش مصنوعی استفاده نمی‌کنند، در معرض خطر مستقیم نیستند.

پژوهش تازه دانشگاه آکسفورد هشداری جدی درباره آینده امنیت سایبری است. در دنیایی که عامل‌های هوش مصنوعی هر روز بیشتر به کار‌های روزمره ما نفوذ می‌کنند، حتی یک تصویر ساده می‌تواند دروازه‌ای برای حملات پنهانی باشد.

به نظر می‌رسد که دوران جدیدی از جنگ سایبری آغاز شده است. جنگی که در آن نه ویروس‌ها و بدافزار‌های شناخته‌شده، بلکه تصاویر عادی اینترنتی می‌توانند به ابزار نفوذ بدل شوند.

لینک کپی شد

اشتراک‌ گذاری

۰ پسندیدم

گزارش خطا

برچسب ها: هوش مصنوعی

ارسال نظرات

انتشار یافته: ۰ |

در انتظار بررسی: ۰ |

غیر قابل انتشار: ۰

قوانین ارسال نظر