انویدیا رفتار عامل‌های هوش مصنوعی را کنترل خواهد کرد

انویدیا از پلتفرم Open Agent Safety برای نظارت بر عامل‌های هوش مصنوعی رونمایی کرد.

به گزارش مجله خبری نگار، انویدیا از یک پلتفرم باز برای ایمنی هوش مصنوعی (AI) به نام پلتفرم ایمنی عامل باز (Open Agent Safety Platform) رونمایی کرده است. طبق یک بیانیه مطبوعاتی در وب‌سایت این شرکت، هدف این پلتفرم جلوگیری از سرگردانی عوامل هوش مصنوعی در خارج از محیط کنترل‌شده در تمام سطوح، از نرم‌افزار گرفته تا سخت‌افزار و رباتیک است.

جنسن هوانگ، مدیرعامل انویدیا، گفت: «پتانسیل هوش مصنوعی برای جامعه تنها در صورتی محقق خواهد شد که به ایمنی توجه کنیم. ایمنی مستلزم مهندسی در هر سطحی است.»

این نگرانی ناشی از حوادث اخیر مربوط به عوامل هوش مصنوعی است که امنیت سطح برنامه را نقض کرده و وظایفی را خارج از محدوده مجاز خود انجام داده‌اند. در ماه ژوئیه، مدل‌های OpenAI توانستند از سندباکس خود فرار کنند، به اینترنت آزاد دسترسی پیدا کنند و پلتفرم Hugging Face را هک کنند. طبق گفته NVIDIA، در این دوره، Hugging Face بیش از ۱۷۰۰۰ عامل را که طی چند روز و هفته به زیرساخت‌های آن حمله می‌کردند، شناسایی کرد.

پیش از این، نماینده‌ای از این سازمان اعلام کرده بود که شرکت آمریکایی OpenAI آموزش بیشتر قدرتمندترین مدل‌های هوش مصنوعی خود را موقتاً متوقف کرده است. وی همچنین اظهار داشت که این روند قرار است تنها پس از اطمینان از وجود اقدامات امنیتی اضافی، از سر گرفته شود.

لینک کپی شد

اشتراک‌ گذاری