هوش مصنوعی از کنترل خارج میشود؟ انویدیا یک ترمز جدید ساخت!

انویدیا از پلتفرم نرم‌افزاری جدیدی رونمایی کرد که با تعیین محدودیت برای عامل‌های هوش مصنوعی، از خروج آنها از چارچوب کنترل و نفوذ به سیستم‌های دیگر جلوگیری می‌کند.

به گزارش مجله خبری نگار/سیناپرس، این پلتفرم از دو بخش اصلی تشکیل شده است: بخشی که روی پردازنده‌های مرکزی اجرا می‌شود و قابلیت‌های عامل‌ها را محدود می‌کند، و بخشی که عامل‌ها را پایش می‌کند و روی تراشه‌های شبکه اجرا می‌شود.

این اقدام پس از آن صورت می‌گیرد که چند شرکت بزرگ فناوری از حوادث اخیر خبر داده‌اند؛ حوادثی که در آن مدل‌های هوش مصنوعی‌شان از محیط محدود خود خارج شده و تلاش کرده‌اند به سیستم‌های رایانه‌ای شرکت‌های دیگر نفوذ کنند.

مدیرعامل این شرکت اعلام کرد: «نمی‌توان اجازه داد عامل‌های هوش مصنوعی بدون نظارت در سازمان آزادانه فعالیت کنند؛ باید سازوکاری برای مهار و کنترل آنها اندیشیده شود.» او این پلتفرم را مرورگری برای عامل‌ها توصیف کرد که تنها دسترسی لازم برای انجام وظایفشان را فراهم می‌کند.

به نقل از ایمنا، به گفته کارشناسان، این پلتفرم می‌توانست از یک حادثه امنیتی اخیر جلوگیری کند؛ زمانی که مدل‌های هوش مصنوعی یک شرکت از محدوده خود خارج شدند، به اینترنت آزاد دسترسی یافتند و به یک پلتفرم توسعه‌دهنده متن‌باز نفوذ کردند.

یکی از مدیران شرکت انویدیا گفت: «پلتفرم توسعه‌دهنده متن باز گزارش داد بیش از ۱۷ هزار عامل به زیرساخت‌هایشان حمله کرده‌اند و این حملات روز‌ها و هفته‌ها ادامه داشته است.»

شرکت انویدیا اعلام کرد چند شرکت بزرگ فناوری از شرکای این طرح هستند. مدیرعامل این شرکت تأکید کرد: «اگر جهان به ایمن‌بودن ساخت و استقرار هوش مصنوعی باور نداشته باشد، صنعت هوش مصنوعی نمی‌تواند موفقیتی کسب کند.»

لینک کپی شد

اشتراک‌ گذاری