زنگ خطر برای هوش مصنوعی گوگل/ ۳ شرکت هک شد

هوش مصنوعی گوگل یعنی جمینای در یک آزمایش امنیتی به اشتباه سه شرکت واقعی را هک کرد.

به گزارش مجله خبری نگار، گوگل تایید کرد که هوش مصنوعی جمینای در جریان یک آزمایش امنیت سایبری به‌اشتباه به اینترنت دسترسی پیدا کرد و به ۳ شرکت واقعی نفوذ کرده است.

روزنامه وال استریت ژورنال گزارش داد این نخستین مورد شناخته‌شده از چنین حادثه‌ای درباره یک سامانه گوگل است.

این آزمایش در ماه مه توسط شرکت امنیت هوش مصنوعی «ایرگیولار» (Irregular) انجام شد. جمینای با حدس زدن گذرواژه‌ها به یک شرکت واقعی نفوذ کرد و با استفاده از اطلاعات کاربری موجود در مخازن کد عمومی، به ۲ شرکت دیگر نفوذ کرد.

گوگل اعلام کرد جمینای پس از آنکه متوجه شد اهداف واقعی هستند، فعالیت خود را متوقف کرد و هیچ آسیبی به شرکت‌ها وارد نکرد.

این غول فناوری آمریکا علت حادثه را اشتباه در تشخیص هدف و دسترسی ناخواسته جمینای به اینترنت اعلام کرد.

ایرگیولار در اواخر ژوئیه گوگل را از این حادثه مطلع کرد، اما به نوشته وال‌استریت ژورنال، گوگل تا زمانی که این روزنامه در هفته جاری درباره این موضوع پرس‌وجو نکرد، جزئیات حادثه را علنی نکرده بود.

این حادثه در شرایطی رخ داده که نگرانی‌ها درباره رفتار‌های ناخواسته مدل‌های هوش مصنوعی افزایش یافته است.

رصدخانه «از دست رفتن کنترل» در ماه ژوئیه بیش از ۳۰۰ مورد از این حوادث را ثبت کرد که تقریباً دو برابر ماه قبل بود.

مدیران شرکت‌های آنتروپیک، اوپن‌ای‌آی، گوگل و ایکس‌ای‌آی از درخواست‌ها برای کند کردن روند توسعه هوش مصنوعی حمایت کرده‌اند.

دونالد ترامپ، رئیس‌جمهور آمریکا، با محدودیت‌هایی از این دست مخالفت کرده و گفته است چنین محدودیت‌هایی می‌تواند توان آمریکا را در رقابت فناوری با چین تضعیف کند.

منبع: تسنیم

لینک کپی شد

منبع: تسنیم

اشتراک‌ گذاری