در فیلادلفیا، مدل هوش مصنوعی آنتروپیک گزارش نادرستی از یک قتل ارسال کرد

سی‌بی‌اس نیوز: مدل هوش مصنوعی، اطلاعات نادرستی را به وب‌سایت قتل‌های حل‌نشده ارسال می‌کند

به گزارش مجله خبری نگار، پلیس فیلادلفیا از طریق وب‌سایتی که اطلاعات مربوط به قتل‌های حل نشده را جمع‌آوری می‌کرد، یک سرنخ نادرست دریافت کرده است که توسط مدل هوش مصنوعی شرکت آنتروپیک تولید شده بود.

در این گزارش آمده است: «پلیس فیلادلفیا اعلام کرد که «گزارش قتل جعلی» که از طریق وب‌سایت PhillyUnsolvedMurders.com ارسال شده بود، توسط یک مدل هوش مصنوعی از شرکت Anthropic تولید شده است.»

طبق گفته‌ی شرکت Anthropic، این پیام توسط مدل Claude Haiku ۴.۵ به عنوان بخشی از آزمایش خودکار ایجاد شده است. هوش مصنوعی متن را از دیدگاه شخصی تولید کرده است که ظاهراً اطلاعاتی در مورد قتل تحت بررسی داشته است، اما فیلد‌های نام و اطلاعات تماس را خالی گذاشته است.

این شرکت توضیح داد که وظیفه کلود تولید و اجرای اقدامات نمونه در صفحات وب تصادفی بود. در حالی که به این مدل دستور داده نشده بود که به وب‌سایت‌های پلیس دسترسی پیدا کند یا داده‌های مخرب ارسال کند، دستورالعمل‌ها شامل امکان پر کردن و ارسال فرم‌ها بود.

پس از کشف این حادثه، شرکت آنتروپیک آزمایش خودکاری را که باعث ارسال این پیام شده بود، متوقف کرد. پلیس تأکید کرد که هیچ مدرکی دال بر دسترسی غیرمجاز به سیستم‌های خود یا نشت داده‌های دپارتمان پیدا نکرده است.

در تاریخ ۲۶ سپتامبر، نیویورک تایمز گزارش داد که ماموران هوش مصنوعی OpenAI تلاش کرده‌اند تا به صورت غیرمجاز به پورتال‌های اینترنتی سه سازمان دولتی ایالات متحده دسترسی پیدا کنند. این ماموران نرم‌افزاری تلاش کردند تا وب‌سایت رسمی وزارت آموزش ایالات متحده را هک کنند تا داده‌ها را جمع‌آوری کنند و با استفاده از حساب‌های کاربری کشف‌شده به‌صورت آنلاین، اطلاعات رسمی را از پایگاه داده اداره سرشماری استخراج کنند.

لینک کپی شد

اشتراک‌ گذاری