میلیون‌ها تصویر جنسی در دستان گراک

گزارش‌ها نشان می‌دهد ابزار هوش مصنوعی گراک متعلق به ایکس طی ۱۱ روز بیش از ۳ میلیون تصویر جنسی تولید کرده است.

به گزارش مجله خبری نگار به نقل از انگجت، گزارش تازه‌ای نشان می‌دهد ابزار هوش مصنوعی گراک، متعلق به شرکت xAI و فعال در پلتفرم ایکس، طی بازه‌ای کوتاه حجم بالایی از تصاویر جنسی‌سازی‌شده تولید کرده است؛ موضوعی که بار دیگر بحث مسئولیت‌پذیری شرکت‌های هوش مصنوعی و کارآمدی سازوکار‌های نظارتی را به مرکز توجه بازگردانده است.

پژوهشی مستقل تخمین می‌زند که گراک طی حدود ۱۱ روز، میلیون‌ها تصویر با محتوای جنسی تولید کرده است. در میان این خروجی‌ها، مواردی شناسایی شده که نگرانی‌هایی جدی درباره نقض اصول ایمنی، به‌ویژه در حوزه حفاظت از کودکان، ایجاد کرده‌اند.

این بررسی توسط مرکز مقابله با نفرت دیجیتال انجام شده و بر تحلیل نمونه‌ای از خروجی‌های تولیدشده توسط این ابزار تکیه دارد. پژوهشگران تأکید می‌کنند که مسئله اصلی، مقیاس تولید محتوا و ضعف در فیلتر‌های پیشگیرانه است، نه صرفاً وجود موارد تخلف‌آمیز منفرد.

گراک به‌عنوان یکی از محصولات جدید هوش مصنوعی، در ماه‌های اخیر هم‌زمان با بحث‌های گسترده درباره شفافیت الگوریتم‌ها و سیاست‌های محتوایی پلتفرم ایکس مطرح بوده است. منتقدان می‌گویند این گزارش نشان می‌دهد که سرعت توسعه ابزار‌های مولد، از چارچوب‌های نظارتی و اخلاقی پیشی گرفته است.

شرکت xAI در واکنش به این گزارش، ادعا کرده که محدودیت‌ها و اصلاحات فنی برای کاهش سوءاستفاده‌ها اعمال شده است. با این حال، نهاد‌های مدنی و برخی قانون‌گذاران معتقدند اقدامات انجام‌شده کافی نیست و خواستار نظارت سخت‌گیرانه‌تر بر ابزار‌های تولید محتوای مبتنی بر هوش مصنوعی شده‌اند.

کارشناسان می‌گویند این پرونده می‌تواند به نمونه‌ای مهم در آینده مقررات‌گذاری هوش مصنوعی تبدیل شود.

لینک کپی شد

اشتراک‌ گذاری