GROk پس از گزارش‌هایی مبنی بر تولید محتوای صریح جنسی، نقص‌های سیستم خود را پذیرفت

به گزارش مجله خبری نگار، حساب کاربری گروک در X روز جمعه در پاسخ به شکایت یکی از کاربران، چند روز پس از دریافت گزارش‌هایی در این پلتفرم، نوشت: «ما خلا‌هایی را در اقدامات حفاظتی خود شناسایی کرده‌ایم و در تلاشیم تا فوراً آنها را برطرف کنیم. سوءاستفاده جنسی از کودکان غیرقانونی و ممنوع است.»

این گزارش‌ها مربوط به اقدامات کاربران اینترنتی است که عکس‌ها یا ویدیو‌هایی از افراد واقعی، از جمله کودکان و نوجوانان، را به "Groc" ارسال کرده و از دستیار هوش مصنوعی خواسته‌اند تا آنها را ویرایش کند تا برهنگی کامل یا جزئی را نشان دهد.

شرکت هوش مصنوعی XAI متعلق به ایلان ماسک، تاجر آمریکایی که Grok را توسعه داده است، هیچ واکنش عمومی به این جنجال اخیر پیرامون دستیار خود منتشر نکرده است، دستیاری که پیش از این در ماه‌های اخیر به دلیل انتشار پاسخ‌های جنجالی در مورد جنگ غزه، درگیری هند و پاکستان و اظهارات یهودستیزانه مورد انتقاد قرار گرفته بود.

این شرکت به سوالات خبرگزاری فرانسه صرفاً با یک بیانیه خودکار پاسخ داد که «رسانه‌های سنتی دروغ می‌گویند»، بدون هیچ توضیح بیشتری. با این حال، برنامه خودکار «Groc» این شرکت پاسخ داد که هر شرکتی در ایالات متحده «اگر آگاهانه تولید» پورنوگرافی کودکان را تسهیل کند یا از آن جلوگیری نکند، «خود را در معرض مسئولیت مدنی یا کیفری قرار می‌دهد».

علاوه بر افراد زیر سن قانونی، آسیب‌پذیری‌های «Groc» زنان بالغ را نیز تحت تأثیر قرار داد، زیرا این برنامه عکس‌های آنها را در سایت‌های رسانه‌های اجتماعی به درخواست کاربران به صورت دیجیتالی تغییر می‌داد و بدون رضایت آنها، آنها را در معرض دید قرار می‌داد.

بر اساس نامه‌ای که در مطبوعات هند منتشر شد، وزارت الکترونیک و فناوری اطلاعات هند روز جمعه با صدور اطلاعیه‌ای رسمی به شرکت X، از این پلتفرم خواست تا ظرف ۷۲ ساعت گزارش مفصلی از اقدامات انجام شده برای حذف «محتوای مستهجن، ناشایست، مستهجن و جنسی» ایجاد شده توسط اپلیکیشن Grok بدون رضایت زنان مربوطه ارائه دهد.

در فرانسه، دفتر دادستانی عمومی پاریس روز جمعه پس از گزارش سه وزیر و دو معاون مبنی بر تولید و انتشار ویدیو‌های جنسی جعلی «با حضور افراد زیر سن قانونی»، تحقیقات خود را در مورد پلتفرم «X» گسترش داد تا ابزار هوش مصنوعی «Groc» را نیز شامل شود.

وزرا و دو نماینده مجلس شکایت کردند که ویدیو‌های دیپ‌فیک گروک که ماهیت جنسی دارند، بدون رضایت افرادی که در آنها حضور دارند، در X منتشر می‌شوند.

این تحقیق که «ایکس» را هدف قرار داده، ژوئیه گذشته و پس از گزارش‌هایی علیه این شبکه اجتماعی و مسئولان آن که آنها را به دستکاری الگوریتم این پلتفرم متهم می‌کرد، آغاز شد.

دفتر دادستانی عمومی توضیح داد که جرم ایجاد تصاویر یا ویدیو‌های مستهجن از افراد بدون رضایت آنها، دو سال زندان و ۶۰ هزار یورو جریمه نقدی را در پی دارد.

اریک بوتوریل و آرتور دلاپورت، نمایندگان مجلس، روز جمعه دادخواستی را مطرح کردند که منجر به گسترش تحقیقات شد.

وزرای رولان لسکور، آن لو هانون و اورور برژه نیز روز جمعه اعلام کردند که دفتر دادستانی عمومی را در مورد «محتوای غیرقانونی» مطلع کرده‌اند و خواستار حذف فوری آن شده‌اند.

منبع: خبرگزاری فرانسه