وزیر بریتانیا: موج تصاویر برهنه جعلی زنان و دختران که توسط هوش مصنوعی "گروک" ایجاد شده، وحشتناک و غیرقابل قبول است

به گزارش مجله خبری نگار، پس از انتشار هزاران تصویر خصوصی دیپ‌فیک در فضای آنلاین، لیز کندال، وزیر فناوری بریتانیا، گفت که پلتفرم ایکس (که قبلاً توییتر نام داشت) باید «فوراً به این موضوع رسیدگی کند» و حمایت خود را از آفکام، نهاد ناظر بر ارتباطات بریتانیا، برای انجام «هرگونه اقدام اجرایی که ضروری بداند» ابراز کرد.

وزیر اظهار داشت: «ما نمی‌توانیم و اجازه انتشار این تصاویر تحقیرآمیز و اهانت‌آمیز را که بی‌رحمانه زنان و دختران را هدف قرار می‌دهد، نخواهیم داد. شکی نیست که بریتانیا انتشار بی‌پایان چنین مطالب نفرت‌انگیز و توهین‌آمیزی را در فضای آنلاین تحمل نخواهد کرد. همه ما باید برای ریشه‌کن کردن آن با هم همکاری کنیم.»

اظهارات او در بحبوحه هشدار‌هایی مطرح می‌شود مبنی بر اینکه «قانون ایمنی اینترنت» که هدف آن مقابله با آسیب‌های اینترنتی و محافظت از کودکان است، علیرغم فشار‌های دولت ترامپ برای تضعیف آن، نیاز به تقویت فوری دارد.

یکی از کارشناسان از «بازی تنیس» (جابه‌جایی تقصیر) بین پلتفرم‌هایی مانند X و نهاد‌های نظارتی بریتانیا هنگام بروز مشکلات انتقاد کرد و واکنش دولت را «به‌طور نگران‌کننده‌ای کند» توصیف کرد.

از سوی دیگر، جسالین کین، یکی از بازماندگان سوءاستفاده جنسی از کودکان، واکنش دولت را «ضعیف» توصیف کرد و به گاردین گفت که تا صبح سه‌شنبه، این چت‌بات هنوز به درخواست‌هایی برای دستکاری عکس او در سه سالگی برای پوشاندن بیکینی تانگ پاسخ می‌داد. درخواست‌های مشابهی که او به برنامه‌های ChatGPT و Gemini ارائه داد، رد شد.

کین گفت: «پلتفرم‌های دیگر این ضمانت‌ها را دارند، پس چرا گروک اجازه می‌دهد این تصاویر ایجاد شوند؟ تصاویری که من دیدم زننده و عمیقاً توهین‌آمیز بودند. دولت بیش از حد احساساتی و در واکنش به این اقدام کند بود، بنابراین این ابزار‌های هوش مصنوعی نیاز به مقررات بهتری دارند.»

روز دوشنبه، آفکام اعلام کرد که از نگرانی‌های جدی مطرح‌شده در مورد ایجاد تصاویر افراد کم‌پوشیده و تصاویر صریح جنسی از کودکان توسط گروک آگاه است. این نهاد اظهار داشت که با شرکت‌های X و xAI تماس گرفته است تا «درک کند که آنها برای رعایت تعهدات قانونی خود برای محافظت از کاربران بریتانیایی چه اقداماتی انجام داده‌اند» و بر اساس پاسخ‌های این شرکت‌ها، نیاز به تحقیق را ارزیابی خواهد کرد.

فشار بر وزرا برای اتخاذ موضع سختگیرانه‌تر در حال افزایش است؛ لرد بیبان کیدرون، عضو مستقل مجلس اعیان و فعال در زمینه ایمنی کودکان در فضای آنلاین، از دولت خواست تا «مقداری قدرت نشان دهد» و خواستار ارزیابی مجدد قانون ایمنی اینترنت شد تا آن را «سریع‌تر و مؤثرتر» کند.

کیدرون در مورد پلتفرم ایکس گفت: «اگر هر محصول مصرفی دیگری این سطح از آسیب را ایجاد می‌کرد، مدت‌ها پیش از بازار جمع می‌شد.» او افزود که آفکام باید «ظرف چند روز، نه چند سال» اقدام کند و از کاربران خواست «از محصولاتی که قصد جدی برای جلوگیری از آسیب به کودکان، زنان و دموکراسی ندارند، دوری کنند.»

آفکام (Ofcom) قدرت دارد تا سقف ۱۸ میلیون پوند یا ۱۰ درصد از درآمد جهانی سالانه پلتفرم‌های فناوری، هر کدام که بیشتر باشد، جریمه اعمال کند. بزرگترین جریمه تا به امروز ماه گذشته اعمال شد که در آن یک وب‌سایت پورنوگرافی به دلیل عدم انجام بررسی‌های اجباری سن، ۱ میلیون پوند جریمه شد.

ماه گذشته، وزرا قول قوانین جدیدی را برای ممنوعیت ابزار‌های «برهنه‌سازی» دادند، ابزار‌هایی که از هوش مصنوعی مولد برای تبدیل تصاویر افراد واقعی به عکس‌ها و ویدیو‌های برهنه جعلی بدون اجازه آنها استفاده می‌کنند، اما هنوز مشخص نیست که این ممنوعیت چه زمانی اجرا خواهد شد.

سارا اسمیت، رئیس نوآوری در موسسه خیریه لوسی فیث‌فول، که بر پیشگیری از کودک‌آزاری تمرکز دارد، از پلتفرم ایکس خواست تا فوراً ویژگی‌های ویرایش عکس گروک را غیرفعال کند تا زمانی که «حفاظت‌های قوی برای جلوگیری از تکرار آن برقرار شود».

ایکس به درخواست اظهار نظر در مورد اظهارات کندال پاسخی نداد، اما روز دوشنبه گفت: «ما با حذف محتوای غیرقانونی در ایکس، از جمله مطالب مربوط به سوءاستفاده جنسی از کودکان، به طور دائم حساب‌های کاربری را مسدود می‌کنیم و در صورت لزوم با دولت‌های محلی و مجریان قانون همکاری می‌کنیم.»

ایجاد یا اشتراک‌گذاری تصاویر خصوصی بدون رضایت افراد، یا محتوای سوءاستفاده جنسی از کودکان (از جمله تصاویر دیپ‌فیک تولید شده توسط هوش مصنوعی) از قبل غیرقانونی است. تصاویر جعلی از افراد با بیکینی ممکن است در دسته تصاویر خصوصی قرار گیرند، زیرا تعریف قانونی شامل فردی با سینه، باسن یا اندام تناسلی نمایان یا آن قسمت‌هایی است که فقط با لباس زیر پوشیده شده‌اند. تصاویر مستهجن همچنین شامل تصاویری می‌شود که کودکان را در حالت‌های وسوسه‌انگیز، حتی بدون فعالیت جنسی، به تصویر می‌کشند.

لرد کیدرون گفت که اگرچه تصاویر تولید شده توسط هوش مصنوعی از کودکان با بیکینی ممکن است در برخی موارد از نظر قانونی مصداق سوءاستفاده جنسی از کودکان نباشند، اما نشان‌دهنده تجاوز به حریم خصوصی و اراده کودکان هستند. او در پایان گفت: «ما نمی‌توانیم در جهانی زندگی کنیم که در آن کودکی نتواند عکسی از خود در حال برنده شدن در یک مسابقه منتشر کند، مگر اینکه آماده باشد مورد آزار جنسی قرار گیرد و تحقیر شود.»

منبع: گاردین