هوش مصنوعی و تاریک‌ترین سوءاستفاده‌های اینترنتی؛ هشدار تازه درباره هرزه‌نگاری هوشمند

به گزارش مجله خبری نگار، حکایتِ «گل بود و به سبزه نیز آراسته شد» است! تا پیش از اینها تولید و انتشار محتوا و تصاویر اینترنتی مربوط به سوءاستفاده جنسی از کودکان، یک معضل به حساب می‌آمد. حالا که چندسالی است فضای وب به سبزه هوش مصنوعی آراسته شده و پدیده «جعل عمیق» هم شکل گرفته، قطعاً باید توقع داشت معضل محتوا‌های سوءاستفاده جنسی از کودکان، شکل و شمایل اسفبارتری پیدا کند. «گاردین» هفته پیش گزارشی را در این زمینه منتشر کرد که در آن از قول «بنیاد دیده‌بان اینترنت» گفته شده بود با وجود نظارت‌های آنلاین و هشدار‌های قانونی، تعداد تصاویر با محتوای سوءاستفاده جنسی از کودکان که توسط هوش مصنوعی تولید شده، افزایش چشمگیری نسبت به سال گذشته داشته است.

در حد روزنه امید

بنیاد دیده‌بان اینترنت (IWF) در واقع یک مؤسسه خیریه ثبت شده در کمبریج، انگلستان است. هدف و فعالیت این مؤسسه آن طور که در اساسنامه‌اش آمده: «به حداقل رساندن دسترسی به محتوای سوءاستفاده جنسی آنلاین، به ویژه تصاویر و ویدئو‌های سوءاستفاده جنسی از کودکان در هر کجای جهان» است. این بنیاد به عنوان بخشی از عملکرد خود، سال‌هاست فهرست آدرس‌های اینترنتی را به صورت مدام در اختیار شرکا و همکارانش می‌گذارد تا بتوانند نسبت به مسدود کردن محتوا‌های مربوط به سوءاستفاده جنسی از کودکان اقدام کنند. سرویس گزارش‌دهی مردمی به صورت آنلاین و همچنین با استفاده از خط تلفن ملی در این مؤسسه به شدت فعال است و مأموران این مؤسسه نیز به صورت دائم فضای وب را رصد و پایش می‌کنند تا محتوا‌های مربوط به سوءاستفاده جنسی از کودکان را بیابند و از ارائه‌دهندگان خدمات اینترنتی بخواهند وب‌سایت‌های حاوی این محتوا‌ها را حذف کرده و یا اگر خارج از حوزه قضایی انگلستان هستند، آنها را مسدود کنند. بنیاد دیده‌بان اینترنت که پیش از این کل محتوا‌های مربوط به سوءاستفاده جنسی (کودک و بزرگسال) را رصد می‌کرد، طی چند سال اخیر فقط روی رصد و پایش محتوا‌های سوءاستفاده جنسی کودکان متمرکز شده است.

البته با توجه به گستردگی و رها بودن فضای وب، شاید فعالیت مؤسسات و تشکیلاتی مثل بنیاد دیده‌بان اینترنت واقعاً ناچیز باشد؛ اما می‌تواند برای خانواده‌ها و آنهایی که نگران وفور محتوا‌های مربوط به سوءاستفاده جنسی از کودکان هستند، روزنه امید به حساب بیاید.

مشتی از خروار‌ها

در گزارش سال ۲۰۱۸ این بنیاد، وقتی هنوز هوش مصنوعی به اندازه امروز فراگیر نبود، آمده بود: «بیش از ۱۰۰ هزار ویدئو و عکس کودک‌آزاری و سوءاستفاده جنسی کودکان از فضای مجازی پاک‌سازی شده است. هر چند این تنها بخش بسیار کمی از کل محتوای مشابه در وب است؛ اما در قیاس با تلاش‌های پیشین، با توجه به استفاده بیشتر و بهینه‌تر از تکنولوژی، این تلاش آغازی تازه برای مبارزه علیه انتشار و نمایش محتوای آزار جنسی کودکان در وب است».

آمار‌های منتشر شده سال ۲۰۱۸ بیانگر عمق فاجعه‌ای بودند که در اینترنت جریان داشت. مدارک موجود نشان می‌داد بیش از ۴۰درصد صفحاتی که توسط بنیاد از اینترنت پاک‌سازی شده بود، محتوای آزار جنسی کودکانی ده ساله یا کمتر را در خود داشتند و بیش از هزار و ۳۰۰ مورد از این محتوا‌ها مربوط به نوزادان و خردسالان بوده است!

در آن سال فِرِد لانگفورد، قائم مقام بنیاد گفته بود: «ما هنوز نمی‌دانیم دقیقاً چه میزان محتوای غیرقانونی مشابه در اینترنت هست.... هر چه مردم بیشتری به اینترنت دسترسی پیدا کنند، محتوای غیرقانونی بیشتری هم در وب خواهد بود».

این آمار البته مشتی از خروار است و خودتان می‌توانید حدس بزنید از وقتی استفاده از هوش مصنوعی برای تولید محتوا مرسوم شده و در دسترس همگان قرار گرفته، اوضاع باید چقدر فاجعه‌بارتر شده باشد.

تا سال ۲۰۲۳ دست‌اندرکاران بنیاد دیده‌بان اینترنت هنوز چیزی از نگرانی‌هایشان در مورد استفاده از هوش مصنوعی برای تولید محتوا‌های سوءاستفاده‌گرانه جنسی چیزی بروز نداده بودند؛ اما گزارش سال ۲۰۲۴ آنها واقعیت تلخی را آشکار کرد. هرزه‌نگاران و تولیدکنندگان محتوا‌های سوءاستفاده جنسی از کودکان، به کمک هوش مصنوعی کارشان را توسعه داده و سرعت بخشیده بودند. هوش مصنوعی علاوه بر سرعت، دقت و کیفیت فاجعه را هم بالا برده بود! هرزه‌نگاران می‌توانستند سر و صورت کودکان مختلف را روی تصاویر مستهجن به شکلی مونتاژ کنند که بیش از ۹۰درصد واقعی به نظر می‌رسید!

خودتان به فکر باشید

حالا تازه‌ترین گزارش بنیاد دیده‌بان اینترنت می‌گوید اوضاع باز هم بدتر و کار برای دست‌اندرکاران مبارزه با این معضل سخت‌تر شده است.

آمار و ارقام تازه می‌گویند محتوای سوءاستفاده جنسی از کودکان که توسط هوش مصنوعی تولید می‌شود، به صورت آنلاین در حال افزایش است و میزان محتوای غیرقانونی بررسی شده در سال ۲۰۲۶ از کل محتوای سال ۲۰۲۵ فراتر رفته است.

در بخش‌هایی از گزارش آمده که در سال ۲۰۲۶ بیشتر تولید محتوا‌ها به صورت ویدئو بوده و اغلب ویدئو‌ها و تصاویری که تحلیلگران، آنها را بررسی کرده‌اند، مربوط به دختران و کودکان هفت تا سیزده ساله بوده است. مسئولان بنیاد اعلام کرده‌اند این آمار و ارقام هشدار می‌دهند که باید مقررات جدیدی در مورد استفاده از هوش مصنوعی وضع کرد. هانا سویرسکی، رئیس سیاست‌گذاری بنیاد دیده‌بان اینترنت می‌گوید: «این مشکل توسط فناوری ایجاد شده است؛ بنابراین شرکت‌های فناوری وظیفه دارند ابزار‌هایی بسازند که نتوان از آنها به این شکل سوءاستفاده کرد».

با وجود همه انتقاد‌ها و هشدار‌ها در این زمینه، به نظر می‌رسد هنوز دولت‌ها و همچنین غول‌های فناوری توجه چندانی به ماجرا ندارند و اراده قدرتمندی برای مقابله با این معضل وجود ندارد؛ بنابراین فعلاً خانواده‌ها خودشان باید بیش از هر کسی مراقب باشند. «گاردین» در پایان گزارش خود می‌نویسد: «بهره‌گیری از هوش مصنوعی برای ساخت محتوا‌هایی مربوط به سوءاستفاده جنسی از کودکان منجر به این شده که آژانس ملی جرایم در انگلستان و بنیاد دیده‌بان اینترنت فقط بتوانند والدین را تشویق کنند تا تصاویر فرزندانشان را از رسانه‌های اجتماعی دور نگه داشته و از اشتراک‌گذاری آنها تا حد ممکن خودداری کنند».

منبع: قدس