ورود هوش مصنوعی به ایمن‌سازی فعالیت آنلاین کودکان

به گزارش مجله خبری نگار/ایران: کودکان کاربران مشتاق اینترنت و فناوری تلفن همراه هستند و آمار نشان می‌دهد که از هر سه کاربر اینترنت در سراسر جهان، یک نفر کودک است.

ازسوی دیگر، برای بسیاری از کودکان، تمایز بین دنیای آنلاین و آفلاین کاملاً مبهم است و ازآنجا که غالباً زمان زیادی آنلاین هستند در معرض خطر قرار دارند؛ خطر‌هایی که هوش مصنوعی (AI) می‌تواند آن‌ها را کم کند و تا حد امکان، فضای مجازی و آنلاین را برای کودکان مناسب‌سازی کند.

کودکان از مزایای بسیار اینترنت ازجمله آموزش و کسب دانش و اطلاعات بهره می‌گیرند و ازآنجا که در این محیط می‌توانند دوستان زیادی پیدا کنند و از سرگرمی‌های آن همچون بازی‌های آنلاین لذت ببرند، گاه به سختی می‌توان آن‌ها را از این فضا جدا کرد. با وجود مزایای بالا، کودکان در معرض آسیب‌پذیری و خطراتی همچون دسترسی به محتوای نامناسب، تعاملات مضر، سوء‌استفاده جنسی آنلاین و همچنین سوء‌استفاده از حقوق و نقض حریم شخصی‌شان قرار دارند.

هوش مصنوعی و راهکار‌هایی برای مقابله با خطرات فضای مجازی

در کشور ما هم کودکان حضوری فعال در حوزه اینترنت دارند و تاکنون طرح‌های زیادی ازجمله سیم کارت ویژه کودکان، راه‌اندازی اینترنت ویژه کودکان و تصویب سند صیانت از کودکان و نوجوانان در فضای مجازی در دستور کار قرار گرفته است. فارغ از موفق بودن یا نبودن این طرح‌ها، نگاهی به تلاش‌های جهانی برای کمتر کردن میزان مواجهه کودکان با خطرات فضای مجازی، خالی از لطف نیست.

گزارش مرکز مراقبت آنلاین کودک (COP) زیرمجموعه اتحادیه جهانی مخابرات از مقابله جهانی با خطرات حضور آنلاین کودکان در فضای مجازی نشان می‌دهد با وجود همه مشکلات موجود، می‌توان از راهکار‌هایی برای محافظت از کودکان در فضای مجازی کمک گرفت. از جمله این راهکار‌ها می‌توان به هوش مصنوعی و اپلیکیشن‌های کنترلگر والدین اشاره کرد. هوش مصنوعی ابزار قدرتمندی برای محافظت از کودکان آنلاین است به گونه‌ای که الگوریتم‌های مبتنی بر هوش مصنوعی می‌توانند محتوای نامناسب موجود در سایت‌ها و شبکه‌های اجتماعی را شناسایی کرده و به طور خودکار آن را حذف کنند.

این گزارش نشان می‌دهد هوش مصنوعی می‌تواند با تجزیه و تحلیل متن با استفاده از پردازش زبان طبیعی (NLP)، دریابد که زبان مخاطب کودک در فضای مجازی تهدیدآمیز است یا خیر. همچنین با کمک هوش مصنوعی می‌توان دریافت که احتمال بروز رفتار خطرناکی ازسوی مخاطب ناشناس کودک در فضای مجازی وجود دارد یا خیر.

جلوگیری از آزار سایبری کودکان

ازسوی دیگر هوش مصنوعی می‌تواند به جلوگیری از آزار سایبری کودک کمک کند و به والدین، مدیران مدرسه یا مدیران شبکه‌های اجتماعی اجازه می‌دهد در صورت لزوم، به سرعت مداخله کنند. همچنین می‌توان از هوش مصنوعی برای تجزیه و تحلیل محتوای آپلود شده توسط مخاطبان کودک و خود کودک استفاده کرد. این امر به والدین کمک می‌کند تا خطرات بالقوه مرتبط با همراهان و دوستان دیجیتال کودک و رفتار فرزند خود را شناسایی کنند.

علاوه بر این، هوش مصنوعی می‌تواند موارد آزار جنسی کودکان (CSAM) را در اینترنت شناسایی، فیلتر و حذف کند. الگوریتم‌های مبتنی بر هوش مصنوعی برای تشخیص چهره، تشخیص تصاویر و ویدیو‌ها و همچنین الگو‌های زبان که با CSAM مطابقت دارند، آموزش دیده‌اند و می‌توانند بسرعت محتوای مشکوک را شناسایی کنند. هوش مصنوعی می‌تواند با اسکن وب‌سایت‌ها و سایت‌های رسانه‌های اجتماعی برای یافتن این محتوا، از قرار گرفتن کودکان در معرض آن جلوگیری کند. تشخیص چهره همچنین می‌تواند به سازمان‌های مجری قانون کمک کند تا قربانیان را سریع‌تر شناسایی کنند. هوش مصنوعی می‌تواند بر رویداد‌های پخش زنده، چت‌روم‌ها و دیگر مکالمات آنلاین نظارت و این فضا‌ها را هم تعدیل کند؛ جایی که ممکن است تعاملات نامناسبی بین خردسالان و بزرگسالان رخ دهد. علاوه بر این، ابزار‌های هوش مصنوعی می‌تواند برای تجزیه و تحلیل عکس‌ها یا ویدیو‌های آپلود شده برای یافتن نشانه‌هایی از سوء‌استفاده احتمالی از کودکان مورد استفاده قرار گیرد و به والدین یا ناظران اجازه دهد در صورت لزوم مداخله کنند.

یک تیغ دولبه

در کنار مزایای هوش مصنوعی برای شناسایی خطر‌های فضای آنلاین برای کودکان و سالم‌سازی این فضا، مجرمان هم مترصد سوء‌استفاده از این فناوری برای آسیب رساندن به کودک و استثمار آنلاین و سوء‌استفاده از آن‌ها هستند. به تعبیری دیگر می‌توان اینترنت، هوش مصنوعی و سایر فناوری‌ها را یک تیغ دولبه دانست که میزان موفقیت ما در استفاده از آن‌ها به میزان سواد دیجیتال جامعه مربوط می‌شود. هرچه سواد دیجیتال والدین و تا حدی کودک بالاتر باشد می‌توان انتظار داشت که موانع بیشتری برای این مجرمان ایجاد شده و کودکان در فضای آنلاین امن‌تری حضور یابند.

اما مجرمان چگونه می‌توانند با استفاده از هوش مصنوعی به کودکان آسیب برسانند؟ مجرمان می‌توانند با استفاده از هوش مصنوعی، نقاط ضعف اقدامات امنیتی آنلاین را شناسایی کنند که این امر دسترسی به اطلاعات شخصی کودکان را برای آن‌ها آسان‌تر می‌کند. ایجاد حساب‌های جعلی در رسانه‌های اجتماعی با استفاده از هوش مصنوعی هم یکی دیگر از شگرد‌های مجرمان برای هدف قرار دادن کودکان است. این افراد همچنین می‌توانند از چت بات‌های مجهز به هوش مصنوعی برای فریب دادن کودکان ناآگاه به موقعیت‌ها یا فعالیت‌های خطرناک آن‌ها استفاده کنند.

همچنین دیپ‌فیک‌های (deepfake) تولید شده با کمک فناوری هوش مصنوعی هم می‌تواند برای اهداف مخربی مانند باج‌گیری، اخاذی یا انتشار اطلاعات نادرست استفاده شود. افزایش سواد دیجیتال به والدین کمک می‌کند تا راه‌های مناسبی برای حفاظت از فرزندانشان هنگام استفاده از اینترنت و فضای مجازی پیدا کنند.