"اینستاگرام" با هوش مصنوعی کنترل خود را بر خردسالان تشدید می‌کند

به گزارش مجله خبری نگار، این حرکت بخشی از موج فزاینده فشار قانونی و اجتماعی بر غول‌های فناوری برای محافظت بهتر از کاربران کوچک است.

فناوری جدید به تجزیه و تحلیل عمیق الگو‌های رفتار دیجیتال متکی است، جایی که الگوریتم‌های هوش مصنوعی طیف وسیعی از شاخص‌های دقیق مانند ماهیت محتوایی که یک حساب با آن تعامل دارد، جزئیات نمایه و حتی زمان ایجاد حساب به دقت بررسی می‌کنند. هنگامی که هر گونه مغایرت شناسایی می‌شود که نشان می‌دهد سن واقعی کاربر کمتر از تبلیغ کننده است، سیستم به طور خودکار حساب را به "حالت نوجوانی" تغییر می‌دهد که محدودیت‌های امنیتی شدیدی را متناسب با گروه سنی واقعی کاربر اعمال می‌کند.

این محدودیت‌های جدید شامل خصوصی کردن حساب ها، محدود کردن گزینه‌های پیام رسانی فقط به مخاطبین شناخته شده، و فیلتر کردن محتوای حساس مانند کلیپ‌های خشونت آمیز یا‌هایی است که روش‌های زیبایی را تبلیغ می‌کنند.

این سیستم همچنین ویژگی‌های نظارتی اضافی مانند یادآوری به کاربران زیر ۱۸ سال برای استراحت در زمانی که برنامه بیش از یک ساعت متوالی است، و غیرفعال کردن اعلان‌ها در شب برای حفظ الگو‌های خواب سالم را ارائه می‌دهد.

این اقدامات پاسخی به انتقادات فزاینده‌ای است که متا از سوی تنظیم کننده‌ها و قانونگذاران با آن مواجه شده است، به طوری که ۳۳ ایالت ایالات متحده سال گذشته علیه این شرکت شکایت کردند و آن را به عدم محافظت از کاربران زیر سن قانونی متهم کردند. قانون جدیدی مانند قانون ایمنی آنلاین کودکان، که هدف آن ملزم کردن شرکت‌های فناوری به مسئولیت بیشتر برای محافظت از کاربران جوان است، نیز در حال حاضر در کنگره ایالات متحده در حال بحث است.

علاوه بر این پیشرفت‌های فناوری، متا با ارسال هشدار‌ها و راهنمایی‌ها ارتباط با والدین را افزایش می‌دهد تا به آنها کمک کند در مورد اهمیت شفافیت سنی با فرزندانشان صحبت کنند.

این شرکت همچنین اخیرا الزامات جدیدی را اعلام کرده است که کاربران زیر ۱۶ سال را ملزم می‌کند قبل از اینکه بتوانند ویدیو‌های زنده را پخش کنند، رضایت والدین را دریافت کنند، همراه با غیرفعال کردن ویژگی‌هایی که ممکن است آنها را در معرض محتوای نامناسب قرار دهد.

این تحولات بخشی از یک استراتژی گسترده‌تر است که شامل فیس بوک و مسنجر نیز می‌شود، زیرا متا به دنبال همگام شدن با استاندارد‌های امنیتی جدید تحمیل شده توسط دولت‌ها در سراسر جهان است. با این حال، این سوال باقی می‌ماند که با توجه به چالش‌های مداوم پیش روی بررسی سنی در دنیای دیجیتال، این اقدامات چقدر موثر خواهند بود و آیا شرکت‌های فناوری می‌توانند تعادل دشواری بین محافظت از کاربران جوان و حفظ تجربه کاربری یکپارچه ایجاد کنند.

منبع: Interesting Engineering