اینستاگرام کنترل بر حساب‌های نوجوانان و هوش مصنوعی را افزایش می‌دهد

به گزارش مجله خبری نگار-نیویورک: شرکت متا روز سه‌شنبه از ویژگی‌های جدیدی برای حساب‌های اینستاگرام نوجوانان رونمایی کرد که محدودیت‌های بیشتری را بر محتوایی که مشاهده می‌کنند، به‌ویژه محتوای مرتبط با روند‌هایی که می‌تواند به آنها آسیب برساند، اعمال می‌کند.

این گروه همچنین قصد دارد از سال آینده گفت‌و‌گو‌هایی را که کاربران جوان می‌توانند با دستیار‌های دیجیتالی خود داشته باشند، سازماندهی کند.

این به‌روزرسانی بیش از یک سال پس از راه‌اندازی حساب‌های کاربری نوجوانان اینستاگرام در سپتامبر ۲۰۲۴ منتشر می‌شود که به‌طور پیش‌فرض برای همه کاربران بین ۱۳ سال (حداقل سن مجاز در این پلتفرم) و ۱۸ سال تعیین شده است.

اولین محدودیت‌های اعمال‌شده بر حساب‌های کاربری نوجوانان، هرگونه محتوای جنسی یا تصاویر صریح یا تکان‌دهنده را ممنوع می‌کرد.

طبق بیانیه‌ای که توسط متا، مالک اینستاگرام، منتشر شده است، نسخه به‌روزرسانی‌شده همچنین توصیه برای «هر پستی که حاوی زبان تند یا چالش‌های خاصی باشد که خطرناک تلقی می‌شوند» یا به‌طورکلی، محتوایی که می‌تواند «رفتار بالقوه مضر» را تحریک کند، پنهان یا حذف خواهد کرد.

کاپوسین توویه، مدیر روابط عمومی متا برای حفاظت از کودکان، گفت: «ما در حال اضافه کردن یک مانع مجازی اضافی برای نوجوانان هستیم، به خصوص در مورد محتوای حساس و نامناسب.»

چارچوب اصلاح‌شده حساب کاربری نوجوانان بلافاصله در ایالات متحده، کانادا، بریتانیا و استرالیا اجرا خواهد شد و در ماه‌های آینده به سایر کشور‌ها نیز گسترش خواهد یافت.

برای تعیین اینکه کدام محتوا باید از نوجوانان پنهان شود، متا به رتبه‌بندی PG-۱۳ که در سینما‌های ایالات متحده استفاده می‌شود، استناد کرد که به والدین هشدار می‌دهد برخی از کلیپ‌های فیلم برای کودکان زیر ۱۳ سال توصیه نمی‌شود.

هیچ فهرست جامعی از موضوعات یا تصاویری که ممکن است منجر به این طبقه‌بندی شوند، وجود ندارد و این طبقه‌بندی منوط به صلاحدید یک کمیته تخصصی (CARA)، متشکل از والدین مستقل، است.

کاپوسین توویه در پاسخ به سوالی در مورد تصمیم برای اتخاذ استاندارد‌هایی که در ابتدا برای افراد زیر ۱۳ سال در نظر گرفته شده بود، برای نوجوانان ۱۳ تا ۱۸ ساله گفت: «ما می‌خواهیم محدودکننده‌ترین و محافظت‌کننده‌ترین استاندارد‌ها را برای نوجوانان اتخاذ کنیم.»

او نمونه‌هایی از محتوایی را ارائه داد که «رژیم‌های غذایی سخت» یا «الکل یا دخانیات را ستایش یا تبلیغ می‌کند». پیام‌ها، عکس‌ها یا ویدیو‌های ارسال شده با استفاده از ترکیبی از هوش مصنوعی و ارزیابی‌های اپراتور‌های انسانی طبقه‌بندی می‌شوند.

– نقش هوش مصنوعی –

متا توضیح داد که سیستم‌هایش به‌طور خودکار کاربران زیر ۱۸ سال را در حالت ۱۳+ قرار می‌دهند و آنها بدون اجازه والدین قادر به خروج از این حالت نخواهند بود.

این گروه نه تنها به آنچه کاربران در پلتفرم‌های خود اعلام می‌کنند، بلکه به سیستم‌های کنترل سن موجود که «سیگنال‌های» بالقوه را بر اساس میزان استفاده از پلتفرم شناسایی می‌کنند، نیز متکی است.

در صورت شک، متا نیاز به تأیید سن با نشان دادن کارت شناسایی یا از طریق یک ویدیوی سلفی دارد.

این غول رسانه‌های اجتماعی همچنین روز سه‌شنبه قابلیتی را برای والدین راه‌اندازی کرد تا محدودیت‌های بیشتری را بر محتوایی که نوجوانانشان می‌توانند مشاهده کنند، اعمال کنند.

این ویژگی «محتوای محدود» به طور قابل توجهی مانع از مشاهده، نوشتن یا دریافت نظرات کاربران جوان‌تر در مورد پست‌ها می‌شود.

متا اظهار داشت که «از سال آینده، این گزینه مکالماتی را که نوجوانان می‌توانند با استفاده از هوش مصنوعی داشته باشند نیز محدود خواهد کرد.»

این تحولات در بحبوحه انتقادات گسترده از اثرات منفی رسانه‌های اجتماعی و برنامه‌های کمکی مبتنی بر هوش مصنوعی مولد، به ویژه پس از خودکشی چندین نوجوان در ماه‌های اخیر، رخ داده است.

در اوایل ماه سپتامبر، کمیسیون حمایت مالی مصرف‌کننده ایالات متحده (CFPC) اعلام کرد که پس از شکایت اخیر علیه OpenAI، توسعه‌دهنده ChatGPT، تحقیقاتی را در مورد چت‌بات‌هایی که به عنوان دستیار‌های مبتنی بر هوش مصنوعی مانند ChatGPT یا Grok استفاده می‌شوند، آغاز کرده است.

چند روز پیش، این شرکت مستقر در کالیفرنیا از راه‌اندازی سیستمی خبر داد که به والدین امکان می‌دهد فعالیت نوجوانان خود را در ChatGPT نظارت کنند، پس از آنکه چندین والدین در اواخر ماه اوت این برنامه را به تشویق فرزندانشان به خودکشی متهم کردند.

گوین نیوسام، فرماندار کالیفرنیا، روز دوشنبه قانونی را امضا کرد که اپراتور‌های دستیار‌های خودکار را ملزم می‌کند سن کاربران را تأیید کنند و هر سه ساعت یکبار به افراد زیر سن قانونی یادآوری کنند که شخصی که با او صحبت می‌کنند فقط یک ماشین است.

(خبرگزاری فرانسه)