ارسال گفت‌و‌گو‌های مرتبط با خودکشی یا خودآزاری کودکان برای والدین توسط اینستاگرام

به گزارش مجله خبری نگار، Meta در صورت شناسایی گفت‌و‌گو‌های مرتبط با خودکشی یا خودآزاری در Meta AI، والدین را به‌صورت خودکار مطلع می‌کند.

هشدار‌ها تنها در حساب‌هایی فعال می‌شوند که قابلیت نظارت والدین در آنها روشن باشد.

تمام گفت‌و‌گو‌های پرخطر پیش از ارسال هشدار، توسط نیروی انسانی بررسی می‌شوند.

اینستاگرام گفت‌و‌گو‌های پرخطر هوش مصنوعی را به والدین گزارش می‌دهد

Meta از قابلیت جدیدی در اینستاگرام رونمایی کرده است که در صورت شناسایی گفت‌و‌گو‌های نگران‌کننده نوجوانان با Meta AI درباره خودکشی یا خودآزاری، به‌صورت خودکار والدین را مطلع می‌کند. این اقدام بخشی از مجموعه به‌روزرسانی‌های جدید شرکت برای مدیریت بهتر گفت‌و‌گو‌های حساس با هوش مصنوعی است.

این شرکت همچنین اعلام کرده است که در حال توسعه ابزار‌هایی است که در صورت تشخیص «خطر قریب‌الوقوع خودکشی» در گفت‌و‌گو‌های کاربران با هوش مصنوعی، بتوانند تیم‌های امداد و مداخله اولیه را نیز آگاه کنند.

Meta چرا این قابلیت را به اینستاگرام اضافه کرده است؟

بر اساس گزارش Independent، Meta اعلام کرده است که این تغییرات در چارچوب به‌روزرسانی‌های گسترده‌ای انجام شده‌اند که هدف آنها ارائه پاسخ مناسب به گفت‌و‌گو‌های مرتبط با موضوعات حساسی مانند خودکشی، خودآزاری است.

ارسال خودکار هشدار برای والدین

طبق اعلام Meta، در حساب‌های اینستاگرامی که قابلیت نظارت والدین روی آنها فعال شده باشد، اگر یک کودک یا نوجوان در گفت‌و‌گو با ربات Meta AI درباره خودآزاری یا خودکشی صحبت کند، سیستم به‌صورت پیشگیرانه والدین را مطلع خواهد کرد.

این هشدار‌ها از طریق اینستاگرام یا پیامک (SMS) ارسال می‌شوند.

به گفته Meta، این قابلیت برای شناسایی «نشانه‌هایی که با همکاری متخصصان توسعه یافته‌اند» طراحی شده است.

هوش مصنوعی چگونه گفت‌و‌گو‌های پرخطر را شناسایی می‌کند؟

Meta در توضیح عملکرد این سیستم اعلام کرد:

«ما با همکاری والدین، متخصصان مشخص کردیم که چه نوع گفت‌و‌گو‌هایی با هوش مصنوعی نیازمند اطلاع‌رسانی به والدین هستند. حتی اگر یک نوجوان به شکلی غیرمستقیم تمایل خود به آسیب رساندن به خود را بیان کند، این موارد نیز در ارزیابی لحاظ می‌شوند. سپس یک سیستم اختصاصی هوش مصنوعی توسعه دادیم که قادر به شناسایی چنین گفت‌و‌گو‌هایی باشد.»

تمام هشدار‌ها ابتدا توسط انسان بررسی می‌شوند

Meta تأکید کرده است که از حساسیت این نوع هشدار‌ها برای خانواده‌ها آگاه است.

به همین دلیل، تمام گفت‌و‌گو‌هایی که توسط هوش مصنوعی به‌عنوان پرخطر شناسایی می‌شوند، پیش از ارسال هشدار برای والدین توسط نیروی انسانی به‌صورت دستی بررسی خواهند شد.

با این حال، شرکت اعلام کرده است که حتی در مواردی که تشخیص قطعی وجود نداشته باشد نیز رویکردی محتاطانه در پیش خواهد گرفت، همچنین ترجیح می‌دهد والدین را از احتمال وجود خطر آگاه کند.

موضع Meta درباره احتمال هشدار‌های اشتباه

این شرکت در بیانیه خود اعلام کرد:

«این رویکرد ممکن است در برخی موارد باعث شود حتی زمانی که خطر واقعی وجود ندارد نیز والدین را مطلع کنیم. با این حال، معتقدیم این نقطه شروع مناسبی است، همچنین به پایش مداوم سیستم ادامه خواهیم داد تا از ایجاد تعادل مناسب اطمینان حاصل کنیم.»

سؤالات متداول

آیا همه کاربران اینستاگرام این هشدار‌ها را دریافت می‌کنند؟

خیر. این قابلیت برای حساب‌هایی طراحی شده است که ابزار‌های نظارت والدین در آنها فعال شده باشد.

هشدار‌های والدین از چه طریقی ارسال می‌شوند؟

Meta اعلام کرده است که هشدار‌ها از طریق اینستاگرام یا پیامک (SMS) ارسال خواهند شد.

آیا هوش مصنوعی به‌تنهایی درباره ارسال هشدار تصمیم می‌گیرد؟

خیر. گفت‌و‌گو‌هایی که توسط هوش مصنوعی پرخطر تشخیص داده می‌شوند، پیش از ارسال هشدار توسط نیروی انسانی بررسی خواهند شد.

Meta روی چه قابلیت جدید دیگری کار می‌کند؟

این شرکت در حال توسعه ابزار‌هایی است که در صورت تشخیص خطر قریب‌الوقوع خودکشی، بتوانند تیم‌های امداد و مداخله اولیه را نیز مطلع کنند.

جمع‌بندی

اینستاگرام با معرفی سیستم جدید اطلاع‌رسانی به والدین، گام تازه‌ای در افزایش ایمنی نوجوانان هنگام استفاده از Meta AI برداشته است. این قابلیت با تکیه بر هوش مصنوعی، بررسی انسانی، همکاری متخصصان طراحی شده است تا در مواجهه با گفت‌و‌گو‌های مرتبط با خودکشی یا خودآزاری، امکان واکنش سریع‌تر فراهم شود. 

منبع:فوت و فن