دیپ‌فیک‌های مبتنی بر هوش مصنوعی در حال تبدیل شدن به یک تهدید جهانی

اتحادیه بین‌المللی ارتباطات در جریان اجلاس (AI for Good Summit) در ژنو، هشدار داد دیپ‌فیک‌های مبتنی بر هوش مصنوعی به‌سرعت به یکی از تهدید‌های جدی و رو‌به‌رشد در فضای دیجیتال تبدیل شده‌اند

به گزارش مجله خبری نگار/برنا -اتحادیه بین‌المللی ارتباطات (ITU) وابسته به سازمان ملل متحد اعلام کرد: شرکت‌ها باید از ابزار‌های پیشرفته‌تری برای شناسایی و مقابله با اطلاعات نادرست و محتوای دیپ‌فیک استفاده کنند تا از افزایش خطر دخالت در انتخابات و کلاهبرداری‌های مالی جلوگیری شود.

به گزارش رویترز، اتحادیه بین‌المللی ارتباطات در جریان اجلاس (AI for Good Summit) در ژنو، هشدار داد دیپ‌فیک‌های مبتنی بر هوش مصنوعی به‌سرعت به یکی از تهدید‌های جدی و رو‌به‌رشد در فضای دیجیتال تبدیل شده‌اند.

اتحادیه بین‌المللی ارتباطات خواستار استاندارد‌های قوی و منسجم برای مقابله با محتوای چندرسانه‌ای دستکاری‌شده شد و پیشنهاد کرد که توزیع‌کنندگان محتوا، از جمله پلتفرم‌های شبکه اجتماعی، از ابزار‌های احراز اصالت دیجیتال برای تأیید اعتبار تصاویر و ویدیو‌ها پیش از انتشار استفاده کنند.

بیلل جموسی، رئیس گروه‌های مطالعاتی در دفتر استانداردسازی اتحادیه بین‌المللی ارتباطات، در این‌باره گفت: «اعتماد عمومی به شبکه‌های اجتماعی به‌شدت کاهش یافته، زیرا مردم نمی‌دانند چه چیزی واقعی است و چه چیزی ساختگی. مقابله با دیپ‌فیک‌ها به‌دلیل توانایی بالای هوش مصنوعی مولد در تولید محتوای چندرسانه‌ای واقع‌نما، یکی از چالش‌های اصلی است.»

لئونارد روزنثال از شرکت ادوبی (پیشرو در توسعه نرم‌افزار‌های ویرایش دیجیتال که از سال ۲۰۱۹ در زمینه مقابله با دیپ‌فیک فعال است) نیز بر اهمیت تعیین منبع اصلی محتوا تأکید کرد و گفت: این اطلاعات به کاربران کمک می‌کند تا درباره میزان اعتماد به تصاویر و ویدیو‌ها تصمیم‌گیری کنند.

وی همچنین افزود: «ما نیاز داریم مکان‌هایی که کاربران محتوا مصرف می‌کنند، این اطلاعات را نمایش دهند... وقتی در حال مرور فید‌های شبکه‌های اجتماعی هستید، باید بدانید که آیا می‌شود به این تصویر یا ویدیو اعتماد کرد یا نه.»

فرزانه بدیعی، بنیان‌گذار مؤسسه پژوهشی Digital Medusa، نیز بر لزوم اتخاذ یک رویکرد جهانی برای مقابله با دیپ‌فیک‌ها تأکید کرد و هشدار داد: «نبود یک نهاد بین‌المللی متمرکز برای شناسایی محتوای دستکاری‌شده، این تهدید را تشدید می‌کند. اگر مجموعه‌ای پراکنده از استاندارد‌ها و راهکار‌ها داشته باشیم، دیپ‌فیک‌های مخرب می‌توانند مؤثرتر عمل کنند.»

لینک کپی شد

اشتراک‌ گذاری