مراکش: فناوری جدیدی که توسط گوگل اعلام شده، نگرانی‌هایی را در میان کارشناسان این کشور پادشاهی ایجاد کرده است

به گزارش مجله خبری نگار، این نوآوری که تنها به اندازه یک تار نازک با واقعیت فاصله دارد، موجی از هشدار‌ها را در محافل فناوری مراکش برانگیخته است که نگرانی فزاینده‌ای را در مورد مقیاس چالش‌های ناشی از این فناوری، به ویژه با توجه به چارچوب قانونی ضعیف حاکم بر چنین نوآوری‌هایی، ابراز کرده‌اند.

هسپرس گزارش داد که با گسترش سریع ویدیو‌هایی که با دقت ساخته شده‌اند و واقعیت را تا حدی تقلید می‌کنند که برای کاربر عادی تشخیص آنها از فیلم واقعی دشوار است، درخواست‌ها برای اقدام فوری برای رسیدگی به پیامد‌های این تحولات دیجیتال که نه تنها حریم خصوصی و حقوق هنری افراد را تهدید می‌کند، بلکه به تمامیت زندگی سیاسی و اعتبار اطلاعات در حوزه عمومی نیز گسترش می‌یابد، رو به افزایش است.

یک جهش تکنولوژیکی شگفت‌انگیز، مملو از خطرات

طیب الحزاز، متخصص بین‌المللی مراکشی در حوزه امنیت سایبری، گفت که از زمان آغاز برنامه «Veo-۳» تنها ۴۸ ساعت پیش، ویدیو‌هایی به صورت آنلاین منتشر شده‌اند که کاملاً معتبر به نظر می‌رسند، اما بعداً مشخص می‌شود که هوش مصنوعی بوده‌اند.

او معتقد است گوگل پس از آنکه برنامه Gemini در رقابت با ابزار‌هایی مانند ChatGPT شکست خورد، به این مرحله متوسل شد و خاطرنشان کرد که Veo-۳ یک جهش تکنولوژیکی شگفت‌انگیز است، اما مملو از خطرات است.

الحزاز افزود که این فناوری می‌تواند به یک تهدید مستقیم در مراکش تبدیل شود، مگر اینکه قانونی برای حمایت از آن وضع شود، به ویژه با توجه به پتانسیل آن برای تولید فیلم، سریال و صحنه‌های زنده با حضور افراد واقعی، که می‌تواند به حقوق فردی و خلاقانه آسیب برساند و محافظت از حریم خصوصی و حقوق هنرمندان را دشوار کند.

این سخنگو اظهار داشت که آنچه امروز نگران‌کننده است این است که فرآیند خلاقانه دیگر نیازی به فیلمنامه‌نویس، کارگردان یا گروه فیلمبرداری ندارد. در عوض، صرفاً ارائه یک متن ساده به هوش مصنوعی، محتوای کاملی را به صورت بصری تولید می‌کند.

او اشاره کرد که این تغییر، تهدیدی جدی برای آینده خلاقیت و حقوق مالکیت معنوی است، زیرا به راحتی می‌توان صد‌ها شغل مرتبط با حوزه هنر، از نویسندگی گرفته تا کارگردانی، را کنار گذاشت.

این کارشناس بین‌المللی امنیت سایبری و امنیت اطلاعات، نسبت به تأثیر روانی و اجتماعی بر مراکشی‌ها هشدار داد و گفت: «اگر اینفلوئنسر‌ها را تهدیدی برای آگاهی جمعی بدانیم، این نوع هوش مصنوعی بسیار خطرناک‌تر است، زیرا به تأثیرگذاری بسنده نمی‌کند، بلکه یک واقعیت کاملاً جعلی ایجاد می‌کند که تشخیص آن دشوار است.»

او تأکید کرد که امکان توسعه ابزار‌های فنی برای شناسایی ویدیو‌های جعلی از نظر فنی امکان‌پذیر است، اما مشکل همچنان در دسترس بودن این ابزار‌ها برای عموم مردم است. او توضیح داد که «مردم عادی قادر به تشخیص بین یک ویدیوی ساختگی و یک ویدیوی واقعی نخواهند بود و این امر، راه را برای سوءاستفاده گسترده از این فناوری برای اهداف مشکوک باز می‌کند.»

الحزاز به ویدئویی اشاره کرد که در اینترنت دیده بود و شخصی را نشان می‌داد که عربی محاوره‌ای مراکشی را چنان روان صحبت می‌کرد که بینندگان باور کرده بودند او واقعاً مراکشی است. او خاطرنشان کرد که هوش مصنوعی به مرحله پیشرفته‌ای رسیده است که آن را قادر می‌سازد تا گویش‌ها را به طور دقیق تقلید کند، که این امر خطر آن را در بافت‌های محلی افزایش می‌دهد.

مسائل اخلاقی و حقوقی و هشدار‌های اولیه، اقدام فوری را می‌طلبند

حسن خرجوج، کارشناس اطلاعات مراکشی متخصص در امور دیجیتال، به نوبه خود گفت که راه‌اندازی «Veo-۳» نشان دهنده پاسخ قوی گوگل برای جبران جایگاه رو به افول خود در مقایسه با رقبایی مانند «OpenAI» است.

او اظهار داشت که این برنامه جدید نشان‌دهنده یک جهش کیفی در هوش مصنوعی است، زیرا امکان تولید ویدیو‌های بسیار واقع‌گرایانه را بر اساس توصیفات یا تخیل ساده فراهم می‌کند و قابلیت گردآوری این کلیپ‌ها در ویدیو‌های یکپارچه با محتوای روایی را نیز دارد.

خرجوج توضیح داد که این پیشرفت تکنولوژیکی از نظر نوآوری جنبه‌های مثبتی دارد، اما همچنین در را به روی مشکلات اخلاقی و قانونی باز می‌کند، به خصوص اگر از این ویدیو‌ها برای اهداف گمراه‌کننده یا کلاهبرداری استفاده شود.

این متخصص امور دیجیتال در مورد توانایی تشخیص ویدیو‌های واقعی از جعلی خاطرنشان کرد که کاربران در حال حاضر هنوز می‌توانند این دو نوع را از هم تشخیص دهند، اما گوگل هنگام راه‌اندازی «Veo-۳» اعلام کرد که این تشخیص در چند ماه آینده تقریباً غیرممکن خواهد شد.

او افزود که این بیانیه هشدار اولیه‌ای است که خواستار اقدام فوری نهاد‌های قانونگذاری در کشور‌های مختلف، از جمله مراکش، می‌شود.

او تأکید کرد که این مشکل نه تنها به خود فناوری مربوط می‌شود، بلکه به میزان آگاهی شهروندان از آن نیز مربوط می‌شود.

او گفت: «اگر مراکشی‌ها آگاهی دیجیتالی خود را افزایش ندهند، با واقعیتی رو‌به‌رو خواهیم شد که در آن دیپ فیک به باور‌های اجتماعی تبدیل می‌شود که اصلاح آن بعداً دشوار خواهد بود.»

خرجوج تأکید کرد که اولین گامی که دولت باید بردارد، تصویب قوانین مؤثر برای همگام شدن با این تحولات دیجیتال است.

او افزود: «این قوانین مؤثر نخواهند بود مگر اینکه متخصصان در تدوین آنها مشارکت داشته باشند. ما فقط به سمینار‌ها یا کنفرانس‌ها دعوت می‌شویم، در حالی که تصمیمات در غیاب ما گرفته می‌شود. این نقصی است که اگر می‌خواهیم واقعاً با پیشرفت‌های فناوری همگام باشیم، باید اصلاح شود.»

او در این زمینه توضیح داد که «بیشتر سیاستمداران و نمایندگان مجلس در مراکش فاقد آگاهی کافی در حوزه دیجیتال هستند، زیرا تحصیلات آنها اغلب به رشته‌هایی مانند حقوق یا اقتصاد محدود می‌شود و آشنایی کمی با تخصص‌های فنی دارند.»

او معتقد بود که نادیده گرفتن نظرات متخصصان دیجیتال در فرآیند قانون گذاری، کشور را مردد و عقب مانده از روند جهانی نگه می‌دارد.

این کارشناس نسبت به پیامد‌های این فناوری بر انتخابات آینده هشدار داد و تأکید کرد که کشور در حال ورود به مرحله‌ای بحرانی است که می‌تواند شاهد نشت ویدیو‌های ساختگی باشد که به دروغ به نامزد‌های سیاسی نسبت داده می‌شوند. این امر می‌تواند رأی‌دهندگان را به طور قابل توجهی گیج کند و تصویر برخی از بازیگران سیاسی را بدون هیچ پایه و اساس واقعی مخدوش کند.

این متخصص دیجیتال اظهار داشت که در کنفرانس اخیر هوش مصنوعی در مراکش شرکت کرده است، جایی که مجموعه‌ای از توصیه‌های مهم ارائه شد که آگاهی دیجیتال را افزایش داده و به چارچوب‌بندی استفاده از هوش مصنوعی در پادشاهی کمک می‌کند. با این حال، او با خود فکر کرد: «آیا این توصیه‌ها واقعاً اجرا خواهند شد؟»

او تأکید کرد که آنچه مراکش فاقد آن است، نه تنها توانایی‌های فنی یا منابع انسانی، بلکه اراده سیاسی برای اجرای این توصیه‌ها نیز هست و افزود: «زمان اجازه تعویق بیشتر را نمی‌دهد، زیرا جهان به سرعت در حال حرکت است و کسانی که همگام با آن پیش نروند، خیلی زود از دور رقابت خارج خواهند شد.»

گوینده یک شبیه‌سازی واقع‌گرایانه را که انجام داده بود، نشان داد و بدون وارد کردن هیچ داده صوتی، تصویری تار از چهره خود را در اختیار ابزار Veo-۳ قرار داد. با وجود این، نرم‌افزار توانست ویژگی‌های چهره او را به طور دقیق ثبت کند و بر اساس داده‌های موجود در اینترنت، صدایی را استخراج کند که با صدای واقعی او مطابقت داشته باشد. همچنین ویدئویی تهیه کرد که ظاهراً او را در حال صحبت حضوری نشان می‌داد.

هسپرس تأیید کرد که این ویدئو را مشاهده کرده و تأکید کرد که به نظر می‌رسد این ویدئو، چه از نظر حرکت و چه از نظر لحن، واقعی باشد.

منبع: هسپرس