شناسایی تهدید‌هایی که هوش مصنوعی را به خطر می‌اندازد

به گزارش مجله خبری نگار،بر اساس اسناد افشاشده، این فناوری که هنوز در مرحله تحقیقاتی قرار دارد، تصویری نگران‌کننده از آینده نظارت دیجیتال ارائه می‌دهد؛ جایی که دولت‌ها می‌توانند پیش از هرگونه اقدام عمومی، علیه شهروندان وارد عمل شوند.

شرکت Geedge Networks و توسعه ابزار‌های نظارتی

شرکت چینی Geedge Networks نسخه تجاری «دیوار آتش بزرگ» چین را ارائه می‌دهد؛ سامانه‌ای که برای کنترل، نظارت و فیلتر کردن فعالیت‌های اینترنتی طراحی شده است.

این ابزار‌ها به دولت‌ها امکان می‌دهد ترافیک اینترنت را بررسی کنند و تلاش کاربران برای عبور از محدودیت‌های اینترنتی را شناسایی و گزارش کنند.

اما تحقیقات دانشگاه Vanderbilt نشان می‌دهد این شرکت در حال توسعه نسل جدیدی از فناوری‌ها است که با تحلیل داده‌های موقعیت مکانی و رفتار آنلاین، افراد را به عنوان «افراد بالقوه منتقد دولت» طبقه‌بندی می‌کند.

هوش مصنوعی برای شناسایی تهدید‌های سیاسی

بر اساس اسناد فاش شده، Geedge Networks و آزمایشگاه وابسته به آن در حال کار بر روی سیستم‌هایی هستند که با استفاده از هوش مصنوعی، پروفایل رفتاری شهروندان را ایجاد می‌کند.

این سیستم‌ها می‌توانند افرادی را که احتمال دارد در آینده رفتار یا گفتار انتقادی نسبت به دولت داشته باشند، شناسایی کنند.

به گفته پژوهشگران، چنین فناوری در صورت تکمیل می‌تواند به ابزاری بسیار قدرتمند برای دولت‌های اقتدارگرا تبدیل شود.

نگرانی‌های جهانی درباره نظارت پیش‌بینی‌کننده

کارشناسان هشدار می‌دهند استفاده از هوش مصنوعی برای سرکوب مخالفان، خود به اندازه کافی نگران‌کننده است؛ اما پیش‌بینی مخالفت قبل از وقوع آن، سناریویی بسیار خطرناک‌تر محسوب می‌شود.

یکی از پژوهشگران دانشگاه Vanderbilt تأکید می‌کند که ترکیب نظارت گسترده با هوش مصنوعی می‌تواند به حذف کامل حریم خصوصی منجر شود.

محدودیت‌های تراشه‌های آمریکایی و تأثیر آن بر چین

بر اساس گزارش‌ها، توسعه این فناوری‌ها با محدودیت‌های صادراتی آمریکا در زمینه تراشه‌های پیشرفته دچار چالش شده است.

این محدودیت‌ها باعث شده شرکت‌های چینی برای اجرای مدل‌های پیشرفته هوش مصنوعی با کمبود توان پردازشی مواجه شوند.

تحلیلگران معتقدند این وضعیت می‌تواند سرعت توسعه فناوری‌های نظارتی پیشرفته در چین را کاهش دهد.

پروژه‌های تحقیقاتی و تحلیل رفتار شهروندان

اسناد نشان می‌دهد از ابتدای سال ۲۰۲۴، محققان Geedge در حال جمع‌آوری داده از منابع مختلف مانند شبکه‌های اجتماعی، مخابرات و موقعیت مکانی بوده‌اند.

هدف این پروژه‌ها، ایجاد مدل‌هایی برای پیش‌بینی رفتار افراد و شناسایی «اطلاعات مضر» از نگاه حکومت چین بوده است.

در یکی از جلسات داخلی، محققان درباره روش‌هایی برای تعیین «نیت افراد» پیش از وقوع رفتار‌های سیاسی بحث کرده‌اند.

جمع‌آوری داده به عنوان ماده خام هویت دیجیتال

به گفته کارشناسان، داده‌های جمع‌آوری شده تنها اطلاعات ساده نیستند؛ بلکه ماده خامی برای ساخت پروفایل‌های پیچیده رفتاری محسوب می‌شوند.

این پروفایل‌ها می‌توانند شامل رفتار‌های آنلاین، موقعیت‌های فیزیکی، علایق رسانه‌ای و حتی الگو‌های مطالعه افراد باشند.

چنین ترکیبی امکان پیش‌بینی دقیق‌تر رفتار آینده افراد را فراهم می‌کند.

جمع‌بندی

فناوری پیش‌بینی مخالفان با هوش مصنوعی اگرچه هنوز در مرحله توسعه قرار دارد، اما می‌تواند آینده‌ای را رقم بزند که در آن نظارت دولتی از سطح مشاهده به سطح پیش‌بینی و کنترل پیش‌دستانه ارتقا یابد.

این روند نگرانی‌های جدی درباره آزادی‌های فردی، حریم خصوصی و مرز‌های استفاده از هوش مصنوعی ایجاد کرده است.

منبع: فوت وفن