از «وزارت جنگ» تا «ابرهوش»؛ آیا پروژه «انسان قابل‌کنترل» آغاز شده است؟

به گزارش مجله خبری نگار، در حوزه زبانشناسی، واژه‌ها صرفا ابزار توصیف واقعیت نیستند، گاه خود به بخشی از سازوکار تولید واقعیت تبدیل می‌شوند. نامگذاری یک نهاد، فناوری یا تهدید، می‌تواند بر ادراک نخبگان، رفتار سازمانی، تخصیص منابع، طراحی سیاست عمومی و حتی تعریف مرز‌ها میان «عادی» و «اضطراری» اثر بگذارد. از این منظر، ۲ تغییر واژگانی ترامپ در ایالات متحده، یعنی بازگرداندن عنوان «وزارت جنگ» برای وزارت دفاع در شهریور سال گذشته و صدور فرمان اجرایی جایگزین کردن اصطلاح «ابرهوش» به جای «هوش مصنوعی» در ۷ مهر جاری را می‌توان نه ۲ اقدام منفرد، بلکه ۲ نشانه از یک تحول گفتمانی گسترده‌تر دانست: حرکت از «دفاع» به «تهاجم» در حوزه نظامی و حرکت از «هوش مصنوعی» به «ابرهوش» در حوزه فناوری.

البته از نظر حقوقی باید میان «تغییر نام» و «تغییر کامل ساختار قانونی» تفاوت گذاشت. فرمان اجرایی سال گذشته در پنجم سپتامبر ۲۰۲۵، «وزارت جنگ» را به عنوان نام ثانویه برای وزارت دفاع مجاز کرد و در عین حال تصریح کرد ارجاعات قانونی موجود به «وزارت دفاع» همچنان معتبرند و برای تغییر دائم نام، اقدامات قانونی بعد لازم است؛ بنابراین اهمیت اقدام را باید بیش از آنکه در تغییر حقوقی فوری جست‌و‌جو کرد، در «پیام راهبردی» و «بازتعریف هویت سازمانی» آن دید. متن فرمان صراحتا از نمایش «قدرت و عزم» و آمادگی برای «جنگیدن و پیروز شدن» سخن می‌گوید؛ معنایی که می‌تواند نشان‌دهنده انتقال تدریجی گفتمان از بازدارندگی به جنگ‌آوری و تجاوز نظامی باشد.

همین منطق را می‌توان درباره مفهوم «ابرهوش» نیز به کار گرفت. فرمان اخیر دولت آمریکا، اصطلاح «Super Intelligence» یا «SI» را جایگزین «Artificial Intelligence» یا «AI» در مکاتبات، ارتباطات عمومی، وبگاه‌ها، گزارش‌ها و اسناد قوه مجریه می‌کند و همزمان از تدوین پیشنهاد قانونی برای تعریف فدرال «ابرهوش» سخن می‌گوید. دولت آمریکا حتی در ارائه خدمات عمومی جدید خود نیز از اصطلاح ابرهوش استفاده کرده و آن را بخشی از معماری تحول دیجیتال دولت معرفی کرده است؛ بنابراین مساله فقط جایگزینی یک واژه با واژه‌ای دیگر نیست، مساله آن است که چه تصویری از فناوری در ذهن دولت، جامعه و بازار ساخته می‌شود و این تصویر در مرحله بعد چه نوع سیاست‌گذاری و چه نوع نسبت قدرتی را مشروعیت می‌بخشد.

در ادبیات آینده‌پژوهی، این پدیده را می‌توان «ویک سیگنال» یا «نشانک» برای یک تغییر پارادایمی تلقی کرد. وقتی یک دولت از «دفاع» به «جنگ» و از «مصنوعی» به «برتر» حرکت می‌کند، در سطح گفتمانی در حال تغییر نقطه مرجع خود است. در حالت نخست، منطق «دفع تهدید» و «بازدارندگی» برجسته می‌شود، در حالت دوم، «توان تهاجم، پیروزی و برتری» برجستگی می‌یابد.

در حوزه هوش نیز «هوش مصنوعی» اساسا نامی برای یک فناوری است، اما «ابرهوش» حامل نوعی سلسله‌مراتب قدرت است.

در این صورت، فناوری دیگر صرفا ابزاری برای افزایش توانمندی انسان تلقی نمی‌شود، بلکه به‌تدریج به یک «مرجع بالادست شناختی» تبدیل می‌شود؛ مرجعی که می‌تواند تحلیل کند، پیش‌بینی کند، توصیه بدهد، تصمیم را شکل دهد و در مراحل پیشرفته‌تر، بخشی از تصمیم‌گیری را خودکار کند. اینجا نقطه اتصال مساله هوش مصنوعی با امنیت ملی و امنیت انسانی آشکار می‌شود.

خطر اصلی الزاما این نیست که ماشین‌ها در آینده به صورت مستقل بر انسان «حکومت» کنند، خطر واقع‌بینانه‌تر آن است که دولت‌ها، شرکت‌های بزرگ فناوری و ساختار‌های امنیتی، با ادغام سامانه‌های هوشمند در زیرساخت‌های تصمیم‌گیری، به ظرفیت بی‌سابقه‌ای برای «مشاهده، پیش‌بینی، طبقه‌بندی و اثرگذاری» بر رفتار شهروندان دست پیدا کنند. در چنین وضعیتی، هوش مصنوعی از سطح یک فناوری کاربردی عبور کرده و به بخشی از معماری قدرت تبدیل می‌شود.

از منظر امنیتی، ۴ سطح خطر قابل شناسایی است.

سطح نخست، «نظارت هوشمند» است؛ یعنی ترکیب کلان‌داده، دوربین‌ها، تلفن همراه، زیست‌سنجی، تراکنش‌های اقتصادی، شبکه‌های اجتماعی و سوابق دیجیتال برای ایجاد پروفایل‌های رفتاری.

سطح دوم، «پیش‌بینی رفتاری» است؛ یعنی سامانه نه‌تنها بداند فرد چه کرده، بلکه بتواند بر اساس الگو‌های داده‌ای احتمال رفتار بعد او را برآورد کند.

سطح سوم، «مهندسی رفتار» است؛ یعنی خروجی‌های الگوریتمی با شخصی‌سازی اطلاعات، رتبه‌بندی محتوا، توصیه‌گرها، تبلیغات سیاسی و مدیریت جریان اطلاعات، محیط ادراکی فرد را شکل دهند.

سطح چهارم، «حکمرانی الگوریتمی» است؛ یعنی تصمیم‌هایی که پیش‌تر توسط انسان و بر اساس قضاوت حقوقی، سیاسی یا اجتماعی گرفته می‌شد، به سامانه‌های خودکار یا نیمه‌خودکار واگذار شود.

اگر این مسیر بدون سازوکار‌های شفافیت، پاسخگویی و حفاظت از حریم خصوصی ادامه یابد، امکان سوءاستفاده دولت‌ها افزایش می‌یابد. نکته مهم آن است که سوءاستفاده ضرورتا به معنای سرکوب آشکار نیست، ممکن است به صورت «پدرسالاری دیجیتال»، کنترل پیش‌بینی‌کننده، امتیازدهی شهروندی، محدودسازی دسترسی به خدمات، هدف‌گیری رسانه‌ای و ایجاد خودسانسوری رخ دهد.

مرز میان «امنیت» و «کنترل» در چنین شرایطی می‌تواند به‌تدریج مبهم شود؛ به‌ویژه هنگامی که امنیت ملی، مبارزه با تروریسم، مقابله با اطلاعات نادرست یا حفاظت از زیرساخت‌های حیاتی به عنوان توجیه به‌کارگیری سامانه‌های گسترده جمع‌آوری و تحلیل داده مطرح شود.

از منظر جنگ شناختی نیز این تحول اهمیت مضاعف دارد. در عصر شبکه‌ای، هدف فقط تصرف سرزمین نیست، هدف، شکل‌دهی به ادراک، تصمیم، ترجیحات و رفتار است. هوش مصنوعی می‌تواند تولید انبوه محتوای اقناعی، شناسایی دقیق گروه‌های هدف، پیش‌بینی واکنش افکار عمومی و اجرای عملیات شناختی شخصی‌سازی‌شده را تسهیل کند.

در این شرایط، «داده» به منبع قدرت و «مدل» به ابزار اعمال قدرت تبدیل می‌شود. هرچه مدل‌ها درک دقیق‌تری از ترجیحات و آسیب‌پذیری‌های روانی و اجتماعی افراد پیدا کنند، امکان مداخله هدفمند در حوزه شناختی نیز بیشتر خواهد شد.

تغییر «هوش مصنوعی» به «ابرهوش» البته به خودی خود به معنای سلطه فناوری بر انسان نیست، آنچه از منظر آینده‌پژوهی اهمیت دارد، «همنشینی تغییر زبان با تغییر سیاست، بودجه، فناوری و نهاد» است. هنگامی که تغییر واژگانی با توسعه قابلیت‌های فناورانه، گسترش اختیارات اجرایی، ادغام سامانه‌های هوشمند در خدمات عمومی و امنیتی و کاهش موانع نظارتی همراه شود، آنگاه واژه جدید می‌تواند به بخشی از مسیر تغییر نهادی تبدیل شود.

حتی نهاد‌های فنی آمریکا نیز پذیرفته‌اند توسعه هوش مصنوعی باید با مدیریت ریسک‌های مؤثر بر افراد، سازمان‌ها و جامعه همراه باشد. مؤسسه ملی استاندارد و فناوری آمریکا در چارچوب مدیریت ریسک هوش مصنوعی خود بر قابلیت اعتماد، امنیت، تاب‌آوری، پاسخگویی، شفافیت، توضیح‌پذیری، حریم خصوصی و مدیریت سوگیری تأکید کرده است. همین مساله نشان می‌دهد چالش اصلی صرفا «قدرت هوش» نیست، بلکه «نحوه حکمرانی بر قدرت هوش» است.

از این منظر، می‌توان یک سناریوی آینده‌پژوهانه را ترسیم کرد: در گام نخست، «ابرهوش» به عنوان یک تعبیر مثبت و پیشرفت‌گرا جا می‌افتد، در گام دوم، این تعبیر به مبنای گسترش سرمایه‌گذاری و ادغام سامانه‌های هوشمند در دولت تبدیل می‌شود، در گام سوم، خدمات و تصمیمات روزمره به زیرساخت‌های هوشمند وابسته می‌شود و در گام چهارم، انباشت داده، توان پیش‌بینی و خودکارسازی تصمیمات می‌تواند به تمرکز بی‌سابقه قدرت در دست دولت‌ها و شرکت‌های دارنده زیرساخت‌های محاسباتی منجر شود.

در این سناریو، مساله «سلطه هوش مصنوعی» نه از طریق شورش ماشین‌ها، بلکه از طریق «عادی‌سازی وابستگی انسان به سامانه‌های هوشمند» رخ می‌دهد؛ بنابراین هم‌ترازی میان «وزارت جنگ» و «ابرهوش» را باید در سطح عمیق‌تری دنبال کرد: هر دو مفهوم، ظرفیت تبدیل یک قابلیت به «منطق مسلط» را دارند. همان‌گونه که تغییر نام وزارت دفاع می‌تواند گفتمان سازمانی را از بازدارندگی به سمت تهاجم و جنگ‌آوری متمایل کند - که کرد - تغییر نام هوش مصنوعی نیز می‌تواند ذهنیت سیاست‌گذار را از «فناوری مورد استفاده انسان» به «مرجع برتر برای حل مساله و تصمیم‌سازی» منتقل کند. در وضعیت دوم، مخاطره اصلی آن است که انسان به‌تدریج از «فاعل تصمیم» به «موضوع تصمیم» تبدیل شود.

از این منظر، مهم‌ترین پرسش راهبردی برای آینده این نیست که آیا «ابرهوش» واقعا از «هوش مصنوعی» برتر خواهد بود یا نه، پرسش اصلی این است: «چه کسی، با چه قواعدی، بر چه داده‌هایی، با چه سطحی از پاسخگویی و برای چه هدفی، این هوش را به کار خواهد گرفت؟» پاسخ به همین پرسش تعیین می‌کند «ابرهوش» به ابزاری برای ارتقای توان انسان تبدیل شود یا به زیرساختی برای تمرکز قدرت، نظارت گسترده و مهندسی رفتار.

از همین رو، تغییر واژه‌ها را باید همچون سیگنال‌های زودهنگام در نظام آینده رصد کرد. «وزارت جنگ» و «ابرهوش» شاید در ظاهر صرفا ۲ تغییر نام باشند، اما در سطح گفتمان راهبردی، هر دو می‌توانند حامل یک پیام مشترک باشند: گذار از منطق «دفاع و ابزار» به منطق «برتری و قدرت».

اگر این تغییر گفتمانی با تغییر نهادی و فناورانه هم‌افزا شود، آینده نه فقط شاهد هوشمندتر شدن فناوری، بلکه شاهد هوشمندتر شدن سازوکار‌های قدرت خواهد بود و این دقیقا همان نقطه‌ای است که امنیت ملی، امنیت انسانی، آزادی فردی و آینده حکمرانی به یک مساله واحد تبدیل می‌شود.

در نهایت، شاید مساله فقط این نباشد که شرکت‌های بزرگ هوش مصنوعی تا کجا می‌توانند هوشمندی ماشین را افزایش دهند، پرسش بنیادین‌تر آن است که این شرکت‌ها دقیقا در پی ساختن چه نوع آینده‌ای برای انسان هستند و چه میزان از آن آینده را عملا خود انسان انتخاب کرده است.

اگر توسعه «ابرهوش» با انباشت بی‌سابقه داده، گسترش نظارت، وابستگی روزافزون انسان به الگوریتم‌ها و تمرکز قدرت شناختی در دست تعداد محدودی از دولت‌ها و شرکت‌های فناور همراه شود، دیگر نمی‌توان با اطمینان پذیرفت هدف نهایی صرفا تسهیل زندگی انسان است. آیا ممکن است پشت ادبیات فریبنده پیشرفت، بهره‌وری و نجات بشر، پروژه‌ای برای ایجاد انسانی هرچه وابسته‌تر، قابل پیش‌بینی‌تر و قابل‌کنترل‌تر در حال شکل‌گیری باشد؟

آیا رؤیای «ابرهوش» در صورت فقدان مهار‌های اخلاقی و حقوقی، به کابوس «انسان زیردست» منتهی نخواهد شد؟ شاید تاریخ آینده نشان دهد نقطه خطرناک، لحظه‌ای نیست که ماشین از انسان باهوش‌تر می‌شود، بلکه لحظه‌ای است که انسان به برتری ماشین عادت و اختیار خود را داوطلبانه به آن واگذار می‌کند.

در چنین سناریویی، واکنش ممکن است نه سکوت و انقیاد، بلکه نوعی «شورش انسانیت» علیه سلطه الگوریتمی باشد؛ مقاومتی برای بازپس‌گیری حق انسان بر تصمیم، اراده، حریم خصوصی و آینده خویش؛ بنابراین هنوز باید با دیده تردید به وعده‌های شوم کسانی نگریست که مدعی‌اند می‌توانند آینده بشر را با ساختن هوشی فراتر از انسان «نجات» دهند، زیرا پرسش اصلی همچنان بی‌پاسخ است: چه تضمینی وجود دارد سازندگان «ابرهوش» یا «هوش برتر»، در نهایت سازندگان «ابربردگی» یا «بردگی برتر» نباشند؟!

منبع: وطن‌امروز-ماشاءالله ذراتی