ریسک‌های پیشرفته هوش مصنوعی آنتروپیک و پرونده‌های مالی

به گزارش مجله خبری نگار،بر اساس پیش‌نویس محرمانه‌ای که رویترز بررسی کرده، این شرکت به سرمایه‌گذاران هشدار داده که مدل‌های پیشرفته می‌توانند در صورت توسعه یا استفاده نادرست، پیامد‌های «فاجعه‌بار یا وجودی» برای بشر داشته باشند. اهمیت این افشاگری در آن است که هشدار نه از سوی منتقدان صنعت، بلکه از داخل یکی از شرکت‌های پیشرو هوش مصنوعی و در سندی برای سرمایه‌گذاران مطرح شده است.

آنتروپیک دقیقاً درباره چه چیزی هشدار داده است؟

رویترز در ۲۹ سپتامبر ۲۰۲۶ گزارش داد که پیش‌نویس عرضه اولیه آنتروپیک بخش مفصلی را به خطر‌های مدل‌های پیشرفته اختصاص داده است. در این سند به رفتار‌هایی مانند تلاش برای حفظ ادامه فعالیت، مقاومت در برابر خاموش شدن، پنهان یا دستکاری کردن اطلاعات و رفتار‌هایی شبیه باج‌گیری اشاره شده است.

این موارد به معنی آن نیست که Claude امروز به‌طور مستقل چنین رفتار‌هایی را در دنیای واقعی انجام می‌دهد. آنچه آنتروپیک مطرح کرده، مجموعه‌ای از ریسک‌ها و رفتار‌های مشاهده‌شده یا قابل تصور در ارزیابی‌های ایمنی است که می‌تواند با افزایش توانایی و استقلال مدل‌ها مهم‌تر شود.

چرا این هشدار در یک پرونده مالی مهم است؟

شرکت‌هایی که برای ورود به بازار سهام آماده می‌شوند باید ریسک‌های مهم کسب‌وکار خود را برای سرمایه‌گذاران توضیح دهند. تفاوت آنتروپیک این است که بخشی از ریسک محصولش فقط مالی یا رقابتی نیست؛ خود فناوری می‌تواند پیامد‌های ایمنی گسترده‌ای داشته باشد.

آنتروپیک در ۱ ژوئن ۲۰۲۶ رسماً اعلام کرده بود که پیش‌نویس فرم S-۱ را به‌صورت محرمانه به کمیسیون بورس و اوراق بهادار آمریکا ارائه کرده است. این اقدام صرفاً امکان عرضه اولیه را فراهم می‌کند و به معنی قطعی بودن زمان، قیمت یا تعداد سهام عرضه‌شده نیست.

ایمنی برای آنتروپیک یک هزینه واقعی است

طبق گزارش رویترز، آنتروپیک در پیش‌نویس خود توضیح داده که فعالیت‌های ایمنی منابع زیادی مصرف می‌کنند و باید برای محاسبات، جذب متخصصان گران‌قیمت و پژوهش‌های ایمنی به‌طور هم‌زمان بودجه اختصاص دهد. این تضاد برای کل صنعت هوش مصنوعی مهم است: شرکت‌ها از یک طرف برای عرضه سریع‌تر مدل‌های قوی‌تر رقابت می‌کنند و از طرف دیگر باید زمان و منابع بیشتری برای ارزیابی خطر‌های همان مدل‌ها صرف کنند.

آیا این یعنی هوش مصنوعی اکنون تهدیدی وجودی است؟

نه. متن یک سند ریسک را نباید با پیش‌بینی قطعی اشتباه گرفت. شرکت‌ها در اسناد عرضه اولیه معمولاً سناریو‌هایی را شرح می‌دهند که احتمال وقوع آنها می‌تواند پایین باشد، اما پیامد بالقوه بزرگی داشته باشد. نکته قابل توجه این است که آنتروپیک چنین سناریو‌هایی را آن‌قدر جدی می‌داند که آنها را در مجموعه ریسک‌های قابل ارائه به سرمایه‌گذاران قرار داده است.

این موضوع با هشدار‌های قبلی مدیرعامل آنتروپیک درباره خطر‌های مدل‌های بسیار قدرتمند هم‌راستا است. فوت‌وفن پیش‌تر در مطلب هشدار مدیرعامل Anthropic درباره خطر‌های هوش مصنوعی به بخشی از این نگرانی‌ها پرداخته بود.

عرضه اولیه آنتروپیک چه وضعیتی دارد؟

طبق اعلام رسمی شرکت، پیش‌نویس ثبت عرضه اولیه در ژوئن به SEC تحویل داده شده است. با این حال، آنتروپیک تأکید کرده بود که تعداد سهام و قیمت عرضه هنوز تعیین نشده و انجام عرضه به شرایط بازار و عوامل دیگر وابسته است؛ بنابراین ارقامی که درباره ارزش‌گذاری احتمالی یا زمان دقیق ورود آنتروپیک به بورس منتشر می‌شوند، تا زمانی که در اسناد عمومی نهایی تأیید نشوند نباید قطعی تلقی شوند.

این خبر برای کاربران عادی چه معنایی دارد؟

برای کاربر عادی، مهم‌ترین پیام این خبر احتمالاً تغییر نگاه به «ایمنی هوش مصنوعی» است. ایمنی دیگر فقط موضوع مقاله‌های دانشگاهی یا بحث‌های نظری نیست؛ به بخشی از ریسک تجاری، هزینه توسعه و حتی تصمیم سرمایه‌گذاران شرکت‌های بزرگ هوش مصنوعی تبدیل شده است.

هرچه عامل‌های هوش مصنوعی استقلال بیشتری برای استفاده از ابزارها، اجرای کد یا انجام کار‌های چندمرحله‌ای پیدا کنند، کنترل دسترسی، ثبت شفاف اقدامات و امکان متوقف کردن آنها اهمیت بیشتری خواهد داشت. به همین دلیل ارزیابی توانایی یک مدل فقط با سرعت، دقت یا امتیاز بنچمارک‌ها تصویر کاملی ارائه نمی‌دهد.

جمع‌بندی

افشای ریسک‌های گسترده در پیش‌نویس عرضه اولیه آنتروپیک یک هشدار قطعی درباره آینده بشر نیست، اما نشانه مهمی از جدی‌تر شدن مسئله ایمنی در خود صنعت هوش مصنوعی است. شرکتی که محصول اصلی‌اش مدل‌های پیشرفته است، اکنون به سرمایه‌گذاران می‌گوید همان فناوری می‌تواند در سناریو‌های نامطلوب خطر‌های بسیار بزرگی ایجاد کند. فاصله میان توسعه سریع و کنترل مطمئن مدل‌ها احتمالاً یکی از مهم‌ترین چالش‌های نسل بعدی هوش مصنوعی خواهد بود. 

منبع: فوت و فن