خطرناک بودن مدل‌های جدید هوش مصنوعی حقیقت دارد؟

به گزارش مجله خبری نگار/سیناپرس، در داستانی آشنا، یک شرکت فناوری مدعی می‌شود هوش مصنوعی جدیدی ساخته که «بیش از حد قدرتمند و خطرناک» است و نباید به دست عموم برسد. آیا این هشدار‌های آخرالزمانی، دلسوزی برای بشریت است یا یک استراتژی هوشمندانه برای انحراف افکار عمومی از آسیب‌های واقعی و فعلی این فناوری؟

نگاهی به مدل جدید شرکت آنتروپیک، یعنی «کلود میتوس» (Claude Mythos)، نشان می‌دهد که مرز میان واقعیت علمی و هیاهوی تبلیغاتی در سیلیکون‌ولی به شدت کمرنگ شده است.

آنتروپیک (Anthropic) با معرفی مدل جدید «میتوس»، بحث‌های داغی به راه انداخته است. این شرکت ادعا می‌کند توانایی میتوس در شناسایی باگ‌های امنیت سایبری فراتر از متخصصان انسانی است و سقوط آن به دست افراد نااهل می‌تواند عواقب فاجعه‌باری برای اقتصاد و امنیت ملی داشته باشد. در این میان پرسش این است که اگر این ابزار تا این حد خطرناک است، چرا اصلاً ساخته شده و چرا تلاش برای فروش آن ادامه دارد؟

بازاریابی بر اساس ترس

چرا یک شرکت باید درباره محصول خودش طوری حرف بزند که انگار یک هیولای غیرقابل کنترل است؟ هیچ‌گاه یک رستوران برای فروش محصول خود تبلیغ نمی‌کند که «آنقدر لذیذ است که فروشش غیراخلاقی است!». شانون والور، استاد اخلاق هوش مصنوعی در دانشگاه ادینبرو، معتقد است که این «روایت‌های غیرطبیعی» باعث می‌شود مردم احساس ناتوانی کنند. وقتی فناوری به عنوان یک نیروی ماورایی معرفی شود، نهاد‌های قانون‌گذار احساس می‌کنند قدرت کنترل آن را ندارند و تنها کسانی که می‌توانند ما را نجات دهند، خودِ شرکت‌های سازنده هستند.

این اولین بار نیست که چنین ادعا‌هایی مطرح می‌شود. داریو آمودی (مدیرعامل فعلی آنتروپیک) در سال ۲۰۱۹، زمانی که در «OpenAI» مشغول به کار بود، اعلام کرد مدل GPT-۲ به دلیل «احتمال سوءاستفاده» منتشر نخواهد شد. البته که چند ماه بعد منتشر شد. سم آلتمن مدیر «OpenAI» نیز بار‌ها از کابوس‌های شبانه‌اش درباره نابودی جهان توسط هوش مصنوعی سخن گفته، در حالی که همزمان برای جذب سرمایه‌های میلیاردی در این صنعت رو به رشد تلاش می‌کند.

شک و تردید‌ها درباره «میتوس»

در این میان برخی متخصصان هوش مصنوعی از جمله یک دانشمند ارشد هوش مصنوعی در موسسه AI Now، نسبت به ادعا‌های آنتروپیک تردید جدی دارد. هایدی کلاف اشاره می‌کند که شرکت آنتروپیک معیار‌های استاندارد صنعتی مانند «نرخ مثبت کاذب» (تعداد خطا‌هایی که ابزار به اشتباه شناسایی می‌کند) را منتشر نکرده است. بدون این داده‌ها، ادعای برتری میتوس بر ابزار‌های امنیتی که دهه‌هاست استفاده می‌شوند، بیشتر از یک واقعیت علمی به یک «افسانه» شباهت دارد.

نباید فراموش کرد که تمرکز بر روایت «پایان دنیا توسط ربات‌ها»، ذهن‌ها را از آسیب‌های ملموس و فعلی هوش مصنوعی منحرف می‌کند. برخی آسیب‌هایی که واقعی هستند و می‌توانند خیلی زود نمایان شوند را در فهرست زیر مشاهده می‌کنید.

تخریب محیط زیست که با مصرف عظیم انرژی در مراکز داده از تهدید‌های موجود رشد هوش مصنوعی به شمار می‌رود.

سلامت روان از داغ‌ترین پیامد‌هایی است که با گسترش استفاده از چت‌بات‌های هوش مصنوعی مشاهده می‌شود. تا کنون گزارش‌های زیادی از بحران‌های روحی و حتی خودکشی منتشر شده که ارتباطی به استفاده از این چت‌بات‌ها پیدا کرده‌اند.

حتی می‌توان به پدیده زوال شناختی در نتیجه استفاده از هوش مصنوعی پرداخت. پژوهش‌هایی وجود دارند که نشان‌دهنده تاثیر منفی استفاده افراطی از هوش مصنوعی بر یادگیری انسان است.

فرشته نجات یا پدیده‌ای آخرالزمانی

به نقل از خبرآنلاین، سیلیکون‌ولی تخصص عجیبی در افسانه‌سازی دارد. یک روز متاورس قرار بود دنیای ما باشد، روز دیگر بیت‌کوین قرار بود جایگزین پول فیزیکی شود. حقیقت این است که هوش مصنوعی نه خیر مطلق و نه پدیده‌ای شیطان است. هوش مصنوعی در نهایت محصولی است که توسط شرکت‌ها برای سودآوری ساخته شده است.

شانون والور می‌گوید: «هیچ‌چیز درباره این فناوری‌ها غیرقابل کنترل نیست، مگر اینکه خودمان تصمیم بگیریم آنها را کنترل نکنیم.»