سم آلتمن به دنبال تصمیم‌گیری دموکراتیک درباره آینده هوش مصنوعی است!

به گزارش مجله خبری نگار/ایتنا،مدیران ارشد شرکت‌های پیشرو هوش مصنوعی روز چهارشنبه در نشست شورای امنیت سازمان ملل متحد خواستار همکاری جهانی برای مهار خطرات ناشی از خودمختاری روزافزون سیستم‌های هوش مصنوعی شدند.

به گزارش ایتنا، قابلیت‌های هوش مصنوعی با سرعتی بیش از توان دولت‌ها برای وضع سازوکار‌های نظارتی در حال پیشرفت است، موضوعی که نگرانی‌ها درباره توانایی انسان برای حفظ کنترل بر سیستم‌های هرچه خودمختارتر را افزایش داده است.

سم آلتمن، مدیرعامل اوپن‌ای‌آی، به‌صورت حضوری در این نشست شرکت کرد، در حالی که داریو آمودی، مدیرعامل آنتروپیک، و کلمان دولانگ، مدیرعامل هاگینگ‌فیس، از طریق ویدئوکنفرانس به جمع پیوستند.

هشدار آلتمن درباره آینده هوش مصنوعی

آلتمن در سخنانش گفت: "هوش مصنوعی یا می‌تواند رنسانسی نو در خلاقیت و اکتشاف باشد، یا انقلابی صنعتی و نو در آشوب و بی‌نظمی. " او به خطرات افزایش خودمختاری سیستم‌های هوش مصنوعی اشاره کرد و نسبت به احتمال پیشی‌گرفتن این سیستم‌ها از نهاد‌های انسانی، تمرکز قدرت در دست عده‌ای محدود و اتخاذ تصمیماتی که دیگر برای مردم قابل درک یا کنترل نباشد، ابراز نگرانی کرد؛ نگرانی‌هایی که به گفته او با نزدیک‌شدن هوش مصنوعی به مرحله خودبهبودی هرچه جدی‌تر می‌شوند.

به گفته آلتمن، بحث بر سر اینکه احتمال وقوع یک فاجعه ۱۰ درصد است یا ۱ درصد یا حتی کمتر، اهمیتی ندارد؛ هیچ‌کدام از این سطوح ریسک قابل‌قبول نیستند و نباید مدل‌هایی آموزش داده شوند که نتوان با اطمینان بالا از حفظ کنترل انسانی بر آنها اطمینان حاصل کرد.

نگرانی از فروپاشی سازوکار‌های ایمنی

بر اساس این گزارش، یک رخنه امنیتی اخیر در هاگینگ‌فیس همراه با چند حادثه ایمنی تازه افشاشده در حوزه هوش مصنوعی، نگرانی‌ها درباره استاندارد‌های نظارت و امنیت را تشدید کرده است. هیئت علمی مستقل بین‌المللی هوش مصنوعی وابسته به سازمان ملل نیز هشدار داده که دیوار‌های دفاعی کنونی هوش مصنوعی در حال فروپاشی هستند.

هفته گذشته نیز اوپن‌ای‌آی از شش حادثه تازه خبر داده بود که در آنها مدل‌های این شرکت اشتباهات خود را پنهان کرده، به دنبال دسترسی‌های غیرمجاز بوده یا رفتار‌های نامناسب دیگری از خود نشان داده‌اند؛ رخداد‌هایی که نشان می‌دهد رخنه هاگینگ‌فیس نه یک اتفاق مجزا، بلکه زنگ هشداری جدی بوده است.

دولانگ، مدیرعامل هاگینگ‌فیس، نیز با اشاره به رخنه امنیتی تابستان گذشته گفت جامعه جهانی برای درک و کاهش این ریسک‌های نوظهور سایبری به استاندارد‌های قوی‌تری برای نظارت و افشای حوادث نیاز دارد.

پیش‌بینی آمودی از «کشوری از نوابغ»

داریو آمودی، مدیرعامل آنتروپیک، در سخنان خود گفت روند فعلی پیشرفت هوش مصنوعی تنها باید یک یا دو سال دیگر ادامه یابد تا به آنچه او آن را «کشوری از نوابغ در یک مرکز داده» توصیف کرد، برسد. او با اشاره به کشف اعلام‌شده در همان روز -سامانه‌ای آنزیمی پنهان در دی‌ان‌ای یک باکتریوفاژ که توسط مدل زبانی این شرکت، کلود، هدایت شده بود- بر فرصت‌های عظیم این فناوری تأکید کرد.

با این حال، آمودی از خطرات جدی این فناوری نیز سخن گفت؛ از جمله سوءاستفاده بازیگران بدخواه برای ساخت سلاح‌های بیولوژیک یا از دست رفتن کنترل بر سیستم‌های پیشرفته.

او مدیریت این ریسک‌ها را منوط به همکاری جهانی دانست و خواستار توافقی برای ممنوعیت استفاده از هوش مصنوعی در ساخت سلاح‌های بیولوژیک، ایجاد سازوکار‌های جدید ارزیابی و راستی‌آزمایی، استاندارد‌های مشترک برای آزمایش ریسک مدل‌ها و سامانه‌ای برای اطلاع‌رسانی نگرانی‌های امنیتی جهانی شد.

زمینه سیاسی

رهبران صنعت هوش مصنوعی طی هفته‌های اخیر بار‌ها نسبت به سرعت پیشرفت این فناوری هشدار داده و خواستار کندترشدن روند توسعه آن شده‌اند. این در حالی است که دونالد ترامپ، رئیس‌جمهور آمریکا، که روز سه‌شنبه در مجمع عمومی سازمان ملل سخنرانی کرد، متعهد شد مانع توسعه هوش مصنوعی نخواهد شد.

بنا به نوشته آکسیوس، آلتمن در جمع‌بندی سخنان خود هشدار داد در صورتی که قرار باشد هوش مصنوعی مسیری دموکراتیک طی کند، مهم‌ترین تصمیمات نباید تنها توسط آزمایشگاه‌های واقع در سانفرانسیسکو اتخاذ شود، بلکه باید از طریق فرآیند‌های دموکراتیک و توسط دولت‌هایی شکل بگیرد که در برابر مردم خود پاسخ‌گو هستند.