هشدار کارکنان غول‌های فناوری: هوش مصنوعی می‌تواند انسان را منقرض کند

گروهی از متخصصان شاغل در شرکت‌های بزرگ هوش مصنوعی دنیا در نامه‌ای سرگشاده نسبت به خطرات ناشی از عدم نظارت بر این فناوری نوظهور هشدار داده‌اند.

به گزارش مجله خبری نگار به‌نقل از رویترز، گروهی از متخصصان فعلی و سابق شرکت‌های هوش مصنوعی، از جمله کارکنان اپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، همچنین شرکت دیپ‌مایند (DeepMind) نگرانی‌هایی را در مورد خطرات ناشی از این فناوری نوظهور مطرح کردند.

این گروه در نامه‌ای سرگشاده که توسط ۱۱ متخصص امضا شده است، اعلام کردند انگیزه‌های مالی شرکت‌های هوش مصنوعی، نظارت مؤثر بر این حوزه را محدود می‌کند.

این نامه همچنین در مورد خطراتی که هوش مصنوعی در غیاب نظارت کافی در پی خواهد داشت، هشدار داده‌اند؛ خطراتی مانند انتشار اطلاعات غلط، از دست رفتن استقلال سیستم‌های هوش مصنوعی و تعمیق نابرابری‌های موجود که می‌تواند منجر به «انقراض بشر» شود.

نامه‌ی این گروه همچنین اشاره می‌کند که «شرکت‌های هوش مصنوعی تعهدات ضعیفی» برای به اشتراک گذاشتن اطلاعات در مورد قابلیت‌ها و محدودیت‌های سیستم‌های خود با دولت‌ها دارند و این شرکت‌ها را نمی‌توان برای به اشتراک گذاشتن داوطلبانه‌ی این اطلاعات، مورد اعتماد قرار داد.

این نامه سرگشاده، جدیدترین نمونه از هشدار‌ها در مورد ایمنیِ فناوری هوش مصنوعیِ مولد است که به سرعت و با هزینه کم، می‌تواند متن، تصویر و صدای شبیه به انسان تولید کند.

این گروه از شرکت‌های هوش مصنوعی خواسته‌اند که فرآیندی را برای کارمندان فعلی و سابق خود تسهیل کنند تا بتوانند نگرانی‌های مرتبط با خطرات این فناوری را مطرح کنند و همچنین از اجرای توافق‌نامه‌های محرمانگی که مانع انتقاد می‌شود، خودداری کنند.

لینک کپی شد

اشتراک‌ گذاری