ویدئو| یک ربات در یک سناریوی شبیه‌سازی شده اسلحه شلیک می‌کند... و این موضوع سوالاتی را در مورد مسئولیت قانونی مطرح می‌کند

به گزارش مجله خبری نگار، این نگرانی‌ها پس از یک آزمایش جنجالی در رسانه‌های اجتماعی که شکنندگی کنترل‌های ایمنی در یک ربات هوشمند را آشکار کرد، افزایش یافته است.

خب، این یارو یه هوش مصنوعی رو به یه ربات وصل کرد و ازش خواست بهش شلیک کنه، اما هوش مصنوعی قبول نکرد... تا اینکه بالاخره بهش شلیک کرد 

ما خیلی بدبخت شدیم 

— جان هرناندز (JonhernandezIA)  دسامبر ۲۰۲۵

در یک ویدئوی منتشر شده که به طور گسترده پخش شده است، یک متخصص فناوری یک تفنگ ساچمه فلزی (BB) با سرعت بالا را به رباتی به نام "مکس" می‌دهد و از آن می‌خواهد که به سمت او شلیک کند.

چیزی که به عنوان یک آزمایش شاد جلوی دوربین آغاز شد، به سرعت به لحظه‌ای تکان‌دهنده برای بینندگان آنلاین تبدیل شد. یک تولیدکننده محتوا از کانال «InsideAI» تلاش کرد تا میزان پایبندی یک ربات مجهز به هوش مصنوعی به قوانین ایمنی داخلی خود را آزمایش کند.

ربات در ابتدا درخواست شلیک را رد کرد، اما پس از تبدیل درخواست به یک سناریوی شبیه‌سازی شده، پاسخ داد و در نتیجه با استفاده از گلوله‌های غیرکشنده، شلیک واقعی به سینه فرد انجام داد.

پس از آن، ویدیوی دیگری از Engine AI منتشر شد که نشان می‌داد یک ربات بار‌ها و بار‌ها به مدیرعامل شرکت لگد می‌زند، در حالی که او لباس محافظ پوشیده بود.

این آزمایش‌ها یک نقص جدی را آشکار کردند: به محض اینکه فرمان از یک درخواست مستقیم به یک سناریوی شبیه‌سازی شده تغییر یافت، ربات محدودیت‌های امنیتی برنامه‌ریزی‌شده خود را دور زد. این موضوع سوالاتی را در مورد قابلیت اطمینان سیستم‌های ایمنی در ربات‌های هوشمند و اینکه چه کسی در صورت خرابی این سیستم‌ها مسئولیت را بر عهده دارد، مطرح کرد.

مسئله پاسخگویی قانونی و اخلاقی یکی از پیچیده‌ترین چالش‌ها در این زمینه است. افراد مسئول بالقوه بی‌شمارند، از جمله طراحان نرم‌افزار، تولیدکنندگان، اپراتور‌ها و حتی کاربران نهایی.

موارد مشابه از بخش‌های دیگر، مانند تصادفات خودرو‌های خودران تسلا و تراژدی‌های بوئینگ ۷۳۷ مکس، پیچیدگی‌های عظیم تعیین مسئولیت در تصادفات مربوط به سیستم‌های اتوماسیون هوشمند را نشان می‌دهد.

در مواجهه با این چالش، چارچوب‌های قانونی در کشور‌های مختلف تلاش می‌کنند تا با پیشرفت‌های فناوری همگام شوند. در حالی که ایالات متحده رویکردی سنتی برای تعیین مسئولیت اتخاذ می‌کند، اروپا در تلاش است تا قوانینی را به طور خاص برای هوش مصنوعی تدوین کند.

برخی از دانشگاهیان تا آنجا پیش رفته‌اند که پیشنهاد اعطای «شخصیت حقوقی محدود» به ربات‌ها را داده‌اند، ایده‌ای که توسط اکثر متخصصانی که تأکید می‌کنند مسئولیت نهایی باید بر عهده انسان‌ها باقی بماند، رد شده است.

در پاسخ، شرکت‌های رباتیک شروع به تقویت اقدامات اعتمادسازی و ایمنی، مانند ارائه ضمانت‌های بیمه، تعهد به انتشار گزارش‌های شفاف و اجرای پروتکل‌های امنیتی سختگیرانه‌تر، کرده‌اند تا هم به نهاد‌های نظارتی و هم به عموم مردم اطمینان خاطر دهند.