یک متخصص، امکان واگذاری تصمیمات مهم به هوش مصنوعی را ارزیابی کرد

دانشیار کانتونیستووا: هوش مصنوعی باید طبق قوانین تعریف‌شده توسط انسان عمل کند

به گزارش مجله خبری نگار، النا کانتونیستا، دانشیار و سرپرست دانشگاهی برنامه کارشناسی ارشد هوش مصنوعی در دانشکده علوم کامپیوتر در مدرسه عالی اقتصاد دانشگاه ملی تحقیقات، به ایزوستیا گفت: کارشناسان معتقدند که در آینده، سیستم‌های هوش مصنوعی قادر به شرکت در تصمیم‌گیری‌های جمعی خواهند بود که بر منافع میلیون‌ها نفر تأثیر می‌گذارد. با این حال، این امر مستلزم آن است که انسان‌ها نقش کلیدی خود را در تعریف قوانین عملیاتی چنین سیستم‌هایی و نظارت بر تصمیمات آنها حفظ کنند.

به گفته این متخصص، هوش مصنوعی می‌تواند در حوزه‌هایی با معیار‌های ارزیابی روشن و اهداف رسمی، به طور مؤثر عمل کند. در چنین مواردی، الگوریتم‌ها می‌توانند حجم زیادی از داده‌ها را تجزیه و تحلیل کرده و به انتخاب راه‌حل‌های بهینه کمک کنند.

در عین حال، این محقق تأکید می‌کند که مهم‌ترین شرط همچنان وجود قوانین از پیش تعیین‌شده و الگوریتم‌های تصمیم‌گیری شفاف است.

کانتونیستووا خاطرنشان کرد: «مدل‌ها نباید هنگام عملکرد خود قوانینی وضع کنند. آنها باید در چارچوب اصول، محدودیت‌ها و اولویت‌های کاملاً تعریف‌شده توسط انسان‌ها عمل کنند. این امر به ویژه در سیستم‌هایی که بر منافع تعداد زیادی از مردم تأثیر می‌گذارند، اهمیت دارد.»

همانطور که این متخصص توضیح داد، در حال حاضر نمی‌توان مسائل پیچیده اجتماعی، سیاسی یا اخلاقی را به طور کامل رسمی کرد. بنابراین، مشارکت انسان در چنین حوزه‌هایی باید همچنان اجباری باشد.

همراه با پیشرفت‌های تکنولوژیکی، ایجاد سازوکار‌هایی برای نظارت و تنظیم استفاده از هوش مصنوعی ضروری است. همانطور که این متخصص خاطرنشان می‌کند، یکی از مسائل کلیدی امروز، توزیع مسئولیت در تصمیماتی است که با استفاده از الگوریتم‌ها گرفته می‌شوند.

کانتونیستووا تأکید کرد: «ضروری است که از قبل مشخص شود چه کسی مسئول عواقب تصمیمات گرفته شده با استفاده از هوش مصنوعی است: توسعه‌دهنده مدل، شرکت پیاده‌سازی سیستم یا اپراتوری که از آن استفاده می‌کند. بدون مسئولیت قانونی مشخص، حتی پیشرفته‌ترین سیستم‌های هوش مصنوعی نیز همچنان منبع افزایش خطرات خواهند بود.»

به گفته این متخصص، علاوه بر مقررات قانونی، سازوکار‌های کنترل فنی نیز مهم هستند. این سازوکار‌ها شامل شفافیت الگوریتم‌ها، توانایی توضیح منطق تصمیم‌گیری، حسابرسی سیستم، ثبت اقدامات آنها و محدودیت‌های سختگیرانه بر اختیارات مدل‌ها می‌شود.

منبع: iz

لینک کپی شد

اشتراک‌ گذاری