هشدار‌ها در مورد خطرات هوش مصنوعی در حال افزایش است

به گزارش مجله خبری نگار،هینتون که در اوایل ماه مه از کار خود در شرکت فناوری و خدمات اینترنتی آمریکایی گوگل استعفا داد، گفت که هوش مصنوعی می‌تواند منجر به از دست دادن تعداد زیادی از مشاغل شود که به جای انسان توسط هوش مصنوعی انجام می‌شود.

اعلام نگرانی‌های هینتون پس از آن صورت گرفت که روسای شرکت‌های فناوری در ایالات متحده نامه‌ای را امضا کردند که در آن خواستار توقف توسعه فناوری هوش مصنوعی برای یک دوره ۶ ماهه شدند، چرا که بیم دارند ذهن‌های مصنوعی در جهان باهوش‌تر و بیش‌تر جایگزین انسان‌ها شوند و سپس با خطر از دست دادن کنترل تمدن بشری مواجه شویم.

از سوی دیگر، یک مطالعه دانشگاهی منتشر شده در مجله "Science Advances" نشان داد که قضاوت سیستم‌های هوش مصنوعی مورد استفاده برای ارزیابی پست‌ها در سایت‌های شبکه‌های اجتماعی می‌تواند سخت‌تر از قضاوت بازبین‌های انسانی باشد.

شایان ذکر است که از تکنیک‌های هوش مصنوعی به جای انسان برای بررسی شکایات و گزارش‌های ارسالی کاربران شبکه‌های اجتماعی علیه محتوای منتشر شده در پلتفرم‌ها استفاده می‌شود، اما این فناوری‌ها اغلب نمی‌توانند تصمیم مناسبی در مورد انطباق انتشارات با پلتفرم با قوانین تعیین شده اتخاذ کنند.
محققان افزودند که ممکن است قضاوت‌های سیستم‌های هوش مصنوعی در مورد پست‌ها "متفاوت‌تر و دقیق‌تر از قضاوت‌های کارکنان انسانی باشد".

میرزه جاسمی، استادیار موسسه فناوری ماساچوست (MIT) گفت: "من فکر می‌کنم اکثر محققان در زمینه هوش مصنوعی و یادگیری ماشینی، ارزیابی‌های انسانی از داده‌ها و پست‌ها را مغرضانه فرض می‌کنند، اما نتیجه این مطالعه چیز بدتری را نشان می‌دهد. این سامانه‌ها نه فقط ارزیابی‌های انسانی مغرضانه را بازتولید می‌کنند، بلکه از شکاف‌هایی در داده‌هایی که برای تولید ارزیابی‌ها بر آن‌ها تکیه می‌کند رنج می‌برد".

جاسمی هشدار داد: "ما در نهایت به سیستم‌های هوش مصنوعی خواهیم رسید که در محتوای رسانه‌های اجتماعی بسیار تهاجمی‌تر از ناظران انسانی هستند. ناظران انسانی می‌توانند تفاوت‌های ظریف بین پیام‌ها را تشخیص دهند، اما مدل‌های هوش مصنوعی این کار را نمی‌کنند".