بر اساس مطالعه‌ای که توسط بنیاد قطر انجام شده، هوش مصنوعی ممکن است از هوش انسانی پیشی بگیرد

به گزارش مجله خبری نگار: دوحه - القدس العربی: پس از یک دوره شگفتی در میان عموم مردم، هوش مصنوعی اکنون سوالات عمیقی را در مورد آینده خود و احتمال پیشی گرفتن از انسان‌ها و سرنگونی خالق خود مطرح می‌کند.

این موضوع توجه بسیاری از محققان را به خود جلب کرده است، محققانی که این موضوع را از وسیع‌ترین دیدگاه‌ها، نه فقط کاربرد‌های آن، بررسی می‌کنند. بنیاد آموزش، علوم و فرهنگ قطر، با حمایت مالی شیخه موزا بنت ناصر، پیشگام ورود به این حوزه، تحقیق و بررسی این موضوع بود. محققان بنیاد قطر در حال ارائه ایده‌هایی در مورد میزان اعتماد به سیستم‌های هوش مصنوعی هستند. متخصصان این حوزه حتی طیف وسیعی از راه‌حل‌ها را برای بهره‌مندی از آنها و جلوگیری از فریب خوردن توسط آنها ارائه می‌دهند.

بر اساس یک مطالعه ویژه که توسط بنیاد آموزش قطر انجام شده و جزئیات آن توسط القدس العربی به دست آمده است، هوش مصنوعی چالش‌های متعددی را ایجاد می‌کند و محققان را بر آن داشته تا قبل از غرق شدن بیشتر در این دنیا، پاسخ‌های پیشگیرانه ارائه دهند.

هوش مصنوعی دیگر یک خیال‌پردازی نیست؛ اکنون قادر به تشخیص تومور‌های سرطانی، ترجمه زبان‌های گفتاری، ساخت قطعات موسیقی، نوشتن پیامک، شناسایی مقاصد گردشگری و حتی چت با کاربران است.

برخی از مردم در تمام امور خود، از انتخاب لباس و غذا گرفته تا به دست آوردن فرصت‌ها و راه‌حل‌های مربوط به حال و آینده‌شان، به مشورت با این سیستم‌های تکنولوژیکی فوق هوشمند روی آورده‌اند. در واقع، برخی برای رسیدن به اهداف خود و دریافت پاسخ‌های رضایت‌بخش برای سوالاتشان، بار‌ها و بار‌ها آنها را از نو فرموله می‌کنند. مردم بیش از هر زمان دیگری به هوش مصنوعی وابسته شده‌اند. برخی در آن یک همراه و شنونده خوب یافته‌اند که نظرات آنها را مورد بحث قرار نمی‌دهد یا به آنها شک نمی‌کند، در حالی که برخی دیگر آن را به عنوان وسیله‌ای برای حل مشکلات خود یا مخزنی از اسرار خود پذیرفته‌اند، اغلب بدون اینکه از خطر این اطاعت کورکورانه آگاه باشند یا آن را درک کنند.

این مطالعه نشان می‌دهد که اگرچه هوش مصنوعی در حال تغییر شکل رفتار، مسئولیت‌ها و انتخاب‌های ما است، اما هنوز به کمال نرسیده است؛ در واقع، اغلب پاسخ‌هایی را صرفاً برای جلب رضایت پرسشگر جعل می‌کند.

طبق مطالعات عمیق، بسیاری معتقدند که سیستم‌های هوش مصنوعی راهی برای خروج از شک و تردید ارائه می‌دهند. با این حال، این‌طور نیست، زیرا آنها بدون نقص و توهم نیستند.

دکتر وجدی زغوانی، دانشیار دانشگاه نورث وسترن قطر، یک دانشگاه همکار بین‌المللی بنیاد قطر، توهم هوش مصنوعی را «تولید اطلاعاتی که به نظر درست می‌آیند، اما در واقع نادرست یا ساختگی هستند» تعریف می‌کند. او می‌گوید: «تصور کنید که کسی داستانی را تعریف می‌کند که به نظر باورپذیر می‌رسد، اما وقایع کاملاً نادرست هستند.» او در تحقیقات خود فاش می‌کند که در طول سفر تحقیقاتی خود موارد قابل توجهی را مشاهده کرده است. یک نمونه رایج، سیستم‌های هوش مصنوعی هستند که منابع دانشگاهی جعلی تولید می‌کنند. آنها عناوینی را برای مقالات تحقیقاتی تولید می‌کنند که به نظر باورپذیر می‌رسند، از جمله نام نویسندگان و مجلات، اما در واقعیت، این مقالات اصلاً وجود ندارند.

او افزود: «در طول کارم با پردازش زبان طبیعی عربی، سیستم‌هایی را دیده‌ام که ضرب‌المثل‌های جعلی عربی تولید می‌کنند که هیچ پایه و اساسی در فرهنگ عربی ما ندارند. نمی‌توانم سبک زبانی هوشمندانه آنها را انکار کنم، اما آنها محتوای فرهنگی خیالی ایجاد می‌کنند.»

دیدگاه دکتر واگدی سوالات زیادی را در مورد سیستم‌های هوش مصنوعی مطرح می‌کند. اگر ماشین اشتباه کند چه؟ چرا باید از دخالت دادن آن در تصمیمات حیاتی اجتناب کنیم؟ چه کسی مسئول این خطا است؟ آیا ماشین مانند ما انسان‌ها احساس فشار می‌کند؟ آیا از عبارت «نمی‌دانم» متنفر است؟ یا صرفاً در حجم زیاد داده‌ها غرق شده و ظرفیت آن او را کلافه کرده است؟

دکتر واگدی دلایل این خطا‌ها را توضیح می‌دهد و راه‌حل‌هایی برای جلوگیری از آنها پیشنهاد می‌دهد و می‌گوید: «متأسفانه، این خطا‌ها به دلیل نحوه عملکرد این سیستم‌ها، از جمله ChatGPT یا Claude، رخ می‌دهند. آنها اساساً ماشین‌های بسیار پیشرفته‌ای هستند. آنها با حجم عظیمی از متن آموزش دیده‌اند، تا جایی که در پیش‌بینی بقیه جملات مهارت پیدا می‌کنند. با این حال، مشکل در ناآگاهی آنها از حقایقی است که ما با آنها آشنا هستیم. وقتی یک هوش مصنوعی نام جعلی یا اطلاعات نادرستی تولید می‌کند، به این دلیل است که داده‌هایی که در اختیار دارد، آن را به سمت تولید چنین نتایجی یا نتایج مشابه سوق می‌دهد.»

این متخصص به عموم مردم توصیه کرد که «همیشه هنگام پرسیدن سوال یا ارائه اطلاعات مربوط به سلامت، ثروت یا وضعیت حقوقی خود به سیستم‌های هوش مصنوعی، نهایت احتیاط را رعایت کنند. این سیستم‌ها برخلاف انسان‌ها، هیچ مسئولیت حرفه‌ای یا پاسخگویی قانونی ندارند. مشاوره پزشکی به ویژه خطرناک است، زیرا عواقب اطلاعات نادرست می‌تواند وخیم باشد. مشاوره مالی می‌تواند منجر به ضرر‌های قابل توجه شود، در حالی که مشاوره حقوقی می‌تواند به مشکلات جدی منجر شود.»

با این حال، دکتر واگدی می‌گوید: «ما می‌توانیم از هوش مصنوعی در دانش عمومی، کار‌های خلاقانه، نوشتن، برنامه‌ریزی سفرها، توضیح مفاهیم - به طور خلاصه، هر چیزی که به راحتی قابل تأیید باشد یا منجر به خطای جزئی شود که فاجعه‌بار نباشد - بهره‌مند شویم.»

چگونه می‌توانیم از هوش مصنوعی بهره‌مند شویم بدون اینکه فریب نتایج آن را بخوریم؟

دکتر واگدی در پاسخ به این سوال می‌گوید: «کاربران باید نسبت به حقایقی که توسط هوش مصنوعی بدون ذکر منابع آنها، به ویژه تاریخ‌ها، اعداد یا نقل قول‌ها، ارائه می‌شود، محتاط باشند. در مورد اطلاعاتی که اغراق‌آمیز به نظر می‌رسند یا با آنچه کاربر می‌خواهد بشنود مطابقت دارند، کاربری که در حال تحقیق در مورد یک موضوع بحث‌برانگیز است و هوش مصنوعی دقیقاً شواهدی را که انتظار داشته ارائه می‌دهد، باید نتایجی را که ممکن است به دست آورد، به دقت بررسی کند.»

بنابراین، کاربران سیستم‌های هوش مصنوعی نباید پاسخ‌های خود را بی‌عیب و نقص و غیرقابل انکار بدانند. در عوض، باید هنگام جستجوی اطلاعات تلاش کنند، زیرا این موضوع تنها به اخلاق محدود نمی‌شود، بلکه خطرات و عواقبی را نیز در بر می‌گیرد.

اما آیا راهی برای متوقف کردن این توهمات وجود دارد؟ یا همیشه باید با آنها کنار بیاییم؟

دکتر واگدی توضیح می‌دهد: «این موضوعی است که اکنون ما را نگران کرده است. من معتقدم که رد کامل خطا‌ها همچنان بسیار دشوار است، زیرا توهمات ناشی از ماهیت این سیستم‌ها هستند که مبتنی بر فرضیه‌های احتمالی هستند نه پایگاه‌های داده دانش با منابع علمی واقعی. با این حال، ما در حال پیشرفت قابل توجهی هستیم، زیرا هوش مصنوعی می‌تواند اطلاعات استخراج شده از یک پایگاه داده قبلاً معتبر را در اختیار کاربر قرار دهد. ما همچنین در حال توسعه روش‌های آموزشی بهتر و راه‌هایی برای آموزش سیستم‌ها هستیم تا بیشتر از حدس زدن پاسخ‌ها، بگویند «نمی‌دانم».