کد مطلب: ۷۵۵۶۹۵

|

|

نگارمگ اخبار اخبار علمی آموزشی

۲۸ دی ۱۴۰۳ - ۰۸:۳۲

ماسک در مورد "توهم" هوش مصنوعی پس از تمام شدن داده‌های آنلاین هشدار می‌دهد

ماسک در مورد

ایلان ماسک گفت که مدل‌های هوش مصنوعی، مانند GPT-۴o و ربات چت ChatGPT بر اساس آن ساخته شده است، حجم عظیمی از داده‌های اینترنتی را مصرف می‌کنند.

به گزارش مجله خبری نگار، بر اساس داده‌های گرفته شده در اینترنت، هوش مصنوعی یاد می‌گیرد که الگو‌های موجود در اطلاعات را شناسایی کند و به عنوان مثال، به آن اجازه می‌دهد کلمه بعدی یک جمله را پیش بینی کند و پاسخ‌ها را به زبانی قابل درک برای انسان ارائه دهد.

به گفته ماسک، توسعه دهندگان باید به داده‌های "مصنوعی"، مواد ایجاد شده توسط خود مدل‌های زبانی بزرگ متوسل شوند و چنین فرآیندی در حال حاضر با توجه به پیشرفت‌های سریع فناوری اتفاق می‌افتد.

ماسک نسبت به احتمال فروپاشی شبکه‌های هوش مصنوعی هشدار داد و به خطرات استفاده از «داده‌های مصنوعی» اشاره کرد و گفت: «شبکه‌های عصبی مستعد توهم خواهند بود، یعنی تمایل به جعل نتایجی دارند که نادرست، غیرمنطقی یا فاقد هر معنایی هستند و ممکن است کاملا بی فایده شوند، پس چگونه می‌توانیم بفهمیم این نتیجه توهم است یا پاسخ واقعی؟!»

هنگامی که مدل‌های هوش مصنوعی به داده‌های مصنوعی تکیه می‌کنند یا بیش از حد تکرار می‌شوند، ممکن است نتایج نادرست یا غیرمنطقی ایجاد کنند. این پدیده به عنوان توهم شناخته می‌شود، که در آن مدل اطلاعاتی را ارائه می‌دهد که قانع کننده به نظر می‌رسد، اما نادرست یا بی معنی است. به عنوان مثال، یک هوش مصنوعی ممکن است به یک سوال با جمله‌ای پاسخ دهد که از نظر گرامری درست به نظر می‌رسد، اما نادرست است.

با افزایش استفاده از داده‌های تولید شده توسط خود مدل‌های هوش مصنوعی، کیفیت داده‌ها ممکن است در طول زمان بدتر شود، زیرا مدل‌ها ممکن است خطا‌ها را تکرار کنند یا سوگیری‌ها را در داده‌های اصلی تقویت کنند.

مدل‌های هوش مصنوعی باید به داده‌های با کیفیت بالا و متنوع متکی باشند و در عین حال وابستگی به داده‌های مصنوعی را کاهش دهند. این امر مستلزم همکاری بین توسعه دهندگان و کارشناسان در زمینه‌های مختلف برای اطمینان از صحت اطلاعات است.

سیستم‌های تأیید خودکار را می‌توان برای ارزیابی صحت پاسخ‌های هوش مصنوعی توسعه داد، به عنوان مثال، با استفاده از منابع قابل اعتماد برای تأیید حقایق یا مقایسه نتایج با سایر داده ها. در مناطق حساس، انسان می‌تواند نقش کلیدی در بررسی و ممیزی نتایج ارائه شده توسط هوش مصنوعی داشته باشد. این می‌تواند به کاهش خطا‌ها و توهمات کمک کند.

منبع: Naukatv

لینک کپی شد

اشتراک‌ گذاری

۰ پسندیدم

گزارش خطا

برچسب ها: هوش مصنوعی ایلان ماسک

ارسال نظرات

انتشار یافته: ۰ |

در انتظار بررسی: ۰ |

غیر قابل انتشار: ۰

قوانین ارسال نظر