آیا پاسخ‌های پزشکی چت‌جی‌پی‌تی درست است؟

چت‌جی‌پی‌تی می‌تواند در تحقیق، نوشتن و برنامه‌ریزی کمک کند، اما استفاده از آن در برخی حوزه‌های حساس می‌تواند خطرساز باشد؛ بنابراین برخی اطلاعات و تصمیم‌ها را نباید به آن سپرد.

به گزارش مجله خبری نگار،مسائل حقوقی یکی از این حوزه‌هاست؛ زیرا مدل‌های هوش مصنوعی ممکن است استناد یا اطلاعات حقوقی نادرست تولید کنند و گفت‌و‌گو با چت‌بات نیز همان محرمانگی ارتباط با وکیل را ندارد.

دومین حوزه حساس، استفاده از چت‌جی‌پی‌تی به‌عنوان درمانگر یا مشاوره روان‌شناختی است. چت‌بات می‌تواند به صحبت کردن درباره احساسات یا مرتب کردن افکار کمک کند، اما برای تشخیص یا درمان اختلالات روانی طراحی نشده است

اطلاعات محرمانه کاری، اسناد داخلی، کد‌های منبع و داده‌های مشتریان نیز نباید بدون مجوز در حساب‌های عمومی هوش مصنوعی وارد شوند.

پرسش‌های پزشکی و مسائل مرتبط با سلامت هم نباید به جای تشخیص و تصمیم پزشک قرار بگیرند؛ پاسخ مطمئن یک مدل الزاماً پاسخ درست نیست.

رمز عبور، کد‌های ورود، اطلاعات بانکی و مدارک هویتی هم نباید در چت‌بات‌ها وارد شوند؛ چون افشای آنها می‌تواند پیامد‌های جدی برای امنیت و حریم خصوصی داشته باشد.

لینک کپی شد

اشتراک‌ گذاری