دسترسی چت‌بات‌ها به اطلاعات کاربران خطرناک است؟

رئیس اپلیکیشن سیگنال هشدار داد که دسترسی گسترده چت‌بات‌ها به اطلاعات کاربران یک تهدید امنیتی است.

به گزارش مجله خبری نگار/ایستنا،«مردیت ویتاکر» (Meredith Whittaker)، رئیس اپلیکیشن پیام‌رسان سیگنال، به کاربران یادآوری کرد که هوش مصنوعی رفیق یا همدم انسان نیست. او در واکنش به نگرانی‌های موجود پیرامون پیامد‌های حریم خصوصی در اعتماد به چت‌بات‌هایی مانند ChatGPT و Claude گفت این ابزار‌ها موجوداتی آگاه و دارای شعور نیستند و هرگز نباید آنها را به عنوان یک دوست در نظر گرفت.

مردیت ویتاکر در مصاحبه با بلومبرگ درباره سیاست‌گذاری، حریم خصوصی و اپلیکیشن سیگنال صحبت کرد. او خطاب به کابران گفت:

«[چت‌بات‌های هوش مصنوعی]دوستان شما نیستند. اینها موجوداتی خودآگاه نیستند. اینها هم‌کلام‌هایی دارای شعور و احساس نیستند.»

همچنین او در این گفت‌و‌گو اشاره کرد که گاهی از ابزار‌های هوش مصنوعی صرفاً برای قالب‌بندی اسناد استفاده می‌کند، اما هرگز از آنها سؤالی نمی‌پرسد. رئیس سیگنال با اشاره به اهمیت استقلال فکری خود توضیح داد که درباره تفکر و نوشتن بسیار جدی است و اصلاً نمی‌خواهد فرایند پرورش ایده، توسط سیستمی که صرفاً میانگینی از اطلاعات موجود را ارائه می‌دهد، محدود شود یا تحت‌الشعاع قرار بگیرد.

نظرات رئیس سیگنال درباره هوش مصنوعی

«مصطفی سلیمان»، مدیر بخش هوش مصنوعی مایکروسافت، اخیراً پیش‌بینی کرده بود که کاربران امسال می‌توانند تمام خرید‌های کریسمس خود را به هوش مصنوعی کوپایلوت بسپارند. ویتاکر به این سناریو نیز واکنش نشان داد.

در این سناریو کوپایلوت برای تشخیص خواسته‌های افراد، باید به چت‌های گروهی خانواده گوش دهد تا متوجه شود هر شخص چه چیزی نیاز دارد. رئیس سیگنال استدلال کرد که چنین سطحی از خودمختاری به این معنا است که ما دسترسی به کارت اعتباری، مرورگر وب، اپلیکیشن سیگنال، آدرس خانه و تقویم شخصی خود را به هوش مصنوعی می‌دهیم و حتی به آن اجازه می‌دهیم تا از طرف ما به اعضای خانواده پیام بفرستد.

ویتاکر معتقد است سیستمی که مدیرعامل هوش مصنوعی مایکروسافت توصیف می‌کند، ابزاری با دسترسی بسیار فراگیر در برنامه‌ها و خدمات مختلف است. او با اشاره به استاندارد‌های بالای امنیتی، اعلام کرد که چنین دسترسی گسترده‌ای در بستر اپلیکیشن سیگنال، عملاً به معنای ایجاد در پشتی برای نفوذ به حریم خصوصی کاربران است و این پلتفرم ارتباطی امن، هرگز چنین اجازه‌ای نخواهد داد.

لینک کپی شد

اشتراک‌ گذاری