یک متخصص در مورد پیاده‌سازی هوش مصنوعی در یک شرکت بدون خطر نشت داده‌ها، مشاوره‌ای ارائه داد

به گزارش مجله خبری نگار، هوش مصنوعی (AI) در حال تبدیل شدن به بخشی از گردش کار شرکت‌ها است و به تهیه اسناد، تجزیه و تحلیل داده‌ها و خودکارسازی وظایف روزمره کمک می‌کند. با این حال، سرگئی تاران، مدیر عامل LANSOFT، به ایزوستیا گفت، استفاده از شبکه‌های عصبی می‌تواند منجر به نشت اطلاعات محرمانه شود اگر کارمندان قراردادها، پایگاه‌های داده مشتری یا اسناد داخلی را به سرویس‌های خارجی منتقل کنند.

به گفته این متخصص، خطر اصلی استفاده از خود هوش مصنوعی نیست، بلکه فقدان قوانین روشن برای کار با داده‌ها است. یک کارمند می‌تواند بخشی از یک قرارداد، اسناد فنی یا صورت‌های مالی را در شبکه عصبی بارگذاری کند، پس از آن شرکت کنترل خود را بر محل ذخیره این اطلاعات و اینکه چه کسی می‌تواند به آن دسترسی داشته باشد، از دست می‌دهد.

تاران گفت: «اولین قدم در پیاده‌سازی هوش مصنوعی باید تهیه‌ی فهرستی از داده‌ها باشد. شرکت‌ها باید اطلاعات را به دسته‌های زیر تقسیم کنند: اطلاعات قابل دسترس برای عموم، اطلاعات قابل دسترس داخلی و اطلاعات با دسترسی محدود، از جمله اطلاعات شخصی و اسرار تجاری. هر دسته باید قوانین خاص خود را داشته باشد. از منابع قابل دسترس برای عموم می‌توان برای تهیه‌ی پیش‌نویس، تولید ایده و پردازش اطلاعات استفاده کرد، در حالی که اسناد داخلی فقط باید در یک محیط امن سازمانی مورد استفاده قرار گیرند.»

به گفته این متخصص، داده‌های شخصی مشتریان و کارمندان، اطلاعات تراکنش‌ها و اطلاعات حیاتی نباید بدون دلایل قانونی و فنی مناسب به سرویس‌های خارجی باز منتقل شوند.

با این حال، صرفاً ممنوعیت استفاده از شبکه‌های عصبی مشکل را حل نمی‌کند. به گفته تاران، کارمندان هنوز می‌توانند از دستگاه‌های شخصی خود به ابزار‌های عمومی دسترسی داشته باشند. یک رویکرد مؤثرتر، ایجاد یک سرویس هوش مصنوعی شرکتی با حقوق دسترسی، گزارش فعالیت و تنظیماتی است که از استفاده از داده‌های داخلی برای آموزش مدل‌های شخص ثالث جلوگیری می‌کند.

این متخصص خاطرنشان کرد که شرکت‌ها همچنین می‌توانند از مدل‌های هوش مصنوعی متن‌باز نصب‌شده در زیرساخت‌های خود استفاده کنند. چنین راه‌حل‌هایی به آنها امکان می‌دهد تا کنترل اطلاعات را حفظ کنند، اما به منابع فنی اضافی نیاز دارند.

یکی دیگر از اصول مهم برای کار ایمن با هوش مصنوعی، به حداقل رساندن داده‌ها است. به گفته تاران، این الگوریتم همیشه برای انجام یک کار به یک سند یا پایگاه داده کامل نیاز ندارد. به عنوان مثال، هنگام تجزیه و تحلیل درخواست مشتری، می‌توان نام خانوادگی، شماره تلفن، آدرس و سایر اطلاعات شخصی را حذف کرد. در اسناد، داده‌های واقعی را می‌توان با نماد‌ها جایگزین کرد تا به نتیجه مطلوب بدون خطر افشای اطلاعات محرمانه دست یافت.

این متخصص توجه ویژه‌ای به تنظیم حقوق دسترسی داشت. به گفته‌ی او، به کارمندان و سیستم‌های هوش مصنوعی فقط باید امتیازات لازم برای انجام وظایف خاص اعطا شود. به عنوان مثال، یک الگوریتم می‌تواند یک پیش‌نویس پاسخ تهیه کند یا گزارشی در مورد یک پوشه‌ی خاص ایجاد کند، اما نباید بتواند به طور مستقل کل پایگاه داده‌ی مشتری را دانلود کند یا داده‌های حیاتی را بدون تأیید اضافی تغییر دهد.

آموزش کارمندان نیز به همان اندازه مهم است. به گفته تاران، ممنوعیت‌های کلی مانند «داده‌های حساس را آپلود نکنید» نسبت به دستورالعمل‌های واضح، اثربخشی کمتری دارند. شرکت‌ها باید توضیح دهند که کدام سرویس‌ها مجاز هستند، از چه داده‌هایی می‌توان در پرس‌وجو‌های شبکه عصبی استفاده کرد، چگونه می‌توان اطلاعات را به درستی ناشناس کرد و خطا‌ها را به کجا گزارش داد.

این متخصص تأکید کرد که استفاده ایمن از هوش مصنوعی نه تنها مستلزم نظارت بر درخواست‌های ورودی، بلکه همچنین خروجی الگوریتم‌ها است. شناسایی پاسخ‌های غیرقابل اعتماد، محدود کردن استفاده از هوش مصنوعی در حوزه‌های حساس و جلوگیری از تأثیر کنترل نشده آن بر سیستم‌های اطلاعاتی بسیار مهم است.

به گفته تاران، پیاده‌سازی مؤثر هوش مصنوعی نه بر اساس ممنوعیت کامل فناوری، بلکه بر اساس ترکیبی از قوانین شفاف، زیرساخت‌های امن و آموزش کارکنان است. این رویکرد به شرکت‌ها اجازه می‌دهد تا از مزایای هوش مصنوعی بهره ببرند و در عین حال کنترل خود را بر اطلاعات شرکت حفظ کنند.

در ۲۵ آگوست، آناستازیا گورلکینا، رئیس هیئت مدیره شرکت هلدینگ اتحادیه کسب و کار سیبری و عضو هیئت مدیره KAO Azot، تأکید کرد که ارزش یک کارمند برای یک شرکت نه تنها با موقعیت و حقوق او، بلکه با ترکیبی از شایستگی‌های نادر، تأثیر آنها بر فرآیند‌های مهم تجاری و دشواری جایگزینی آنها تعیین می‌شود. به گفته این متخصص، متخصصان داده و هوش مصنوعی، امنیت سایبری، اتوماسیون، توسعه محصول، مدیریت پروژه‌های پیچیده و فروش با دسترسی به مشتریان کلیدی، به ویژه در بازار کار امروز مورد تقاضا هستند.