هوش مصنوعی نباید تصمیم نهایی امنیت سایبری را بگیرد

به گزارش مجله خبری نگار/سینا،کن آمون کارشناس امنیت سایبری، می‌گوید: هوش مصنوعی در تحلیل حجم عظیمی از داده‌ها، اولویت‌بندی هشدار‌ها و تسریع روند بررسی رخداد‌های امنیتی عملکرد بسیار خوبی دارد، اما برای تصمیم‌های حیاتی امنیتی نمی‌توان تنها به پیش‌بینی‌های احتمالی آن اتکا کرد.

به گفته وی، اغلب سامانه‌های امنیتی مبتنی بر هوش مصنوعی یا یادگیری ماشین بر اساس احتمال عمل می‌کنند؛ برای مثال اعلام می‌کنند که یک فایل «احتمالاً مخرب» یا یک رفتار «مشکوک» است.

این رویکرد برای کمک به تحلیلگران امنیتی و غربال هشدار‌ها مفید است، اما زمانی که قرار است درباره اجرای یک نرم‌افزار در محیط‌های حساس تصمیم‌گیری شود، چنین برآورد‌هایی کافی نیست.

سرعت حملات از توان انسان فراتر رفته است

این مقاله تأکید می‌کند: مهاجمان سایبری اکنون با کمک هوش مصنوعی می‌توانند بدافزار‌های چندشکلی تولید کنند که به‌طور مداوم ظاهر خود را تغییر می‌دهند. از سوی دیگر، توسعه‌دهندگان نیز بیش از گذشته از ابزار‌های خودکار، کد‌های متن‌باز و نرم‌افزار‌های تولیدشده توسط هوش مصنوعی استفاده می‌کنند.

در چنین شرایطی، حجم و سرعت تولید و انتشار نرم‌افزار‌ها از توان تصمیم‌گیری انسانی و حتی مدل‌های مبتنی بر احتمال فراتر رفته و فاصله‌ای میان شناسایی تهدید و جلوگیری از اجرای آن ایجاد کرده است.

اعتماد صفر برای کد

وی راهکار این چالش را استفاده از رویکردی موسوم به «اعتماد صفر برای کد» (Zero Trust for Code) می‌داند.

در این مدل، هیچ نرم‌افزاری پیش از ارزیابی رفتار و تطبیق آن با سیاست‌های امنیتی اجازه اجرا پیدا نمی‌کند. به‌جای اینکه سیستم صرفاً احتمال مخرب بودن یک برنامه را محاسبه کند، بررسی می‌شود که آن نرم‌افزار چه قابلیت‌هایی دارد و آیا رفتار آن با قوانین امنیتی سازمان سازگار است یا خیر.

وی به حمله اخیر به بسته نرم‌افزاری LiteLLM نیز اشاره کرد؛ حمله‌ای که طی آن نسخه‌ای آلوده از یک بسته پرکاربرد پایتون برای مدت کوتاهی منتشر شد و توانست اطلاعات محرمانه توسعه‌دهندگان را سرقت کرده و امکان ماندگاری مهاجمان در سیستم‌ها را فراهم کند.

به اعتقاد این کارشناس، مشکل اصلی در این حادثه، ضعف در تشخیص نبود، بلکه اعتماد به اجرای کد پیش از ارزیابی کامل آن بود؛ زیرا زمانی که سامانه‌های امنیتی هشدار دادند، کد مخرب قبلاً اجرا شده بود.

نقش هوش مصنوعی همچنان مهم است

کن آمون کارشناس امنیت سایبری تأکید می‌کند که این دیدگاه به معنای کم‌اهمیت دانستن هوش مصنوعی نیست. به گفته او، این فناوری همچنان ابزار قدرتمندی برای شناسایی الگو‌های حمله، تحلیل داده‌های گسترده، بررسی ریشه حوادث امنیتی و کاهش حجم کار کارشناسان امنیت است.

با این حال، تصمیم نهایی درباره اینکه یک نرم‌افزار اجازه اجرا داشته باشد یا خیر، باید بر اساس قوانین قطعی، قابل توضیح، قابل تکرار و قابل ممیزی و نه صرفاً بر مبنای پیش‌بینی‌های آماری اتخاذ شود.