گزارش BlackFog: نشت اطلاعات حساس از طریق ابزارهای هوش مصنوعی در نیمی از سازمان‌ها
Half of Security Leaders Report Sensitive Data Exposure Through AI Tools
تحقیقات جدید BlackFog نشان می‌دهد که ۴۷ درصد از مدیران امنیتی نشت اطلاعات حساس سازمان خود را از طریق ابزارهای هوش مصنوعی تجربه کرده‌اند. این گزارش بر شکاف عمیق میان سیاست‌های سازمانی و توانایی‌های فنی در کنترل داده‌های ورودی به مدل‌های هوش مصنوعی تأکید دارد.
وضعیت نگران‌کننده نشت داده‌ها
بر اساس یافته‌های منتشر شده در ۴ نوامبر، ۷۷ درصد از حوادث نشت اطلاعات مربوط به ابزارهای هوش مصنوعی بوده که توسط خود شرکت‌ها تأیید شده‌اند. این موضوع نشان می‌دهد که حتی ابزارهای مجاز نیز می‌توانند به مجرایی برای خروج داده‌های حساس تبدیل شوند.
اگرچه ۶۲ درصد از سازمان‌ها قادر به شناسایی کاربران یا بخش‌هایی هستند که از هوش مصنوعی استفاده می‌کنند، اما کمتر از نیمی از آن‌ها (۴۸ درصد) می‌توانند سوابق دقیقی از نوع داده‌های خارج شده از سازمان را ارائه دهند.
شکاف در حاکمیت و کنترل‌های فنی
با وجود اینکه ۹۸ درصد سازمان‌ها دارای سیاست‌های استفاده از هوش مصنوعی هستند، تنها ۵۶ درصد از آن‌ها از کنترل‌های فنی جامع برای اجرای این سیاست‌ها بهره می‌برند. حدود ۳۵ درصد از سازمان‌ها تنها به سیاست‌های مکتوب اکتفا کرده و هیچ‌گونه ابزار فنی برای جلوگیری از ورود اطلاعات ممنوعه به پرامپت‌ها ندارند.
علاوه بر این، ۳۹ درصد از مدیران امنیتی اذعان دارند که سرعت پذیرش هوش مصنوعی از توانایی آن‌ها برای حاکمیت بر آن پیشی گرفته است. در این میان، تنها ۲۷ درصد از سازمان‌هایی که احساس می‌کنند از سرعت تحولات عقب مانده‌اند، کنترل‌های جامع پیاده‌سازی کرده‌اند.
چالش عوامل خودمختار (AI Agents) و Shadow AI
بیش از نیمی از سازمان‌ها (۵۶ درصد) گزارش داده‌اند که عوامل هوش مصنوعی خودمختار که به نمایندگی از کارکنان عمل می‌کنند، خارج از کنترل‌های امنیتی فعلی قرار دارند. این مشکل در صنایع فناوری و مخابرات با نرخ ۷۰ درصد، بیشترین شیوع را دارد.
همچنین، تنها ۵۴ درصد از مدیران امنیتی قادر به مسدودسازی یا محدود کردن ابزارهای هوش مصنوعی غیرمجاز هستند و ۳۲ درصد دیگر نیز با وجود شناسایی Shadow AI، توانایی متوقف‌سازی مداوم آن را ندارند.
نکته‌های کلیدی
- ۴۷ درصد از سازمان‌ها نشت اطلاعات حساس از طریق هوش مصنوعی را تجربه کرده‌اند.
- ۷۷ درصد از حوادث نشت داده مربوط به ابزارهای هوش مصنوعی تأیید شده توسط سازمان بوده است.
- ۵۶ درصد از عوامل هوش مصنوعی خودمختار خارج از چارچوب‌های حاکمیتی سازمان‌ها فعالیت می‌کنند.
- تنها ۵۴ درصد از تیم‌های امنیتی توانایی مسدودسازی ابزارهای هوش مصنوعی غیرمجاز را دارند.
چه باید کرد
- فراتر رفتن از سیاست‌های مکتوب و پیاده‌سازی کنترل‌های فنی جامع برای نظارت بر داده‌های ورودی به ابزارهای هوش مصنوعی.
- ایجاد قابلیت‌های فنی برای ثبت و مانیتورینگ دقیق نوع داده‌های به اشتراک گذاشته شده با مدل‌های هوش مصنوعی.
- تدوین استراتژی‌های حاکمیتی خاص برای مدیریت و کنترل عوامل هوش مصنوعی خودمختار (AI Agents).
- تقویت توانایی‌های شناسایی و مسدودسازی ابزارهای هوش مصنوعی غیرمجاز (Shadow AI) در سطح شبکه.