گزارش وضعیت حاکمیت و امنیت هوش مصنوعی در سازمان‌های بزرگ
87% say their AI controls need to work better
نتایج نظرسنجی از ۳۶۰۰ تصمیم‌گیرنده تجاری نشان می‌دهد که بیش از نیمی از سیستم‌های هوش مصنوعی در سازمان‌های بزرگ بدون نظارت انسانی فعالیت می‌کنند. با وجود سرمایه‌گذاری‌های کلان، ۸۷ درصد از مدیران معتقدند که فرآیندهای فعلی برای تأیید، نظارت و کنترل هوش مصنوعی ناکافی است.
وضعیت خودمختاری سیستم‌های هوش مصنوعی
بر اساس گزارش Vanson Bourne که در مناطق آمریکای شمالی، EMEA و آسیا-اقیانوسیه انجام شده، سیستم‌های هوش مصنوعی در سازمان‌هایی با درآمد سالانه بیش از ۵۰۰ میلیون دلار به سطحی از خودمختاری رسیده‌اند که بدون نیاز به تأیید انسانی یا بررسی‌های روتین، فرآیندها را تکمیل می‌کنند.
میزان خودمختاری در دسته‌بندی‌های مختلف شامل هوش مصنوعی مکالمه‌گر (۵۹ درصد)، تحلیل‌های پیش‌بینی‌کننده و یادگیری ماشین (۵۶ درصد)، اتوماسیون فرآیندهای رباتیک (۵۶ درصد)، پردازش زبان طبیعی (۵۶ درصد) و ابزارهای مولد مستقل (۵۴ درصد) گزارش شده است.
چالش‌های امنیتی و شکاف حاکمیتی
شرکت‌هایی که با سرعت بالا به سمت پیاده‌سازی هوش مصنوعی حرکت کرده‌اند، با مشکلات جدی مواجه شده‌اند؛ به طوری که ۴۶ درصد از آن‌ها گزارش داده‌اند که با مسائل امنیتی، حریم خصوصی و انطباق مقرراتی دست و پنجه نرم می‌کنند. همچنین ۲۵ درصد از این سازمان‌ها دچار فقدان دید و کنترل بر دسترسی‌های عامل‌های هوش مصنوعی شده‌اند.
علاوه بر این، ۴۵ درصد از مدیران معتقدند کارکنان بدون بررسی دقت خروجی‌های هوش مصنوعی از آن‌ها استفاده می‌کنند و ۳۱ درصد نیز از وجود ابزارهای تأیید نشده در سازمان خود خبر داده‌اند. این وضعیت منجر به ابهام در مسئولیت‌پذیری تصمیمات شده است.
اولویت‌های حاکمیتی و سرمایه‌گذاری
با وجود اینکه ۴۷ درصد از بودجه‌های هوش مصنوعی به امنیت، حریم خصوصی و انطباق اختصاص یافته است، ۹۴ درصد از پاسخ‌دهندگان بر نیاز به توسعه بیشتر در حوزه‌های حاکمیت و مدیریت ریسک تأکید دارند. در سازمان‌های با درآمد بین ۵۰۰ میلیون تا ۵ میلیارد دلار، نیاز به بهبود کنترل‌ها با ۹۰ درصد پاسخ مثبت، بسیار پررنگ‌تر از سازمان‌های بزرگ‌تر با درآمد بالای ۵ میلیارد دلار (۷۰ درصد) است.
نکته‌های کلیدی
- ۸۷ درصد مدیران خواستار روش‌های مؤثرتر برای تأیید و کنترل هوش مصنوعی هستند.
- ۲۵ درصد سازمان‌ها کنترل و دید خود را نسبت به دسترسی‌های عامل‌های هوش مصنوعی از دست داده‌اند.
- ۴۵ درصد کارکنان از خروجی‌های هوش مصنوعی بدون اعتبارسنجی استفاده می‌کنند.
- امنیت، حاکمیت و انطباق، اولویت اصلی ۴۵ درصد از سازمان‌ها در حوزه هوش مصنوعی است.
چه باید کرد
- ایجاد چارچوب‌های حاکمیتی سخت‌گیرانه برای نظارت بر عامل‌های هوش مصنوعی.
- پیاده‌سازی کنترل‌های دسترسی دقیق برای جلوگیری از دسترسی‌های مدیریت‌نشده.
- آموزش کارکنان برای اعتبارسنجی و بررسی دقت خروجی‌های تولید شده توسط ابزارهای هوش مصنوعی.
- بازنگری در فرآیندهای تأیید و مجوزدهی برای همسویی با استانداردهای امنیتی و انطباق سازمانی.