اخبار امنیتی

هوش مصنوعی ۱۴۰۵/۰۸/۲۹ · ۱۴ ساعت پیش منبع: The Hacker News

مسیر خودمختاری هوش مصنوعی در مراکز عملیات امنیت

The Path to AI Autonomy in the SOC

بر اساس نظرسنجی انجام شده توسط a16z از مدیران ارشد امنیت اطلاعات، نقش هوش مصنوعی در مراکز عملیات امنیت رو به رشد است و بسیاری از سازمان‌ها قصد دارند خودمختاری عامل‌های هوش مصنوعی را در کارهای کم‌ریسک افزایش دهند. با این حال، نگرانی‌هایی در خصوص حملات شتاب‌گرفته با هوش مصنوعی و خطرات ناشی از خودمختاری وجود دارد که نیازمند چارچوب‌بندی دقیق و ارزیابی مراحل مختلف کار است.

طیف خودمختاری در عملیات امنیتی

بر اساس نتایج نظرسنجی a16z، حدود ۳۶ درصد از مدیران ارشد امنیت اطلاعات در سازمان‌های بزرگ راحت هستند که به عامل‌های هوش مصنوعی اجازه دهند به صورت خودکار در اقدامات امنیتی کم‌ریسک عمل کنند و این رقم در ۱۲ ماه آینده به ۶۰ درصد خواهد رسید. در این نظرسنجی، پیشی گرفتن حملات شتاب‌گرفته با هوش مصنوعی از توانایی تیم در پاسخگویی به عنوان رایج‌ترین نگرانی مطرح شد که ۵۵ درصد از پاسخ‌دهندگان به آن اشاره کردند.

مفهوم خودمختاری به صورت یک کلید ساده یا همه‌چیز یا هیچ‌چیز نیست، بلکه بر اساس چهار تابع کلیدی تقسیم می‌شود که شامل جمع‌آوری شواهد، تحلیل و رأی نهایی، پیشنهاد پاسخ و اجرای پاسخ است. این تقسیم‌بندی به رهبران امنیتی اجازه می‌دهد تا مراحل اولیه و زمان‌بر را به شدت خودکارسازی کنند در حالی که در مرحله چهارم یعنی اجرای پاسخ که ممکن است باعث اختلال در کسب‌وکار شود، محافظه‌کارانه‌تر عمل کنند.

معیارهای اعطا و سنجش خودمختاری به عامل‌های هوش مصنوعی

برای تصمیم‌گیری درباره میزان اعطای خودمختاری به عامل‌های هوش مصنوعی، سه سوال کلیدی شامل برگشت‌پذیری، شعاع انفجار و شواهد یا مدارک وجود دارد که با امتیازدهی به آن‌ها می‌توان نقشه راه مناسبی را تهیه کرد. همچنین تایید انسانی تنها زمانی ارزش دارد که بررسی‌کننده بتواند منطق و کار هوش مصنوعی را به همراه شواهد دقیق پزشکی قانونی بررسی کند تا از تبدیل شدن تایید انسانی به یک مهر تایید تشریفاتی جلوگیری شود.

رویکرد OWASP Top 10 برای برنامه‌های عامل‌محور، اصل حداقل دسترسی را به حداقل عاملیت گسترش می‌دهد تا خودمختاری تنها برای کارهای امن و محدود اعطا شده و با کسب شواهد و معیارهای سنجش رشد کند. از سوی دیگر، خطرات مربوط به عامل‌های هوش مصنوعی شامل مواردی مانند اقدام خارج از دسترسی‌های مجاز، دستکاری، تزریق پرامپت یا افشای داده‌ها است که نیازمند رفتاری مشابه با هویت‌های دارای دسترسی ممتاز در قبال آن‌ها است.

نکته‌های کلیدی

  • ۳۶ درصد از مدیران ارشد امنیت اطلاعات سازمان‌های بزرگ اکنون با خودمختاری هوش مصنوعی در کارهای کم‌ریسک موافق هستند و این رقم در یک سال آینده به ۶۰ درصد می‌رسد.
  • بزرگ‌ترین نگرانی مدیران، پیشی گرفتن حملات شتاب‌گرفته با هوش مصنوعی از توان پاسخگویی تیم است.
  • خودمختاری هوش مصنوعی به جای یک انتخاب ساده، باید بر اساس مراحل مختلف کار مانند جمع‌آوری شواهد، تحلیل، پیشنهاد پاسخ و اجرا مدیریت شود.
  • تعیین سطح خودمختاری بر اساس سه معیار برگشت‌پذیری، شعاع انفجار و قوی بودن شواهد انجام می‌شود.
  • عامل‌های هوش مصنوعی در مراکز عملیات امنیت باید دقیقاً مانند هویت‌های ممتاز مدیریتی و با ثبت کامل لاگ‌ها و محدودسازی دسترسی‌ها کنترل شوند.

این گزارش فارسی را کلون با کمک هوش مصنوعی بر اساس مقالهٔ زیر تهیه کرده است؛ جزئیات و متن اصلی متعلق به منبع است.

The Path to AI Autonomy in the SOC — The Hacker News

مطالعهٔ مقالهٔ اصلی (The Hacker News) ↗