چالش تیم‌های امنیتی در پایش رفتار غیرمعمول عامل‌های هوش مصنوعی

Security teams want to spot unusual AI agent behavior while they’re still defining normal

بر اساس گزارش امنیت رفتاری سال 2026 شرکت Abnormal AI، عامل‌های هوش مصنوعی در صدر برنامه‌های سرمایه‌گذاری برای پایش رفتار قرار دارند، در حالی که تیم‌های امنیتی همچنان در تعریف الگوی رفتاری نرمال و تشخیص ناهنجاری‌ها با چالش مواجه هستند.

سرمایه‌گذاری روی عامل‌های هوش مصنوعی و پایش هویت‌های غیرانسانی

در گزارش 2026 State of Behavioral Security Report از شرکت Abnormal AI، مشخص شد که عامل‌های هوش مصنوعی در صدر فهرست سرمایه‌گذاری‌های برنامه‌ریزی‌شده در حوزه پایش رفتار قرار دارند. هنگامی که از پاسخ‌دهندگان پرسیده شد سازمان‌هایشان در دو سال آینده بیشترین سرمایه‌گذاری را در چه بخشی خواهند داشت، 43 درصد گزینه عامل‌های هوش مصنوعی را انتخاب کردند که این میزان بیش از سه برابر سهم یکپارچه‌سازی‌های API به عنوان پاسخ دوم بود.

بیش از 81 درصد از پاسخ‌دهندگان اعلام کردند که سازمان‌هایشان به میزان زیادی به تشخیص ناهنجاری رفتاری متکی هستند. این رویکرد از الگوهای فعالیت برای پرچم‌گذاری رویدادهایی که ممکن است نیاز به بررسی داشته باشند استفاده می‌کند؛ مانند ورود به سیستم خارج از الگوی معمول که حتی با وجود اعتبارنامه‌های معتبر توجه‌ها را جلب می‌کند.

این رویکرد می‌تواند برای هویت‌های غیرانسانی نیز اعمال شود. حدود 72 درصد از پاسخ‌دهندگان گفتند سازمان‌هایشان برای تشخیص رفتار غیرمعمول از هویت‌های غیرانسانی نسبت به انسان‌ها آمادگی بهتری دارند. با این حال، پوشش حفظ الگوهای مبنا برای عامل‌های هوش مصنوعی، یکپارچه‌سازی‌های API و حساب‌های سرویس در حدود نیمی از موارد گزارش شد.

دشواری در تعیین رفتار نرمال و چالش‌های ممیزی

متخصصان امنیت در زمینه توانایی سازمان‌های خود در ایجاد و حفظ الگوهای مبنا برای رفتار نرمال عامل‌های هوش مصنوعی اختلاف نظر داشتند؛ تقریباً نیمی از آن‌ها سازمان‌های خود را اصلاً مؤثر ندانستند، در حالی که حدود دو از پنج نفر عملکرد خود را بسیار یا فوق‌العاده مؤثر ارزیابی کردند.

یک عامل می‌تواند از طرف فردی اقدام کند، از چندین سیستم اطلاعات جمع‌آوری کند و گام‌هایی را انتخاب کند که آن فرد مشخص نکرده است. ارزیابی این فعالیت مستلزم آن است که تیم امنیتی بداند از عامل چه خواسته شده، از دسترسی چه کسی استفاده کرده و این اقدام چگونه با وظیفه محوله تناسب داشته است.

مدیر امنیت یک شرکت نرم‌افزاری با ذکر مثال فعالیت هوش مصنوعی که تنها 30 ثانیه روی یک ماشین مجازی طول کشیده، توضیح داد که ممیزی یک عامل کوتاه‌مدت چقدر دشوار است. تیم امنیتی ممکن است ترافیک شبکه را ببیند اما تشخیص اینکه کدام عامل آن را تولید کرده دشوار باشد، به ویژه اگر عامل برای یک کار منفرد ایجاد شده یا چند لایه عمیق‌تر در یک فرآیند دیگر اجرا شده باشد.

زمان‌بر بودن تحقیقات و موانع گسترش الگوهای رفتاری

کمی بیش از نیمی از پاسخ‌دهندگان اعلام کردند که سازمان‌هایشان معمولاً به حداقل چهار ساعت زمان از زمان تشخیص ناهنجاری رفتاری تا تکمیل تحقیق و اصلاح نیاز دارند. این زمان‌بندی مربوط به ناهنجاری‌های رفتاری به طور کلی است، از جمله فعالیت‌هایی که ارتباطی با عامل‌های هوش مصنوعی ندارند.

پاسخ‌دهندگان به دفعات زیادی هشدارهای کاذب و دشواری در تعریف فعالیت نرمال را به عنوان موانع اصلی در برابر گسترش الگوهای مبنای رفتاری ذکر کردند.

یک هشدار می‌تواند به تیم امنیتی اطلاع دهد که چیزی تغییر کرده است، اما بررسی آن نیازمند اطلاعات کافی برای توضیح تغییر است. ثبت باز شدن یک فایل توسط یک عامل، خود اقدام را ثبت می‌کند، اما وظیفه محوله کمک می‌کند تا مشخص شود که آیا عامل دلیلی برای باز کردن آن داشته است یا خیر.

نکته‌های کلیدی

• عامل‌های هوش مصنوعی با 43 درصد سهم، رتبه نخست برنامه‌های سرمایه‌گذاری پایش رفتار را در گزارش Abnormal AI به خود اختصاص دادند.
• بیش از 81 درصد سازمان‌ها به شدت به تشخیص ناهنجاری‌های رفتاری برای شناسایی رویدادهای مشکوک اتکا دارند.
• حدود 72 درصد سازمان‌ها آمادگی بهتری برای تشخیص رفتار غیرمعمول از هویت‌های غیرانسانی نسبت به انسان‌ها دارند.
• بیش از نیمی از سازمان‌ها نیازمند حداقل چهار ساعت زمان برای کشف، تحقیق و اصلاح ناهنجاری‌های رفتاری هستند.
• هشدارهای کاذب و مشکل در تعریف فعالیت‌های نرمال، اصلی‌ترین موانع گسترش الگوهای مبنای رفتاری محسوب می‌شوند.