استفاده از سوابق حوادث امنیتی برای آموزش مدل‌های هوش مصنوعی: مخاطرات و ملاحظات

AI Gave Your Incident Archive a Second Job

استفاده از داده‌های آرشیو حوادث امنیتی توسط فروشندگان برای آموزش و اعتبارسنجی مدل‌های هوش مصنوعی، چالش‌های جدیدی را برای سازمان‌ها ایجاد کرده است. این روند باعث می‌شود سوابق حساس امنیتی که برای پاسخگویی و بازرسی داخلی طراحی شده‌اند، به منبعی برای توسعه مدل‌های شخص ثالث تبدیل شوند.

تغییر کاربری سوابق امنیتی

سوابق حوادث امنیتی شامل یادداشت‌های بستن پرونده، متن قوانین، دلایل نادیده گرفتن هشدارها و تحلیل‌های کارشناسان است که برای بازسازی تصمیمات و پاسخگویی سازمان حیاتی هستند. با ظهور ابزارهای هوش مصنوعی، این داده‌ها اکنون توسط فروشندگان برای توسعه و اعتبارسنجی مدل‌های خود جمع‌آوری می‌شوند.

این مسئله فراتر از نشت داده‌های ساده است؛ چرا که مجموعه‌ای از این سوابق می‌تواند الگوهای رفتاری، نقاط ضعف در شناسایی، و استراتژی‌های امنیتی سازمان را برای طرف ثالث آشکار کند. در واقع، فروشنده بدون دسترسی مستقیم به محتوای تیکت‌ها، می‌تواند از طریق تحلیل الگوهای بستن پرونده، به استراتژی‌های امنیتی سازمان پی ببرد.

بررسی موردی Microsoft Security Copilot

در محصول Microsoft Security Copilot، گزینه‌هایی برای اجازه به مایکروسافت جهت جمع‌آوری و بازبینی انسانی داده‌ها به منظور بهبود مدل‌های امنیتی وجود دارد. این داده‌ها شامل تعاملات با افزونه‌ها و عامل‌های (Agents) محصول است. طبق مستندات، این داده‌ها برای آموزش مدل‌های پایه استفاده نمی‌شوند و با OpenAI به اشتراک گذاشته نمی‌شوند.

نکته حائز اهمیت این است که در بسیاری از موارد، اشتراک‌گذاری داده‌ها به صورت پیش‌فرض فعال است. سازمان‌ها ممکن است بدون آگاهی از تنظیمات، اجازه استفاده از داده‌های خود را برای توسعه مدل‌های فروشنده صادر کرده باشند، در حالی که استفاده از سرویس و اجازه برای آموزش مدل، دو تصمیم کاملاً مجزا هستند.

پیامدهای امنیتی و حقوقی

خروج سوابق از شبکه سازمان و نگهداری آن‌ها توسط فروشنده، ریسک‌های جدیدی از جمله نشت داده در صورت نقض امنیتی در سمت فروشنده یا دسترسی‌های قانونی (Legal Demand) را به همراه دارد. علاوه بر این، در صورت بروز حادثه، اگر مدل هوش مصنوعی به جای تحلیل‌گر تصمیم‌گیرنده باشد، بازرسی و پاسخگویی در برابر مراجع قانونی دشوار خواهد شد.

نکته‌های کلیدی

• تبدیل سوابق امنیتی داخلی به منبعی برای آموزش مدل‌های هوش مصنوعی فروشندگان.
• افشای ناخواسته استراتژی‌های امنیتی و الگوهای تصمیم‌گیری سازمان به دلیل تحلیل الگوهای تیکت‌ها.
• فعال بودن پیش‌فرض تنظیمات اشتراک‌گذاری داده در برخی محصولات مانند Microsoft Security Copilot.
• تفاوت ماهوی بین استفاده از سرویس و اجازه دادن برای توسعه مدل‌های هوش مصنوعی.

چه باید کرد

• بررسی دقیق قراردادهای خرید (Procurement Contracts) برای اطمینان از تفکیک ارائه خدمات از استفاده داده برای آموزش مدل.
• بازبینی تنظیمات حریم خصوصی و اشتراک‌گذاری داده در پلتفرم‌های هوش مصنوعی امنیتی (مانند Security Copilot).
• درخواست صریح برای غیرفعال کردن قابلیت‌های جمع‌آوری داده برای بهبود مدل در صورت عدم نیاز.
• اطمینان از اینکه استفاده از داده‌های سازمان برای بهبود مدل، یک انتخاب آگاهانه و قابل لغو (Revocable) است.