گزارش تحولات امنیت سایبری و هوش مصنوعی: از نشت داده‌های پنتاگون تا آسیب‌پذیری‌های ابزارهای توسعه

SECURITY AFFAIRS AI-CYBERSECURITY NEWSLETTER ROUND 7

هوش مصنوعی به سرعت در حال تغییر چشم‌انداز تهدیدات سایبری است و همزمان ابزارهای جدیدی را برای مهاجمان و مدافعان فراهم می‌کند. این گزارش به بررسی حوادث اخیر از جمله نشت داده‌های پنتاگون، بدافزارهای مبتنی بر هوش مصنوعی و آسیب‌پذیری‌های پلتفرم‌های توسعه می‌پردازد.

حوادث امنیتی و نشت داده‌ها

یک پیمانکار شرکت Accenture با اتصال یک عامل هوش مصنوعی به شبکه امن پنتاگون و ارسال داده‌ها به یک وب‌سایت پرخطر، یک تهدید جدی برای امنیت ملی ایجاد کرد. همچنین در حادثه امنیتی ۳۰ اکتبر ۲۰۲۶، پلتفرم WorkOS دچار نشت داده شد.

در حوزه بدافزارها، نسخه مخرب ابزار Anthropic.claude-code (نسخه‌های 2.1.312 و 2.1.313) در بازار افزونه‌های Cursor VS Code شناسایی شده است. علاوه بر این، بدافزار VOLTA از مدل‌های هوش مصنوعی برای اولویت‌بندی قربانیان استفاده می‌کند و تکنیک LLMJacking برای سوءاستفاده از منابع ابری و مدل‌های هوش مصنوعی توسط مهاجمان به کار گرفته شده است.

آسیب‌پذیری‌ها و تهدیدات نوظهور

آسیب‌پذیری ThisBash Escape در Claude Dispatch شناسایی شده که به افزونه‌های مرورگر اجازه می‌دهد کد مخرب را در سطح سیستم‌عامل اجرا کنند (RCE). همچنین تبلیغات‌افزارهای مبتنی بر پرامپت در بسته‌های جیل‌بریک مدل‌های هوش مصنوعی کشف شده‌اند.

تحقیقات نشان می‌دهد که زیرساخت‌های مرتبط با حملات به بانک‌های کره جنوبی تحت عنوان ARTEX شناسایی شده‌اند. در همین حال، کارشناسان نسبت به خطرات «عامل‌های مستقل» (sovereign agents) برای تمدن هشدار داده‌اند و گزارش‌هایی از عملکرد ضعیف پنهان در وظایف ایمنی مدل‌های هوش مصنوعی منتشر شده است.

تحولات استراتژیک و پیشرفت‌های فنی

کشورهای بریتانیا و آلمان برای توسعه مشترک هوش مصنوعی نظامی تا سال ۲۰۲۷ برنامه‌ریزی کرده‌اند. در حوزه فنی، پیشرفت‌هایی در زمینه استنتاج قابل اثبات (provable inference) برای مدل‌های زبانی بزرگ حاصل شده و پروژه GPT-6 Cyber با هدف پیشبرد مرزهای عامل‌های امنیت سایبری همسو در حال توسعه است. همچنین برنامه پاداش باگ Muse بیش از ۱ میلیون دلار پرداخت کرده است.

نکته‌های کلیدی

• اتصال غیرمجاز عامل هوش مصنوعی پیمانکار Accenture به شبکه پنتاگون.
• شناسایی نسخه‌های مخرب 2.1.312 و 2.1.313 ابزار Anthropic.claude-code.
• آسیب‌پذیری ThisBash Escape در Claude Dispatch با قابلیت اجرای کد از راه دور.
• استفاده بدافزار VOLTA از مدل‌های هوش مصنوعی برای اولویت‌بندی قربانیان.
• ظهور تهدید LLMJacking برای سوءاستفاده از منابع ابری.

چه باید کرد

• بررسی و حذف نسخه‌های آلوده 2.1.312 و 2.1.313 ابزار Anthropic.claude-code از محیط‌های توسعه.
• پایش دقیق دسترسی‌های عامل‌های هوش مصنوعی به شبکه‌های حساس و ایزوله کردن آن‌ها.
• بررسی زیرساخت‌های ابری برای شناسایی نشانه‌های احتمالی حملات LLMJacking.
• به‌روزرسانی و اعمال وصله‌های امنیتی برای رفع آسیب‌پذیری‌های مرتبط با Claude Dispatch.