اخبار امنیتی

هوش مصنوعی ۱۴۰۵/۰۸/۱۸ · ۱ روز پیش منبع: Help Net Security

معرفی Wirken: دروازه متن‌باز برای ایمن‌سازی تعاملات با عوامل هوش مصنوعی

Wirken: Open-source AI agent gateway

ابزار Wirken یک دروازه متن‌باز است که به عنوان لایه محافظتی میان پیام‌رسان‌ها و عوامل هوش مصنوعی قرار می‌گیرد. این ابزار با فرض احتمال نفوذ به عوامل هوش مصنوعی، دسترسی‌های آن‌ها را محدود کرده و از نشت اطلاعات یا اجرای دستورات مخرب جلوگیری می‌کند.

مکانیزم عملکرد و معماری امنیتی

ابزار Wirken از پلتفرم‌های متعددی از جمله Signal، WhatsApp، Telegram، Matrix، Discord، Slack، Teams، Google Chat، iMessage و وب‌چت پشتیبانی می‌کند. هر کانال به عنوان یک پردازش مجزا اجرا می‌شود که تنها به اعتبارنامه‌های اختصاصی همان کانال دسترسی دارد. اعتبارنامه‌ها در یک مخزن رمزنگاری‌شده نگهداری شده و در لبه شبکه تزریق می‌شوند تا مدل هوش مصنوعی یا عامل مربوطه مستقیماً به آن‌ها دسترسی نداشته باشند.

اجرای دستورات Shell در کانتینرهای موقت و بدون دسترسی به شبکه انجام می‌شود. در صورت عدم دسترسی به محیط Sandbox، اجرای دستورات متوقف می‌گردد. برای عملیات‌های حساس مانند تغییر فایل‌ها، سیستم درخواست تأییدیه صادر می‌کند؛ در حالی که عملیات‌های مخرب‌تر مانند حذف یا تغییر اعتبارنامه‌ها، نیازمند تأییدیه در هر بار اجرا هستند. همچنین، تمامی اقدامات پیش از اجرا در یک لاگ زنجیره‌ای (Hash-chained) و امضا شده ثبت می‌شوند که امکان بررسی آفلاین و تشخیص هرگونه دستکاری در لاگ‌ها را فراهم می‌کند.

محدودیت‌ها و چالش‌های امنیتی

با وجود تدابیر امنیتی، Wirken همچنان دارای نقاط ضعفی است. ترافیک خروجی از طریق پردازش‌های فرزند سرور MCP و کلاینت LLM به طور کامل کنترل نمی‌شود. همچنین، سیستم تشخیص تزریق (Injection detection) تنها موارد مشکوک را علامت‌گذاری کرده و مانع از ورود آن‌ها نمی‌شود. در کانال‌های اشتراکی، تأییدیه‌های سطح ۲ برای تمامی فرستندگان تا زمان انقضا معتبر باقی می‌ماند.

امنیت سیستم بررسی دستکاری (Tamper check) به کلیدی وابسته است که خارج از دستگاه نگهداری می‌شود؛ با این حال، مهاجمی که به سطح دسترسی کاربر اصلی دست یابد، می‌تواند لاگ و کلید را بازنویسی کند. علاوه بر این، حذف دایرکتوری داده‌ها منجر به از بین رفتن لاگ‌های حسابرسی می‌شود.

نیازمندی‌های فنی و نصب

استفاده از Docker برای قابلیت Sandbox الزامی است و به صورت پیش‌فرض فعال می‌باشد. در صورت عدم استفاده از Docker، قابلیت اجرای دستورات Shell غیرفعال شده اما سایر ویژگی‌ها به کار خود ادامه می‌دهند. غیرفعال کردن حالت Sandbox باعث اجرای دستورات بدون کانتینر می‌شود که سیستم در هنگام راه‌اندازی در مورد آن هشدار می‌دهد. نصب‌کننده این ابزار برای لینوکس و macOS به صورت اسکریپت Shell ارائه شده و برای ویندوز ۱۱ مسیر و ویژگی‌های متفاوتی در نظر گرفته شده است.

نکته‌های کلیدی

  • جداسازی پردازش‌های کانال‌های مختلف برای محدود کردن دسترسی به اعتبارنامه‌ها
  • استفاده از کانتینرهای موقت برای اجرای دستورات Shell بدون دسترسی شبکه
  • ثبت تمامی اقدامات در لاگ‌های امضا شده و زنجیره‌ای برای بازرسی آفلاین
  • وابستگی امنیت لاگ‌ها به کلیدهای ذخیره شده در خارج از محیط دستگاه
  • نیاز به Docker برای بهره‌مندی از قابلیت‌های کامل Sandbox

چه باید کرد

  • پیش از اجرای اسکریپت نصب، حتماً هش (Hash) منتشر شده را برای اطمینان از سلامت فایل بررسی کنید.
  • برای جلوگیری از حذف لاگ‌های حسابرسی در صورت بروز حادثه، به طور منظم از دایرکتوری داده‌ها نسخه پشتیبان تهیه کنید.
  • در صورت عدم نیاز به اجرای دستورات Shell، از فعال بودن حالت Sandbox اطمینان حاصل کنید و از غیرفعال کردن آن خودداری نمایید.
  • از آنجایی که مهاجم با دسترسی کاربر اصلی می‌تواند لاگ‌ها را تغییر دهد، دسترسی‌های سیستم‌عامل را به شدت محدود کنید.

این گزارش فارسی را کُلون با کمک هوش مصنوعی بر اساس مقالهٔ زیر تهیه کرده است؛ جزئیات و متن اصلی متعلق به منبع است.

Wirken: Open-source AI agent gateway — Help Net Security

مطالعهٔ مقالهٔ اصلی (Help Net Security) ↗