اخبار امنیتی

هوش مصنوعی ۱۴۰۵/۰۸/۳۰ · لحظاتی پیش منبع: The Hacker News

محدودیت‌های جدید Signal برای مقابله با دسترسی عوامل هوش مصنوعی به پیام‌های خصوصی

Signal Blocks AI Agents From Reading Private Chats via Screenshots on Android and iOS

پیام‌رسان Signal به منظور جلوگیری از خواندن پیام‌های خصوصی توسط عوامل هوش مصنوعی، قابلیت مسدودسازی اسکرین‌شات را به صورت پیش‌فرض در اندروید و iOS فعال کرده است. این اقدام در واکنش به تهدیدات ناشی از سیستم‌های عامل هوشمند صورت گرفته که با اسکن محتوای صفحه، حریم خصوصی کاربران را به خطر می‌اندازند.

تهدیدات ناشی از عوامل هوش مصنوعی برای حریم خصوصی

مردیت ویتاکر، رئیس بنیاد Signal، ادغام عوامل هوش مصنوعی در سیستم‌های عامل را یک تهدید وجودی برای این پلتفرم توصیف کرده است. این عوامل با اسکن اطلاعات موجود بر روی صفحه نمایش، داده‌های Signal را ضبط کرده و آن‌ها را برای پردازش به سرورهای محلی یا راه دور ارسال می‌کنند. این فرآیند خارج از کنترل پلتفرم انجام شده و تضمین‌های حریم خصوصی Signal را تضعیف می‌کند.

گزارش‌های اخیر نشان می‌دهد که ابزارهایی مانند Muse متعلق به شرکت Meta، با سوءاستفاده از دسترسی‌های گسترده سیستم‌عامل، از جمله ابزارهای دسترسی‌پذیری (Accessibility) و اعلان‌ها، قادر به خواندن پیام‌های Signal هستند. در یک مورد، این عامل هوش مصنوعی توانست با خواندن پیام‌های یک کارمند متا از طریق اعلان‌های اندروید، به او یادآوری کند که به پیام خواهرش پاسخ دهد.

محدودیت‌ها و چالش‌های فنی

Signal اذعان کرده است که راهکار فعلی برای مقابله با این تهدیدات کامل نیست. اگرچه مسدودسازی اسکرین‌شات مانع از برخی روش‌های خواندن صفحه می‌شود، اما عوامل هوش مصنوعی همچنان می‌توانند از روش‌های پیچیده‌تری مانند دسترسی به فایل‌سیستم برای استخراج داده‌های برنامه استفاده کنند.

این شرکت از غول‌های فناوری خواسته است تا مستندات فنی شفاف‌تری درباره نحوه عملکرد عوامل هوش مصنوعی ارائه دهند و ابزارهای استانداردی برای توسعه‌دهندگان فراهم کنند تا بتوانند برنامه‌های خود را از دسترسی‌های ناخواسته هوش مصنوعی، از جمله خواندن صفحه، دسترسی به فایل‌سیستم و اعلان‌ها، بدون آسیب به تجربه کاربری اصلی، مستثنی کنند.

نکته‌های کلیدی

  • فعال‌سازی پیش‌فرض مسدودسازی اسکرین‌شات در اندروید و iOS برای مقابله با عوامل هوش مصنوعی.
  • سوءاستفاده عوامل هوش مصنوعی از تنظیمات دسترسی‌پذیری سیستم‌عامل برای دور زدن حریم خصوصی برنامه‌ها.
  • تأکید Signal بر ناکافی بودن راهکارهای فعلی به دلیل دسترسی‌های سطح سیستم‌عامل.
  • درخواست از شرکت‌های فناوری برای ارائه ابزارهای شفاف جهت مدیریت دسترسی هوش مصنوعی به داده‌های برنامه‌ها.

این خبر در منابع دیگر

این گزارش فارسی را کلون با کمک هوش مصنوعی بر اساس مقالهٔ زیر تهیه کرده است؛ جزئیات و متن اصلی متعلق به منبع است.

Signal Blocks AI Agents From Reading Private Chats via Screenshots on Android and iOS — The Hacker News

مطالعهٔ مقالهٔ اصلی (The Hacker News) ↗