محدودیتهای جدید Signal برای مقابله با دسترسی عوامل هوش مصنوعی به پیامهای خصوصی
Signal Blocks AI Agents From Reading Private Chats via Screenshots on Android and iOS
پیامرسان Signal به منظور جلوگیری از خواندن پیامهای خصوصی توسط عوامل هوش مصنوعی، قابلیت مسدودسازی اسکرینشات را به صورت پیشفرض در اندروید و iOS فعال کرده است. این اقدام در واکنش به تهدیدات ناشی از سیستمهای عامل هوشمند صورت گرفته که با اسکن محتوای صفحه، حریم خصوصی کاربران را به خطر میاندازند.
تهدیدات ناشی از عوامل هوش مصنوعی برای حریم خصوصی
مردیت ویتاکر، رئیس بنیاد Signal، ادغام عوامل هوش مصنوعی در سیستمهای عامل را یک تهدید وجودی برای این پلتفرم توصیف کرده است. این عوامل با اسکن اطلاعات موجود بر روی صفحه نمایش، دادههای Signal را ضبط کرده و آنها را برای پردازش به سرورهای محلی یا راه دور ارسال میکنند. این فرآیند خارج از کنترل پلتفرم انجام شده و تضمینهای حریم خصوصی Signal را تضعیف میکند.
گزارشهای اخیر نشان میدهد که ابزارهایی مانند Muse متعلق به شرکت Meta، با سوءاستفاده از دسترسیهای گسترده سیستمعامل، از جمله ابزارهای دسترسیپذیری (Accessibility) و اعلانها، قادر به خواندن پیامهای Signal هستند. در یک مورد، این عامل هوش مصنوعی توانست با خواندن پیامهای یک کارمند متا از طریق اعلانهای اندروید، به او یادآوری کند که به پیام خواهرش پاسخ دهد.
محدودیتها و چالشهای فنی
Signal اذعان کرده است که راهکار فعلی برای مقابله با این تهدیدات کامل نیست. اگرچه مسدودسازی اسکرینشات مانع از برخی روشهای خواندن صفحه میشود، اما عوامل هوش مصنوعی همچنان میتوانند از روشهای پیچیدهتری مانند دسترسی به فایلسیستم برای استخراج دادههای برنامه استفاده کنند.
این شرکت از غولهای فناوری خواسته است تا مستندات فنی شفافتری درباره نحوه عملکرد عوامل هوش مصنوعی ارائه دهند و ابزارهای استانداردی برای توسعهدهندگان فراهم کنند تا بتوانند برنامههای خود را از دسترسیهای ناخواسته هوش مصنوعی، از جمله خواندن صفحه، دسترسی به فایلسیستم و اعلانها، بدون آسیب به تجربه کاربری اصلی، مستثنی کنند.
نکتههای کلیدی
- فعالسازی پیشفرض مسدودسازی اسکرینشات در اندروید و iOS برای مقابله با عوامل هوش مصنوعی.
- سوءاستفاده عوامل هوش مصنوعی از تنظیمات دسترسیپذیری سیستمعامل برای دور زدن حریم خصوصی برنامهها.
- تأکید Signal بر ناکافی بودن راهکارهای فعلی به دلیل دسترسیهای سطح سیستمعامل.
- درخواست از شرکتهای فناوری برای ارائه ابزارهای شفاف جهت مدیریت دسترسی هوش مصنوعی به دادههای برنامهها.
این خبر در منابع دیگر
- Engadget: پیامرسان Signal برای مقابله با عوامل هوش مصنوعی، قابلیت اسکرینشات را بهصورت پیشفرض مسدود کرد ↗
- CNET: اپلیکیشن Signal برای مقابله با هوش مصنوعی، قابلیت اسکرینشات را مسدود میکند ↗
- ZDNet How-to: محدودیت جدید Signal برای اسکرینشات به دلیل نگرانیهای مربوط به هوش مصنوعی ↗
- Gizmodo: تلاش Signal برای جلوگیری از دسترسی عوامل هوش مصنوعی به پیامهای خصوصی ↗
- 9to5Mac: اپلیکیشن Signal برای جلوگیری از دسترسی هوش مصنوعی Siri، قابلیت اسکرینشات را در آیفون مسدود کرد ↗
- Digital Trends: مقابله Signal با جاسوسی عوامل هوش مصنوعی از چتهای خصوصی ↗
- Help Net Security: دسترسی عوامل هوش مصنوعی به اطلاعات حساس کارمندان بدون نظارت کافی ↗