بررسی ابعاد امنیتی و سانسور در سیستم‌های پیش‌بینی متن و هوش مصنوعی
Friday Squid Blogging: New Jurassic Squid Predecessors
گزارش‌های اخیر نشان می‌دهد که اپل از طریق سیستم تکمیل خودکار (Autocomplete) در iOS، اقدام به اعمال نوعی سانسور نرم بر روی ده‌ها هزار عبارت سیاسی و حساس کرده است. این رویکرد در کنار پیچیدگی‌های غیرشفاف سیستم‌های ایمیل گوگل و ابزارهای هوش مصنوعی، نگرانی‌هایی را در مورد کنترل نامحسوس بر ارتباطات کاربران ایجاد کرده است.
سانسور نرم در سیستم تکمیل خودکار اپل
تحقیقات Derik Kauffman نشان می‌دهد که اپل یک لیست خاکستری چندزبانه شامل ده‌ها هزار کلمه و عبارت (مانند Dictator Trump و Sleepy Joe) را در سیستم تکمیل خودکار و تایپ کشیدنی (swipe-typing) خود گنجانده است. اگرچه کاربران همچنان می‌توانند این کلمات را تایپ کنند، اما سیستم از پیشنهاد آن‌ها خودداری می‌کند.
این اقدام به عنوان شکلی از سانسور «لمس سبک» توصیف شده که در مقیاس وسیع کاربران اپل، می‌تواند به طور نامحسوس بر نحوه برقراری ارتباط و گفتمان عمومی تأثیر بگذارد. علاوه بر این، این قابلیت می‌تواند به عنوان ابزاری برای انگشت‌نگاری (fingerprinting) کاربران بر اساس الگوهای تایپ و استفاده از کلمات مورد استفاده قرار گیرد.
پیچیدگی سیستم‌های غیرشفاف و کنترل ارتباطات
سیستم‌های بسته و یکپارچه مانند اپل و گوگل به دلیل ماهیت غیرشفاف خود، بستری برای اعمال قدرت نرم فراهم می‌کنند. در سیستم ایمیل گوگل، تفسیرهای اختصاصی از پروتکل‌های SPF، DKIM و امتیازات اسپم، باعث ایجاد رفتارهای غیرقطعی در تحویل پیام‌ها می‌شود که اثبات سوءنیت در آن‌ها عملاً غیرممکن است.
این سیستم‌ها با استفاده از پیچیدگی فنی، هرگونه دستکاری در پیام‌ها را به خطاهای سیستمی نسبت می‌دهند. همچنین، ابزارهای هوش مصنوعی و مدل‌های زبانی (LLM) به عنوان واسطه‌هایی عمل می‌کنند که می‌توانند پیام‌ها را تفسیر، تأخیر یا تغییر دهند، بدون اینکه کاربر از مداخله آن‌ها آگاه باشد.
توسعه رابط‌های عصبی و محدودیت‌های دسترسی
پروژه AlterEgo از MIT نمونه‌ای از فناوری‌های نوین است که امکان تعامل با ماشین را بدون نیاز به تکلم و از طریق خواندن سیگنال‌های عضلانی فراهم می‌کند. در همین حال، گوگل با گره زدن دسترسی به موتور جستجو با ابزارهای هوش مصنوعی در مدارس، عملاً حق انتخاب را از نهادهای آموزشی سلب کرده و سیاست‌های خود را بر آن‌ها تحمیل می‌کند.
نکته‌های کلیدی
- اعمال لیست خاکستری بر روی عبارات سیاسی در سیستم تکمیل خودکار iOS توسط اپل.
- استفاده از پیچیدگی فنی در سیستم‌های ایمیل گوگل برای ایجاد رفتارهای غیرشفاف در تحویل پیام.
- خطر استفاده از سیستم‌های پیش‌بینی متن برای انگشت‌نگاری و تحلیل رفتار کاربران.
- تبدیل هوش مصنوعی به یک عامل مداخله‌گر در ارتباطات انسانی که می‌تواند پیام‌ها را تغییر یا سانسور کند.
چه باید کرد
- افزایش آگاهی نسبت به ماهیت مداخله‌گرانه سیستم‌های هوش مصنوعی و پیش‌بینی متن.
- استفاده از سیستم‌های متن‌باز و شفاف برای ارتباطات حساس جهت کاهش وابستگی به پلتفرم‌های بسته.
- بررسی دقیق‌تر رفتارهای غیرعادی در تحویل ایمیل‌ها و پیام‌ها در سیستم‌های تجاری بزرگ.