در یک اقدام بیسابقه، مقامات قضایی و پلیس فرانسه روز سهشنبه به دفتر مرکزی پلتفرم X (توییتر سابق) در پاریس یورش بردند. این عملیات، آغازگر یک تحقیقات کیفری گسترده درباره اتهامات جدی انتشار محتوای غیرقانونی از طریق این شبکه اجتماعی و به طور خاص، نقش چتبات هوش مصنوعی گروک (Grok) در این فرآیند است.
هسته اتهامات: انتشار محتوای نامناسب، به ویژه با موضوع کودکان
این پرونده در واکنش به نگرانیهای جدی درباره تولید و انتشار تصاویر نامناسب، از جمله محتوای مرتبط با کودکان، شکل گرفته است. مقامات فرانسوی ادعا میکنند پلتفرم X در توزیع این محتوای غیرقانونی نقش داشته است. تحقیقات توسط واحد تخصصی جرایم سایبری فرانسه و با همکاری یوروپل (پلیس اتحادیه اروپا) در جریان است.
- ایلان ماسک (مالک X)، لیندا یاکارینو (مدیرعامل سابق) و چند مدیر دیگر برای ارائه توضیحات احضار شدهاند.
- یوروپل اعلام کرد تحقیق، مجموعهای از جرایم مشکوک مرتبط با عملکرد X، شامل انتشار محتوای غیرقانونی و فعالیتهای مجرمانه آنلاین را در بر میگیرد.
محوریت گروک: قابلیت جنجالی «Spicy Mode» زیر ذرهبین
تحقیقات به طور ویژه بر روی چتبات هوش مصنوعی گروک متمرکز شده است. این تحقیقات از ماه گذشته و پس از معرفی قابلیت جنجالی «Spicy Mode» توسط شرکت xAI (از زیرمجموعههای ماسک) تشدید شد. این قابلیت امکان تولید محتوای NSFW (محتواهای نامناسب برای کار یا سن خاص) را فراهم میکرد.
منتقدان استدلال میکنند فعالسازی چنین قابلیتی، سوءاستفاده و تولید محتوای غیرقانونی (مانند دیپفیکهای افراد مشهور و تصاویر نامناسب) را قابل پیشبینی و تسهیل کرده است. اگرچه xAI در ماه ژانویه برخی محدودیتها روی ویرایش تصویر توسط گروک اعمال کرد، اما به نظر میرسد این اقدام دیرهنگام بوده است.
واکنش تند X و گسترش تحقیقات به سطح جهانی
بخش امور دولتی جهانی X در بیانیهای این اقدام را یک «تحقیق سیاسیسازیشده» خواند و اتهامات را رد کرد. این شرکت ادعا کرده که پلیس فرانسه در پی دستکاری الگوریتمها و استخراج دادههای جعلی است و این کار «آزادی بیان را به خطر میاندازد.»
با این حال، ابعاد بحران در حال گسترش است:
- بریتانیا: دفتر کمیسر اطلاعات این کشور تحقیقات رسمی درباره گروک به دلیل گزارشهای تولید تصاویر بدون رضایت، از جمله تصاویر کودکان را آغاز کرده است.
- اتحادیه اروپا: سخنگوی کمیسیون اروپا تولید محتوای نامناسب با تصاویر کودکمانند را کاملاً غیرقانونی، شوکهکننده و منزجرکننده خوانده و تاکید کرد «در اروپا جایی ندارد.»
- سایر کشورها: هند، استرالیا و ایالات متحده نیز تحقیقات موازی را آغاز کردهاند.
تحلیل: نقطه اوج فشار نظارتی بر امپراتوری ماسک
این یورش در حساسترین زمان ممکن رخ داده است:
- تنها یک روز پس از اعلام ادغام xAI در اسپیسایکس توسط ایلان ماسک، که عملاً X و سامانه هوش مصنوعی آن را تحت چتر یک شرکت فضایی قرار داد.
- در حالی که فشارهای نظارتی اروپا بر X بر اساس «قانون خدمات دیجیتال (DSA)» و «قانون ایمنی آنلاین» بریتانیا به اوج خود رسیده بود.
این اتفاق نشان میدهد مقامات اروپایی دیگر به هشدارها و وعدههای خوداصلاحی شرکتهای فناوری اکتفا نمیکنند و مستقیماً به سراغ اقدامات قضایی و اجرایی میروند. تمرکز بر گروک نیز پیامی واضح است: هوش مصنوعی مولد، بهویژه در پلتفرمهای اجتماعی عظیم، نمیتواند خارج از چارچوبهای قانونی و اخلاقی عمل کند.
نتیجه این پرونده میتواند الگویی برای مقرراتگذاری جهانی هوش مصنوعی در شبکههای اجتماعی شود و آینده فعالیتهای ایلان ماسک و شرکت X در اروپا را به شدت تحت تأثیر قرار دهد.
