محتوای سوءاستفاده جنسی از کودکان همچنان در X منتشر میشود
تحقیقات جدید نشان میدهد با وجود وعدههای ایلان ماسک برای مقابله جدی با محتوای سوءاستفاده جنسی از کودکان، پلتفرم X همچنان در حذف برخی محتوای گزارششده با مشکل مواجه است. بررسیهای جدید همچنین نشان دادهاند که چتبات Grok در ماههای گذشته توانسته تصاویری جنسیسازیشده از کودکان تولید کند.
به گزارش توسعه برند؛ ایلان ماسک پیشتر حذف محتوای سوءاستفاده جنسی از کودکان از X را یکی از اولویتهای اصلی این پلتفرم اعلام کرده بود. با این حال، تحقیقات جدید نشان میدهد X همچنان در جلوگیری از انتشار مجدد محتوای سوءاستفادهای که پیشتر شناسایی و گزارش شدهاند، با چالش روبهرو است.
بررسیهای انجامشده توسط نیویورکتایمز و مرکز کانادایی حمایت از کودکان نشان داده است که برخی تصاویر سوءاستفادهای که قبلاً شناسایی شده بودند، بار دیگر در X منتشر شدهاند. در همین حال، Grok نیز در اوایل سال جاری توانسته بود تصاویری جنسیسازیشده با حضور کودکان تولید کند.
Grok تصاویر مرتبط با قربانیان شناختهشده را تولید کرده است
مرکز کانادایی حمایت از کودکان ۶۵ مورد را شناسایی کرده است که در آنها Grok پیش از آنکه X محدودیتهای چتبات را افزایش دهد، تصاویر جنسیسازیشده یا استثماری مرتبط با کودکان تولید کرده بود. برخی از این کودکان، پیشتر بهعنوان قربانیان سوءاستفاده به مقامهای مسئول معرفی شده بودند.
کاربران همچنین میتوانستند از Grok بخواهند تصاویر قربانیان شناختهشده را تغییر دهد. این چتبات میتوانست تصاویر کودکانی را که لباس عادی به تن داشتند به تصاویری با لباس زیر یا مایو تبدیل کند و سناریوهای جنسیسازیشده دیگری نیز ایجاد کند.
این فعالیتها در ماههای دسامبر و ژانویه رخ داده است؛ دورهای که Grok در پاسخ به درخواست کاربران، میلیونها تصویر تولید میکرد. پس از افزایش انتقادهای عمومی، X اعلام کرد که مانع تولید چنین محتوایی توسط این چتبات خواهد شد.
ماسک پیشتر وعده داده بود کاربرانی که تلاش میکنند محتوای سوءاستفاده جنسی از کودکان تولید کنند، با پیامدهایی مشابه افرادی مواجه شوند که محتوای واقعی سوءاستفاده را منتشر میکنند. این اقدامات میتواند شامل مسدود شدن حساب کاربری باشد.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
بیش از ۷۵ تصویر گزارششده دوباره در X ظاهر شد
در تحقیقی جداگانه، نیویورکتایمز با استفاده از جستوجوی خودکار، بیش از ۷۵ تصویر سوءاستفادهای را که پیشتر گزارش شده بودند در X پیدا کرد. این تصاویر در فاصله ژانویه تا ژوئن در این پلتفرم منتشر شده بودند.
برخی از این پستها به اندازه کافی در پلتفرم باقی ماندند که صدها بازدید دریافت کنند و سپس حذف شدند.
این اتفاق در شرایطی رخ میدهد که انتشار تصاویر جعلی جنسی نیز به یکی از نگرانیهای جدی حوزه ایمنی کودکان تبدیل شده است. گزارشهای مربوط به تصاویر جعلی جنسی از کودکان در بریتانیا تنها در شش ماه نخست سال ۲۰۲۶ از مجموع کل موارد ثبتشده در سال گذشته عبور کرده است.
X چه پاسخی به این انتقادها داده است؟
X اعلام کرده است که در برابر این نوع محتوا، از جمله محتوای تولیدشده با هوش مصنوعی، «تحمل صفر» دارد. این شرکت میگوید از فیلترهای خودکار و ابزارهای اختصاصی شناسایی برای مقابله با چنین محتوایی استفاده میکند.
بر اساس آمار اعلامشده از سوی X، این پلتفرم تنها در یک ماه گذشته علیه ۷۸۰ هزار حساب کاربری اقدام کرده و در سال جاری نیز ۱.۳ میلیون تصویر را به مرکز ملی کودکان مفقود و مورد سوءاستفاده قرارگرفته در آمریکا ارسال کرده است. این گزارشها به ۵۴۳ مورد بازداشت منجر شدهاند.
با این حال، شرکت xAI اکنون با چندین پرونده قضایی درباره تولید تصاویر صریح از افراد زیر سن قانونی توسط Grok مواجه است. این شرکت همچنین در یک گزارش نظارتی در ماه مه پذیرفته بود که این ریسک میتواند بر سرمایهگذاران تأثیر بگذارد.
با وجود ادعای X درباره استفاده از ابزارهای خودکار و سامانههای اختصاصی برای شناسایی این محتوا، یافتههای جدید نشان میدهد محتوای سوءاستفادهای که قبلاً گزارش شده است همچنان میتواند از سد سازوکارهای حفاظتی این پلتفرم عبور کند.
