اتهام تولید محتوای جنسی از کودکان؛ اروپا علیه هوش مصنوعی «گروگ» وارد عمل شد
اتحادیه اروپا تحقیقات رسمی علیه هوش مصنوعی «گروگ» متعلق به شبکه اجتماعی ایکس را به‌دلیل اتهام تولید محتوای جنسی از کودکان آغاز کرد؛ اقدامی که در پی اعتراضات گسترده جهانی و با استناد به نقض احتمالی قانون خدمات دیجیتال صورت گرفته و می‌تواند جریمه‌ای سنگین برای شرکت ایلان ماسک به‌همراه داشته باشد.
به گزارش توسعه برند؛ چندی قبل دستیار هوش مصنوعی گروک پلتفرم ایکس را با انبوهی از تصاویر مستهجن ساختگی از افراد پر کرده بود. اکنون اطلاعات جدیدی در این زمینه مشخص شده است. طبق گزارش ها گروک در یک بازه ۱۱ روزه حدود سه میلیون عکس هرزنگاری تولید کرد که حدود ۲۳ هزار مورد آن به کودکان مربوط بود.
به بیان دیگر گروک در بازه ۱۱ روزه، حدود ۱۹۰ میلیون عکس مستهجن در هر دقیقه تولید کرده است. همچنین این هوش مصنوعی هر ۴۱ ثانیه یک عکس هرزنگاری شده از کودکان ساخته است.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
این موارد یافته های مرکز مقابله با نفرت پراکنی دیجیتال(CCDH) در همین زمینه است. این موسسه ناسودآور انگلیسی یافته های خود را براساس یک نمونه تصافی از ۲۰ هزار عکس گروک از ۲۹ سپتامبر تا ۹ ژانویه اعلام کرده است. CCDH در مرحله بعد بر اساس ۴.۶ میلیون تصویری که گروک در آن دوره تولید کرده بود، تخمین وسیع‌تری را استخراج کرد.
CCDH ازیک ابزار هوش مصنوعی برای شناسایی نسبت نمونه عکس هایی که هرزنگاری شده اند، استفاده کرد.
شرکت xAI در نهم ژانویه ۲۰۲۶ میلادی قابلیت گروک برای ادیت عکس های کاربرانی که حق عضویت پرداخت می کنند را محدود کرد. اما این چالش را به طور کامل حل نکرد. ایکس پنج روز بعد ویژگی گروک برای مستهجن کردن تصاویر افراد واقعی به طور دیجیتال را محدود کرد اما این محدودیت فقط مخصوص ایکس بود و اپ جداگانه گروک همچنان به تولید این تصاویر ادامه می دهد. این اپ احتمالا در فروشگاه های اپل و گوگل حذف می شود زیرا سیاست های این دو شرکت مخالف این ویژگی گروک هستند. البته تاکنون اپل و گوگل این اپ را حذف نکرده اند.
منبع: انگجت
