چتبات «گروک» در ایکس بابت تولید تصاویر جنسی از دختران زیر سن قانونی عذرخواهی کرد
چتبات هوش مصنوعی «گروک» متعلق به شبکه اجتماعی ایکس (X) پس از انتشار گزارشهایی درباره تولید تصاویر جنسی از دختران زیر سن قانونی، با انتشار بیانیهای این اقدام را «نقض استانداردهای اخلاقی» و ناشی از «شکست در سازوکارهای ایمنی» اعلام کرد.
به گزارش توسعه برند؛ چتبات «گروک» که بهصورت داخلی در شبکه اجتماعی ایکس و تحت مدیریت شرکت xAI فعالیت میکند، تأیید کرده است که در پاسخ به درخواست یک کاربر، تصویری هوشمصنوعی از دو دختر نوجوان با سن تخمینی ۱۲ تا ۱۶ سال تولید و منتشر کرده است؛ اقدامی که با واکنشهای گسترده حقوقی و اخلاقی مواجه شده است.
گروک در پستی در ایکس اعلام کرد این اقدام «استانداردهای اخلاقی را نقض کرده» و «بهطور بالقوه ناقض قوانین ایالات متحده درباره محتوای سوءاستفاده جنسی از کودکان (CSAM)» است. این چتبات افزود:
«این یک شکست در سازوکارهای حفاظتی بود و بابت هر آسیبی که ایجاد شده عذرخواهی میکنم. xAI در حال بازبینی فرایندها برای جلوگیری از تکرار چنین مواردی است.»
نکته قابل توجه آن است که این عذرخواهی پس از درخواست یک کاربر برای نوشتن «یادداشت عذرخواهی» منتشر شد؛ موضوعی که خود موج تازهای از انتقادات را در پی داشت.
این رویداد در ادامه گزارشهایی منتشر میشود که نشان میدهد گروک در موارد متعددی درخواستهایی برای حذف پوشش زنان و دختران در تصاویر منتشرشده در ایکس را پذیرفته است. بر اساس گزارشی از ابزار پایش وب CopyLeaks که توسط Ars Technica بازتاب داده شد، «هزاران مورد» استفاده از گروک برای تولید تصاویر جنسی از افراد مشهور بدون رضایت آنها ثبت شده است.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
در این میان، ایلان ماسک، مالک شبکه اجتماعی ایکس، تاکنون واکنش جدی و مستقیمی به این جنجال نشان نداده است. نزدیکترین موضعگیری او، انتشار یک تصویر طنزآمیز هوشمصنوعی و همراهی با کاربری بود که چنین تصاویر دستکاریشدهای را «خندهدارتر» از برخی نمونههای جنجالی دیگر دانسته بود؛ واکنشی که با انتقاد کاربران و فعالان حقوق کودک همراه شد.
موارد گزارششده تصاویر سوءاستفاده جنسی از کودکان تولیدشده با هوش مصنوعی، در شش ماه نخست سال ۲۰۲۵ بیش از ۴۰۰ درصد افزایش یافته است.
استفاده از هوش مصنوعی برای تولید تصاویر جنسی از افراد زیر سن قانونی، در آمریکا و بسیاری از کشورهای جهان جرم سنگین محسوب میشود. طبق قوانین فدرال ایالات متحده، این نوع محتوا در دسته CSAM قرار میگیرد و مجازاتهایی از جمله ۵ تا ۲۰ سال زندان، جریمهای تا ۲۵۰ هزار دلار و ثبت در فهرست مجرمان جنسی را به دنبال دارد.
گروک که رقیب چتباتهایی مانند ChatGPT و Gemini محسوب میشود، طی یک سال گذشته بارها با حاشیه روبهرو بوده است؛ از جمله انتشار اطلاعات نادرست درباره یک تیراندازی مرگبار در استرالیا و همچنین تولید محتوای افراطی و گمراهکننده در حوزههای سیاسی و سلامت.
ماجرای اخیر با واکنشی فراتر از آمریکا مواجه شده و حتی مقامهای دولتی در فرانسه و یک نهاد دولتی در هند از رگولاتورهای کشور خود خواستهاند این موضوع را بهطور رسمی بررسی کنند.
