برند xAI درگیر پرونده‌ای تازه بر سر ساخت تصاویر جنسی با Grok شد
زنی در شکایتی علیه شرکت هوش مصنوعی xAI مدعی شده است ناپدری‌اش با استفاده از چت‌بات Grok ، تصویری از دوران کودکی او را دستکاری کرده و هزاران تصویر جنسی جعلی ساخته است؛ پرونده‌ای که بار دیگر نگرانی‌ها درباره سوءاستفاده از ابزارهای هوش مصنوعی برای تولید تصاویر جنسی بدون رضایت را افزایش داده است.
به گزارش توسعه برند؛ یک زن که در پرونده با نام «جین دو ۴» معرفی شده، به شکایت سه نوجوان اهل تنسی علیه شرکت xAI پیوسته است؛ شکایتی که نقش چت‌بات Grok در تولید تصاویر جنسی از افراد واقعی، از جمله کودکان، را زیر سؤال برده است.
بر اساس گزارش واشنگتن‌پست، این زن مدعی شده است ناپدری‌اش از گروک برای دستکاری عکسی استفاده کرده که زمانی که او ۱۱ ساله بوده از وی گرفته شده است. به گفته او، در ادامه بیش از ۷ هزار تصویر جنسی جعلی از این عکس تولید شده است.
این زن همچنین ادعا کرده است که تصاویر پس از یک عملیات بازرسی توسط نیروهای انتظامی کشف شده‌اند و ناپدری او دو روز پس از کشف تصاویر، بر اثر خودکشی جان خود را از دست داده است.
«دسترسی نامحدود به این ابزارها با سرعت زیادی در حال گسترش است؛ آنها زندگی روزمره را می‌گیرند و آن را به سوءاستفاده جنسی از کودکان تبدیل می‌کنند.»
این پرونده به شکایتی می‌پیوندد که پیش‌تر سه نوجوان اهل تنسی علیه ایکس‌ای‌آی مطرح کرده بودند. آنها شرکت سازنده گروک را متهم کرده‌اند که اقدامات ایمنی کافی برای جلوگیری از استفاده از این چت‌بات در تولید تصاویر جنسی جعلی از افراد واقعی، از جمله افراد زیر سن قانونی، انجام نداده است.
شاکیان در این پرونده همچنین خواستار تبدیل شکایت خود به دعوی گروهی شده‌اند تا افراد بیشتری که مدعی آسیب مشابه هستند، امکان پیوستن به پرونده را داشته باشند.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
نگرانی‌ها درباره سوءاستفاده از Grok در ماه‌های اخیر افزایش یافته است. پیش‌تر نیز گزارش‌هایی درباره انتشار گسترده تصاویر جنسی جعلی تولیدشده با این ابزار منتشر شده بود؛ موضوعی که بحث درباره مسئولیت شرکت‌های هوش مصنوعی در قبال خروجی‌های تولیدشده توسط محصولاتشان را جدی‌تر کرده است.
این پرونده یک پرسش اساسی را دوباره مطرح می‌کند: وقتی یک ابزار هوش مصنوعی برای ساخت محتوای جعلی و آسیب‌زا مورد سوءاستفاده قرار می‌گیرد، مسئولیت متوجه کاربر است یا شرکتی که ابزار را در اختیار او گذاشته است؟
سه نوجوان شاکی پرونده معتقدند xAI باید برای جلوگیری از چنین سوءاستفاده‌هایی، محدودیت‌ها و سازوکارهای ایمنی مؤثرتری در Grok ایجاد می‌کرده است. در مقابل، این پرونده می‌تواند به یکی از آزمون‌های مهم حقوقی درباره مسئولیت پلتفرم‌های هوش مصنوعی در قبال محتوای آسیب‌زا تبدیل شود.
xAI تاکنون درباره ادعاهای مطرح‌شده در این پرونده اظهارنظر نکرده است.
