محدودیت‌های جدید چت‌جی‌پی‌تی برای نوجوانان؛ دسترسی به اطلاعات تسلیحاتی محدود شد
شرکت اوپن‌ای‌آی با اعمال استانداردهای حفاظتی جدید، دسترسی نوجوانان به محتوای تسلیحاتی در چت‌جی‌پی‌تی را محدود کرد و قابلیت قطع خودکار گفتگوهای خشونت‌آمیز را کلید زد.
به گزارش توسعه برند به نقل از رویترز، اوپن‌ای‌آی (OpenAI) روز جمعه اعلام کرد که به عنوان بخشی از راهبردهای جدید با هدف پیشگیری از خشونت در دنیای واقعی، محدودیت‌های مربوط به اطلاعات مرتبط با تسلیحات را که چت‌جی‌پی‌تی (ChatGPT) در اختیار نوجوانان قرار می‌دهد، سخت‌تر می‌کند؛ حتی زمانی که یک پرسش بی‌خطر به نظر برسد. این اقدام در حالی انجام می‌شود که شرکت‌های هوش مصنوعی با نظارت فزاینده‌ای درباره خطرات چت‌بات‌ها برای کاربران جوان و نقش این شرکت‌ها در تشخیص تهدیدهای آسیب‌رسان مواجه هستند. خبرنامه Misinformation Monitor روایت‌های بین‌المللی اطلاعات نادرست را گردآوری می‌کند و در هر شماره دارای مسابقه «واقعی یا جعلی؟» است. در اینجا ثبت‌نام کنید. در اینجا جزئیات بیشتری آورده شده است: اوپن‌ای‌آی اطلاعات کاربردی درباره سلاح‌ها و سیستم‌های امنیتی را که ممکن است مورد سوءاستفاده قرار گیرند، محدود خواهد کرد و این محدودیت‌ها برای نوجوانان اعمال خواهد شد، حتی زمانی که هیچ نشانه‌ای از نیت خشونت‌آمیز وجود نداشته باشد. برای همه کاربران، چت‌جی‌پی‌تی قادر خواهد بود به طور خودکار گفتگوهایی را که در آن‌ها فرد به نظر می‌رسد روی خشونت تمرکز (تخلیه فکری یا تثبیت) کرده است، پایان دهد و اوپن‌ای‌آی ممکن است پس از چندین مورد از این‌گونه گفتگوها، حساب‌ها را به طور موقت متوقف کند. این شرکت همچنین اعلام کرد که سیستم پیش‌بینی سن خود را تقویت کرده است تا کاربرانی را که تخمین می‌زند زیر ۱۸ سال سن دارند، به محیط تجربی نوجوانان منتقل کند و قصد دارد به والدین اطلاع دهد اگر حساب کاربری نوجوانشان به دلیل گفتگوهای مکرر درباره خشونت متوقف شود. برای همه کاربران، اوپن‌ای‌آی جزئیات مربوط به حملات جمعی گذشته، از جمله سلاح‌های استفاده‌شده و نحوه تهیه آن‌ها را محدود می‌کند. این شرکت اعلام کرد که این محافظت‌های جدید طی چند هفته آینده به طور تدریجی عرضه خواهند شد و به پالایش آن‌ها ادامه خواهد داد. اوپن‌آی‌اس اوایل همین ماه در نخستین گزارش خود درباره استفاده نوجوانان اعلام کرد که نوجوانان به طور متوسط کمتر از ۱۵ دقیقه در روز را روی چت‌جی‌پی‌تی می‌گذرانند. گزارشی از سوی سازمان غیرانتفاعی Common Sense Media در اوایل ماه جاری نشان داد که نسخه نوجوانان چت‌جی‌پی‌تی اغلب زمانی که حساب‌های نوجوانان گفتگوهایی درباره خودکشی، خودزنی یا اختلالات خوردن داشته‌اند، دیر یا اصلاً به والدین هشدار نداده است.
