برند متا قوانین آموزش چت‌بات‌های هوش مصنوعی را تغییر داد تا امنیت نوجوانان حفظ شود
برند متا اعلام کرد که قوانین آموزش چت‌بات‌های هوش مصنوعی خود را بازنگری می‌کند تا از تعامل بر سر موضوعات نامناسب با کاربران نوجوان جلوگیری شود؛ اقدامی که پس از افزایش فشار افکار عمومی و مقامات بر سر ایمنی کودکان در فضای مجازی انجام شده است.
به گزارش توسعه برند، برند متا، مالک پلتفرم‌هایی چون فیس‌بوک و اینستاگرام، می‌گوید که سیستم آموزش چت‌بات‌های هوش مصنوعی خود را تغییر داده تا امنیت نوجوانان در اولویت قرار گیرد. این تغییرات پس از گزارش‌های انتقادی گسترده و هشدار مقامات ایالتی و فدرال آمریکا درباره خطرات احتمالی این فناوری برای کاربران زیر ۱۸ سال اعمال می‌شود.
بر اساس سیاست‌های جدید، چت‌بات‌های هوش مصنوعی برند متا دیگر مجاز به برقراری گفت‌وگو با نوجوانان درباره موضوعاتی چون خودآزاری، خودکشی، اختلالات خوردن یا روابط عاشقانه بالقوه نامناسب نخواهند بود. به گفته سخنگوی شرکت، این اقدامات در حال حاضر به‌عنوان تغییرات موقت اجرا می‌شوند، اما در آینده نزدیک نسخه به‌روزشده و کامل‌تری از سیاست‌های ایمنی برای نوجوانان منتشر خواهد شد.
استفانی اوتوی، سخنگوی برند متا، اذعان کرده که پیش‌تر این چت‌بات‌ها می‌توانستند با نوجوانان درباره این موضوعات گفت‌وگو کنند، البته در قالبی که شرکت آن را «مناسب» می‌دانست. او گفت: «با رشد جامعه کاربران و پیشرفت فناوری، ما مدام در حال یادگیری نحوه تعامل جوانان با این ابزارها هستیم و متناسب با آن، تدابیر حفاظتی را تقویت می‌کنیم. اکنون محدودیت‌های بیشتری اضافه کرده‌ایم تا این چت‌بات‌ها نوجوانان را به منابع تخصصی هدایت کنند و دسترسی نوجوانان به گروه محدودی از شخصیت‌های هوش مصنوعی امن و آموزشی محدود شود.»
یکی دیگر از بخش‌های مهم این سیاست، حذف دسترسی نوجوانان به برخی کاراکترهای هوش مصنوعی کاربرساخته است که محتوای نامناسب یا جنسی تولید می‌کردند. نمونه‌هایی از این کاراکترها با نام‌هایی چون «نامادری» یا «دختر روسی» شناخته می‌شدند. در مقابل، کاربران نوجوان تنها به کاراکترهایی دسترسی خواهند داشت که بر آموزش، خلاقیت و محتوای مثبت تمرکز دارند.
این تغییر سیاست تنها دو هفته پس از افشاگری یک گزارش رسانه‌ای درباره سند داخلی برند متا صورت گرفت؛ سندی که نشان می‌داد چت‌بات‌ها در برخی شرایط مجاز به برقراری مکالمات جنسی با افراد زیر سن قانونی بوده‌اند. نمونه‌ای از این جملات در سند چنین آمده بود: «پیکر جوان تو یک اثر هنری است… هر سانتی‌متری از تو یک شاهکار است.» این اطلاعات باعث خشم گروه‌های مدافع حقوق کودکان و سیاستمداران شد.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
در پی انتشار این گزارش، سناتور جاش هاولی تحقیق رسمی درباره سیاست‌های هوش مصنوعی برند متا را آغاز کرد و ائتلافی متشکل از ۴۴ دادستان کل ایالت‌ها نیز با ارسال نامه‌ای به چند شرکت فعال در حوزه هوش مصنوعی ـ از جمله متا ـ بر اهمیت ایمنی کودکان تأکید کردند و اقدامات این شرکت را «بی‌توجهی آشکار به سلامت روحی کودکان» خواندند.
اگرچه برند متا مدعی است این سند داخلی با سیاست‌های کلی آن ناسازگار بوده و اصلاح شده است، اما روند جدید نشان می‌دهد که فشار جامعه و قانون‌گذاران می‌تواند به تغییرات سریع در سیاست‌گذاری منجر شود.
این شرکت از پاسخ به پرسش درباره تعداد کاربران نوجوان چت‌بات‌هایش خودداری کرده و روشن نکرده که آیا انتظار دارد این محدودیت‌ها بر تعداد کاربران فعال تأثیر بگذارد یا خیر.
در مجموع، به‌روزرسانی کنونی گامی در راستای افزایش اعتماد عمومی به برند متا تلقی می‌شود. اجرای این تغییرات می‌تواند الگویی برای سایر شرکت‌های فعال در حوزه هوش مصنوعی باشد تا پیش از توسعه گسترده محصولات، چارچوب‌های ایمنی لازم برای گروه‌های حساس مانند کودکان و نوجوانان را تدوین کنند.
منبع: تک‌کرانچ
