اپل قوانین اپ‌استور را سخت‌گیرانه‌تر کرد تا جلوی سوءاستفاده جنسی از هوش مصنوعی را بگیرد
اپل با به‌روزرسانی دستورالعمل‌های اپ‌استور، محدودیت‌های تازه‌ای برای برنامه‌های مبتنی بر هوش مصنوعی وضع کرده است که تصاویر صمیمی و جنسی از افراد واقعی را بدون رضایت آن‌ها تولید می‌کنند. این تغییرات علاوه بر الزام توسعه‌دهندگان به پیشگیری از انتشار چنین محتوایی، قابلیت‌های مخفی و آسیب‌زایی را نیز هدف می‌گیرد که ممکن است پس از تأیید اولیه اپلیکیشن فعال شوند.
به گزارش توسعه برند؛ اپل قوانین فروشگاه اپلیکیشن خود را برای مقابله با برنامه‌هایی که با استفاده از هوش مصنوعی افراد را به‌صورت دیجیتالی برهنه می‌کنند، شفاف‌تر و سخت‌گیرانه‌تر کرده است. بر اساس دستورالعمل‌های به‌روزشده، توسعه‌دهندگان باید برای جلوگیری از انتشار و حذف تصاویر صمیمی تولیدشده بدون رضایت افراد، از جمله تصاویر ساخته‌شده با ابزارهای هوش مصنوعی، اقدامات پیشگیرانه انجام دهند.
این تصمیم در شرایطی اتخاذ شده است که طی ماه‌های گذشته، حضور برنامه‌های موسوم به «برهنه‌سازی با هوش مصنوعی» در فروشگاه‌های اپلیکیشن با انتقادهای گسترده‌ای روبه‌رو شده بود. این برنامه‌ها می‌توانند تصاویر افراد واقعی را به محتوای جنسی یا برهنه تبدیل کنند، بی‌آنکه فرد موردنظر رضایت داده باشد.
اپل از توسعه‌دهندگان اقدامات پیشگیرانه می‌خواهد
اپل دستورالعمل‌های بررسی اپلیکیشن‌های خود را به‌روزرسانی کرده تا به‌طور مشخص به تصاویر صمیمی تولیدشده با هوش مصنوعی بدون رضایت افراد بپردازد. این تغییرات به‌ویژه برنامه‌هایی را در بر می‌گیرد که محتوای تولیدشده توسط کاربران را میزبانی می‌کنند.
بر اساس این مقررات، چنین برنامه‌هایی باید سازوکارهایی برای شناسایی و پالایش محتوای نامناسب داشته باشند، امکان گزارش محتوای توهین‌آمیز یا آسیب‌زا را فراهم کنند و به کاربران اجازه دهند حساب‌های مزاحم و سوءاستفاده‌گر را مسدود کنند. توسعه‌دهندگان همچنین موظف‌اند شکایت‌ها را پیگیری کنند و از انتشار تصاویر صمیمی بدون رضایت افراد پیشگیری کرده و محتوای ناقض مقررات را حذف کنند.
اپل اعلام کرده است که در صورت ناکافی‌بودن تدابیر حفاظتی یا بی‌توجهی به تخلف‌ها پس از دریافت اخطار، ممکن است اپلیکیشن مربوطه را از اپ‌استور حذف کند.
مقابله با قابلیت‌های مخفی پس از تأیید اپلیکیشن
بخش دیگری از تغییرات به برنامه‌هایی مربوط می‌شود که هنگام بررسی اولیه، کارکرد واقعی خود را پنهان می‌کنند. اپل در دستورالعمل‌های جدید تأکید کرده است که قابلیت‌های مخفی، غیرفعال یا مستندنشده همچنان ممنوع هستند؛ از جمله ویژگی‌هایی که امکان برهنه‌سازی دیجیتالی افراد را تنها پس از تأیید اپلیکیشن فعال می‌کنند.
این اقدام با هدف جلوگیری از دور زدن فرایند بررسی اپل انجام شده است. در چنین مواردی، ممکن است یک برنامه در زمان بررسی اولیه فاقد قابلیت آسیب‌زا به نظر برسد، اما پس از دریافت مجوز یا از طریق تغییرات بعدی، امکاناتی را فعال کند که با قوانین فروشگاه سازگار نیستند.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
اپل می‌تواند اپلیکیشن‌های متخلف را حذف کند و عضویت توسعه‌دهندگان مسئول را در برنامه توسعه‌دهندگان اپل لغو کند. این شرکت همچنین تصریح کرده است که برنامه‌های تسهیل‌کننده قاچاق انسان یا بهره‌کشی از کودکان حذف خواهند شد و امکان توزیع آن‌ها از مسیرهای جایگزین نیز مسدود می‌شود.
واکنش اپل به انتقادها درباره برنامه‌های برهنه‌سازی
به‌روزرسانی قوانین پس از چند ماه انتقاد از حضور ابزارهای برهنه‌سازی مبتنی بر هوش مصنوعی در فروشگاه‌های اپلیکیشن انجام شده است. در ماه ژوئیه، دیوید چیو، دادستان شهر سان‌فرانسیسکو، نامه‌هایی برای اپل و گوگل ارسال کرد و خواستار حذف برنامه‌هایی شد که امکان تولید تصاویر صمیمی بدون رضایت افراد را فراهم می‌کنند.
این درخواست پس از بررسی ابزارهایی مطرح شد که می‌توانستند افراد را به‌صورت دیجیتالی برهنه کنند. در همین دوره، جنجال‌های مربوط به تولید تصاویر جعلی جنسی با ابزار هوش مصنوعی گروک نیز پرسش‌هایی درباره نحوه برخورد پلتفرم‌ها با سوءاستفاده از این فناوری ایجاد کرد.
اپل تأکید کرده است که برنامه‌های برهنه‌سازی از مدت‌ها پیش با قوانین این شرکت مغایرت داشته‌اند. بنابراین، تغییرات جدید را می‌توان شفاف‌سازی و گسترش صریح مقررات موجود دانست، نه آغاز ممنوعیتی کاملاً جدید.
چالش اصلی اپل، اجرای مؤثر قوانین است
شفاف‌ترشدن مقررات می‌تواند مبنای روشن‌تری برای برخورد با برنامه‌های متخلف فراهم کند، اما همچنان این پرسش مطرح است که اپل تا چه اندازه می‌تواند اجرای آن‌ها را تضمین کند. توسعه‌دهندگان ممکن است قابلیت‌های آسیب‌زا را پنهان کنند یا پس از تأیید اولیه فعال سازند و به این ترتیب، از فرایند بررسی عبور کنند.
برای افرادی که تصاویرشان بدون رضایت دست‌کاری می‌شود، تفاوت زیادی وجود دارد میان برنامه‌ای که صرفاً در قوانین ممنوع شده و برنامه‌ای که اساساً اجازه ورود به فروشگاه را پیدا نمی‌کند.
اقدام تازه اپل نشان می‌دهد که این شرکت در حال مشخص‌ترکردن مسئولیت توسعه‌دهندگان در برابر سوءاستفاده از هوش مصنوعی است. با این حال، اثربخشی این تغییرات به شناسایی سریع تخلف‌ها، جلوگیری از دور زدن فرایند بررسی و برخورد عملی با توسعه‌دهندگان متخلف بستگی دارد.
