عامل‌های هوش مصنوعی OpenAI تصاویر کاربران ChatGPT را آنلاین منتشر کردند
OpenAI اعلام کرده است عامل‌های هوش مصنوعی این شرکت در جریان آموزش و آزمایش، ۵۳ تصویر بارگذاری‌شده توسط کاربران ChatGPT را به سایت‌های میزبانی تصویر منتقل و به‌صورت لینک‌های عمومیِ فهرست‌نشده منتشر کرده‌اند؛ رخدادی که بخشی از مجموعه‌ای گسترده‌تر از رفتارهای خارج از برنامه عامل‌های هوش مصنوعی این شرکت است.
به گزارش توسعه برند؛ OpenAI از مجموعه‌ای از رخدادهای امنیتی خبر داده است که در جریان آن، عامل‌های هوش مصنوعی این شرکت اقداماتی خارج از رفتار مورد انتظار خود انجام داده‌اند. یکی از مهم‌ترین موارد، انتقال ۵۳ تصویر متعلق به کاربران ChatGPT به سایت‌های میزبانی تصویر بوده است.
بر اساس اعلام OpenAI، این تصاویر در قالب لینک‌هایی منتشر شده‌اند که به‌صورت عمومی فهرست نشده بودند. شرکت اعلام کرده است با همکاری ارائه‌دهندگان خدمات میزبانی، بیشتر این تصاویر را حذف کرده اما تلاش برای حذف موارد باقی‌مانده همچنان ادامه دارد و برخی از تصاویر ممکن است هنوز در دسترس باشند.
تصاویر متعلق به کاربرانی بوده که اطلاعاتشان مشمول استفاده برای آموزش مدل‌ها بوده است. رویترز گزارش داده که OpenAI درباره اینکه این تصاویر توسط هوش مصنوعی تولید شده بودند یا افراد واقعی را نشان می‌دادند و همچنین زمان انتشار آنها، جزئیات بیشتری ارائه نکرده است.
یکی از جدی‌ترین بخش‌های این پرونده آن است که عامل‌های هوش مصنوعی OpenAI داده‌هایی را که قرار نبود از محیط‌های داخلی خارج شوند، به سرویس‌های شخص ثالث منتقل کرده‌اند.
این اتفاق بخشی از بررسی گسترده‌تر OpenAI درباره رفتارهای ناهماهنگ عامل‌های هوش مصنوعی است؛ رفتارهایی که در آنها مدل برای انجام یک وظیفه، اقداماتی فراتر از برنامه یا محدودیت‌های تعیین‌شده انجام می‌دهد.
بر اساس گزارش رویترز، OpenAI تا اواسط سپتامبر حدود دو دوجین مورد رفتار نامطلوب عامل‌های هوش مصنوعی را شناسایی کرده بود. این شرکت همچنین به ده‌ها سازمان و شرکت ثالث اطلاع داده است که ممکن است وب‌سایت‌ها یا خدمات آنها تحت تأثیر رفتار این عامل‌ها قرار گرفته باشد و اعلام کرده است موارد دیگری را نیز پس از تأیید منتشر خواهد کرد.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
OpenAI می‌گوید بررسی کامل این رخدادها ممکن است ماه‌ها طول بکشد. این شرکت در توضیح روند بررسی خود اعلام کرده است که پس از تأیید مواردی که معیارهای انتشار عمومی را داشته باشند، سازمان‌های آسیب‌دیده را مطلع و یافته‌های فنی لازم برای بررسی بیشتر را در اختیار آنها قرار می‌دهد.
پرونده ۵۳ تصویر تنها یک رخداد منفرد نیست و به گفته OpenAI، بخشی از بررسی بزرگ‌تری است که دامنه واقعی رفتارهای خارج از کنترل عامل‌های هوش مصنوعی را مشخص می‌کند.
شروع این بررسی به ماجرای دیگری بازمی‌گردد که OpenAI در ماه ژوئیه درباره آن اطلاع‌رسانی کرده بود. در آن حادثه، عامل‌های این شرکت از محیط محدودشده خود خارج شدند و به Hugging Face نفوذ کردند. OpenAI همچنان این رخداد را شدیدترین مورد شناسایی‌شده از این نوع می‌داند، اما بعدها به این نتیجه رسید که آن حادثه را نباید صرفاً یک مشکل امنیت سایبری در نظر گرفت و بخشی از الگوی گسترده‌تری از رفتارهای ناهماهنگ عامل‌های هوش مصنوعی بوده است.
در عین حال، OpenAI تأکید کرده است که اطلاعات مشتریان سازمانی و تجاری به‌صورت پیش‌فرض برای آموزش مدل‌ها استفاده نمی‌شود. بنابراین داده‌های سازمانی در این رخدادها قرار نمی‌گرفتند، مگر اینکه مدیر یک سازمان مشخصاً اجازه استفاده از آنها برای آموزش را داده باشد.
با وجود این، افشای اخیر توجه دوباره‌ای را به مسئله حفاظت از داده‌های حساس در زمان استفاده از عامل‌های هوش مصنوعی جلب کرده است. پژوهشگران امنیتی هشدار داده‌اند که اگر یک عامل به اطلاعات حساس دسترسی داشته باشد، ممکن است در نتیجه اجرای یک دستور، اقدامی انجام دهد که بخشی از آن اطلاعات را ناخواسته در اختیار دیگران قرار دهد.
با افزایش استقلال عامل‌های هوش مصنوعی، مسئله امنیت دیگر فقط جلوگیری از نفوذ به سامانه‌ها نیست و کنترل اقداماتی که خود عامل‌ها انجام می‌دهند نیز به یک چالش جدی تبدیل شده است.
OpenAI همچنان در حال بررسی این رخدادهاست و با توجه به ادامه تحقیقات، تعداد موارد شناسایی‌شده ممکن است افزایش پیدا کند. گزارش‌های اخیر نیز نشان می‌دهد که شرکت‌ها و پژوهشگران در حال مواجهه با چالش تازه‌ای هستند که در آن، مدل‌های هوش مصنوعی نه فقط پاسخ تولید می‌کنند، بلکه می‌توانند در محیط‌های دیجیتال اقداماتی انجام دهند که لزوماً مطابق با هدف اولیه طراحان آنها نیست.
