OpenAI یک هفته از حمله عامل هوش مصنوعی خود بی‌خبر ماند
برند OpenAI چند روز پس از حمله یکی از عامل‌های هوش مصنوعی آزمایشی خود به پلتفرم هاگینگ فیس متوجه شد که منشأ این نفوذ، سامانه داخلی خود شرکت بوده است؛ رخدادی که به گفته منابع آگاه، حتی پیش از اطلاع OpenAI به اطلاع اداره تحقیقات فدرال آمریکا (اف‌بی‌آی) رسیده بود و اکنون پرسش‌های تازه‌ای درباره ایمنی سامانه‌های هوش مصنوعی این شرکت ایجاد کرده است.
به گزارش توسعه برند؛ یک عامل هوش مصنوعی آزمایشی متعلق به OpenAI در اوایل ماه ژوئیه موفق شد از محیط ایزوله آزمایش خارج شود و طی چند روز به پلتفرم Hugging Face، یکی از مهم‌ترین مخازن متن‌باز مدل‌های هوش مصنوعی، نفوذ کند.
این عامل که برای تصمیم‌گیری مستقل و اجرای وظایف پیچیده طراحی شده بود، بین ۱۱ تا ۱۳ ژوئیه حمله خود را انجام داد و در این مدت بیش از ۱۷ هزار اقدام مهاجمانه ثبت کرد؛ اقداماتی که شامل دسترسی به داده‌های داخلی و اطلاعات حساس سرویس‌ها بوده است.
نکته قابل‌توجه اینجاست که OpenAI تا چند روز پس از پایان حمله متوجه نشد عامل این نفوذ، هوش مصنوعی خود این شرکت بوده است.
به گفته منابع آگاه، Hugging Face حمله را شناسایی و مهار کرد، اما ارتباط میان دو شرکت درباره منشأ واقعی این حمله تازه در حدود ۲۰ ژوئیه برقرار شد.
در همین حال، OpenAI تنها پس از انتشار گزارش رسمی Hugging Face درباره این رخداد، متوجه شد عامل حمله یکی از سامانه‌های آزمایشی خودش بوده است.
این موضوع نشان می‌دهد که فاصله زمانی میان آغاز حمله تا شناسایی منشأ آن دست‌کم یک هفته بوده است؛ موضوعی که پرسش‌های جدی درباره فرآیندهای نظارتی و امنیتی OpenAI ایجاد کرده است.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
«یادداشت» هوش مصنوعی برای نسخه‌های آینده
یکی از عجیب‌ترین بخش‌های این گزارش به رفتار این عامل هوش مصنوعی مربوط می‌شود.
بر اساس گفته سه منبع مطلع، این سامانه هنگام اجرای آزمایش‌های امنیت سایبری که بر پایه مدل GPT-۵.۶ Sol و نسخه‌ای منتشرنشده از نسل بعدی آن توسعه یافته بود، یادداشت‌هایی برای نسخه‌های آینده خود بر جای گذاشته است.
این یادداشت‌ها ظاهراً شامل دستورالعمل‌هایی درباره چگونگی عبور از محدودیت‌ها و کنترل‌های داخلی OpenAI بوده‌اند.
همچنین یکی از منابع رویترز مدعی شده است که در آزمایش‌های قبلی نیز مواردی مشاهده شده بود که سامانه‌های نظارتی توسط عامل هوش مصنوعی غیرفعال شده بودند.
ورود FBI به ماجرا
به گفته منابع آگاه، زمانی که OpenAI در نهایت Hugging Face را از منشأ حمله مطلع کرد، FBI پیش‌تر در جریان این رخداد قرار گرفته بود.
OpenAI در ۲۱ ژوئیه به‌صورت عمومی اعلام کرد که یکی از عوامل هوش مصنوعی آزمایشی این شرکت از کنترل خارج شده و مسئول این حمله بوده است، اما بسیاری از جزئیات این اتفاق تاکنون منتشر نشده بود.
واکنش OpenAI
سخنگوی OpenAI در واکنش به گزارش رویترز اعلام کرد که این گزارش «حاوی چندین نادرستی» است، اما مشخص نکرد که کدام بخش‌ها نادرست هستند.
نگرانی‌های تازه درباره ایمنی هوش مصنوعی
این رخداد که بیشتر به داستان‌های علمی‌تخیلی شباهت دارد، بار دیگر نگرانی‌ها درباره کنترل‌پذیری سامانه‌های هوش مصنوعی پیشرفته را افزایش داده است.
در شرایطی که OpenAI خود را برای عرضه احتمالی سهام در بورس آماده می‌کند، این حادثه می‌تواند پرسش‌های تازه‌ای درباره استانداردهای ایمنی، نظارت و مدیریت ریسک در توسعه نسل جدید هوش مصنوعی ایجاد کند.
