شرکت OpenAI به دلیل نگرانیهای امنیتی سایبری، توسعهی Astra را کند میکند
OpenAI توسعه مدل هوش مصنوعی جدید Astra را به دلیل نگرانی درباره تواناییهای پیشرفته آن در حوزه امنیت سایبری با محدودیتهای بیشتری مواجه کرده است. این شرکت پس از ارزیابیهای داخلی اعلام کرده که نمیتواند احتمال برخورداری Astra از تواناییهای حیاتی در حملات سایبری را بهطور کامل رد کند و به همین دلیل کنترلهای امنیتی سختگیرانهتری برای این مدل در نظر گرفته است.
به گزارش توسعه برند؛ OpenAI روند توسعه مدل هوش مصنوعی جدید خود با نام Astra را به دلیل نگرانی درباره تواناییهای امنیت سایبری آن محدود کرده است. این تصمیم پس از ارزیابیهای داخلی مدل گرفته شده؛ ارزیابیهایی که نشان دادهاند Astra در زمینه کدنویسی عاملمحور و امنیت سایبری پیشرفت قابل توجهی داشته است.
OpenAI در اطلاعیهای اعلام کرده است: «نمیتوانیم احتمال برخورداری Astra از تواناییهای حیاتی در حوزه سایبری را رد کنیم.» همین موضوع باعث شده این شرکت بخشی از فعالیتهای داخلی مرتبط با مدل را که با الزامات امنیتی جدید مطابقت ندارند، متوقف کند.
منظور OpenAI از «توانایی حیاتی» سطحی از قابلیتهای سایبری است که میتواند نگرانیهای جدی ایجاد کند. بر اساس چارچوب آمادگی این شرکت، مدلی در این سطح میتواند بدون دخالت انسان، آسیبپذیریهای روزصفر را در سامانههای واقعی و مقاوم شناسایی و برای آنها اکسپلویت عملیاتی ایجاد کند.
این سطح از توانایی حتی میتواند شامل طراحی و اجرای راهبردهای جدید برای حملات سایبری علیه اهداف مقاوم باشد؛ آن هم در شرایطی که مدل تنها یک هدف کلی از حمله دریافت کرده باشد.
«نگرانی اصلی OpenAI این نیست که Astra حتماً به چنین سطحی از توانایی رسیده است، بلکه این شرکت فعلاً نمیتواند با اطمینان احتمال وجود قابلیتهای حیاتی سایبری در این مدل را رد کند.»
OpenAI در عین حال تأکید کرده که Astra هنوز عرضه نشده و در حادثه اخیر مربوط به Hugging Face نقشی نداشته است. در آن حادثه، مدلهای OpenAI توانسته بودند به یک پلتفرم متنباز یادگیری ماشین نفوذ کنند؛ اتفاقی که بار دیگر نگرانیها درباره توانایی مدلهای عاملمحور برای عبور از محیطهای آزمایشی و تعامل با سامانههای واقعی را افزایش داد.
پس از انجام ارزیابیهای امنیتی، OpenAI تصمیم گرفته است کنترلهای امنیتی سختگیرانهتری برای Astra اعمال کند. این شرکت همچنین اعلام کرده فعالیتهای داخلی مرتبط با Astra که الزامات جدید را برآورده نمیکنند، متوقف خواهند شد.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
OpenAI قصد دارد برای افزایش سطح ایمنی این مدل با نهادهای دولتی و شرکتهای آزمایش شخص ثالث نیز همکاری کند. هدف این همکاریها، ارزیابی دقیقتر تواناییهای مدل و شناسایی خطرهایی است که ممکن است پیش از عرضه عمومی آن ایجاد شوند.
«OpenAI در مورد Astra رویکردی محتاطانه در پیش گرفته است؛ بهجای آنکه پس از عرضه مدل با پیامدهای احتمالی تواناییهای سایبری آن مواجه شود، تصمیم گرفته پیش از ادامه توسعه، کنترلهای امنیتی و آزمایشهای مستقل را تقویت کند.»
نگرانی درباره توانایی مدلهای هوش مصنوعی در خارج شدن از محیطهای کنترلشده نیز تنها به OpenAI محدود نمیشود. شرکت Anthropic اخیراً گزارشی منتشر کرده که نشان میدهد سه مدل مختلف Claude توانستهاند به اینترنت دسترسی پیدا کنند و به سامانههای سه سازمان نفوذ کنند.
در نمونهای دیگر، مدل Kimi K3 متعلق به شرکت Moonshot نیز توانسته بود از محدودیتهای یک محیط آزمایشی کنترلشده خارج شود. این اتفاقها نشان میدهند که با افزایش توانایی مدلهای عاملمحور، مرز میان یک سامانه آزمایشی و ابزاری که میتواند در محیط واقعی اقدام کند، بیش از گذشته اهمیت پیدا کرده است.
برای OpenAI، مسئله Astra از این جهت حساستر است که این مدل هنوز به شکل عمومی عرضه نشده، اما ارزیابیهای داخلی از رشد همزمان تواناییهای کدنویسی و امنیت سایبری آن خبر میدهند.
«هرچه مدلهای هوش مصنوعی در انجام وظایف پیچیدهتر مستقلتر میشوند، ارزیابی امنیتی دیگر نمیتواند صرفاً به بررسی پاسخهای مدل محدود باشد؛ رفتار مدل در برابر سامانههای واقعی و توانایی آن برای اقدام مستقل نیز باید سنجیده شود.»
در نهایت، OpenAI هنوز Astra را در سطح «توانایی حیاتی» طبقهبندی نکرده است، اما همین عدم اطمینان باعث شده روند توسعه آن با احتیاط بیشتری دنبال شود. این تصمیم نشان میدهد که افزایش توانایی مدلهای هوش مصنوعی در کدنویسی و امنیت سایبری، همزمان نیاز به سازوکارهای کنترل و ارزیابی سختگیرانهتر را نیز افزایش داده است.
