انویدیا طرح «اتحاد هوش مصنوعی امن باز» را برای بهبود دفاع سایبری راه‌اندازی کرد
برند انویدیا با همراه کردن ۲۷ شرکت بزرگ فناوری، از ابتکار Open Secure AI Alliance برای تقویت امنیت سایبری در عصر هوش مصنوعی رونمایی کرد. این اتحاد با حضور شرکت‌هایی مانند مایکروسافت، اسپیس‌ایکس، دل و بنیاد لینوکس شکل گرفته تا توسعه ابزارهای دفاعی، شناسایی آسیب‌پذیری‌ها و مقابله با حملات مبتنی بر هوش مصنوعی را سرعت ببخشد.
به گزارش توسعه برند؛ برند انویدیا با تشکیل یک ائتلاف تازه به نام Open Secure AI Alliance تلاش دارد جبهه‌ای مشترک برای مقابله با تهدیدهای امنیتی ناشی از توسعه سریع هوش مصنوعی ایجاد کند.
این اتحاد که با حضور ۲۷ عضو بنیان‌گذار آغاز به کار کرده، شرکت‌های بزرگی مانند مایکروسافت، اسپیس‌ایکس، دل، بنیاد لینوکس و انویدیا را در کنار یکدیگر قرار داده است.
هدف اصلی این گروه، شناسایی، افشا و رفع آسیب‌پذیری‌های امنیتی با استفاده از فناوری‌های متن‌باز عنوان شده است.
انویدیا اعلام کرده است:
«Open Secure AI Alliance با تکیه بر ابتکار Akrites بنیاد لینوکس و فعالیت‌های جامعه OpenSSF، برای مقابله با آسیب‌پذیری‌ها و توسعه راهکارهای امنیتی باز فعالیت خواهد کرد.»
چرا امنیت هوش مصنوعی به یک دغدغه جهانی تبدیل شده است؟
اعضای این اتحاد معتقدند در دوره‌ای که مدل‌های پیشرفته هوش مصنوعی می‌توانند در حملات سایبری مورد استفاده قرار گیرند، پژوهشگران امنیتی باید به هر دو نوع مدل‌های متن‌باز و مدل‌های تجاری بسته دسترسی داشته باشند.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
انویدیا برای توضیح اهمیت این موضوع به ماجرای اخیر حمله یک عامل هوش مصنوعی به Hugging Face اشاره کرده است؛ جایی که طبق گزارش‌ها، ابزارهای امنیتی مبتنی بر مدل‌های بسته نتوانستند به‌درستی این حمله را تحلیل کنند.
انویدیا اعلام کرد: «وقتی ابزارهای هوش مصنوعی بسته، به دلیل ناتوانی در تشخیص تفاوت میان مهاجم و مدافع، مانع تحلیل‌های امنیتی شدند، Hugging Face از یک مدل متن‌باز برای بررسی بیش از ۱۷ هزار اقدام و مهار نفوذ استفاده کرد.»
نقش شرکت‌ها در ائتلاف جدید
اعضای این اتحاد قرار است هرکدام بخشی از زیرساخت مورد نیاز را تأمین کنند.
انویدیا اعلام کرده مدل‌های باز، وزن مدل‌ها، داده‌ها و ابزارهای جدیدی برای توسعه راهکارهای امنیت سایبری در اختیار این پروژه قرار می‌دهد.
همچنین:
- HPE روی استانداردها و روش‌هایی برای تأیید رمزنگاری‌شده عامل‌های هوش مصنوعی کار خواهد کرد.
- Hugging Face قالب امن ذخیره‌سازی وزن مدل‌های هوش مصنوعی با نام Safetensors را ارائه می‌کند.
- شرکت‌هایی مانند مایکروسافت، SpaceX AI، IBM و Red Hat نیز فناوری‌های متن‌باز هوش مصنوعی خود را وارد این پروژه خواهند کرد.
درخواست از دولت‌ها برای حمایت از هوش مصنوعی باز
این اتحاد همچنین از دولت‌ها خواسته است در توسعه زیرساخت‌های مشترک هوش مصنوعی باز با شرکت‌های فناوری همکاری کنند.
اعضای این گروه تأکید دارند که مدل‌های باز باید به‌عنوان «دارایی‌های دفاعی، نه تهدید» شناخته شوند و محدودیت‌های گسترده علیه آن‌ها می‌تواند توان دفاع سایبری جهان را کاهش دهد.
به گفته این گروه، ممنوعیت گسترده مدل‌های پیشرفته متن‌باز می‌تواند قدرت هوش مصنوعی را در اختیار تعداد محدودی از شرکت‌های ارائه‌دهنده مدل‌های بسته قرار دهد.
این اقدام در شرایطی انجام می‌شود که برخی دولت‌ها، از جمله دولت آمریکا، در حال بررسی محدودیت‌هایی برای مدل‌های هوش مصنوعی متن‌باز چینی هستند؛ مدل‌هایی که به دلیل هزینه کمتر استفاده، در حال افزایش محبوبیت در برابر سرویس‌هایی مانند OpenAI و Anthropic هستند.
نکته قابل توجه اینکه OpenAI، Anthropic، گوگل و متا در میان اعضای این اتحاد جدید حضور ندارند؛ موضوعی که نشان می‌دهد رقابت بر سر آینده امنیت هوش مصنوعی، حالا به رقابت میان مدل‌های باز و بسته نیز گره خورده است.
