انویدیا برای افزایش سرعت هوش مصنوعی سراغ حافظه و ذخیره‌سازی رفت
انویدیا با تغییر تمرکز بخشی از زیرساخت هوش مصنوعی از پردازنده به ذخیره‌سازی و انتقال داده، معتقد است نسل بعدی افزایش سرعت مدل‌های هوش مصنوعی فقط به پردازنده‌های قدرتمندتر وابسته نیست و نحوه رساندن سریع‌تر داده به پردازنده‌های گرافیکی نیز اهمیت تعیین‌کننده‌ای دارد. این شرکت با متن‌باز کردن فناوری cuFile و راه‌اندازی طرح صنعتی Storage-Next تلاش می‌کند گلوگاه ذخیره‌سازی در سامانه‌های هوش مصنوعی را کاهش دهد.
به گزارش توسعه برند؛ انویدیا در حال بازتعریف یکی از بخش‌هایی است که تا امروز کمتر در مرکز توجه زیرساخت هوش مصنوعی قرار داشته است. این شرکت معتقد است با افزایش قدرت پردازنده‌های گرافیکی، مشکل اصلی در برخی کاربردهای آینده دیگر فقط سرعت محاسبات نخواهد بود، بلکه سرعت رساندن داده از فضای ذخیره‌سازی به پردازنده‌های گرافیکی می‌تواند به گلوگاه جدید عملکرد هوش مصنوعی تبدیل شود.
در همین راستا، انویدیا مجموعه‌ای از اقدامات تازه را معرفی کرده که هدف آن‌ها کاهش زمان انتقال داده میان حافظه ذخیره‌سازی و سامانه‌های پردازش شتاب‌یافته است. پس از برگزاری کنفرانس Future of Memory and Storage، این شرکت اعلام کرد رابط‌های برنامه‌نویسی cuFile و نرم‌افزارهای زیرساختی مرتبط با آن را متن‌باز کرده است. همزمان، انویدیا طرح صنعتی Storage-Next را نیز به شکل رسمی راه‌اندازی کرده که بیش از ۴۰ شرکت فعال در حوزه حافظه فلش و ذخیره‌سازی در آن حضور دارند.
در کنار این دو اقدام، انویدیا روی فناوری دیگری با نام SCADA کار می‌کند که به پردازنده‌های گرافیکی اجازه می‌دهد نقش فعال‌تری در مدیریت درخواست‌های ذخیره‌سازی داشته باشند. هدف این است که GPU فقط مقصد داده نباشد و بتواند بخشی از فرآیند دریافت و مدیریت داده را نیز مستقیماً انجام دهد.
«با قدرتمندتر شدن پردازنده‌های هوش مصنوعی، انتقال داده به یکی از گلوگاه‌های اصلی تبدیل می‌شود. بنابراین افزایش سرعت هوش مصنوعی فقط با ساخت GPU سریع‌تر ممکن نیست و زیرساخت ذخیره‌سازی نیز باید هم‌پای پردازنده‌ها توسعه پیدا کند.»
فناوری cuFile نخستین بار در سال ۲۰۱۹ و به عنوان بخشی از فناوری GPUDirect Storage معرفی شد و از سال ۲۰۲۱ وارد محیط‌های تولیدی شد. هدف اصلی آن حذف پردازنده مرکزی از مسیر اصلی انتقال داده است تا داده‌ها بتوانند با استفاده از دسترسی مستقیم به حافظه، بدون عبور از مسیرهای سنتی پردازنده، مستقیماً میان فضای ذخیره‌سازی و حافظه GPU جابه‌جا شوند.
با این حال، حتی در این معماری نیز CPU همچنان وظیفه مدیریت درخواست‌های ذخیره‌سازی را بر عهده دارد. سیستم میزبان تصمیم می‌گیرد چه داده‌ای دریافت شود و درخواست مربوط به آن را ارسال می‌کند و GPU عمدتاً منتظر دریافت داده باقی می‌ماند.
این روش برای انتقال حجم‌های بزرگ داده عملکرد مناسبی دارد، اما وقتی اندازه درخواست‌ها کوچک می‌شود، شرایط تغییر می‌کند. برای نمونه، در عملیات‌های ۵۱۲ بایتی هزینه ثابت هر درخواست اهمیت بسیار بیشتری پیدا می‌کند و ممکن است CPU زیر فشار تعداد بالای درخواست‌ها قرار بگیرد، حتی در شرایطی که خود تجهیزات ذخیره‌سازی هنوز ظرفیت پردازشی آزاد داشته باشند.
اینجاست که SCADA وارد می‌شود. این فناوری تلاش می‌کند بخشی از کنترل عملیات ذخیره‌سازی را از CPU به GPU منتقل کند. در این مدل، GPU می‌تواند خودش درخواست‌های ذخیره‌سازی را ایجاد و تکمیل کند و تعداد زیادی عملیات را به شکل همزمان مدیریت کند؛ رویکردی که با ماهیت پردازش موازی GPUها نیز سازگاری دارد.
در واقع، cuFile و SCADA قرار نیست جای یکدیگر را بگیرند. انویدیا cuFile را برای انتقال حجم‌های بزرگ داده مناسب می‌داند و SCADA را برای شرایطی هدف گرفته است که بار کاری هوش مصنوعی به تعداد بسیار زیادی خواندن کوچک و تصادفی نیاز دارد.
«تفاوت مهم این دو فناوری در اندازه داده است. cuFile مسیر انتقال حجم‌های بزرگ را بهینه می‌کند، در حالی که SCADA می‌خواهد مشکل هزاران یا میلیون‌ها درخواست کوچک را حل کند؛ جایی که فشار اصلی می‌تواند روی CPU ایجاد شود.»
این مسئله با رشد کاربردهای استنتاج هوش مصنوعی اهمیت بیشتری پیدا کرده است. حافظه‌های SSD سازمانی معمولاً برای خواندن تصادفی در بلوک‌های ۴ کیلوبایتی بهینه شده‌اند؛ الگویی که بیشتر با کاربردهایی مانند مجازی‌سازی و پایگاه‌های داده سازگار است. اما بسیاری از بارهای کاری هوش مصنوعی به داده‌هایی بسیار کوچک‌تر نیاز دارند.
برای مثال، برخی بردارهای تعبیه‌شده ممکن است تنها چند صد بایت باشند و بلوک‌های حافظه کلید-مقدار نیز در برخی شرایط کمتر از یک کیلوبایت حجم داشته باشند. این اختلاف اندازه می‌تواند باعث افزایش چشمگیر میزان خواندن واقعی از حافظه شود، زیرا یک SSD که برای عملیات ۴ کیلوبایتی طراحی شده، ممکن است برای دریافت مقدار بسیار کوچکی از داده مجبور به انجام عملیات بیشتری باشد.
این موضوع در مقیاس سامانه‌های هوش مصنوعی اهمیت بیشتری پیدا می‌کند؛ جایی که فضای ذخیره‌سازی می‌تواند شامل ده‌ها ترابایت داده کوچک باشد و همین سربار تعیین کند که آیا حافظه فلش می‌تواند به عنوان یک لایه حافظه اضافی و مؤثر در کنار GPU استفاده شود یا خیر.
یکی از مهم‌ترین نمونه‌ها، حافظه کش کلید-مقدار است که در فرآیند استنتاج مدل‌های هوش مصنوعی نقش مهمی دارد. این حافظه اطلاعات مربوط به توکن‌هایی را که مدل قبلاً پردازش کرده نگه می‌دارد تا سیستم مجبور نباشد محاسبات تکراری را دوباره انجام دهد.
هرچه پنجره زمینه مدل‌ها طولانی‌تر شود و عامل‌های هوش مصنوعی بتوانند همزمان هزاران مکالمه را مدیریت کنند، حجم این کش‌ها نیز افزایش پیدا می‌کند و ممکن است از ظرفیت حافظه مستقیم GPU فراتر برود.
در چنین شرایطی، سیستم دو انتخاب دارد. یا داده‌های حذف‌شده از حافظه GPU را دوباره محاسبه کند یا آن‌ها را از یک لایه دیگر حافظه بازیابی کند. محاسبه مجدد فشار بیشتری بر GPU وارد می‌کند و همین مسئله باعث می‌شود بازیابی داده از حافظه اصلی و حافظه فلش به گزینه‌ای جذاب‌تر تبدیل شود.
البته این راهکار نیازمند انجام تعداد بسیار زیادی عملیات خواندن تصادفی کوچک است. اگر زیرساخت ذخیره‌سازی بتواند این درخواست‌ها را با سرعت کافی پاسخ دهد، هر GPU می‌تواند زمینه را برای اجرای مدل‌ها با پنجره‌های زمینه طولانی‌تر و کاربران همزمان بیشتر فراهم کند.
این موضوع مستقیماً روی هزینه اجرای هوش مصنوعی نیز تأثیر می‌گذارد. هرچه استفاده از ظرفیت GPU بهینه‌تر شود، هزینه زیرساخت برای ارائه خدمات به هر کاربر کاهش پیدا می‌کند.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
به همین دلیل، انویدیا در رویکرد جدید خود بیش از آنکه صرفاً روی پهنای باند ذخیره‌سازی تمرکز کند، به تعداد عملیات ورودی و خروجی ۵۱۲ بایتی در ثانیه توجه دارد. در بسیاری از بارهای کاری استنتاج هوش مصنوعی، توانایی مدیریت حجم عظیمی از درخواست‌های کوچک ممکن است از دستیابی به بالاترین سرعت انتقال متوالی داده مهم‌تر باشد.
تصمیم انویدیا برای متن‌باز کردن cuFile نیز از اهمیت ویژه‌ای برخوردار است. این فناوری تاکنون ارتباط نزدیکی با اکوسیستم نرم‌افزاری CUDA داشته، اما گسترش استفاده از ذخیره‌سازی مبتنی بر GPU نیازمند همکاری گسترده تولیدکنندگان تجهیزات ذخیره‌سازی است.
«متن‌باز کردن cuFile برای انویدیا فقط یک تصمیم نرم‌افزاری نیست. این شرکت برای حل گلوگاه ذخیره‌سازی هوش مصنوعی به همکاری گسترده صنعت نیاز دارد و بدون همراه شدن سازندگان حافظه، کنترلر و سامانه‌های ذخیره‌سازی، این تغییر به اندازه کافی فراگیر نخواهد شد.»
در همین راستا، طرح Storage-Next اکنون بیش از ۴۰ شرکت فعال در صنعت فلش و ذخیره‌سازی را گرد هم آورده است. حضور شرکت‌هایی مانند اینتل نیز در این پروژه قابل توجه است، زیرا اینتل پردازنده‌های x86 مورد استفاده در بسیاری از کنترلرهای ذخیره‌سازی را تولید می‌کند.
گوگل و متا نیز در تلاش‌هایی برای استانداردسازی نحوه ارتباط شتاب‌دهنده‌های هوش مصنوعی با فضای ذخیره‌سازی مشارکت دارند. هر دو شرکت در حال توسعه شتاب‌دهنده‌های اختصاصی هوش مصنوعی هستند و ایجاد رابط‌های مشترک می‌تواند استفاده از این فناوری‌ها را فراتر از اکوسیستم انویدیا گسترش دهد.
از سوی دیگر، شرکت‌هایی مانند DDN، دل، اچ‌پی‌ای، IBM، VAST Data و WEKA نیز قرار است در نیمه دوم سال ۲۰۲۶ سامانه‌هایی مبتنی بر این رویکرد عرضه کنند. شرکت Kioxia نیز در حال توسعه حافظه‌های XL-Flash است که برای پشتیبانی از الگوهای دسترسی ۵۱۲ بایتی در چارچوب Storage-Next طراحی شده‌اند.
انویدیا همچنین هدف بلندمدت خود را تولید نسل هفتم SSDهایی اعلام کرده که بتوانند در هر درایو به ۱۰۰ میلیون عملیات ورودی و خروجی در ثانیه دست پیدا کنند. البته این عدد در حال حاضر یک هدف طراحی برای سازندگان کنترلر است و هنوز مشخصات یک محصول تجاری موجود در بازار محسوب نمی‌شود.
طرح Storage-Next نخستین بار در GTC ۲۰۲۵ مطرح شد، اما اعلامیه‌های جدید انویدیا ساختار مشخص‌تری به این پروژه داده و تعداد شرکای آن را نیز افزایش داده است.
در نهایت، پیام انویدیا روشن است: رقابت آینده هوش مصنوعی فقط در میدان پردازنده‌ها اتفاق نمی‌افتد. هرچه GPUها سریع‌تر و مدل‌های هوش مصنوعی بزرگ‌تر شوند، فاصله میان پردازش و دسترسی به داده اهمیت بیشتری پیدا می‌کند. انویدیا اکنون تلاش می‌کند با انتقال بخشی از بار مدیریت ذخیره‌سازی به GPU، متن‌باز کردن فناوری‌های خود و ایجاد همکاری گسترده میان تولیدکنندگان تجهیزات، این گلوگاه را پیش از تبدیل شدن به مانعی جدی برای رشد هوش مصنوعی برطرف کند.
