گرافیک سرور چیست؟ راهنمای کامل GPU Server و معرفی سرورهای گرافیکی HPE Gen12

در بسیاری از پروژه‌های جدید، پردازنده مرکزی به‌تنهایی پاسخ‌گوی حجم محاسبات نیست. آموزش مدل‌های هوش مصنوعی، اجرای مدل‌های زبانی، پردازش تصویر، رندرینگ، شبیه‌سازی مهندسی و تحلیل داده به هزاران عملیات موازی نیاز دارند. در چنین شرایطی از گرافیک سرور یا GPU دیتاسنتری استفاده می‌شود.

سرور گرافیکی فقط یک سرور معمولی نیست که یک کارت گرافیک داخل آن نصب شده باشد. این سیستم باید از نظر فضای فیزیکی، تعداد مسیرهای PCIe، توان پاور، کابل برق، خنک‌سازی، رایزر، شبکه و نرم‌افزار برای GPU طراحی شده باشد. به همین دلیل، انتخاب کارت گرافیک بدون بررسی سازگاری شاسی می‌تواند به کاهش عملکرد، افزایش دما، خطای سخت‌افزاری یا حتی روشن‌نشدن سرور منجر شود.

در ادامه ابتدا مفهوم گرافیک سرور را کامل بررسی می‌کنیم و سپس به سرورهای گرافیکی نسل ۱۲ اچ‌پی، به‌ویژه مدل‌های DL320، DL340، DL345، DL380، DL380a و ML350 Gen12 می‌پردازیم.

گرافیک سرور چیست؟

گرافیک سرور یا Server GPU یک پردازنده گرافیکی حرفه‌ای است که برای اجرای محاسبات سنگین، مستمر و موازی در سرورها و دیتاسنترها طراحی می‌شود.

برخلاف کارت گرافیک‌های معمولی که بیشتر برای بازی، نمایش تصویر و استفاده شخصی ساخته شده‌اند، کارت‌های گرافیک سروری برای کاربردهایی مانند موارد زیر استفاده می‌شوند:

• آموزش مدل‌های هوش مصنوعی

• اجرای مدل‌های زبانی بزرگ

• AI Inference

• یادگیری عمیق

• پردازش تصویر و ویدئو

• تشخیص چهره و اشیا

• پردازش داده‌های علمی

• شبیه‌سازی مهندسی

• رندرینگ سه‌بعدی

• طراحی دارو

• تحلیل داده‌های پزشکی

• محاسبات HPC

• دسکتاپ مجازی و VDI

• رمزگذاری و پردازش ویدئو

عبارت «گرافیک سرور» گاهی به خود کارت GPU و گاهی به کل سروری گفته می‌شود که یک یا چند GPU داخل آن نصب شده است.

تفاوت CPU و GPU در سرور

پردازنده مرکزی یا CPU برای اجرای مجموعه متنوعی از دستورات، مدیریت سیستم‌عامل، اجرای دیتابیس و کنترل سرویس‌های مختلف ساخته شده است.

GPU در مقابل، تعداد بسیار زیادی هسته محاسباتی کوچک‌تر دارد و می‌تواند عملیات مشابه را به‌صورت موازی اجرا کند.

برای مثال، در آموزش یک مدل هوش مصنوعی باید میلیون‌ها یا میلیاردها ضرب ماتریسی انجام شود. CPU می‌تواند این کار را انجام دهد، اما GPU به‌دلیل معماری موازی معمولاً عملکرد بسیار بالاتری در این نوع محاسبات دارد.

CPU بیشتر برای این کارها مناسب است:

• اجرای سیستم‌عامل

• مدیریت فایل‌ها

• اجرای دیتابیس

• نرم‌افزارهای مالی

• پردازش‌های ترتیبی

• کنترل ماشین‌های مجازی

• هماهنگی میان GPUها

• آماده‌سازی و ارسال داده به GPU

GPU بیشتر برای این کارها مناسب است:

• محاسبات ماتریسی

• آموزش مدل‌های AI

• پردازش موازی

• رندرینگ

• پردازش تصویر

• شبیه‌سازی

• تحلیل داده‌های حجیم

• اجرای مدل‌های یادگیری عمیق

یک سرور گرافیکی خوب باید میان قدرت CPU، مقدار RAM، تعداد GPU و سرعت ذخیره‌سازی تعادل داشته باشد. نصب چند GPU قدرتمند در کنار پردازنده ضعیف یا ذخیره‌سازی کند می‌تواند باعث ایجاد گلوگاه شود.

اجزای اصلی کارت گرافیک سرور

هسته‌های پردازشی

GPU شامل تعداد زیادی هسته محاسباتی است. در کارت‌های NVIDIA این هسته‌ها معمولاً شامل CUDA Core و در مدل‌های AI شامل Tensor Core هستند.

CUDA Core برای محاسبات عمومی موازی استفاده می‌شود. Tensor Core نیز برای عملیات ماتریسی و بارهای هوش مصنوعی بهینه شده است.

حافظه گرافیکی یا VRAM

حافظه GPU محلی است که مدل، داده‌ها و نتایج محاسباتی در آن نگهداری می‌شوند.

ظرفیت VRAM در انتخاب کارت اهمیت زیادی دارد. برای مثال، ممکن است یک مدل هوش مصنوعی از نظر توان پردازشی روی یک GPU قابل اجرا باشد، اما به دلیل کمبود حافظه روی آن بارگذاری نشود.

کارت‌های دیتاسنتری از حافظه‌هایی مانند موارد زیر استفاده می‌کنند:

• GDDR6

• HBM2

• HBM2e

• HBM3

• HBM3e

HBM پهنای باند بسیار بالایی دارد و در کارت‌هایی مانند H100 و H200 استفاده می‌شود. NVIDIA برای H200 ظرفیت ۱۴۱ گیگابایت HBM3e و پهنای باند حافظه تا ۴.۸ ترابایت بر ثانیه اعلام کرده است. (NVIDIA)

پهنای باند حافظه

فقط ظرفیت حافظه مهم نیست. سرعت انتقال اطلاعات بین حافظه و پردازنده GPU نیز در عملکرد مدل‌های بزرگ تأثیر زیادی دارد.

در بارهایی مانند LLM Inference، پایگاه داده برداری و پردازش مدل‌های بزرگ، پهنای باند حافظه ممکن است به‌اندازه توان خام پردازشی اهمیت داشته باشد.

حافظه ECC

بسیاری از GPUهای دیتاسنتری از ECC پشتیبانی می‌کنند. ECC برخی خطاهای حافظه را شناسایی و اصلاح می‌کند و برای محاسبات علمی، پزشکی، مالی و فعالیت شبانه‌روزی اهمیت دارد.

توان مصرفی یا TDP

توان مصرفی کارت‌های گرافیک می‌تواند از حدود ۷۰ وات تا چندصد وات متغیر باشد.

هرچه مصرف کارت بیشتر باشد، سرور به موارد زیر نیاز بیشتری خواهد داشت:

• پاور قوی‌تر

• کابل برق اختصاصی

• فن‌های بیشتر

• فشار هوای بالاتر

• ورودی برق مناسب

• ظرفیت سرمایشی بیشتر

برای خرید سرور می توانید ماهان شبکه ایرانیان تماس بگیرید و بهترین قیمت سرور اچ پی را داشته باشید.

در راهنمای نصب DL380a Gen12، اچ‌پی اعلام کرده است که برای GPUهای با توان بیشتر از ۷۵ وات، کابل برق کمکی ۱۶ پین موردنیاز است. (HPE Support)

تفاوت GPU سروری با کارت گرافیک گیمینگ

کارت‌های گیمینگ ممکن است در بعضی پروژه‌های آزمایشی AI عملکرد خوبی داشته باشند، اما برای استفاده سازمانی و دیتاسنتری همیشه انتخاب مناسبی نیستند.

مهم‌ترین تفاوت‌ها

طراحی برای کار مداوم

GPUهای سروری برای بار کاری سنگین و فعالیت طولانی طراحی شده‌اند.

حافظه بیشتر

کارت‌های دیتاسنتری معمولاً VRAM بیشتری دارند. برای مثال، NVIDIA H200 دارای ۱۴۱ گیگابایت حافظه است. (NVIDIA)

ECC

در بسیاری از GPUهای سروری از حافظه ECC استفاده می‌شود.

خنک‌سازی Passive

تعداد زیادی از GPUهای سروری فاقد فن داخلی هستند و برای خنک‌شدن به جریان هوای پرقدرت شاسی سرور وابسته‌اند.

قابلیت NVLink

برخی کارت‌های سروری می‌توانند از طریق NVLink با پهنای باند بالا به یکدیگر متصل شوند.

قابلیت MIG

بعضی GPUهای دیتاسنتری از فناوری Multi-Instance GPU پشتیبانی می‌کنند. با این قابلیت می‌توان یک GPU فیزیکی را به چند نمونه مستقل تقسیم کرد تا میان کاربران یا ماشین‌های مجازی مختلف به اشتراک گذاشته شود.

درایور و نرم‌افزار سازمانی

GPUهای سروری با درایورها، فریم‌ور و پلتفرم‌های سازمانی مانند NVIDIA AI Enterprise، CUDA و ابزارهای مدیریت دیتاسنتر هماهنگ‌تر هستند.

پشتیبانی سازنده سرور

برای استفاده رسمی در سرور HPE باید GPU در QuickSpecs و لیست قطعات پشتیبانی‌شده همان مدل قرار داشته باشد. صرفاً قرارگرفتن فیزیکی کارت در اسلات PCIe به معنای سازگاری کامل نیست.

انواع فرم‌فکتور کارت گرافیک سروری

کارت Single-Wide

کارت Single-Wide فضای یک اسلات را اشغال می‌کند.

این مدل‌ها معمولاً برای موارد زیر مناسب‌اند:

• Inference

• VDI

• پردازش ویدئو

• پروژه‌های سبک‌تر AI

• سرورهای 1U

نمونه‌های رایج در بازار شامل NVIDIA T4، L4 و بعضی کارت‌های حرفه‌ای کم‌مصرف هستند.

کارت Double-Wide

کارت Double-Wide دو اسلات را اشغال می‌کند و معمولاً توان مصرفی و قدرت بیشتری دارد.

کارت‌هایی مانند H100، H200 NVL، L40S و RTX PRO 6000 Server Edition بسته به مدل و پیکربندی می‌توانند در این گروه قرار بگیرند.

PCIe GPU

کارت PCIe به‌صورت مستقیم در اسلات PCIe سرور قرار می‌گیرد. این فرم‌فکتور برای بسیاری از سرورهای HPE رایج است.