TrendForce презентувала основні тренди у сегменті графічних рішень високого рівня

Платформа наступного покоління NVIDIA Blackwell, яка включає графічні процесори серії B та інтегрує власний процесор NVIDIA Grace Arm в таких моделях, як GB200, є безумовно значним досягненням.

TrendForce зазначає, що GB200 і його попередник, GH200, мають комбіноване рішення CPU+GPU, оснащені NVIDIA Grace CPU і H200 GPU. Однак, на GH200 припадає лише близько 5% поставок графічних процесорів NVIDIA високого рівня. Ринок покладає великі сподівання на GB200, прогнози показують, що поставки цього рішення можуть перевищити мільйони одиниць до 2025 року, що потенційно складе близько 40-50% ринку висококласних графічних процесорів NVIDIA.

Хоча NVIDIA планує випустити такі продукти, як GB200 та B100 у другій половині цього року, для пакування пластин на виході потрібно буде використовувати більш складну та високоточну технологію CoWoS-L, що зробить процес валідації та тестування більш тривалим. Крім того, більше часу буде потрібно для оптимізації серії B для серверних систем АІ в таких аспектах, як мережевий зв'язок і продуктивність охолодження. Очікується, що значні обсяги виробництва продуктів GB200 і B100 не будуть досягнуті до четвертого кварталу 2024-го або навіть першого кварталу наступного року.

Прогнозується, що включення GB200, B100 і B200 в серію B NVIDIA підвищить попит на потужності CoWoS, що змусить TSMC збільшити свої загальні потреби в потужностях CoWoS на 2024 рік. Очікується, що до кінця року щомісячна потужність досягне майже 40 тис. - приголомшливе зростання на 150% у порівнянні з минулим роком. До 2025 року запланована загальна потужність може майже подвоїтися, причому попит NVIDIA, як очікується, складе більше половини цієї потужності. Інші постачальники, такі як Amkor та Intel, наразі зосереджені на технології CoWoS-S і в першу чергу націлені на H-серію NVIDIA. Оскільки технологічні прориви, як очікується, будуть складними в короткостроковій перспективі, плани розширення залишаються консервативними, якщо тільки ці постачальники не зможуть отримати додаткові замовлення за межами NVIDIA, наприклад, самостійно розроблені чіпи ASIC від CSP, що може призвести до більш агресивної стратегії розширення.

Розробка ШІ NVIDIA та AMD має привести HBM3e до домінування на ринку до другої половини року.

TrendForce визначила три основні тенденції HBM для основних графічних процесорів NVIDIA і AMD та їхніх запланованих специфікацій на період після 2024 року: По-перше, очікується перехід від HBM3 до HBM3e. Очікується, що NVIDIA почне нарощувати поставки H200, оснащеного HBM3e, у другій половині 2024 року, замінивши ним H100 як основну модель. Після цього інші моделі, такі як GB200 і B100, також отримають HBM3e. Тим часом AMD планує випустити нову модель MI350 до кінця року і може представити проміжні моделі, такі як MI32x, щоб конкурувати з H200, причому обидві моделі використовуватимуть HBM3e.

По-друге, продовжиться розширення потужностей HBM для підвищення загальної обчислювальної ефективності та пропускної здатності серверів АІ. В даний час на ринку переважно використовується NVIDIA H100 з 80 ГБ HBM, який, як очікується, збільшиться до 192-288 ГБ до кінця 2024 року. Нові графічні процесори AMD, починаючи з MI300A зі 128 ГБ, також будуть збільшуватися до 288 ГБ.

По-третє, лінійка графічних процесорів, оснащених HBM3e, буде розвиватися від конфігурацій 8Hi до конфігурацій 12Hi. Наразі NVIDIA B100 та GB200 оснащені 8Hi HBM3e об'ємом 192 ГБ, а до 2025 року модель B200 планується оснастити 12Hi HBM3e, досягнувши 288 ГБ. Очікується, що майбутні моделі AMD MI350, які будуть випущені до кінця цього року, та серія MI375, яка очікується в 2025 році, будуть оснащені 12Hi HBM3e, що також досягає 288 ГБ.