“Mahirap ito, pero naniniwala ako sa inyo”! Inimbitahan ni Jensen Huang ang mga inhinyero ng SK Hynix noong nakaraang linggo, personal siyang nagbigay ng toast, at hinimok silang “ihatid ang HBM4 nang walang pagkaantala”

Personal na nagdaos ng salu-salo ang CEO ng Nvidia na si Jensen Huang para sa engineering team ng kanilang partner noong nakaraang linggo—isang bihirang hakbang na nagpapakita ng estratehikong halaga ng susunod na henerasyon ng high-bandwidth memory, ang HBM4, para sa higanteng AI chip na ito. Habang ang Samsung Electronics ang unang nagpadala ng HBM4 sa merkado, ang kakayahan ng SK Hynix na maihatid sa tamang oras ang mga high-performance na produkto ay direktang makakaapekto sa magiging performance ng bagong henerasyon ng Nvidia AI accelerator na Vera Rubin sa merkado ngayong ikalawang kalahati ng taon.

Noong gabi ng Pebrero 14, dumating si Jensen Huang sa isang Korean fried chicken restaurant malapit sa punong-tanggapan ng Nvidia, kung saan ginugol niya ang mahigit dalawang oras para personal na mag-mix ng soju at beer at mag-toast sa mahigit 30 engineer mula sa SK Hynix at Nvidia. Paulit-ulit niyang binigyang-diin na "isa tayong koponan" at "ipinagmamalaki ko kayo", at hinikayat ang mga engineer na "sa pamamagitan ng walang sawang pagsusumikap at pagharap sa hamon, maghatid ng mga pambihirang resulta", lalo na nang banggitin niya ang pangakong suplay ng SK Hynix para sa ika-anim na henerasyon ng HBM4 na produkto.

Malinaw ang mensahe ng biglaang pagtitipong ito: tinitingnan ng Nvidia ang HBM4 bilang mahalagang sangkap na magpapatingkad sa Vera Rubin accelerator. Inilatag ng Nvidia sa mga supplier ng HBM4 ang mga espesipikasyong "bilis ng pagpapatakbo na higit sa 11 Gbps" at "bandwidth na higit sa 3.0 TB/s", na lampas ng 30% kumpara sa mga kahalintulad na kahilingan ng kakumpitensyang AMD. Ayon sa mga analyst ng industriya, ang personal na pagdalo ni Jensen Huang ay nagpapataas ng posibilidad na mapanatili ng SK Hynix ang posisyon bilang pinakamalaking supplier ng HBM4.

Ayon sa mga impormante mula sa industriya, noong Disyembre nakaraang taon ay pansamantalang itinalaga ng Nvidia ang mga bahagi ng HBM supply para sa taong ito—mahigit 55% sa SK Hynix, 20% hanggang halos 30% sa Samsung Electronics, at humigit-kumulang 20% sa Micron Technology. Bagama't nagdulot ng potensyal na pagbabago ang pag-usad ng Samsung sa teknolohikal na kompetisyon, naniniwala pa rin ang mga tagaloob na malaki ang tsansang makuha ng SK Hynix ang pinakamalaking bahagi matapos ma-optimize ang kalidad sa unang quarter.

Bihirang "Diplomasya ng mga Inhinyero"

Itinuturing ng industriya ng semiconductor na isang napaka-eksepsiyonal na hakbang ang personal na pagdaraos ni Jensen Huang ng hapunan para sa mga engineer ng partner. Ang pagtitipon ay mabilis na inayos matapos ang direktibang ibinigay ni Jensen Huang noong nakaraang linggo sa mga empleyado ng Nvidia na "magdaos ng hapunan para hikayatin ang SK Hynix HBM engineers", na nagpapakita ng kritikal na papel ng HBM4 ng SK Hynix sa hinaharap ng negosyo ng Nvidia.

Dumating si Jensen Huang sa 99 Chicken restaurant sa Santa Clara bandang 5:20 ng hapon. Sa huling bahagi ng salu-salo, habang nagtotoast, sinabi niya: "Ang AI accelerators at HBM4 ay kumakatawan sa pambihira at pinakamalalaking teknolohikal na hamon sa mundo. Ipinagmamalaki ko kayong lahat na walang tigil na nagtatrabaho araw at gabi, at naniniwala akong makakapaghatid kayo ng natatanging resulta." Dagdag pa niya:

"Alam kong mahigpit ang timeline sa development ng HBM4 at Vera Rubin, ngunit naniniwala ako sa inyo. Ngayon ang tamang panahon para magpakitang-gilas ang SK Hynix at Nvidia sa buong mundo."

Pormal na pumasok ang SK Hynix sa supply chain ng Nvidia noong Hulyo 2020 gamit ang HBM2E (ikatlong henerasyon), at pagkatapos ay naging de facto exclusive supplier din ng HBM3 (ika-apat na henerasyon) at HBM3E (ikalimang henerasyon), kaya't nabuo, kasama ang TSMC, ang tinatawag na "AI semiconductor trilateral alliance".

Teknikal na Hamon at Presyur sa Oras

Tinuturing na susi sa performance ng susunod na AI accelerator ng Nvidia na Vera Rubin ang HBM4. Nakatakdang ilunsad ngayong ikalawang kalahati ng taon ang Vera Rubin, na gagamit ng HBM4 bilang high-performance memory module na nabubuo sa pamamagitan ng pagsasalansan ng 12 layer ng advanced DRAM chips, na magsusuplay ng malaking datos sa GPU na nagsasagawa ng mga kalkulasyon.

Mas mataas nang malaki ang espesipikasyon ng Nvidia para sa HBM4 kumpara sa mga kakumpitensya. Ang hinihingi nitong bilis at bandwidth ay higit ng 30% sa hinihiling ng AMD para sa HBM4, kaya't malinaw na itinatakda ng Nvidia ang HBM4 bilang pangunahing competitive differentiator ng Vera Rubin.

Hindi tulad ng merkado ng HBM3E na halos SK Hynix lang ang namamayani, ang HBM4 market na bubuksan ngayong ikalawang kalahati ng taon ay magkakaroon ng ibang kompetisyon. Noong Pebrero 12, ipinadala ng Samsung Electronics sa Nvidia ang unang batch ng opisyal na HBM4 products sa industriya, na may bilis na 11.7 Gbps (hanggang 13 Gbps) at bandwidth na 3.3 TB/s.

Sa ngayon, naabot na ng SK Hynix ang performance level na 11.7 Gbps o mas mataas para sa HBM4, at nagsusuplay na sila ng mga bayad na sample sa Nvidia habang patuloy ang optimization ng performance. Inaasahan ng industriya na malapit nang matanggap ng SK Hynix ang pormal na "mass supply" na pahintulot mula sa Nvidia.

Sa salu-salo, hinikayat ni Jensen Huang ang mga engineer ng SK Hynix na "maghatid ng HBM4 na may pinakamataas na performance nang walang pagkaantala". Ang pahayag na ito ay tinuturing na malinaw na panawagan para sa mahigpit na delivery schedule.

Umiinit na Labanan sa HBM Market Share

Habang umuusad ang Samsung sa teknolohiya ng HBM4, posibleng magkaroon ng pagbabago sa alokasyon ng supply share ngayong taon. Subalit, nananatili ang pananaw sa industriya na malaki pa rin ang tsansa ng SK Hynix na mapanatili ang pinakamalaking bahagi matapos ang optimization ng kalidad sa unang quarter.

Ipinaliwanag ng isang tagaloob ng industriya ng semiconductor sa media:

"Ang final optimization ng HBM4 ng tatlong memory manufacturers ay matatapos pa lang sa bandang Marso. Kamakailan, lumalaganap din ang trend na mas unahin ang produksyon ng general-purpose DRAM para sa mas mataas na kita kaysa sa habulan ng HBM market share."

Ayon sa naunang artikulo ng Wall Street Insights, binigyang-diin pa ng pananaliksik ng Evercore ang pagkakaiba ng mga produkto sa bawat henerasyon; binanggit ng ilang tagaloob ng industriya ang kaibahan ng "minor" (bahagyang pag-usad) at "major" (malaking pag-usad) na pagbabago. Halimbawa, ang paglipat mula H100 patungong B100/B200 ay minor transition, samantalang ang GB-Series rack-level system ay major evolution; mula GB-Series patungong VR-Series ay minor, ngunit ang paglipat patungong Rubin Ultra na may cluster scale mula 144 hanggang 576 ay isang major upgrade.

Ang hapunan na pinangunahan mismo ni Jensen Huang ay hindi lang pagkilala sa matagal nang partner, kundi paalala rin sa kahalagahan ng bawat bahagi ng supply chain. Para sa SK Hynix, ang pagpapanatili ng kanilang pangunguna sa matinding kompetisyon ay nakasalalay sa kanilang kakayahang magpatupad ng mga plano sa mga susunod na buwan.