Malaki ang pagtaas ng gastos ng data center ng Nvidia, sulit pa rin ba ito para sa mga higanteng teknolohiya?

Ang AI data center na nilagyan ng pinakabagong Vera Rubin architecture ng Nvidia ay may presyo na malayo sa inaasahan ng merkado. Ayon sa pinakahuling pagtaya ng Bernstein Research, ang isang Vera Rubin NVL72 rack ay nagkakahalaga ng halos $9.1 milyon, at ang kabuuang capital expenditure para sa data center ay umabot na sa $4.7 bilyon bawat gigawatt— ngunit kasabay nito, ang patuloy na pagtaas ng cost-effectiveness ng computing power ay nagbibigay pa rin ng makatwirang ekonomikong basehan para sa malalaking tech companies sa kabila ng napakalaking investment na ito.

Ayon sa Chasewind Trading Desk, iniulat ng mga analyst ng Bernstein na sina Stacy A. Rasgon at iba pa sa isang research report na inilabas noong Hunyo 8 na ang malawakang iniulat na $8 milyon kada rack ay base sa lipas nang presyo ng memory, at seryosong minamaliit ang aktuwal na gastos. Ang pangunahing di pagkakaunawaan ay nasa high bandwidth memory (HBM): kasalukuyang ang presyo ng HBM 4 ay nasa $16.6 kada GB, ngunit inaasahang aabot ito sa $53 kada GB pagsapit ng 2027, kung kailan malakihan nang idi-dispatch ang Vera Rubin, at malamang na ang Nvidia ay ililipat ang karagdagang gastos sa mga end customers sa pamamagitan ng dynamic pricing mechanism.

Hindi natinag ang Bernstein sa pagtaas ng gasto at nananatili silang positibo kay Nvidia: pinanatili nila ang “outperform” rating at target price na $315. Kasabay nito, binanggit ng report na ang FP8 computing power ng Vera Rubin NVL72 rack ay umaabot ng 2,520 petaFLOPS kada segundo, malayo sa nakaraang Blackwell na may 720 PFLOPS. Ang computing power na makakamit bawat gigawatt at bawat dolyar ay kapansin-pansing tumaas, na posibleng higit pang magpapabilis sa popularisasyon ng AI applications.

Gastos ng Rack: Lógica sa likod ng $9.1 Milyon

Ginamit ng Bernstein ang bottom-up approach para isa-isang kalkulahin ang Vera Rubin NVL72 rack at sa huli’y nakabuo ng estima na mga $9.1 milyon ang gastos nito.

Ang GPU pa rin ang pinakamalaking bahagi ng gastos. Ayon sa report, ang presyo ng Rubin GPU ay nasa $55,000 bawat piraso at may 72 GPU kada rack—katumbas ng $3.96 milyon, halos kalahati ng kabuuang gastos ng rack. Dagdag pa, may 36 na Vera CPU bawat rack na nagkakahalaga ng kabuuang $180,000.

Ang malaking pagtaas ng gastos sa memory at storage ang pangunahing pinagkaiba ng estimasyon ng Bernstein sa karaniwang inaasahan ng merkado. Inaasahan nilang aabot ito sa $3.2 milyon, mas mataas sa dating tantsa na mga $2 milyon ayon sa lumang presyo. Kabilang dito ang HBM 4 na nasa $1.09 milyon, CPU DRAM (LPDDR5X) na $800,000, at direct-attached storage na nasa $1.28 milyon. Binibigyang-diin ng ulat na malaki ang paggalaw ng memory at storage prices—mula Abril 2023 hanggang Mayo 2026, tumaas ng 11.3 na beses ang NAND prices, na may annualized growth rate na 115%. Dapat patuloy na bantayan ng mga investors ang mga pagbabago sa presyo para mapanatili ang accuracy ng mga projection.

Ang network, cooling, at power supply ay may kabuuang gastos na mga $2 milyon. Mula rito, ang network ay humigit-kumulang $1.27 milyon, kabilang ang NVLink switch na $250,000, cables na $240,000, backplane at iba pang expansion parts na $380,000, at SpectrumX switch na $200,000; cooling na $160,000; at power supply na $150,000.

$4.7 Bilyon bawat Gigawatt: Ang Aktwal na Singil sa Full-Stack Data Center

Kapag isinalin mula gastos ng isang rack patungo sa kabuuang capital expenditure ng buong data center, mas nakamamangha ang mga numero.

Ang rated power consumption ng Vera Rubin NVL72 rack ay 220kW. Tantiya ni Bernstein na mga 78% ng kabuuang kuryente ng data center ay kinokonsumo ng mga ganitong rack. Kaya bawat gigawatt ay kayang maglaman ng humigit-kumulang 3,557 racks, na katumbas ng rack cost na $3.23 bilyon. Kapag idinagdag ang mga $1.5 bilyon kada gigawatt para sa pisikal na infrastructure (kabilang na ang mechanical at electrical equipment at lupa’t gusali), ang kabuuang capital expenditure para sa full-stack AI data center ay nasa $4.73 bilyon bawat gigawatt—tumaas ng 17% mula sa mga $4.05 bilyon noong nakaraang henerasyong Blackwell.

Karapat-dapat ding pagtuunan ng pansin ang istruktura ng operating cost. Sa report, kahit pa mataas ang electricity price na $0.15/kWh, ang taunang bill ng data center na may isang gigawatt ay mga $1.3 bilyon; ang gastos sa empleyado ay halos bale-wala, dahil kahit ang pinakamalaking data center ay mangangailangan lamang ng 8 hanggang 10 tao. Sa kabilang banda, kung ipagpapalagay ang anim na taong depreciation period, aabot sa mga $7.9 bilyon ang taunang depreciation cost—ito ang pangunahing bahagi ng operating cost. Dahil ang depreciation ng IT hardware (server, network device) ay 4 hanggang 6 na taon lang, mas maikli kaysa mechanical at electrical equipment at ari-arian, mas malaki ang aktuwal na economic weight ng servers at network kaysa ginagastos na cash capex.

Pag-akyat ng Computing Power: Hedging sa Tumataas na Gastos

Kahit patuloy ang pagtaas ng capital expenditure bawat gigawatt, nagbibigay ang pagbuti ng cost-effectiveness ng computing power ng sapat na ekonomikong basehan para dito.

Ipinapakita ng datos ng Bernstein na ang FP8 computing power ng Vera Rubin NVL72 rack ay 2,520 PFLOPS kada segundo—3.5 na beses kaysa Blackwell na may 720 PFLOPS. Kapag isinalin ito kada gigawatt, ang Vera Rubin ay kayang magbigay ng halos 8,960 EFLOPS ng FP16 sparse computing power, higit doble sa Blackwell na may 4,269 EFLOPS; ang computing power kada $1 bilyong capex ay tumaas mula 105.5 EFLOPS hanggang 189.3 EFLOPS.

Ayon din sa report, sa environment na sobrang limitado ang computing power, mas ginugusto ng mga operator ng data center na pahabain ang buhay ng GPU at unahin ang pagdeploy ng susunod na henerasyong GPU sa bagong kapasidad. Kapag hindi makapagpatayo ng bago sanhi ng tubig o infrastructure limitasyon, maaaring alisin ng operator ang lumang GPU para bigyang-daan ang mga bagong chip.

Sinusuportahan din ng mabilis na paglago ng AI demand ang patuloy na pamumuhunan. Binanggit sa report na ang annualized revenue ng Anthropic ay sumirit mula $9 bilyon sa katapusan ng 2025 patungong $47 bilyon noong Mayo 2026, at ipinahayag ng kompanya na dahil sa limitadong computing power, napilitan silang kusang bitawan ang ilang kliyente at kita.

Epekto sa Supply Chain: Sino ang Panalo, Sino ang Mabigat ang Dalang Gastos?

Binabago ng pagbabago ng cost structure ang nakikinabang sa AI supply chain.

Ang memory ang pinakamalaking makikinabang sa estruktural na pagbabago. Ang CPU DRAM specs ay tumaas ng 320% (TB-based), na malayo sa mga 50% lamang na pagtaas ng HBM at NAND. Dagdag ng Bernstein, padami nang padami ang paggamit ng CXL memory bilang KV cache, kung papayagan ng supply, malaki ang magiging benepisyo ng DRAM.

Patuloy din ang paglago ng demand sa power supply components. Ayon sa report, ang cost share ng power supply ay tumaas mula sa 1.0% noong nakaraang henerasyon tungong 1.6%, at pinabilis pa ng maagang paggamit ng 800VDC scheme ang trend na ito. Pinanatili ng Bernstein ang “outperform” rating sa Delta Electronics, target price na NT$2,620, bilang isa sa pangunahing makikinabang sa pagtaas ng power content.

Sa substrate, naniniwala ang Bernstein na tuloy-tuloy ang paglago ng demand sa ABF substrate at positibo ang pananaw sa Ibiden at Unimicron, na may target price na NT$990 ang huli.

Sa kabilang banda, pinanatili ng Bernstein ang “underperform” rating kay CoreWeave, target price na $67, at kay Quanta, target price na NT$250.

Aasahan Pa Ring Tataas ang Gastos, Nahuhuli ang Power Demand sa Capex

Sa tanawing hinaharap, inaasahan ng Bernstein na magpapatuloy ang pag-akyat ng gastos bawat gigawatt, ngunit ang paglago ng demand sa kuryente ay mahuhuli kumpara sa bilis ng paglawak ng capital expenditure ng hyperscale cloud providers.

Ayon sa report, ang cost increase bawat gigawatt sa Rubin cycle ay mga 9%, bahagyang mas mataas kaysa 8% noong Blackwell cycle. Base sa consensus forecast, aakyat ng 69% ang capex ng hyperscale cloud providers at bagong cloud companies sa 2026 taon-sa-taon, na babagal sa 13% pagsapit ng 2027; ibig sabihin, kahit katamtaman lang ang dagdag ng power capacity, sapat ito upang suportahan ang tuloy-tuloy na paglago. Naniniwala ang Bernstein na ang tila pagkakaitang ito ay nagpapahiwatig na may natitirang puwang pa ang market expectation para sa hyperscale capex.

Mahalaga ring tandaan na posibleng magkulang ang supply ng LPDDR memory at maging hadlang ito sa shipments ng Vera Rubin at standalone Vera CPU. Maaaring pumili ang Nvidia na magbenta ng mas mababang default memory configuration upang hayaang palawakin ng kliyente ang memory, ayon sa pinakabagong presyo, at magdesisyon ng pinakamainam na configuration.