Od najbogatejšega človeka v SK do HBM - Razumevanje zlatega bazena čipov umetne inteligence

Zakaj je predsednik SK postal novi najbogatejši Korejec?

Objavljen je bil najnovejši korejski seznam bogatašev, na vrhu seznama pa je Chey Tae{0}}won, predsednik skupine SK. In 17. marca je Chey Tae-won na konferenci NVIDIA GTC izjavil:

"V valu umetne inteligence se bo povpraševanje po HBM do leta 2030 povečalo za več kot desetkrat"

To ni samo naključno govorjenje-njegovo bogastvo je že zgrajeno na tem razmahu umetne inteligence HBM. Danes, začenši z osnovnimi koncepti, razložimo to temeljito naenkrat.

Najprej razumejte tri osnovne koncepte: Kaj so DRAM, NAND in HBM? 

Kakšno je pravzaprav razmerje med HBM in GPU?
Povzetek v enem stavku:HBM je »super naftovod«,-izdelan za GPE 
 

• značilnost GPU jemasivno vzporedno računalništvo(H100 ima več deset tisoč računalniških jeder)
• Toliko jeder, ki delujejo hkrati, zahtevaultra{0}}velika pasovna širinaza neprekinjeno dovajanje podatkov
• Tradicionalna pasovna širina video pomnilnika GDDR je nezadostna, dosega HBMveč kot 3-kratna pasovna širinaskozi 3D zlaganje
• Brez HBM bodo tudi najmočnejša računalniška jedra GPU "stradana" in ne morejo delovati s polno zmogljivostjo
• Intuitivna analogija:
• GPU=High-motor z močjo
• HBM=naftovod velikega-premera
• Večja ko je moč motorja, bolj potrebuje cevovod, da dohaja dobavo nafte

Zemljevid večjih svetovnih proizvajalcev: tri podjetja imajo monopol, dve sta v Koreji

1️⃣ DRAM (tekoči pomnilnik)

2️⃣ NAND Flash (dolgo{1}}shramba)

3️⃣ HBM (High Bandwidth Memory) - Najvišja ovira

Zakaj je HBM tako težko izdelati, da to zmorejo samo tri podjetja po vsem svetu? 

HBM je"Dragulj v kroni"industrije pomnilniških čipov tri glavne ovire blokirajo skoraj vse druge akterje:

1.3D postopek zlaganja

• Zložite 8-12 plasti DRAM-a navpično skupaj
• Uporabite TSV (Through-Silicon Via), da dosežete vmesno povezavo
• Natančnost poravnave je treba nadzorovati na nanometrski ravni, izboljšanje donosa je zelo težko

2.Silicon Interposer

• Za povezavo HBM in GPE je potrebno ožičenje visoke-gostote na silicijevih rezinah
• Zapleten proces, izjemno visoki stroški, običajni proizvajalci si tega ne morejo privoščiti

3. Ultra{1}}zasnova z visoko pasovno širino

• Pasovna širina HBM3E je že presegla 1TB/s, načrtovanje celovitosti signala je izjemno zahtevno
• Zahteva desetletja kopičenja tehnologije DRAM, ki je ni mogoče nadoknaditi čez noč

Zakaj je SK hynix postal največji zmagovalec v tem valu umetne inteligence? 

4. Stavite zgodaj, zadenite klop

• SK hynix je začel s postavitvijo HBM pred več kot desetimi leti, vodilni pri kopičenju tehnologije
• Prvi v masovni proizvodnji HBM3, pravkar ujel ta val eksplozije velikih modelov umetne inteligence
• Zdaj zmogljivosti HBM primanjkuje, cene so se povečale za 2-3 krat, stopnje dobička so narasle

5. Najnovejša sodba konference GTC

• Predsednik SK Chey Tae-won je na GTC jasno izjavil, da povpraševanje po umetni inteligenci po HBM eksponentno raste
• Napoveduje, da se bo do leta 2030 velikost trga HBM povečala za več kot desetkrat
• SK že pospešuje širitev proizvodnje HBM3E, da bi izkoristila priložnost

6. Dobiček preveden v bogastvo

• Eksplozivni dobički HBM so neposredno dvignili tržno vrednost skupine SK, zaradi česar je Chey Tae-postal novi najbogatejši človek v Koreji
• To je nagrada za zgodnjo tehnološko postavitev-če trend vidite pravilno, vas bo trend nagradil

Kje smo zdaj?

• NAND Flash: Pomnilnik Yangtze Memory je že dosegel preboj, množično proizvedeni 232-slojni 3D NAND je pridobil trdno oporo, domači SSD-ji se že prodajajo po vsem svetu
• DRAM: ChangXin Memory ima masovno proizvodnjo DDR4, spodbuja raziskave in razvoj DDR5 in postopoma dohiteva
• HBM: ChangXin je zaključil s tehničnimi raziskavami in razvojem, potrebuje še nekaj časa pred masovno proizvodnjo in se trudi, da bi dohitel zaostanek

Končni povzetek

7. V tem razcvetu umetne inteligence je najbolj navzgor HBM prava "zlata posoda"-ne glede na to, koliko zaslužijo proizvajalci grafičnih procesorjev, so proizvajalci HBM neizogibni "prodajalci lopat", ki služijo denar.

8.SK hynix je zmagal z zgodnjo postavitvijo-je vztrajal pri raziskavah in razvoju pred več kot desetimi leti, ko HBM še nihče ni cenil, danes žanje največje dividende umetne inteligence in je postal novi najbogatejši Korejec.

9. V vojni za čipe je spomin glavno bojišče-kdor obvlada HBM, drži "pipo" računalniške moči AI. Na področju NAND smo se že prebili, vztrajno dohitevamo na področju DRAM-a in še vedno moramo trdo delati na področju HBM.