Saak Banner

Yndustry-nijs: Jim Keller hat in nije risc-v-chip lansearre

Yndustry-nijs: Jim Keller hat in nije risc-v-chip lansearre

Jim Keller-LED-chipbedriuw is it folgjende-generaasje WormHle-prosessor frijlitten foar AI-wurkloads, dy't it ferwachtet om goede prestaasjes te bieden op in betelbere priis.It bedriuw biedt op it stuit twa ekstra PCIe-kaarten dy't ien of twa wormkle-processors kinne foldwaan, lykas ek TT-LOUDBOX- en TT-QuetBox-wurkstasjons foar software-ûntwikkelingen. Alles fan 'e oankundigingen fan hjoed binne rjochte op ûntwikkelders, net dejingen dy't WormHole Boards brûke foar kommersjele wurkloads.

"It is altyd gratifikaasje om mear fan ús produkten te krijen yn 'e hannen fan ûntwikkelders. DiscoatSystemen fan Untwikkelingen mei ús WormHole ™-kaarten helpe en ûntwikkelje Multi-chip Ai Software," sei Jim Keller, CEO fan Tenstorrent.Njonken dizze lansearring binne wy ​​optein om de foarútgong te sjen dy't wy meitsje mei de tape út en op 'e macht-up fan ús twadde generaasje produkt, Blackhole. "

1

Elke WormHle-prosessor befettet 72 Tensix Cores (fiif fan stipe Risc-Cores yn ferskate gegevensformaten) en 108 MB SRAM, levering 262 FP8 TFLOPS by 1 GHz mei in thermyske ûntwerp krêft fan 160W. De Single-chip Wormhole N150-kaart is foarsjoen fan 12 GB GDDR6 Fideo-ûnthâld en hat in bânbreedte fan 288 GB / s.

Wormhhole-prosessen jouwe fleksibele skalabiliteit om te foldwaan oan it ferskaat fan ferskate behoeften fan workloads. Yn in standert wurkstasjon Setup mei fjouwer wormhole N300-kaarten kinne de processors wurde kombineare yn ien ienheid dy't ferskynt yn 'e software as in ferienige, brede, brede tensix core netwurk. Dizze konfiguraasje lit de accelerator yn steat om deselde wurkdruk te behanneljen, splitse tusken fjouwer ûntwikkelders of tagelyk nei acht ferskillende AI-modellen tagelyk oant acht ferskillende AI-modellen. In wichtige funksje fan dizze skalens is dat it lokaal kin rinne sûnder de needsaak foar virtualisaasje. Yn in omjouwing fan Worm-sintrum sille WormHle-processors brûke om PCIY te brûken foar útwreiding yn 'e masine, as Ethernet foar eksterne útwreiding.

Yn termen fan prestaasjes fan Tenstorrent's Single-Chip WormHole N150 Card (72 Tensix Cores, 108 MB Sram, 128 GBDr6) Berjocht om 160 Board (128 Tensix Cores, 1 GHz Frekwinsje, 192 MB Sram, Aggregeare 24 GB GDDR6, 576 GB / S Bandbreedth) leveret oant 466 FP8 Tflops op 300W.

Om 300W fan 466 FP8 TFLOPS yn te setten yn kontekst, wy fergelykje it mei wat AI Market Leader Nvidia oanbiedt by dizze thermyske ûntwerpkrêft. It A100 fan Nvidia stipet FP8 net FP8, mar it stipet Int8, mei Peak Performance of 624 Tops (1.248 Tops doe't Sparse). Yn ferliking stipet NVIDIA's H100 FP8 en berikt Peak-prestaasjes fan 1.670 tflops op 300w (3.341 TFlops by SPARSE), dat is signifikant oars fan 'e Wormhole N300 fan Tenstorrent.

D'r is lykwols ien grut probleem. Tenstorrent's Wormhole's WormHole N150-retails foar $ 999, wylst de N300 ferkeapet foar $ 1,399. Troch fergeliking, in inkele Nvidia H100 Graphics-kaartferguning foar $ 30.000, ôfhinklik fan kwantiteit. Fansels wite wy net as fjouwer as acht wjirm-processors de prestaasjes fan in inkelde H300 feitlik kinne leverje, mar har TDPS binne respektivelik 600W en 1200W.

Neist de kaarten biedt Tenstorrent-wurkstasjons foar ûntwikkelders, ynklusyf 4 N300-kaarten yn 'e mear betelbere XeN-basearre TT-LOUDBOX mei Actay Cooling mei EPYC-Based Xiaolong) floeistoffunksje).


Posttiid: jul-29-2024