Jim Keller-liede chipbedriuw Tenstorrent hat syn folgjende generaasje Wormhole-prosessor frijlitten foar AI-workloads, dy't it ferwachtet goede prestaasjes te bieden tsjin in betelbere priis.It bedriuw biedt op it stuit twa ekstra PCIe-kaarten oan dy't ien of twa Wormhole-processors kinne passe, lykas TT-LoudBox- en TT-QuietBox-wurkstasjons foar software-ûntwikkelders. Alle oankundigingen fan hjoed binne rjochte op ûntwikkelders, net op dyjingen dy't Wormhole-boards brûke foar kommersjele workloads.
"It is altyd bliid om mear fan ús produkten yn hannen fan ûntwikkelders te krijen. Untwikkelingssystemen frijlitte mei ús Wormhole™-kaarten kinne ûntwikkelders helpe om multi-chip AI-software te skaaljen en te ûntwikkeljen, ”sei Jim Keller, CEO fan Tenstorrent.Neist dizze lansearring binne wy entûsjast om de foarútgong te sjen dy't wy meitsje mei de tape út en power-up fan ús twadde generaasje produkt, Blackhole.
Elke Wormhole-prosessor befettet 72 Tensix-kearnen (fan fiif dy't RISC-V-kearnen stypje yn ferskate gegevensformaten) en 108 MB SRAM, en leveret 262 FP8 TFLOPS by 1 GHz mei in termyske ûntwerpkrêft fan 160W. De single-chip Wormhole n150-kaart is foarsjoen fan 12 GB GDDR6-fideoûnthâld en hat in bânbreedte fan 288 GB / s.
Wormhole-processors leverje fleksibele skalberens om te foldwaan oan 'e ferskate behoeften fan wurkloads. Yn in standert wurkstasjonStencils opset mei fjouwer Wormhole n300 cards, de processors kinne wurde kombinearre yn ien ienheid dy't ferskynt yn de software as in ferienige, brede Tensix kearn netwurk. Dizze konfiguraasje lit de accelerator deselde wurkdruk omgean, splitst tusken fjouwer ûntwikkelders of rinne oant acht ferskillende AI-modellen tagelyk. In wichtich skaaimerk fan dizze skalberens is dat it lokaal kin rinne sûnder de needsaak foar virtualisaasje. Yn in datacenteromjouwing sille Wormhole-processors PCIe brûke foar útwreiding yn 'e masine, of Ethernet foar eksterne útwreiding.
Wat prestaasjes oanbelanget, berikte Tenstorrent's single-chip Wormhole n150-kaart (72 Tensix-kearnen, 1 GHz-frekwinsje, 108 MB SRAM, 12 GB GDDR6, 288 GB / s bânbreedte) 262 FP8 TFLOPS by 160W, wylst de dual-chip Wormhole n300 (128 Tensix kearnen, 1 GHz frekwinsje, 192 MB SRAM, aggregearre 24 GB GDDR6, 576 GB / s bânbreedte) leveret oant 466 FP8 TFLOPS by 300W.
Om 300W fan 466 FP8 TFLOPS yn kontekst te setten, sille wy it fergelykje mei wat AI-merklieder Nvidia biedt by dizze thermyske ûntwerpkrêft. Nvidia's A100 stipet FP8 net, mar it stipet INT8, mei peakprestaasjes fan 624 TOPS (1,248 TOPS as sparse). Yn ferliking stipet de H100 fan Nvidia FP8 en berikt pykprestaasjes fan 1,670 TFLOPS by 300W (3,341 TFLOPS by sparse), wat signifikant oars is fan Tenstorrent's Wormhole n300.
D'r is lykwols ien grut probleem. Tenstorrent's Wormhole n150 ferkeapet foar $ 999, wylst de n300 ferkeapet foar $ 1,399. By fergeliking is in inkele Nvidia H100-grafykkaart ferkocht foar $ 30,000, ôfhinklik fan kwantiteit. Fansels witte wy net oft fjouwer of acht Wormhole-processors de prestaasjes fan in inkele H300 eins kinne leverje, mar har TDP's binne respektivelik 600W en 1200W.
Neist de kaarten biedt Tenstorrent foarôfboude wurkstasjons foar ûntwikkelders, ynklusyf 4 n300-kaarten yn 'e mear betelbere Xeon-basearre TT-LoudBox mei aktive koeling, en de avansearre TT-QuietBox mei EPYC-basearre Xiaolong) floeibere koelfunksje).
Post tiid: Jul-29-2024