It ûnder lieding fan Jim Keller late chipbedriuw Tenstorrent hat syn folgjende generaasje Wormhole-prosessor foar AI-workloads útbrocht, dy't ferwachtet goede prestaasjes te bieden tsjin in betelbere priis.It bedriuw biedt op it stuit twa ekstra PCIe-kaarten oan dy't ien of twa Wormhole-prosessoren kinne ûnderbringe, lykas TT-LoudBox- en TT-QuietBox-wurkstasjons foar softwareûntwikkelders. Alle oankundigingen fan hjoed binne rjochte op ûntwikkelders, net op dyjingen dy't Wormhole-boerden brûke foar kommersjele wurkloads.
"It is altyd befredigjend om mear fan ús produkten yn 'e hannen fan ûntwikkelders te krijen. Release-ûntwikkelingssystemen mei ús Wormhole™-kaarten kinne ûntwikkelders helpe om multi-chip AI-software te skalearjen en te ûntwikkeljen," sei Jim Keller, CEO fan Tenstorrent.Neist dizze lansearring binne wy optein om de foarútgong te sjen dy't wy meitsje mei it útskeakeljen en opstarten fan ús twadde generaasje produkt, Blackhole.
Elke Wormhole-prosessor befettet 72 Tensix-kearnen (fiif dêrfan stypje RISC-V-kearnen yn ferskate gegevensformaten) en 108 MB SRAM, en leveret 262 FP8 TFLOPS op 1 GHz mei in termysk ûntwerpfermogen fan 160W. De single-chip Wormhole n150-kaart is foarsjoen fan 12 GB GDDR6-fideogeheugen en hat in bânbreedte fan 288 GB/s.
Wormhole-processors biede fleksibele skalberens om te foldwaan oan de ferskate behoeften fan workloads. Yn in standert wurkstasjonopset mei fjouwer Wormhole n300-kaarten kinne de processors wurde kombineare ta ien ienheid dy't yn 'e software ferskynt as in ferienige, breed Tensix-kearnnetwurk. Dizze konfiguraasje lit de fersneller deselde workload behannelje, ferdiele tusken fjouwer ûntwikkelders of maksimaal acht ferskillende AI-modellen tagelyk útfiere. In wichtich skaaimerk fan dizze skalberens is dat it lokaal kin rinne sûnder de needsaak foar firtualisaasje. Yn in datacenteromjouwing sille Wormhole-processors PCIe brûke foar útwreiding binnen de masine, of Ethernet foar eksterne útwreiding.
Wat prestaasjes oanbelanget, berikte Tenstorrent's single-chip Wormhole n150-kaart (72 Tensix-kearnen, 1 GHz-frekwinsje, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bânbreedte) 262 FP8 TFLOPS by 160W, wylst it dual-chip Wormhole n300-boerd (128 Tensix-kearnen, 1 GHz-frekwinsje, 192 MB SRAM, aggregeare 24 GB GDDR6, 576 GB/s bânbreedte) oant 466 FP8 TFLOPS by 300W leveret.
Om 300W fan 466 FP8 TFLOPS yn kontekst te pleatsen, sille wy it fergelykje mei wat AI-merklieder Nvidia oanbiedt by dizze termyske ûntwerpkrêft. Nvidia's A100 stipet gjin FP8, mar it stipet wol INT8, mei peakprestaasjes fan 624 TOPS (1.248 TOPS as sparse). Yn ferliking stipet Nvidia's H100 FP8 en berikt peakprestaasjes fan 1.670 TFLOPS by 300W (3.341 TFLOPS as sparse), wat signifikant oars is as Tenstorrent's Wormhole n300.
Der is lykwols ien grut probleem. De Wormhole n150 fan Tenstorrent kostet $999, wylst de n300 $1.399 kostet. Ter ferliking kostet ien Nvidia H100-grafykkaart $30.000, ôfhinklik fan de kwantiteit. Fansels witte wy net oft fjouwer of acht Wormhole-prosessors eins de prestaasjes fan ien H300 leverje kinne, mar har TDP's binne respektivelik 600W en 1200W.
Neist de kaarten biedt Tenstorrent foarboude wurkstasjons foar ûntwikkelders, ynklusyf 4 n300-kaarten yn 'e betelberder Xeon-basearre TT-LoudBox mei aktive koeling, en de avansearre TT-QuietBox mei EPYC-basearre Xiaolong (floeistofkoelingsfunksje).
Pleatsingstiid: 29 july 2024