Jim Keller-Led Chip Company Tenstorent on julkaissut seuraavan sukupolven madonreikäprosessorin AI-työmäärään, jonka se odottaa tarjoavan hyvää suorituskykyä edulliseen hintaan.Yhtiö tarjoaa tällä hetkellä kaksi ylimääräistä PCIe-korttia, joihin mahtuu yksi tai kaksi madonreikäprosessoria, samoin kuin TT-äänilaatikko- ja TT-Quietbox-työasemat ohjelmistokehittäjille. Kaikki tämän päivän ilmoitukset on suunnattu kehittäjille, ei niille, jotka käyttävät madonreiän hallituksia kaupallisiin työmääriin.
"On aina ilahduttavaa saada enemmän tuotteitamme kehittäjien käsiin. Relauta Development Systems Wormhole ™ -kortteja käyttämällä kehittäjiä mittakaavassa ja kehittämään monikirjasturi-ohjelmistoja", sanoi Tenstorrentin toimitusjohtaja Jim Keller.Tämän lanseerauksen lisäksi olemme innostuneita näkemästämme edistymästämme, joka saavutamme toisen sukupolven tuotteen, Blackhole-tuotteen, avulla. "
Jokainen madonreikäprosessori sisältää 72 tensix-ytimää (joista viisi tukee RISC-V-ytimiä erilaisissa datamuodoissa) ja 108 Mt SRAM: ta, toimittaen 262 FP8 TFLOPS: n 1 GHz: llä lämpömuotoisella teholla 160W. Yhden sirun madonreiän N150-kortti on varustettu 12 Gt GDDR6-videomuistilla ja kaistanleveys on 288 Gt/s.
Madonreiän prosessorit tarjoavat joustavan skaalautuvuuden vastaamaan työkuormien monipuolisia tarpeita. Prosessorit voidaan yhdistää yhdeksi yksiköksi, joka näkyy ohjelmistossa yhtenäisenä, Tensix -ydinverkkoa. Tämä kokoonpano antaa kiihdyttimelle mahdollisuuden käsitellä samaa työmäärää, jakaa neljän kehittäjän kesken tai suorittaa jopa kahdeksan erilaista AI -mallia samanaikaisesti. Tämän skaalautuvuuden keskeinen piirre on, että se voi toimia paikallisesti ilman virtualisoinnin tarvetta. Tietokeskuksen ympäristössä madonreiän prosessorit käyttävät PCIE: tä laajentumiseen koneen sisällä tai Ethernet -alueen ulkoista laajentumista varten.
Suorituskyvyn kannalta Tenstorrentin yhden sirun matoreikä N150-kortti (72 Tensix-ytimestä, 1 GHz-taajuus, 108 Mt SRAM, 12 Gt GDDR6, 288 GB/s kaistanleveys) saavutti 262 FP8 TFLOPS: n 160W: llä, kun taas kaksikiro-reuna-arvo N300 Board (128 TENSIX COREES, 1 GHZ 24 Gt GDDR6, 576 Gt/s kaistanleveys) toimittaa jopa 466 FP8 TFLOPS 300W: llä.
Laittaakseen 300 W 466 FP8 TFLOPS -kontekstiin, vertaamme sitä siihen, mitä AI -markkinajohtaja Nvidia tarjoaa tässä lämpösuunnitteluvoimassa. NVIDIA: n A100 ei tue FP8: ta, mutta se tukee Int8: ta, huippu suorituskykyä 624 yläosaa (1 248 yläosaa, kun harva). Vertailun vuoksi NVIDIA: n H100 tukee FP8: ta ja saavuttaa 1 670 TFLOPS: n huipputehokkuuden 300W (3 341 TFLOPS: lla harvassa), mikä eroaa merkittävästi Tenstorrentin matoreikä N300: sta.
On kuitenkin yksi suuri ongelma. Tenstorent's Wormhole N150 vähittäismyynti on 999 dollaria, kun taas N300 myy 1 399 dollaria. Vertailun vuoksi yhdellä NVIDIA H100 -näytönohjaimella on vähittäismyynti 30 000 dollarilla määrästä riippuen. Emme tietenkään tiedä, pystyvätkö neljä tai kahdeksan madonreikäprosessoria tosiasiallisesti toimittamaan yhden H300: n suorituskyvyn, mutta niiden TDP: t ovat vastaavasti 600W ja 1200W.
Korttien lisäksi Tenstorent tarjoaa kehittäjille esivalmistettuja työasemia, mukaan lukien 4 N300-korttia edullisemmassa Xeon-pohjaisessa TT-äänilaatteessa aktiivisella jäähdytyksellä ja edistyksellinen TT-quietbox EPYC-pohjaisella Xiaolong) nestemäinen jäähdytystoiminto).
Viestin aika: heinäkuu-29-2024