Компанијата за чипови „Tenstorrent“, предводена од Џим Келер, го претстави својот процесор Wormhole од следната генерација за работни оптоварувања со вештачка интелигенција, за кој очекува да понуди добри перформанси по прифатлива цена.Компанијата моментално нуди две дополнителни PCIe картички кои можат да сместат еден или два Wormhole процесори, како и TT-LoudBox и TT-QuietBox работни станици за развивачи на софтвер. Сите денешни најави се насочени кон развивачи, а не кон оние кои користат Wormhole плочи за комерцијални работни оптоварувања.
„Секогаш е задоволувачки кога повеќе од нашите производи ќе им бидат достапни на програмерите. Системите за развој на изданија што ги користат нашите Wormhole™ картички можат да им помогнат на програмерите да го прошират и развијат софтвер со вештачка интелигенција со повеќе чипови“, рече Џим Келер, извршен директор на Tenstorrent.Покрај ова лансирање, возбудени сме што го гледаме напредокот што го постигнуваме со поставувањето на лентата и стартувањето на нашиот производ од втора генерација, Blackhole.“
Секој Wormhole процесор содржи 72 Tensix јадра (од кои пет поддржуваат RISC-V јадра во различни формати на податоци) и 108 MB SRAM, испорачувајќи 262 FP8 TFLOPS на 1 GHz со термичка моќност од 160W. Едночипната Wormhole n150 картичка е опремена со 12 GB GDDR6 видео меморија и има пропусен опсег од 288 GB/s.
Wormhole процесорите овозможуваат флексибилна скалабилност за да ги задоволат разновидните потреби на работните оптоварувања. Во стандардна поставеност на работна станица со четири Wormhole n300 картички, процесорите можат да се комбинираат во една единица што се појавува во софтверот како унифицирана, широка Tensix јадрена мрежа. Оваа конфигурација му овозможува на акцелераторот да се справи со истото работно оптоварување, да се подели помеѓу четири развивачи или да работи до осум различни модели на вештачка интелигенција истовремено. Клучна карактеристика на оваа скалабилност е тоа што може да работи локално без потреба од виртуелизација. Во средина на центар за податоци, Wormhole процесорите ќе користат PCIe за проширување во машината или Ethernet за надворешно проширување.
Што се однесува до перформансите, едночипната Wormhole n150 картичка на Tenstorrent (72 Tensix јадра, фреквенција од 1 GHz, 108 MB SRAM, 12 GB GDDR6, пропусен опсег од 288 GB/s) постигна 262 FP8 TFLOPS при 160W, додека двочипната Wormhole n300 плоча (128 Tensix јадра, фреквенција од 1 GHz, 192 MB SRAM, агрегиран 24 GB GDDR6, пропусен опсег од 576 GB/s) испорачува до 466 FP8 TFLOPS при 300W.
За да ги ставиме 300W од 466 FP8 TFLOPS во контекст, ќе ги споредиме со она што лидерот на пазарот на вештачка интелигенција, Nvidia, го нуди со оваа термичка моќност. A100 на Nvidia не поддржува FP8, но поддржува INT8, со врвни перформанси од 624 TOPS (1.248 TOPS кога е sparse). За споредба, H100 на Nvidia поддржува FP8 и достигнува врвни перформанси од 1.670 TFLOPS при 300W (3.341 TFLOPS при sparse), што е значително различно од Wormhole n300 на Tenstorrent.
Сепак, постои еден голем проблем. Wormhole n150 на Tenstorrent се продава за 999 долари, додека n300 се продава за 1.399 долари. За споредба, една графичка картичка Nvidia H100 се продава за 30.000 долари, во зависност од количината. Секако, не знаеме дали четири или осум Wormhole процесори всушност можат да ги испорачаат перформансите на еден H300, но нивните TDP се 600W и 1200W соодветно.
Покрај картичките, Tenstorrent нуди однапред изградени работни станици за програмери, вклучувајќи 4 n300 картички во попристапниот TT-LoudBox базиран на Xeon со активно ладење и напредниот TT-QuietBox со функција за ладење со течност (Xiaolong) базирана на EPYC.
Време на објавување: 29 јули 2024 година