Компанијата за чипови Tenstorrent предводена од Џим Келер ја објави својата следна генерација процесор Wormhole за оптоварување со вештачка интелигенција, за кој очекува да понуди добри перформанси по прифатлива цена.Компанијата во моментов нуди две дополнителни PCIe картички кои можат да сместат еден или два процесори Wormhole, како и работни станици TT-LoudBox и TT-QuietBox за развивачи на софтвер. Сите денешни објави се наменети за програмери, а не за оние што користат Wormhole табли за комерцијални оптоварувања.
„Секогаш е задоволство да добиеме повеќе од нашите производи во рацете на програмерите. Објавувањето на системи за развој со користење на нашите картички Wormhole™ може да им помогне на програмерите да го развијат и развијат софтверот за вештачка интелигенција со повеќе чипови“, рече Џим Келер, извршен директор на Tenstorrent.Покрај ова лансирање, возбудени сме што го гледаме напредокот што го правиме со исклучувањето на лентата и напојувањето на нашиот производ од втората генерација, Blackhole.
Секој процесор Wormhole содржи 72 јадра Tensix (од кои пет поддржуваат јадра RISC-V во различни формати на податоци) и 108 MB SRAM, што обезбедува 262 FP8 TFLOPS на 1 GHz со термичка моќност од 160 W. Картичката Wormhole n150 со еден чип е опремена со 12 GB GDDR6 видео меморија и има пропусен опсег од 288 GB/s.
Процесорите Wormhole обезбедуваат флексибилна приспособливост за да се задоволат различните потреби на обемот на работа. Во стандардно поставување на работна станица со четири Wormhole n300 картички, процесорите може да се комбинираат во една единица која се појавува во софтверот како обединета, широка основна мрежа на Tensix. Оваа конфигурација му овозможува на забрзувачот да се справи со истиот обем на работа, да се дели помеѓу четири програмери или да работи до осум различни модели на вештачка интелигенција истовремено. Клучна карактеристика на оваа приспособливост е тоа што може да работи локално без потреба од виртуелизација. Во средина на центарот за податоци, процесорите Wormhole ќе користат PCIe за проширување во внатрешноста на машината или Ethernet за надворешно проширување.
Во однос на перформансите, картичката Wormhole n150 со еден чип на Tenstorrent (72 јадра Tensix, фреквенција од 1 GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB/s пропусен опсег) постигна 262 FP8 TFLOPS на 160 W300p, додека therm. (128 јадра Tensix, фреквенција од 1 GHz, 192 MB SRAM, агрегирани 24 GB GDDR6, 576 GB/s пропусен опсег) испорачува до 466 FP8 TFLOPS на 300 W.
За да ставиме 300 W од 466 FP8 TFLOPS во контекст, ќе го споредиме со она што го нуди лидерот на пазарот за вештачка интелигенција Nvidia со оваа моќност на термички дизајн. A100 на Nvidia не поддржува FP8, но поддржува INT8, со врвни перформанси од 624 ТОПС (1.248 ТОПС кога е редок). За споредба, H100 на Nvidia поддржува FP8 и достигнува врвни перформанси од 1.670 TFLOPS при 300W (3.341 TFLOPS при ретки), што е значително различно од Wormhole n300 на Tenstorrent.
Сепак, постои еден голем проблем. Wormhole n150 на Tenstorrent се продава за 999 долари, додека n300 се продава за 1.399 долари. За споредба, една графичка картичка Nvidia H100 се продава за 30.000 долари, во зависност од количината. Се разбира, не знаеме дали четири или осум процесори Wormhole всушност можат да ги испорачаат перформансите на еден H300, но нивните TDP се 600W и 1200W соодветно.
Покрај картичките, Tenstorrent нуди претходно вградени работни станици за програмери, вклучувајќи 4 картички n300 во попристапниот TT-LoudBox базиран на Xeon со активно ладење и напредниот TT-QuietBox со функцијата за течно ладење базирана на EPYC.
Време на објавување: 29 јули 2024 година