Компанијата за чипови предводена од Jimим Келер Tenstorrent го објави својот процесор за следната генерација на црви за оптоварување на ВИ, што очекува да понуди добри перформанси по прифатлива цена.Компанијата во моментов нуди две дополнителни картички за PCIE кои можат да сместат еден или два процесори на црви, како и работни станици TT-Loudbox и TT-Kietbox за развивачи на софтвер. Сите денешни најави се насочени кон развивачите, а не на оние што користат табли за дупки за комерцијални оптоварувања.
„Секогаш е задоволувачко да се внесат повеќе од нашите производи во рацете на развивачите. Ослободете ги системите за развој со помош на нашите картички за црви, можат да им помогнат на развивачите да ги размерат и развиваат мулти-чип-софтверот за АИ“, рече Jimим Келер, извршен директор на Tenstorrent.Покрај ова лансирање, ние сме возбудени кога го гледаме напредокот што го правиме со лентата и напојувањето на нашиот производ од втора генерација, Блекхоле “.
Секој процесор за црвини дупки содржи 72 јадра на Tensix (од кои пет поддржуваат јадра RISC-V во различни формати на податоци) и 108 MB SRAM, испорачувајќи 262 FP8 Tflops на 1 GHz со термичка моќност за дизајн од 160W. Картичката со единечен чип N150 е опремена со 12 GB GDDR6 видео меморија и има ширина на опсег од 288 GB/s.
Процесорите за црви дупки обезбедуваат флексибилна приспособливост за да се задоволат различните потреби на обемот на работа. Во стандардно поставување на работната станица со четири картички за црви N300, процесорите можат да се комбинираат во единствена единица што се појавува во софтверот како унифицирана, широка мрежа на Tensix Core. Оваа конфигурација му овозможува на акцелераторот да се справи со истиот обем на работа, да се раздели помеѓу четири развивачи или да работи до осум различни модели на АИ истовремено. Клучна карактеристика на оваа приспособливост е тоа што може да работи локално без потреба од виртуелизација. Во околината на центарот за податоци, процесорите за црви дупки ќе користат PCIE за експанзија во машината, или Етернет за надворешно проширување.
Во однос на перформансите, картичката со единечен чип на TenStorrent N150 (72 јадра на Tensix, фреквенција од 1 GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB/S ширина на опсег) постигнаа 262 fp8 Tflops на 160W, додека двојниот хип-бомба N300 (128 Tensix Coreres, 1 Ghz Frequence Агрегирана 24 GB GDDR6, 576 GB/S ширина на опсег) испорачува до 466 FP8 Tflops на 300W.
За да ставиме 300W од 466 FP8 Tflops во контекст, ние ќе го споредиме со она што го нуди лидерот на пазарот на АИ, Нвидија, на оваа моќност на термички дизајн. A100 на Nvidia не поддржува FP8, но го поддржува Int8, со врвни перформанси од 624 врвови (1.248 врвови кога се ретки). За споредба, H100 на NVIDIA поддржува FP8 и достигнува врвни перформанси од 1.670 Tflops на 300W (3.341 Tflops на Spers), што е значително различно од црвената боја на Tenstorrent N300.
Сепак, постои еден главен проблем. Wormhole N150 на Tenstorrent се продава за 999 долари, додека N300 продава за 1.399 долари. За споредба, една графичка картичка NVIDIA H100 се продава за 30.000 американски долари, во зависност од количината. Се разбира, не знаеме дали четири или осум процесори за црви, всушност можат да ги испорачаат перформансите на еден H300, но нивните TDP се 600W и 1200W соодветно.
Покрај картичките, TenStorrent нуди претходно изградени работни станици за развивачи, вклучувајќи 4 картички N300 во поприфатливата TT-LOUDBOX базирана на Xeon со активно ладење, и напредната функција за ладење TT-Kietbox со EPYC-базирана XiaOlong).
Време на објавување: јули-29-2024