Moja pierwsze zastrzeżenie (i patrząc na komentarze, chyba nie tylko ja jestem tego zdania), to że ta karta nie nadaje się do LLMów, na które obecnie jest największe zapotrzebowanie.
8 GB to jest wynik na poziomie słabego GPU NVidii. Przepustowość RAMu również jest 5x mniejsza od RTX 4070.Model YOLO, który Tenstorrent podaje jako przykładowe zastosowanie, działa bez problemu w czasie rzeczywistym (30 FPS) na mojej karcie graficznej, która na dodatek była tańsza.
Mam wrażenie, że obecnie ten akcelerator jest zdecydowanie mniej atrakcyjną opcją od zwykłego GPU, gdzie nie trzeba przede wszystkim budować od zera ekosystemu.
No ale zobaczymy, co pokażą w następnych iteracjach.Pani ładnie wytłumaczyła jaką rolę pełni abstrakcja.
Powiedzieli też że otworzą to do poziomu metalu dla programistów.
“Może dobrze się skaluje?” - jak mówili wielbiciele starych serwerów na autorskich RISC.
Ciekawe jaką wydajność ma ich implementacja RISC-V. Zajmował się nią Keller i ludzie mieli związane z tym jakieś nadzieje.