CES—NVIDIA today unveiled NVIDIA® Project DIGITS, a personal AI supercomputer that provides AI researchers, data scientists and students worldwide with access to the power of the NVIDIA Grace ...
Miałem na myśli jakieś bieda-serwerownie w krajach trzeciego świata objętych embargiem.
Jeśli ten sprzęt ma wystarczającą ilość RAMu do modeli z 405B parametrów, to niejedna firma pewnie odpali na tym jakiegoś lokalnego DeepSeeka.
Do serwerowni to lecą HBM. Tu jest LPDDR5X, prawdodpodobnie w quad channel, więc max 512GB/s. Dla porównania 3090 ma 936GB/s.
“The more GPUs you buy, the shinier my jacket gets.” J.H.
Miałem na myśli jakieś bieda-serwerownie w krajach trzeciego świata objętych embargiem.
Jeśli ten sprzęt ma wystarczającą ilość RAMu do modeli z 405B parametrów, to niejedna firma pewnie odpali na tym jakiegoś lokalnego DeepSeeka.