CES—NVIDIA today unveiled NVIDIA® Project DIGITS, a personal AI supercomputer that provides AI researchers, data scientists and students worldwide with access to the power of the NVIDIA Grace ...
Miałem na myśli jakieś bieda-serwerownie w krajach trzeciego świata objętych embargiem.
Jeśli ten sprzęt ma wystarczającą ilość RAMu do modeli z 405B parametrów, to niejedna firma pewnie odpali na tym jakiegoś lokalnego DeepSeeka.
Pewnie cała produkcja i tak błyskawicznie zniknie z rynku i trafi do serwerowni. :-)
Jeszcze są takie problemy z GPU? Dawno nie śledziłem rynku PC. Lokalne doniesienia pokazywały, że raczej nie ma problemu z dostępnością.
To nie jest GPU. Sprzęt który ma 128 GB RAMu i taką moc obliczeniową pewnie będzie objęty sankcjami. :-)
W Polsce będą problemy z dostępnością, bo jesteśmy objęci embargiem Bidena.
Do serwerowni to lecą HBM. Tu jest LPDDR5X, prawdodpodobnie w quad channel, więc max 512GB/s. Dla porównania 3090 ma 936GB/s.
“The more GPUs you buy, the shinier my jacket gets.” J.H.
Miałem na myśli jakieś bieda-serwerownie w krajach trzeciego świata objętych embargiem.
Jeśli ten sprzęt ma wystarczającą ilość RAMu do modeli z 405B parametrów, to niejedna firma pewnie odpali na tym jakiegoś lokalnego DeepSeeka.