AI-arbetsbelastningar växer snabbt ur minnes- och programvarukapaciteten hos de datorer, arbetsstationer och laptops som miljontals utvecklare förlitar sig på idag – vilket tvingar teamen att flytta arbetet till molnet eller lokala datacenter.
Nvidia menar att de har lösningen, i och med lanseringen av vad de kallar en ny klass av datorer – DGX Spark – som levererar en PetaFlop AI-prestanda och 128 GB enhetligt minne i en kompakt stationär formfaktor, vilket ger utvecklare möjlighet att köra inferens på AI-modeller med upp till 200 miljarder parametrar och finjustera modeller med upp till 70 miljarder parametrar lokalt. DGX Spark låter dessutom utvecklare skapa AI-agenter och köra avancerade mjukvarustackar lokalt, anger företaget.
”2016 byggde vi DGX-1 för att ge AI-forskare en egen superdator. Jag levererade personligen det första systemet till Elon på ett litet startup-företag kallat OpenAI – och därifrån kom ChatGPT, som startade AI-revolutionen”, säger Jensen Huang, grundare och VD för Nvidia. ”DGX-1 inledde eran av AI-superdatorer och öppnade upp skalningslagarna som driver modern AI. Med DGX Spark återvänder vi till den missionen – att ge varje utvecklare tillgång till en AI-dator för att sätta igång nästa våg av genombrott.”
Det har hänt en del på nio år
När Nvidia DGX-1 lanserades för nio år sedan hade den 170 TeraFlop AI-prestanda, vägde drygt 60 kg och förbrukade 3 200 W – och prislappen var 129 000 dollar. Nya DGX Spark har alltså ungefär sex gånger högre AI-prestanda, väger 1,2 kg med en energiförbrukning på 240 W – och kostar 3 999 dollar.
DGX Spark förenar hela Nvidia AI-plattformen – inklusive GPU:er, CPU:er, nätverk, CUDA®-bibliotek och Nvidia AI-programvarustack – i ett system som gör skrivbordet till en AI-utvecklingsplattform.
Runt hörnet väntar också en större och kraftfullare modell, kallad DGX Station, som väntas lanseras innan årets slut.
Pris och tillgänglighet
Nvidia DGX Spark kan från och med 15 oktober beställas på Nvidia.com. Partnersystem – alltså varianter på DGX Spark – från Acer, Asus, Dell, Gigabyte, HP, Lenovo och MSI är också på gång.