Spoločnosť GIGABYTE predstavila stolný počítač AI TOP 100 B850 určený na lokálne spúšťanie a dolaďovanie AI modelov bez závislosti od cloudu. Systém stavia na 16-jadrovom procesore AMD Ryzen 9 9950X a dodáva sa v dvoch grafických konfiguráciách.
Výrobca ho zameriava na firmy, vývojárov a výskumníkov, ktorí chcú mať citlivé dáta a AI infraštruktúru pod vlastnou kontrolou a obmedziť využívanie cloudových služieb účtovaných podľa tokenov. Počítač je určený napríklad na fine-tuning LLM, generatívnu AI, deep learning či agentické AI.
Základné parametre:
- procesor AMD Ryzen 9 9950X (16 jadier, 32 vlákien)
- 128 GB pamäte DDR5
- SSD s kapacitou 2 TB (PCIe Gen4)
- grafika: NVIDIA GeForce RTX 5090 alebo 2× AMD Radeon AI PRO R9700
- 2× PCIe 5.0, kvapalinové chladenie CPU
- zdroj 1600 W, 80 PLUS Platinum
- 2× 10GbE LAN, Wi-Fi 7, USB 20Gbps Type-C
Verzia s grafickou kartou NVIDIA GeForce RTX 5090 využíva akceleráciu CUDA a je určená pre lokálne LLM, generatívnu AI a agentické workflow. Pri inferencii modelu s 32 miliardami parametrov dosahuje podľa výrobcu rýchlosť generovania až 64,9 tokenu za sekundu.
Druhá verzia s dvojicou kariet AMD Radeon AI PRO R9700 ponúka spolu 64 GB VRAM. Zvládne inferenciu modelov až s 235 miliardami parametrov a fine-tuning modelov až so 110 miliardami parametrov.
Počítač je zostavený zo štandardných desktopových komponentov. Dva sloty PCIe 5.0 umožňujú osadiť výkonné grafické karty, rozširovať možno aj pamäť a úložisko.
Na dlhodobú záťaž je systém pripravený vďaka základnej doske AI TOP, kvapalinovému chladeniu procesora a konštrukcii s vysokým prietokom vzduchu. Zdroj s výkonom 1600 W a certifikáciou 80 PLUS Platinum má rezervu aj pre budúce rozšírenie hardvéru.
Dva porty 10GbE LAN majú urýchliť prenos veľkých dátových sád a prístup k zdieľanému úložisku, k dispozícii je aj Wi-Fi 7 a USB 20Gbps Type-C.
Súčasťou je softvér GIGABYTE AI TOP Utility, ktorý v jednom rozhraní spája monitorovanie systému v reálnom čase, memory offloading a nástroje na tvorbu dátových sád. Slúži na trénovanie a fine-tuning textových a multimodálnych modelov.
