Dirbant su dirbtiniu intelektu kompiuteryje reikalinga tiek skaičiavimo galia, tiek pakankamai atminties. Šįkart klientui surinkome AI darbo stotį, kurios širdį sudaro dvi „PNY NVIDIA RTX PRO 5000 Blackwell“ vaizdo plokštės, kiekviena su 72 GB GDDR7 ECC atminties, papildytos „Intel Core Ultra 9“ procesoriumi, darbo stotims skirtą „ASUS“ pagrindinę plokštę ir 4 TB „Samsung“ SSD.
Tokios sistemos pagrindas – galimybė dirbti su dirbtiniu intelektu lokaliai. Naudojant tinkamai sukonfigūruotą programinę įrangą, apdorojami dokumentai, naudojami kalbos modeliai ir kuriami AI sprendimai, nesiunčiant duomenų į išorines AI paslaugas. Tai suteikia didesnę darbo aplinkos, naudojamų modelių ir duomenų srautų kontrolę. Pavyzdžiui, vietinis AI asistentas gali padėti rasti informaciją dokumentuose, parengti teksto juodraščius ar apibendrinti medžiagą. Tuo tarpu kūrėjai tokią darbo vietą gali naudoti įvairių modelių bandymams ir savo programų prototipų kūrimui. Tai yra galimi naudojimo scenarijai, kuriuose konkrečias funkcijas lemia pasirinkta programinė įranga, turimi duomenys ir tai, kaip sprendimas integruojamas į įmonės kasdienę veiklą.
Vaizdo atminties talpa šioje konfigūracijoje yra ypač svarbi. Atmintis reikalinga tiek pačio modelio parametrams, tiek skaičiavimų metu naudojamiems duomenims. Kiekvienai „RTX PRO 5000“ plokštei skirta 72 GB atminties, o tai suteikia daugiau galimybių dirbti su didelės apimties modeliais ir atlikti sudėtingesnes užduotis. Konkretaus modelio tinkamumą lemia jo tikslumas, konteksto ilgis ir naudojama programinė įranga.
Abi kortelės kartu turi 144 GB vaizdo atminties. Kad vieno modelio veikimui būtų galima panaudoti abiejų kortelių atmintį, programinė įranga turi palaikyti darbo paskirstymą tarp kelių GPU. Plokštes taip pat galima naudoti atskiriems uždaviniams, pavyzdžiui, vienoje paleisti modelį, o kitoje atlikti eksperimentus. Tai leidžia pritaikyti turimus išteklius konkrečiam darbo srautui.
Kūrimo procese šis lankstumas yra ypač vertingas, nes dirbant su AI dažnai tenka kartoti bandymus. Galimybė šias užduotis atlikti savo darbo vietoje padeda organizuoti darbus pagal komandos grafiką ir vienoje vietoje saugoti naudotus medžiagų, konfigūracijas bei gautus rezultatus.
Procesoriaus funkciją atlieka „Intel Core Ultra 9 285“ su 24 branduoliais – aštuoniais našumo ir 16 energiją taupančiais branduoliais. Tai užtikrina išteklius duomenų paruošimui, programų veikimui ir užduotims, vykdomoms lygiagrečiai su GPU skaičiavimais. Sistemoje naudojome „Kingston“ DDR5 ECC operatyviąją atmintį. ECC padeda aptikti ir ištaisyti tam tikras atminties klaidas, o tai yra labai svarbu atliekant ilgai trunkančius skaičiavimus.
Operatyvioji atmintis ir vaizdo atmintis atlieka skirtingas užduotis. Sistemos RAM atmintį naudoja operacinė sistema, programos ir duomenų apdorojimo procesai, o GPU atmintyje saugoma informacija, reikalinga vaizdo plokštės skaičiavimams. Todėl planuojant AI darbo stotį, abiejų tipų atminties talpą reikia įvertinti atsižvelgiant į konkretų darbo srautą ir tuo pačiu metu atliekamas užduotis.
Sistemos pagrindu pasirinkta „ASUS Pro WS W880-ACE SE“ pagrindinė plokštė. Ji skirta dviejų vaizdo plokščių konfigūracijoms ir turi „PCIe 5.0“ jungtis. Darbo aplinkos palaikymui praverčia įmontuotas BMC valdymo valdiklis ir nuotolinio valdymo galimybės – kompiuterį galima stebėti ir valdyti net ir tada, kai administratorius nėra šalia.
Įdiegtas modelių, duomenų rinkinių ir projektų saugojimo priemonės „Samsung“ 9100 PRO 4 TB M.2 SSD . Dirbant su dirbtiniu intelektu, saugykloje turi būti saugomi tiek darbo failai, tiek įvairios modelių versijos bei eksperimentų rezultatai. Greita prieiga prie šių failų yra svarbi modelių įkėlimui ir duomenų paruošimui.
Norint išnaudoti turimus išteklius, labai svarbus yra programinės įrangos pasirinkimas – reikalingi suderinami tvarkyklės, AI įrankiai ir tinkami nustatymai. Be to, dviejų vaizdo plokščių apkrova priklauso nuo naudojamos programos. Praktikoje sistemos suderinamumą geriausiai parodo bandymai su tais pačiais modeliais ir duomenimis, kuriuos planuojama naudoti kasdien.
Komplektą papildo „GIGABYTE AORUS RTX 5060 Ti AI BOX“ – išorinis grafikos sprendimas su „GeForce RTX 5060 Ti“ ir 16 GB vaizdo atminties. Tai yra atskirame korpuse įmontuotas GPU su „Thunderbolt 5“ ir „USB4“ jungtimis. Toks įrenginys suteikia papildomų galimybių dirbti su dirbtinio intelekto eksperimentais ar atlikti kitas GPU pagreitintas užduotis.
Komponentai sumontuoti juodame „Fractal Design Epoch XL Solid“ korpuse. Procesoriaus aušinimas be quiet! Pure Rock Pro 3 , o oro srautą papildo „be quiet!“ „Pure Wings 3“ 140 mm ir 120 mm PWM ventiliatoriai. Darbo stotyje, kurios apkrova gali tęstis valandų valandas, šilumos šalinimas yra esminė komplektacijos dalis.
Kompiuterio maitinimą užtikrina „be quiet!“ „Dark Power 14“ 1200 W maitinimo blokas su „80 PLUS Titanium“ sertifikatu ir ATX 3.1 standarto palaikymu. Į šį kompiuterio rinkinį taip pat įeina „PowerWalker VI 3000 CW FR“ nepertraukiamo maitinimo šaltinis, kurio nominali galia yra 3000 VA / 2100 W. Elektros tiekimo sutrikimo atveju jis suteikia laiko išsaugoti darbą ir tinkamai išjungti sistemą; turimas laikas priklauso nuo faktinės apkrovos.
Ši konfigūracija suteikia įžvalgą, kaip sudaroma konkrečiai užduočiai skirta AI darbo stotis: GPU išteklius papildo atmintis, duomenų saugojimas, aušinimas ir valdymo galimybės. Jei ir jūsų įmonei reikalinga savo AI jėgainė, susisiekite su TopPC – padėsime parinkti konfigūraciją, atitinkančią reikiamas programas, modelius ir darbo apimtį.