Příslušenství

Hlavní konkurenti na trhu

Trhu s grafickými kartami (GPU) dominují tři velcí hráči: NVIDIA, AMD a Intel.

Poslední dekádu si dominantní pozici udržuje společnost NVIDIA. Díky nástupu a rozvoji technologií umělé inteligence (AI) a strojového učení se vyhoupla na absolutní vrchol, kde je pro mnohé GO-TO výrobce jak ze strany AI akcelerátorů, tak i desktopových grafických karet. Tuto pozici si upevnila především díky vysokému výkonu, efektivnímu systémovému propojení a bezkonkurenční softwarové podpoře.

Kvůli časté horší dostupnosti jejich špičkových produktů se do popředí dostávají i konkurenti AMD a Intel. Tyto společnosti v posledních letech aktivně snižují technologický náskok NVIDIE, a to zejména z pohledu reálného hardware výkonu, od kterého se NVIDIA částečně odklání.

AI vs. Desktopová grafika

Umělá inteligence je stále častěji diskutované téma, a to jak z hlediska potenciálních přínosů, tak z pohledu nároků na hardware. Pro pokročilý vývoj těchto technologií se začaly vyvíjet specializované AI GPU Akcelerátory, které se zásadně liší od klasických serverových a desktopových grafických karet.

Základní rozdíly a architektura

Klasické (Desktopové) GPU jsou primárně určeny pro pokročilé paralelní zpracování dat (parallel processing), díky čemuž mohou být použity pro nejrůznější úlohy s různou náročností. Kvůli těmto požadavkům mívají grafické karty specializovaná jádra, které parallel processingu napomáhají. U AMD se nazývají Stream procesory a u NVIDIA nesou název CUDA cores. Tyto grafiky vyžadují maximální přesnost výsledků, a proto pracují s výpočty ve formátu FP32 (32-bit floating point).

AI GPU se naopak soustředí na rychlé matematické výpočty s velkým objemem dat. Upouštějí od obecného paralelního procesingu ve prospěch Tensor jader, která jsou optimalizována přímo pro úlohy AI. Jelikož modely umělé inteligence a Deep Learningu nevyžadují absolutní přesnost, využívají výpočty s menší bitovou délkou, nejčastěji FP16, FP8 a FP4, což drasticky zrychluje počet operací na úkor přesnosti.

Teoretický výkon (FLOPS)

Díky jednotce FLOPS (Floating point operations per second) zjišťujeme hrubý výkon grafických karet. Udává, kolik operací za sekundu dokáže grafická karta provést, a umožňuje nám tak jejich vzájemné porovnání. Tyto hodnoty se však mohou lišit v závislosti na bitové délce plovoucí řadové čárky (označované jako FP – floating point). Čím větší je bitová délka, tím přesnější jsou výpočty, ale také je jich méně (tedy nižší FLOPS).

VRAM (Video RAM)

VRAM je synchronní paměť, podobně jako je tomu u standardní RAM. V případě grafické paměti se však většinou jedná o paměťové čipy s rychlejší propustností a vícenásobnou rychlostí přenosu dat. Důsledkem je pak mnohem rychlejší buffering dat, které grafická karta nebo koprocesor počítá a předává procesoru. Nejčastěji se u GPU setkáte s pojmy GDDR a HBM. GDDR, používaná primárně u desktopových GPU, je rozložena kolem čipu na desce grafické karty a propojena úzkými, ale rychlými sběrnicemi. Menší propustnost kompenzuje vysokou frekvencí, právě to grafické kartě umožňuje rychlý přenos dat.

HBM (High-Bandwidth Memory) je typická pro AI GPU. Paměťové čipy jsou zde vrstveny na sebe do větších bloků a propojeny širokou, ale krátkou sběrnicí. Díky šířce sběrnice dosahuje tato paměť obrovské propustnosti (až několik TB/s) a efektivity při práci s velkými objemy dat.

Komunikační sběrnice (BUS) a výstup

Systémová komunikace (BUS)

Základní komunikační sběrnicí pro propojení se základní deskou je PCI Express. Tyto sloty se liší dle počtu linek a generace.

I když je standard PCI-E dopředně i zpětně kompatibilní, nedoporučuje se využívat zpětné kompatibility (např. připojení PCI-E 5.0 karty do 3.0 slotu). Uživatel tím ztrácí rychlost přenosu dat a vzniká tzv. "bottleneck" (úzké hrdlo) v rychlosti komunikace. Rychlost přenosu dat na jednu linku se odvíjí od generace. Nejrychlejší dnes masově využívanou generací je PCI-E 5.0, která zvládá přenosovou rychlost 3 .938 GB/s na linku.

Grafický výstup (OUTPUT)

Finální grafický výstup závisí na typu karty. AI akcelerátory zpravidla nemají grafický výstup (výstupní port), jelikož jsou určeny pro výpočty na serverech a datových centrech. Klasické desktopové GPU mívají standardní výstupní porty jako HDMI nebo DP (DisplayPort). Jedná se o univerzální porty, které přenášejí obraz a zvuk při vysokých rychlostech.

NVLink

NVLink je vysokorychlostní drátové propojení společnosti NVIDIA, které slouží k propojení většího počtu grafických karet s procesory pro dosažení co nejnižší možné latence. Díky tomu dokáže několik grafických karet operovat, jako by měly sdílenou paměť VRAM. V novějších datacentrech se kombinuje základní technologie NVlinku s NVSwitchi a tím se efektivně propojují stovky GPU do jednoho výpočetního celku.

HGX

Opět se jedná o produkt společnosti NVIDIAa nazýváme tak speciální formát přídavné desky, na které se nachází 4 či 8 grafických karet, které jsou na desce pevně umístěny do portu. Využívají technologii NVLink a díky tomu fungují jako jedna výpočetní jednotka. Tato deska se následně propojuje se systémy různých výrobců skrze PCI-E port. Výrobci AMD a Intel využívají obdobný systém, který není proprietární, ale podle standardů OCP.