Test grafických karet pro AI: Jak Intel překvapil, Nvidia vrátila úder a ovladače rozhodly

Která grafická karta se opravdu vyplatí pro provozování velkých jazykových modelů na vlastním počítači? Abychom to zjistili, postavili jsme proti sobě očekávanou NVIDIA RTX 5070 Ti (16 GB) a velkokapacitní Intel Arc Pro B65 (32 GB). Na papíře šlo o jasný souboj: hrubá síla a odladěné ovladače od NVIDIE proti dvojnásobné VRAM od Intelu za skvělou cenu. Realita nás ale dostala.

V průběhu náročného měření se vítěz hned několikrát změnil. Nejdřív vyhrával Intel, pak dominovala NVIDIA a nakonec vyšlo najevo, že jsme polovinu času kvůli specifické konfiguraci testovací sestavy měřili úplně jiný problém, než jsme si mysleli.

V tomto detailním testu se podíváme na nekompromisní čísla z llama.cpp i 3DMarku, rozebereme zásadní vliv PCIe linek u modelů přetékajících do RAM, narazíme na limity nehotových ovladačů a ukážeme si, jak z karty Intel vymáčknout až o 37 % vyšší výkon pomocí oprav softwaru a správného chlazení.

Test pro vás zpracoval Jaroslav Štreit.

Měřeno 28. 7. – 5. 8. 2026 · Ryzen 9 9950X, Crucial PRO 96 GB DDR5-6000 · ASUS ROG CROSSHAIR 2006 x870E · RTX 5070 Ti 16 GB, Arc Pro B65 32 GB, Ryzen AI 350 · llama.cpp b10236, UL Procyon, 3DMark

Metodika

Všechna čísla jsou mediány ze sedmi běhů po dvanácti (u pozdějších sad šesti) zahřívacích. Zahřívání není formalita: studený model měří o 5–15 % míň. U každého běhu se zapisuje karta, backend, verze llama.cpp, šířka PCIe, velikost kontextu i typ KV cache — bez toho se dvě měření tiše rozejdou a nikdo nepozná proč.

Měříme dvě různé věci. Generování je rychlost, jakou model píše odpověď; závisí hlavně na tom, jak rychle se dají číst váhy z paměti. Zpracování promptu je rychlost, jakou přečte zadání; to je složitý výpočet a tam se pozná síla čipu. Uvádíme obojí, protože se chovají opačně.

Modelem pro srovnání karet je MiniMax-M2.7 (70 GiB) a DeepSeek V4 Flash (77 GiB). Oba jsou mnohem větší než paměť kterékoli karty — a právě to je celý příběh.

1. Záleží na PCIe? Nejdřív se zeptejte, jestli se model vejde

Tytéž karty, stejné nastavení, jediná změna je šířka linky. Na RTX 5070 Ti náš velký model zrychlil z 11,12 na 19,85 tokenu za sekundu, tedy o 79 %. Malé modely v Procyonu se nepohnuly vůbec — Phi z 198,0 na 200,6, což je v rozptylu měření.

A pozor na druhý řádek: Arc Pro B65 na téže úloze nezrychlil vůbec — 8,47 vs 8,31 tokenu za sekundu, tedy -1,9 %, pod rozptylem měření. Přitom mu propustnost linky vyskočila z 28,7 na 52 GB/s. Širší linka pomůže jen tomu, kdo ji umí nasytit; strop Arcu leží v kartě samotné.

Rozhoduje jediná otázka: vejde se model do paměti karty? Když ano, váhy se nahrají jednou a linka se pak nudí. Když ne — a náš model je desetkrát větší než VRAM — musí přes ni téct každý jednotlivý token. Naměřili jsme přitom 25–29 GB/s trvale a kartu vytíženou jen na 59 %: čekala na data.

Praktický důsledek: druhá karta v běžné desktopové desce ubere té první polovinu linek. U nás to znamenalo, že přidáním Arcu k RTX 5070 Ti klesla rychlost generování o 48 %. Druhá karta má dvakrát více VRAM – kapacitu na model, ale pomaleší paměti (608GB/s vs. 896GB/s) .

2. Která karta je vlastně rychlejší

Intel Arc zatím nemá podporu speciálních operací DSV4_HC, které CUDA umí a které využívá DeepSeek V4 Flash (včetně revize 0731). Na Intelu se automaticky vypnou a spočítá je procesor — na Vulkanu to projde, na SYCL se server tiše ukončí uprostřed první odpovědi. Podpora je v llama.cpp rozpracovaná v pull requestu, takže nás i u Intelu čeká mírné zrychlení. Ten kód jsme si zbuildovali a vyzkoušeli sami — výsledek je níž.

Je to hezká ukázka obecnějšího jevu: Intel má software pozadu za hardwarem, takže stejná karta svůj „pracovní výkon“ v čase postupně zvyšuje, aniž by se na ní cokoli změnilo.

Poměr vychází na 2,39× při stejné práci a 2,18× v provozním bodě, kdy si každá karta rozvrhne váhy po svém. V 3DMark Time Spy je přitom poměr jen 1,82×. Arc si tedy na jazykových modelech vede hůř, než by odpovídalo jeho hernímu výkonu.

Tenhle výsledek je opravou. V první polovině měření nám vycházelo 1,31× a psali jsme opak — jenže tehdy byly obě karty v počítači zároveň, NVIDIA měla poloviční linku a Arc z toho profitoval. Arc sám na šířce linky nezávisí vůbec: propustnost se mu zvedla z 28,7 na 52 GB/s a rychlost se nepohnula (-1,9 %). Jeho strop je ve výkonu karty samotném.

Jednotlivé modely a kvantizace

MiniMax je to poctivé srovnání karet: 19,85 proti 8,31 tokenu za sekundu. U DeepSeeku vychází 17,32 proti 7,86, tedy 2,20×, jenže tenhle řádek poměr karet neměří — DeepSeek potřebuje fúzované operace, které umí jen CUDA, a Arc je má vypnuté (kapitola 4). Vyšší kvantizace na 5070 Ti chybí prozaicky: než jsme se k ose kvantů dostali, byla karta ze stroje venku. Do paměti by se vešly — váhy leží v RAM a část jich drží karta.

Zajímavější je Arc sám se sebou. Tři kvantizace téhož modelu, velikost od 76,9 do 84,7 GiB, tedy o desetinu víc dat — a rychlost 7,86 / 7,70 / 7,75 tokenu za sekundu, rozdíl do dvou procent. Kdyby platilo prosté „rychlost = přečtené bajty ÷ propustnost“, měl by nejmenší kvant vyjít o zhruba deset procent rychleji. Nevyšel, takže na Arcu drží tempo něco jiného než objem vah.

3. Co vlastně získáme grafickou kartou?

Sedmdesátigigový model rozjedete i bez grafiky — procesor sám dá 6,22 tokenu za sekundu, což na čtení stačí. RTX 5070 Ti to zvedne na 17,31, tedy 2,8×. U zpracování promptu je ale rozdíl mnohem větší: 27,1 proti 175,7 tokenu za sekundu, tedy 6,5×.

To je ta asymetrie, kterou je dobré znát před nákupem. Kdo si chce popovídat s modelem, obejde se skoro bez karty. Kdo mu chce předhazovat dlouhé dokumenty nebo ho nechat pracovat s kódem, bude na kartu čekat každou minutu.

Prostřední sloupec neberte jako srovnání karet. DeepSeek V4 potřebuje operace, které umí jen CUDA — Arc je má vypnuté a část výpočtu za něj dělá procesor, takže je tu podhodnocený. Proč, vysvětluje následující kapitola; poctivé srovnání karet je v té předchozí.

4. Ovladače rozhodují víc než železo

Univerzální rozhraní Windows ML funguje všude a nikde pořádně. Vlastní stack výrobce přidá u NVIDIE 60 %, u Intelu 96 % — a u NPU v notebooku s Ryzen AI skoro desetinásobek. Přes WinML dá to NPU 183 bodů, přes vlastní stack 1 935. Tím se dostane na 76 % výsledku profesionálního Arcu Pro, za zlomek ceny i spotřeby.

DeepSeek V4 používá nové fúzované operace, které zatím umí jen CUDA. Na Vulkanu se automaticky vypnou a část výpočtu spadne na procesor; na SYCL se vypnou taky, ale server se pak tiše ukončí uprostřed první odpovědi. Vypadá to jako chyba sítě. Novější verze to neřeší — chybí implementace, ne oprava.

Pravidlo, které z toho plyne: čím specializovanější hardware, tím dražší je nepoužít jeho nativní stack. A u čerstvě vydaných modelů si ověřte, že je váš backend vůbec umí.

5. Oprava, která dorazila během psaní

DeepSeek V4 je čerstvý model a používá výpočetní operace, které zatím umí jen CUDA. Na Intelu se automaticky vypnou a spočítá je procesor — na Vulkanu to projde, na SYCL se server tiše ukončí uprostřed první odpovědi.

Během našeho měření se v llama.cpp objevily dva pull requesty, které přesně tyhle operace do SYCL doplňují, a nezávisle na nás je nahlásil další uživatel s jinou kartou Intel. Postavili jsme si z nich vlastní verzi a změřili ji.

Funguje. Generování se zrychlilo z 7,86 na 8,75 tokenu za sekundu, tedy o 11 %. Zpracování promptu si naopak o 12 % pohoršilo, takže na Intelu se vyplatí volit backend podle toho, co děláte: na povídání SYCL, na dlouhé dokumenty Vulkan.

Ověřeno dvakrát: totéž vyšlo i na novější revizi vah a větším kvantu (+13,4 % generování, −13,3 % prompt). Samotná výměna vah přitom rychlost nezměnila — rozdíl 1,3 % je v rozptylu měření.

Zajímavější než ta čísla je ale poměr sil. Oprava, na kterou se čekalo, přinesla 11 %; rozdíl mezi kartami zůstal dvojnásobný (1,98×). U velkých modelů rozhoduje propustnost paměti, ne zralost ovladačů — i když tu druhou zjevně někdo dokáže spravit za jedno odpoledne.

6. Notebook, který si vede líp, než vypadá

Integrovaná grafika v notebooku je proti desktopové kartě 8–10× pomalejší a to se čekat dalo. Zajímavější je, že NPU v témže notebooku dosáhne tří čtvrtin výkonu profesionální karty za 30 tisíc — pokud se k němu programátor dostane přes správné rozhraní a má dost RAM. V našem případě jsme použili RyzenAI 350 s Radeon 860M – Lenovo IdeaPad Slim 5 14AKP10, navýšená RAM na 64GB (až 48GB jde dedikovat pro NPU v BIOSu).

7. Rychlost je jen půlka. Co kvalita?

Deseti modelům jsme dali jeden skutečný pracovní úkol — napsat zákazníkovi nabídku — a nechali čtyři nezávislé porotce ohodnotit odpovědi naslepo. Rozhodl jediný bod zadání: upozornit na neuhrazenou fakturu. Splnily ho všechny čtyři cloudové modely a dva lokální; zbylé čtyři ho vynechaly — a právě ty čtyři obsadily poslední čtyři místa. Nešlo přitom o pouhé opomenutí: tři z nich si místo toho vymyslely splatnost nebo poplatek z prodlení, které nikdo nezadal.

Rozptyl uvnitř lokální skupiny je ale větší než mezi skupinami. Nejlepší lokální model se dostal nad Claude Haiku. Rozhodnutí tedy nezní „lokálně, nebo cloud“, ale „který konkrétní model“ — a u jednoho promptu na model neberte rozdíly do jednoho bodu vážně.

8. Overclocking: +16 % v syntetice, +37 % v jazykovém modelu

Arc Pro B65 a výkonnější B70 stojí na stejném čipu — B65 má jen část výpočetních jednotek vypnutou. Takty tedy nejsou to, co ty karty odlišuje, a je otázka, kolik z toho rozdílu jde dohnat laděním.

Jádro sneslo +400 MHz, GPU-Z při zátěži ukazovalo až 3,3 GHz, a to při minimálním nárůstu teplot. Paměť je na tom hůř: stabilně šla zvýšit jen o 200 MHz, cokoli výš padalo. Nejvíc přitom pomohlo něco jiného než samotné takty — viz níž.

Řádek Vulkan je poctivé srovnání: tatáž buňka, medián ze sedmi běhů, shodný model, kvant, kontext i rozvržení vah. Řádek SYCL takové srovnání není — ta konfigurace po přetaktování padá (viz níž), takže 11,22 pochází z jediného běhu s krátkým promptem v jiném rozvržení. Berte ho jako indicii, ne jako měření.

Nejzajímavější je ten nepoměr: syntetický test se zlepšil o 16 %, jazykový model o 37 %. Takty samy o sobě to vysvětlit nemůžou. Odpověď je v rozptylu měření — před zásahem kolísaly jednotlivé běhy o 12 až 19 %, po něm o 0,8 %. Přesně tak vypadá karta, která se během zátěže termálně škrtila a teď drží takt. Podstatná část toho zisku tedy není overclocking, ale opravené chlazení.

Co si z toho odnést: než začnete ladit takty, ověřte si, že karta vůbec drží ty výchozí. Kolísání výsledků mezi běhy je spolehlivější příznak než teplota.

Ovladače potřetí

Ladění se neobešlo bez potíží, a zase ne s hardwarem. Při aplikaci nastavení nám vypadl FanControl, který do té doby řídil větráky karty spolehlivě. Náhradní křivka přímo v Intel Software pak taky nefungovala dobře — občas jsme ji museli přenastavit, aby se větrák vůbec roztočil. Ruční křivka na obrázku výš je výsledek téhle přetahované, ne původní záměr.

K tomu se přidalo nespolehlivé hlášení teplot v Intel Software. Když software ukazuje jiné teploty, než jaké karta má, řídí se podle nich i křivka ventilátoru — a hledání příčiny nestability se dělá na míru zle: chybí právě ten údaj, podle kterého byste normálně poznali, že jde o teplo. Část toho, co jsme zpočátku připisovali taktům, byla ve skutečnosti tohle.

Souhrnně: na ovladačích téhle karty je ještě co ladit. Sám čip je zjevně schopnější, než jak se prodává — softwarová vrstva kolem něj je ale místo, kde se výkon i čas ztrácí nejvíc. Je to potřetí v tomhle článku, co ovladače rozhodly víc než železo.

Cena za takty: SYCL přestal zvládat dlouhé prompty

Po přetaktování začal server na SYCL umírat na UR_RESULT_ERROR_DEVICE_LOST hned u prvního tokenu. Práh je ostrý: prompt o 1 681 tokenech projde, o 1 950 už ne. Vulkan běží dál bez chyby.

Postupně jsme vyloučili skoro všechno ostatní. Není to teplota — Vulkan jel na téže kartě třináct minut v kuse mezi dvěma pády SYCL. Není to nedostatek paměti — karta držela 7,5 z 27,9 GiB. Není to takt paměti — po návratu na výchozí hodnotu padá stejně. Není to chyba výpočtu — test-backend-ops prošel 1015/1015 testů maticového násobení i všechny operace specifické pro DeepSeek V4. A není to velikost dávky — se čtvrtinovou dávkou padá týž prompt taky.

Zbývá tedy takt jádra pod delší zátěží: krátký prompt znamená krátký kernel a projde, dlouhý prefill drží jádro vytížené déle. Vulkan to přežije, protože práci dělí jinak.

Praktický důsledek: na přetaktovaném Arcu volte Vulkan. Není to ztráta — jeho 10,77 t/s je víc, než kolik zvládal SYCL před přetaktováním. A ověřujte stabilitu vlastní zátěží: 3DMark doběhl v pořádku ve chvíli, kdy jazykový model padal na každém druhém promptu.

Všechna čísla

Generování a zpracování promptu v tokenech za sekundu, MiniMax-M2.7 UD-Q2_K_XL, kontext 32 768, KV cache q8_0.