Umělá inteligence a medová past

Něčeho je možná nedostatek, ale o katastrofy není nouze. Moc pěkný byl minulý týden výpadek elektronické pošty Microsoftu a krátce na to selháním dispečerských služeb leteckého provozu v USA. Lidé uvázli v přecpaných letištních halách, a ani si nemohli přečíst, o co mezitím přišli.

Jako by těch otřesů bylo málo, vletěla do toho nevěra kalifornského miliardáře Jensena Chuanga s Číňankou Alicí Chuang, tedy stejného čínského rodového jména. Pletky staršího pána s mladší dámou udeřily do umělé inteligence a zasáhly ji zničující silou asteroidu v čase dinosaurů. Možná to nehrozí úplným koncem světa, ale v každém případě to rozviklává samotné základy největších bohatství planety.

Akcie NVIDIA, nejvýznamnějšího konstruktéra čipů pro umělou inteligenci a nehodnotnější společnosti světa, ztratily pětinu své hodnoty po zprávě, že jejich šéf zahýbal (a jak se ukazuje, ne s jednou, ale dokonce se třemi). Vzhledem k váze uvedených akcií v nejrůznějších burzovních indexech, do kterých investují penzijní fondy, je tak ohrožena budoucnost milionů budoucích důchodců. Jo, ženské dokážou být drahé…

Věc se možná bude probírat i na setkání amerického prezidenta Donalda Trumpa s čínským Si Ťin-pchingem a ruským Vladimírem Putinem v čínském Šen-čenu na okraj summitu APEC. Aféru provází podezření, že Alice Chuang byla medová post nastražená čínskými zpravodajskými službami. Prý měla tahat z Jensena strategické informace. Trump by mohl Si Ťin-pchingovi domlouvat, ať s tím dá pokoj.

To jsou ale jen dohady. Reálnější je jiný vliv. Alice Chuang byla vedoucí pracovnicí společnosti Megaspeed, která budovala datová centra a pronajímala je zájemcům z Jihovýchodní Asie a Dálného východu. Velice často byli z Číny. Megaspeed má ve svých počítačích ty nejvýkonnější procesory pro AI, právě ty, které v důsledku amerických sankcí a omezení do Číny nesmějí. Takhle byly přesto k dispozici. A v těchto dnech se v odborném tisku objevil výzkum, že čínský DeepSeek a další tíživá konkurence amerických firem má ve svém kódu jakési digitální otisky oněch zakázaných procesorů.

Držme se chvíli toho bohatství. Kalifornská NVIDIA padá, ale padá do měkkého, stále má tržní hodnotu nepředstavitelných 4 bilionů dolarů. Může se také spoléhat na to, že bez ní to nějaký čas nepůjde. Kreslí ty nejžádanější sítě tranzistorů propojených vodiči o síle dvou nanometrů, které pak na strojích nizozemského výrobce ASML vyrábí na Tchajwanu společnost TSMC.

Když klekne někdo z této trojice, kleká velká část umělé inteligence a s ní řada nebohatších společností světa. Jensen Chuang prý udržoval v NVIDIA placatou strukturu, kdy všechno rozhodoval sám. Přímo řídil asi 50 lidí. V hlavě nosil informace o celém ekosystému, který tvořily také rizikové fondy (venture funds, VC) pro nějakou novou větev AI, kterým Chuang pomáhal, ručil za jejich půjčky a nabídl i závazné mnohaleté smlouvy na odběr jejich produkce.

V takto rizikovém oboru to prý ani jinak nejde. Jensena Chuanga v důsledku aféry vyhodili, ale kdo ho nahradí? A jak se v to má vyznat? A když se to nepovede, dá se to ustát? Souhrná tržní kapitalizace 50 největších veřejně obchodovaných společností pro umělou inteligenci je 25 bilionů dolarů. A teď si představte, že se to na jednom konci začne řítit.

Žebříček těch největších umělých inteligentů je zajímavý. Na začátku listopadu ho vedly NVIDIA (až 4,99 bilionu dolarů) a Apple (někdy o procentíčko větší), zatímco ASML Holding byl oceněn osmkrát méně, přestože jde o výrobce toho nejméně nahraditelného.

Jeho stroje pro extrémně ultrafialovou litografii jsou schopny nanést na silikonovou desku tu nejjemnější síť součástek a vodičů, jakou nedokáže nikdo jiný. To je podstatné u těch nejvýkonnějších grafických procesorů GPU, ze kterých jsou budována datová centra.

V současné době představuje špičku GPU NVIDIA Rubin, který obsahuje 336 miliard tranzistorů. Tady vám ani mikroskop nepomůže, je to tak mrňavé, že je to hluboko pod rozlišením ve vlnové délce viditelného světla.

Ke společnostem nad bilion dolarů patří ještě Microsoft. Je taky v kontaktu se čtyřmi biliony, ale někde se musí projevit, že mu teď na pár hodin plošně vybouchla elektronická pošta. Dále je tam vlastník Googlu Alphabet (3,4) a vlastník Facebooku Meta Platforms (1,6). Míra nerovnosti je děsivá, první čtyřka má tři čtvrtiny kapitalizace celé vedoucí padesátky.

A to se teď na trh se chystá další velký hráč  Anthropic s umělou inteligencí Claude. Chtěl by vybrat od investorů 1,5 bilionu dolarů hned v prvním kole, nejvíc v historii. V povinném prospektu, který tento chystaný vstup na trh doprovází, však varuje, že AI může být i nebezpečná, pokud se lidem vysmekne z rukou.

Na nadcházejícím čínském setkání tří císařů, pardon, prezidentů, by se mohlo navrhnout jednání o nějakých společných bezpečnostních pojistkách pro tato smrtelná nebezpečí, když o nich bezradně mluví i ti největší a nejmocnější v povinných hlášeních pro dozor nad kapitálovým trhem. Ale jak to udělat? Ti vepředu mají přibrzdit, aby je dohonili ti vzadu?

Jensen Chuang si začal s Alicí Chuang napřed hlavně proto, že patřila k nejvýznamnějším zákazníkům NVIDIA. Ale hledal taky nějaké tvůrčí řešení, jak se zbavit amerických omezení, komu smí prodávat, a komu ne. Pohyboval se přitom v těsné blízkosti Trumpa. Ten dokonce, když zjistil, že ho Jensen nedoprovází na předchozí cestě do Číny, tak mu zavolal, a pak počkal v aljašském Ankorage, aby se připojil k delegaci.

Proto možná nebyly znemožněny kličky kolem zákazů prodeje těch nejpokročilejších procesorů NVIDIA a ponechalo se jejich volné použití prostřednictvím pronajatých datových center. To byla možná hlavní služba Číně, jakou nabízela Megaspeed ve stínu vazeb Jensena Chuanga na Trumpa.

A co to podezření, že se v AI opisuje od konkurence? Ano, oboustranně. Vyplynulo to z reakcí amerických šéfů a expertů na hrozbu úplného zákazu jakýchkoliv dodávek a služeb, protože ztráta kontaktů s čínskými protějšky by obor poškodila mnohem víc.

Téma umělé inteligence je obrovské, ale držme se těch peněz. Na čínských Global Times vyšla zajímavá zpráva týkající se cenové politiky čínské špičky DeepSeek a její americké konkurence xAI:

Společnost DeepSeek stanovila cenu modelu DeepSeek V4 Pro 0813 na 3 juany (0,44 USD) za milion vstupních tokenů a 6 juanů za milion výstupních tokenů, přičemž cena za vstup z mezipaměti činí 0,025 juanů za milion tokenů. 

Výzkumná firma SemiAnalysis zveřejnila na platformě X příspěvek, ve kterém poblahopřála společnosti DeepSeek k vydání modelu V4-Pro-0813 a uvedla, že tento model „v agentních úkolech výrazně překonává Nemotron 3 Ultra“.

Za zmínku stojí, že společnost xAI zabývající se umělou inteligencí, kterou vlastní Elon Musk, ve středu uvedla na trh Grok 4.6, nový průkopnický model určený pro dlouhodobě běžící agenty a práci s vizuálními daty. Cena Grok 4.6 je stanovena na 2 USD za milion vstupních tokenů a 6 USD za milion výstupních tokenů.  

https://www.globaltimes.cn/page/202608/1368125.shtml

Cizí slova ve zprávě si dohledáte sami. Já se začal topit už v tom tokenu, a tak jsem se obrátil na koho jiného než umělého inteligenta. Mám rád DeepSeek, nabízejí ho ve své sadě v Perplexity, ale teď jsem dal přednost neutrálnějšímu Googlu. Překvapilo mě, že DeepSeek je sedmkrát levnější než xAI Grok 4.6. V Americe tedy mají hodně dobrý důvod být nervózní.

Umělý inteligent mi to potvrdil.

Ano, výstupní tokeny u DeepSeeku jsou téměř sedmkrát levnější (přesněji 6,8×) a vstupní zhruba 4,5× levnější než u konkurenčního modelu Grok 4.6. V základním ceníku za surový objem textu jsou tato čísla přímo srovnatelná, v reálném provozu však hraje roli ještě efektivita práce s tokeny a ukládání do mezipaměti (cache).

Přímé srovnání cen za 1 milion tokenů

Článek uvádí ceny DeepSeeku v čínských jüanech (3 RMB = 0,44 USD), což odpovídá kurzu přibližně 0,147 USD za 1 jüan. Po přepočtu na americké dolary vychází srovnání následovně:

A teď, o čem to mluvíme:

Token je základní jednotka textu, kterou modely umělé inteligence (např. ChatGPT, Claude nebo Gemini) zpracovávají a na jejímž základě se účtuje cena za jejich využití. Jeden token odpovídá přibližně jednomu krátkému slovu, části slova, interpunkčnímu znaménku nebo mezeře.

Poskytovatelé AI účtují své služby podle přesného počtu spotřebovaných tokenů, nikoliv podle počtu položených dotazů.

Jak tokeny fungují v praxi

• Délka v angličtině: V anglickém textu odpovídá 1 000 tokenů přibližně 750 slovům. Krátká slova jsou obvykle jeden token, zatímco delší výrazy se rozdělí na více částí.
• Délka v češtině: Čeština je na tokeny náročnější kvůli diakritice a skloňování. Jedno české slovo se často rozloží na 2 až 3 tokeny, takže stejný text v češtině stojí více než v angličtině.
• Neviditelné znaky: Do celkového součtu se počítají i mezery, tečky, čárky, odstavce a speciální symboly.

Rozdělení nákladů na vstup a výstup

Cena se obvykle udává za 1 milion tokenů a dělí se do dvou kategorií:

• Vstupní tokeny (Input): Jde o text, který do modelu pošlete vy. Patří sem váš dotaz (prompt), nahrané dokumenty, systémové instrukce i celá předchozí historie konverzace.
• Výstupní tokeny (Output): Jde o odpověď, kterou model vygeneruje zpět. Výstupní tokeny bývají obvykle 3× až 5× dražší než vstupní, protože generování nového textu vyžaduje mnohem vyšší výpočetní výkon.

Co rozhoduje v praxi (proč nejde jen o ceník)

Přestože jde v obou případech o špičkové modely určené pro autonomní agenty, konečný účet závisí na několika dalších faktorech:

• Využití mezipaměti (Context Caching): DeepSeek účtuje za opakované čtení stejných dat z mezipaměti pouhých 0,025 jüanu (necelých 0,4 centu za milion tokenů). U dlouhých úkolů, kde agent opakovaně čte stejné instrukce nebo kód, tak reálná cena vstupu klesá ještě mnohem výrazněji.
• Spotřeba tokenů na stejný úkol (Reasoning): Moderní modely před odpovědí „přemýšlejí“ a generují tzv. vnitřní úvahy, které se také účtují jako drahé výstupní tokeny. Pokud jeden model vyřeší úkol pomocí 1 000 výstupních tokenů a druhý na stejný výsledek potřebuje 4 000 tokenů, cenový rozdíl se částečně smaže.
• Úspěšnost řešení: Pokud dražší model vyřeší složitý úkol napoprvé, zatímco levnější model chybuje a musí úkol opakovat třikrát, úspora se zmenšuje. Analytická firma SemiAnalysis však v textu zmiňuje, že DeepSeek V4 Pro v úlohách pro agenty výrazně poráží konkurenci, takže by měl být i vysoce efektivní.
• Kvalita tokenizéru: Různé modely dělí tentýž text na různý počet tokenů. U angličtiny jsou rozdíly minimální, ale u češtiny nebo programovacího kódu může jeden model spotřebovat o 10 až 20 % více tokenů na stejný text.

Takže token už známe. Umělý inteligent projevil radost z našeho pokroku a nabídl, že spočítá, kolik by stál firemní chatbot od obou konkurenčních dodavatelů. 

Představme si běžnou konverzaci se zákazníkem, která má 5 zpráv tam a zpět. U každé zprávy musí chatbot načíst instrukce a úryvky z firemní dokumentace (cca 3 000 vstupních tokenů celkem za chat) a vygenerovat odpovědi (cca 1 000 výstupních tokenů).

Pokud firma vyřídí 10 000 takových konverzací měsíčně (celkem 30 mil. vstupních a 10 mil. výstupních tokenů), náklady na samotnou AI budou následující:

Poznámka: U DeepSeeku by cena za vstup byla v praxi ještě nižší (kolem 2–3 USD), protože základní instrukce pro chatbota jsou pro všechny zákazníky stejné a čtou se z levné mezipaměti (cache).

Možná, že jsem tedy tentokrát přinesl i něco praktického. Ale i z globálního pohledu, pokud v debatě čínském Šen-čenu dojde na umělou inteligenci, mají si Trump a Si Ťin-pching rozhodně co říci. Mohou mluvit o bariérách trhu i o příležitostech spolupráce, aby umělá inteligence lidem neposloužila jen jako sirky partě kluků u stohu slámy.