CPU (Central Processing Unit) je univerzální procesor určený pro širokou škálu úloh, zatímco GPU (Graphics Processing Unit) dokáže provádět obrovské množství jednoduchých výpočtů současně. Právě proto se GPU staly základním stavebním kamenem trénování moderních systémů umělé inteligence a společnost Nvidia v ní hraje zásadní roli po stránce hardwaru. Nejnovější model OpenAI Astra byl totiž podle šéfa Nvidie Jensena Huanga trénován na více než 100 000 GPU Nvidia Grace Blackwell, které jsou se svými 208 miliardami tranzistorů pro AI ideální díky obrovskému výpočetnímu výkonu, velké paměti a paralelnímu zpracování dat. Dalších 400 000 GPU má být podle něj uvedeno do provozu.
https://youtu.be/0JxowHz0JsM
GTC 2024 je konference Nvidia GPU Technology Conference, tedy velká každoroční akce Nvidie zaměřená na GPU, AI, datová centra, robotiku apod. Konala se 18. března 2024 a právě tam Jensen Huang poprvé slavnostně představil architekturu Blackwell. Tam Huang začal používat myšlenku „AI factories“ – datová centra už podle něj nejsou jen počítačové infrastruktury, ale továrny, jejichž produktem je inteligence . Jensen Huang nedlouho po uvedení Astry oznámil, že už dorazila obecná umělá inteligence – AGI (řekl: „AGI has arrived“ ). Jeho tvrzení je ale výrazně odvážnější než samotné vyjádření OpenAI. Firma při uvedení modelu 3. září zdůrazňovala především výsledky v náročných testech. Astra představuje mimořádný technologický skok, o tom není pochyb. V testu ARC-AGI 3 například dosáhla 99,9 procenta v prostředí připraveném OpenAI, ve standardním testovacím prostředí však ukazuje pouze 62,7 procenta. Samotný test ukazuje, jestli AI umí sama přijít na to, jak funguje neznámé prostředí. A to je ten důvod, proč je ARC-AGI-3 zajímavější pro debatu o AGI než běžné benchmarky typu matematických příkladů nebo znalostních otázek. Rozdíl v obou testech ukazuje, že samotné vysoké skóre (od OpenAI) ještě nemusí znamenat skutečně obecnou inteligenci.
Zajímavý je i samotný rozsah výpočetní infrastruktury. Huang hovoří o více než 100 000 GPU v serverových sestavách NVLink72. Jedna taková sestava obsahuje 72 GPU, takže pokud se údaj vztahuje přímo k počtu čipů, jde přibližně o 1400 těchto sestav. Nejde tedy o 100 000 serverových racků, ale přesto o obrovský výpočetní cluster.
Tvrzení, že AGI už dorazila, proto zatím působí spíše jako marketingové prohlášení ze strany Nvidie, než jednoznačný technický závěr. AGI nemá všeobecně přijímanou definici ani nezávislý test, který by její dosažení potvrzoval. Astra může být jedním z nejpokročilejších AI systémů současnosti, ale mezi „extrémně schopným modelem“ a skutečnou obecnou inteligencí může být stále významný rozdíl.
Petr Dvořák zdroj: The Next Web