Blackwell szuper AI chip az Nvidia -tól
2024. március 19. by Bíró Gábor
Az új Blackwell GPU-val felszerelt platform lehetővé teszi a vállalatok számára, hogy akár billió paraméteres AI modelleket építsenek és futtassanak, így áttöréseket érve el számos területen, mint az adatfeldolgozás, mérnöki szimuláció, elektronikus tervezés automatizálása, számítógéppel segített gyógyszertervezés, kvantumszámítás és generatív AI.
- Hat transzformatív technológia beépítése a gyorsított számítástechnika érdekében.
- Új Tensor Cores és egy TensorRT-LLM Compiler, amelyek akár 25-ször csökkentik az LLM inferencia működési költségeit és energiafogyasztását.
- Az iparág vezető vállalatainak, köztük az Amazon Web Services, a Dell Technologies, a Google, a Meta, a Microsoft, az OpenAI, az Oracle, a Tesla és az xAI támogatása.
Technológiai innovációk:
- Matrix matematikai műveletek elvégzése csupán 4 bites lebegőpontos számokkal, rendkívüli pontosságot és hatékonyságot biztosítva.
- Az NVIDIA ötödik generációs számítógépes összeköttetési technológiája, az NVLink, amely másodpercenként 1,8 terabájtos kétirányú adatátvitelt tesz lehetővé a GPU-k között.
A Blackwell platform alkalmazása:
- A DGX SuperPOD, amely az NVIDIA GB200 Grace Blackwell Superchipjeivel van felszerelve, az AI szuper-számítástechnika következő generációját képviseli, kifejezetten a billió-paraméteres generatív AI szuper-számítástechnikai feladatokhoz tervezve.
- A GB200 Grace Blackwell Superchip, amely több chippet tartalmaz egy csomagban, akár 30-szoros teljesítménynövekedést ígér az LLM inferencia terhelések esetén az előző generációkhoz képest.
Az NVIDIA Blackwell platformja jelentős előrelépést jelent a számítástechnika terén, példátlan hatékonyságot, teljesítményt és skálázhatóságot kínálva az AI alkalmazások számára. A vezető cégek általi elfogadása és a különböző iparágakban betöltött potenciális forradalmi szerepe hangsúlyozza annak jelentőségét a számítástechnika folyamatos fejlődésében.