Tlačová správa

4-minútové čítanie

Tachyum predstavuje 8 AI zettaflopový návrh, ktorý môže slúžiť ako blueprint na riešenie obmedzenia kapacity OpenAI

Bratislava, 12. decembra, 2023 – Spoločnosť Tachyum®, tvorca Prodigy®, prvého univerzálneho procesora na svete, dnes vydala ďalšiu bielu knihu. V nej predstavuje plány zákazníkov Tachyum vybudovať nové dátové centrá pre superpočítače HPC/AI (High Performace Computing / Artificial Intelligence), ktoré výrazne presahujú nielen výkon existujúcich superpočítačov, ale aj cieľový výkon systémov novej generácie.

Revolučná nová architektúra čipu Prodigy, ktorá bola od základu vytvorená s cieľom poskytovať najvyšší výkon a efektivitu, umožňuje nasadenie superpočítačov v úplne homogénnych prostrediach. To umožňuje jednoduchý vývoj, nasadenie a údržbu. Riešenie je ideálne pre platformy OpenAI, ako aj Microsoft Azure, Weave Core, Ori atď. Je tiež vhodné pre výskumné zariadenia, ktoré potrebujú dátové centrá pre umelú inteligenciu a dnes nemajú systémovú architektúru schopnú obslúžiť všetkých svojich zákazníkov.

Superpočítač s procesormi Prodigy, ktorý tento rok objednala americká spoločnosť, vyvinutý prvotriednymi systémami, riešeniami a tímami softvérových inžinierov spoločnosti Tachyum, poskytne bezprecedentný výkon 50 exaflopov pri 64-bitových operáciách s pohyblivou rádovou čiarkou s dvojitou presnosťou podľa štandardu IEEE a 8 zettaflopov pri tréningu AI pre veľké jazykové modely. IEEE (Institute of Electrical and Electronics Engineers) je najväčšia technická odborná organizácia na svete v oblasti rozvoja elektroniky.

Pre riešenie superpočítača, ktoré uvádza biela kniha, má Prodigy vlastný 46RU rack s referenčným dizajnom chladeným kvapalinou. Rack podporuje 33 štvorsocketových serverov v 1U formáte (1 Unit je 4,445 cm; ide o špecifikáciu založenú asociáciou Electronic Industries Association, EIA) s celkovým počtom 132 procesorov Prodigy. Racky majú modulárnu architektúru s možnosťou spojiť ich do dvojrackovej skrine na optimalizáciu podlahovej plochy.

HPC/AI softvér od spoločnosti Tachyum poskytuje kompletné softvérové prostredie, ktoré umožňuje nasadenie HPC/AI procesorov Prodigy. Poskytuje úplnú podporu pre všetky aspekty klastrov HPC/AI od nízkoúrovňového firmvéru až po kompletné HPC/AI aplikácie a zahŕňa špičkové softvérové prostredia pre siete a úložiská. Softvérový tím Tachyum už integroval softvérový balík pre benchmark HPL (High Performance LINPACK) a ďalší softvér pre HPC s AI bežiaci na Prodigy FPGA bude čoskoro.

“Oznámenie objednávky, ktorú sme dostali tento rok, zarezonovalo na verejnosti a zaujalo ďalších záujemcov. Z nich boli viaceré veľké organizácie, ktoré chcú vytvoriť systém podobného rozsahu pre svoje aplikácie a záťaže v oblasti umelej inteligencie,” povedal Dr. Radoslav Danilák, zakladateľ a CEO spoločnosti Tachyum. “Architektúra systému Prodigy je vhodná pre širokú škálu nasadení vrátane tých, ktoré potrebujú škálovanie v dátovom centre, keď už je na to vytvorená infraštruktúra. Rozsah strojov, ktorý umožňuje toto nové HPC/AI superpočítačové dátové centrum, pravdepodobne rozhodne o tom, kto vyhrá boj o prvenstvo v oblasti výpočtového výkonu a umelej inteligencie vo svete.”

Prodigy poskytuje vysoký výkon potrebný pre cloudové a HPC/AI pracovné záťaže v rámci jednej architektúry. Ako univerzálny procesor ponúkajúci využiteľnosť pre všetky pracovné zaťaženia môžu servery dátových centier poháňané Prodigy plynule a dynamicky prepínať medzi výpočtovými doménami. Odstránením potreby drahého špecializovaného hardvéru pre UI a výrazným zvýšením využitia serverov Prodigy výrazne znižuje CAPEX a OPEX a zároveň poskytuje bezprecedentný výkon, spotrebu a ekonomiku dátového centra. Prodigy integruje 192 vysokovýkonných na mieru navrhnutých 64-bitových výpočtových jadier, čo mu umožňuje dosahovať až štvornásobný výkon v porovnaní s najvýkonnejšími x86 procesormi pre cloudové záťaže, a v porovnaní s najvýkonnejším GPU až trojnásobný výkon pre HPC a šesťnásobný výkon pre AI aplikácie.

Najnovšia biela kniha spoločnosti Tachyum nadväzuje na predchádzajúce vydania, v ktorých sa podrobne opisuje, ako sa dajú využívať 4-bitové formáty Tachyum AI (TAI) a formáty, ktoré efektívne ukladajú váhy modelov v dvoch bitoch (TAI2) pri kvantizácii veľkých jazykových modelov (LLM) bez zníženia ich presnosti, čím sa náklady na LMM znížia až 100-krát a dostanú sa do bežného používania.

Záujemcovia si bielu knihu “Tachyum 50EF/8ZF Datacenter Can Solve OpenAI and Other Problems” môžu stiahnuť na webe spoločnosti.

Sledujte Tachyum

https://twitter.com/tachyum

https://www.linkedin.com/company/tachyum

https://www.facebook.com/Tachyum/

O spoločnosti Tachyum

Spoločnosť Tachyum so svojím vlajkovým produktom Prodigy, prvým univerzálnym procesorom na svete, transformuje ekonomiku pracovných záťaží v oblasti umelej inteligencie (AI), vysokovýkonných výpočtov (HPC) a verejných i súkromných dátových centier. Prodigy spája funkcie CPU, GPGPU a TPU do jediného procesora, aby poskytoval špičkový výkon pri najnižších nákladoch a spotrebe energie pre špeciálne aj univerzálne výpočty. Keďže emisie svetových dátových centier naďalej prispievajú k zmene klímy a podľa prognóz budú spotrebovávať 10 percent elektrickej energie na svete do roku 2030, procesor Prodigy s veľmi nízkou spotrebou energie je v pozícii pomôcť vyvážiť globálny dopyt po výpočtovom výkone pri nižšej environmentálnej záťaži. Tachyum nedávno prijala významnú objednávku od americkej spoločnosti na vybudovanie rozsiahleho systému, ktorý poskytne počítačový výkon viac ako 50 exaflopov, čo exponenciálne prevýši výpočtovú kapacitu najrýchlejších superpočítačov pre inferenciu alebo generatívnu AI, ktoré sú dnes dostupné kdekoľvek na svete. Po dokončení v roku 2025 bude systém postavený na čipoch Prodigy poskytovať 25-násobný multiplikátor v porovnaní so svetovo najrýchlejším konvenčným superpočítačom, ktorý bol postavený iba tento rok, a bude dosahovať 25 000-krát väčšiu kapacitu pre AI ako modely pre ChatGPT4. Spoločnosť Tachyum má pobočky v Spojených štátoch a na Slovensku. Pre viac informácií navštívte https://www.tachyum.com/.