Tisková zpráva

4-minutové čtení

Tachyum zverejňuje podrobnosti k trénovaniu AI s použitím prelomovej technológie super-sparsity

Bratislava, 18. októbra, 2022 – Spoločnosť Tachyum™ dnes zverejnila Bielu knihu, ktorá skúma, ako jej procesor Prodigy reaguje na trendy v oblasti umelej inteligencie (Artificial Intelligence, AI) a umožňuje hĺbkové učenie šetrné k životnému prostrediu vďaka menšej spotrebe energie a nižšej produkcii uhlíkových emisií. Všetky využívané tréningové modely sú plne funkčné, čo je zárukou toho, že čip Prodigy bude patriť k špičke v tomto odvetví.

Prodigy, prvý univerzálny procesor na svete, prináša revolučnú architektúru, ktorá zjednocuje funkcionalitu CPU, GPGPU a TPU do jedného monolitického zariadenia. To procesorom Prodigy umožňuje riešiť vysoké požiadavky na cloud a HPC/AI záťaže, bez drahých a energeticky náročných akcelerátorov, použitím jednoduchého homogénneho softvérového modelu, ktorý je v súlade so softvérovou skladateľnosťou (composability) a dynamickou realokáciou serverových zdrojov pre maximalizáciu ich využitia.

Najnovšia Biela kniha „Tachyum Prodigy on the Leading Edge of AI Industry Trends” popisuje techniky pre trénovanie AI, ktoré zahŕňajú:

  • Tréning kvantizovaného modelu – používa sa s typmi údajov s nízkou presnosťou pre trénovanie modelov hlbokých neurónových sietí. Procesory Prodigy umožňujú trénovanie hlbokých neurónových sietí pomocou iba 8-bitových reprezentácií s pohyblivou rádovou čiarkou (FP8) pre všetky maticové a tenzorové výpočty – váhy, aktivácie, chyby a gradienty. To vedie k výraznému zlepšeniu výpočtovej efektivity a energetickej účinnosti bez vplyvu na modelovú konvergenciu a presnosť, skráteniu času na prenosy pamäte a umožneniu využitia rýchlych výpočtových operácií s nízkou presnosťou (low-precision).
  • Škálovanie gradientu po vrstvách - na trénovanie hlbokých neurónových sietí pomocou FP8 spoločnosť Tachyum namiesto globálnej škály strát používa škálovanie gradientu po vrstvách.
  • Sparsity –Procesor Prodigy od spoločnosti Tachyum poskytuje natívnu podporu pre štruktúru blokov sparsity a super-sparsity. To podporuje násobenie riedkych (sparse) matíc optimalizovaných pre modely komprimovaných neurónových sietí, čím znižuje požiadavky na pamäť a výpočty.
  • Výsledky pre klasifikáciu obrázkov a segmentáciu inštancií – spoločnosť Tachyum trénuje širokú škálu modelov počítačového videnia, rozpoznávania objektov a modelov segmentácie inštancií pomocou formátu FP8.

“Po vydaní našej Bielej knihy s architektúrou systému na čipe a technickými vlastnosťami procesora Prodigy sme zaznamenali obrovský záujem o podrobnejší popis AI funkcií,” povedal Dr. Radoslav Danilák, zakladateľ a CEO spoločnosti Tachyum. “Tento najnovší detailný pohľad poskytuje prehľad o všetkých modeloch trénovania AI, ktoré môžu byť spustené na čipe Prodigy. Tiež pohľad na to, ako každý z týchto prístupov umožňuje vývojárom systémov popasovať sa so stále komplexnejšími výpočtami hĺbkového učenia, prinášajúc rádovo lepší výkon oproti súčasnej konkurencii.”

Prodigy poskytuje bezprecedentný výkon dátových centier a zároveň nižšiu spotrebu elektriny. To sa pozitívne premietne do hospodárnosti dátového centra, keďže sa výrazne znížia kapitálové (CAPEX) aj prevádzkové (OPEX) náklady. Vďaka využiteľnosti pre vysokovýkonné aj podnikové (Line of Business, LOB) aplikácie, sa servery s procesormi Prodigy môžu hladko a dynamicky prepínať medzi záťažami. To znamená, že nebude potrebný drahý hardvér špeciálne určený pre účely AI a využiteľnosť servera sa výrazne zvýši. Tachyum Prodigy poskytuje až štvornásobný výkon v porovnaní s najvýkonnejšími x86 procesormi (napr. pre cloudové záťaže), a v porovnaní s najvýkonnejším GPU až trojnásobný výkon pre HPC a šesťnásobný výkon pre AI aplikácie.

Záujemci, ktorí sa chcú dozvedieť viac o dátovom type FP8, si môžu stiahnuť Bielu knihu Tachyum Prodigy on the Leading Edge of AI Industry Trends.

Sledujte Tachyum

https://twitter.com/tachyum

https://www.linkedin.com/company/tachyum

https://www.facebook.com/Tachyum/

O spoločnosti Tachyum

Spoločnosť Tachyum prináša zmenu na trhy umelej inteligencie (AI), vysokovýkonných výpočtov (HPC) a verejných i súkromných dátových centier so svojím vlajkovým produktom, ktorý nedávno predstavila na trhu. Prodigy, prvý univerzálny procesor na svete, spája funkcie CPU, GPU a TPU do jediného procesora, ktorý poskytuje špičkový výkon pri najnižších nákladoch a spotrebe energie pre špeciálne aj univerzálne výpočty. Nasadenie čipov Prodigy v hyperškálových dátových centrách umožní, aby všetky AI, HPC aj univerzálne aplikácie bežali na jednej hardvérovej infraštruktúre, čo spoločnostiam ušetrí miliardy dolárov ročne. Keďže dátové centrá v súčasnosti spotrebovávajú viac ako štyri percentá elektriny planéty, a predpokladá sa, že do roku 2030 to bude 10%, procesor Prodigy s ultranízkou spotrebou je veľmi dôležitý, ak chceme pokračovať v zdvojnásobovaní kapacity dátových centier každé štyri roky. Spoločnosť Tachyum, ktorú založil ako spoluzakladateľ Dr. Radoslav Danilák, vybuduje v EÚ s čipmi Prodigy najrýchlejší superpočítač na svete s výkonom 128 AI exaflopov (128 miliárd miliárd operácií) za sekundu. Spoločnosť Tachyum má pracoviská v USA a na Slovensku. Pre viac informácií navštívte https://www.tachyum.com/.