Matěj Novák: Národní superpočítač v Ostravě

Matěj: existuje něco jako výpočetní čas zadarmo. Pojďte ho využít.

Filip: děláte s tím vším přebytečným teplem, který ty grafiky jako vyprodukují a tak?

Matěj: uvidíme jako, jak dlouho to ta Amerika vydrží, že jo, v té AI bublině.

Jindřich: Jaký jsou náklady na takovej superpočítač?

Matěj: jsou to tisíce, bych řekl jako iPhonů, třeba 17 Proček.

Jindřich: Dnešním hostem je Matěj Novák z Národního superpočítačového centra IT4Innovations v Ostravě, kde pomáhá firmám a výzkumníkům dostat se k superpočítačům. Stará se o to, aby evropské superpočítače nesloužily jen vědcům. A přesně o tom dneska bude řeč. Matěji, díky, že jsi přijal pozvání a vítej v podcastu DeepLink Show.

Matěj: Já díky za pozvání

Filip: Pěkně tě zdravím Matěji, zdravím i tebe Indro a samozřejmě zdravím i naše posluchače. Matěji, když bys nám měl přiblížit, jaká je vlastně tvoje role tam v Ostravě v IT4Innovations?

Matěj: Moje role v IT4Innovations je propojovat firmy asi s tou infrastrukturou a s těmi lidmi, které tady máme, jo, protože máme tady, tady jako dost chytrých lidí, eh, kteří, kteří jsou schopni, eh, k tématům, o kterým se asi dneska budeme bavit, jako spoustu co říct i z té odborné stránky potřebujeme, aby o nich věděly firmy a mohly využít toho, že tady ti lidi jsou a že je tady ta infrastruktura, kterou můžou použít

Jindřich: Co vlastně ten superpočítač je? Kdybys to mohl trošku jako laikům přiblížit.

Matěj: Superpočítač. Eh, tady je mám hned vlevo vedle sebe, eh, shodou okolností, protože teďkon sedím v showroomu tady na budově IT4Innovations v Národním superpočítačovém centru. Takže, eh, takže můžu popsat vlastně, co vidím. Eh, kdybych to vzal jako laicky, tak jsou to takové jako svítící bedny, velké svítící bedny, eh, kde vlastně člověk ani nevidí pořádně, co je vevnitř. Jedna má na sobě nápis Barbora NG, druhá má na sobě nápis Karolína a vlastně laik pořádně jako neví, co se ukrývá vevnitř. Eh, vesměs ale, co vevnitř je, tak je to prostě hromada, hromada čipů, hromada hardwaru, hromada spojení, které, které pomáhají té infrastruktuře být výkonná a efektivní než například jako to, co, to co my máme, to, co my máme doma. Notebooky, počítače a tady ty věci.

Filip: Takže jako běžnej člověk bych si to měl představit jako takovej klasickej počítač, jenom jako násobně výkonnější

Matěj: Hm, já to, já to přirovnávám často, protože v rodině se o tom samozřejmě bavíme vždycky, že jo, jako co děláš, co neděláš a to. Tak musím vždycky vysvětlit jako co dělám a pak vysvětlit, co jsou ty superpočítače. Eh, já to, já to přirovnávám, to byla nějaká, eh, česká komedie taková a tam byl právě nějaký takový jako větší počítač, jestli to byl, ježiši, jak oni tomu říkali, centrální mozek lidstva, možná někde něco takového.

Filip: Ja,

Matěj: A, a to byla prostě jako obrovská krabice a vlastně jako zvládlo to napsat, eh, jako ve Slunci, seno třeba, eh, kolik samic má v chovu, jo. A, to je v podstatě to, jak to vypadá, vypadá tady. Je to prostě obrovská, obrovská bedna, která, která zvládne, eh, výpočty, které by normální počítač dělal dny, možná léta.

Filip: Hm,

Jindřich: Aha.

Filip: takže vlastně ten use case je, že když máš jako nějakou úlohu, kterou bys ty jako na klasickym počítači, i tom nejvýkonnějším jako nebyl schopnej udělat, tak vlastně jako tím, že pospojuješ ty, ty výkonný třeba grafický karty nebo jaký, jakýkoliv jiný čipy, tak jsi schopnej dostat ten výkon jako hnedka a tím pádem třeba jako paralelizovat tu práci pořádně a tím pádem jako ji zrychlit.

Matěj: tak, přesně. Chodí za náma jako, eh, protože nabízíme samozřejmě ten výpočetní čas ve více režimech. K tomu asi jako dojdeme si myslím během, během toho podcastu nějak jako, jak se to namane. eh, chodí za náma i velké firmy, které, které potom vlastně ten výpočetní čas dostávají v komerčním režimu, to znamená, že za něj platí a většinou za náma přichází s tím: "My máme nějaký svůj vlastní hardware, ale vlastně ty výpočty už jsou jako natolik veliké, že už nám nestačí ten náš hardware a potřebovali bychom to ještě zrychlit. V tom případě bychom potřebovali jako tu vaši infrastrukturu, ať ty naše výpočty běží, běží jako rychleji a ti naši lidi jako jsou efektivnější."

Jindřich: Tomáši a jak si mám představit teda ten výkon toho superpočítače? Kdybych to měl třeba nějak zjednodušit, tak kolikrát výkonnější je než nějakej můj stolní počítač, kterej můžu mít doma, jestli to vůbec vlastně takhle jde popsat.

Matěj: To je, to je dobrá otázka, protože tu jsem řešil přesně když jako chodím tady po prezentacích a vždycky říkám jako chci to těm lidem přiblížit nějak jako, co to je superpočítač, že jo? Takže jsem vlastně nad tím uvažoval jako dost podobně a říkal jsem si dobře, tak kolik jako těch iPhonů třeba to jako je, jo? Nebo kolik těch MacBooků vlastně jako znamená ten superpočítač? A vlastně jsem zjistil, že protože vylezl jsem s nějakým číslem, které jsem si samozřejmě pomocí AI zkonzultoval a bral jsem ho, že by to mohlo být, mohlo být ono. Potom za mnou přišel kolega a říká prosím tě, to číslo, co prezentuješ, já si myslím, že to není správně jako jo. A já říkám jak jako není správně? Jako dívej se tady. Jsem mu ukázal jako ten chat, že jo, s tím, s tím chatem GPT. A on říká no ale tam jako je víc možností, jak jako jsi vlastně schopný to spočítat, jo. v tu chvíli jsme přišli na to, že jako strašně záleží vlastně, jak ten výkon měříme. Jo, ono vlastně třeba i top pět, existuje nějaký žebříček top pět set, kde jsou nějaké nejvýkonnější superpočítače světa. Jo, ten se aktualizoval myslím teďko v červnu, v červenci. Tady mě neberte úplně za slovo. A vlastně i tady ten žebříček má v podstatě jako různé, různé specifika. Jo, je vlastně žebříček, který říká tady ty počítače jsou nejvýkonnější na světě jako v teoretickém výkonu a potom je třeba nějaký jako reálný výkon toho superpočítače, jo. A se vlastně jako může lišit na základě jako toho, co vlastně na to ten člověk pouští nebo takhle. Takže jako strašně těžko se to kvantifikuje, ale vesměs bych řekl, že jako třeba, jako bude vypadat možná malé číslo, ale dnešní telefony jsou jako relativně jako dost výkonné, tak jako jsou to tisíce, bych řekl jako iPhonů, třeba 17 Proček. Jo, ale, ale tady si nabíhám. Kolega za mnou zase přiběhne a řekne to číslo, co jsi říkal.

Filip: No

Jindřich: Ja, det,

Filip: A ono

Jindřich: det får gi

Filip: těch výpočtů, ne? Jakože,

Matěj: Tak,

Filip: co prostě zrovna, na co je to náročný, že jo. Protože jako ty počítače můžou bejt optimalizovaný pro různý práce

Matěj: Tak, tak přesně to je to, co jsem říkal, že vlastně ten žebříček potom je nějaký ten teoretický výkon a je nějaký potom ten praktický výkon, kde se měří jako už i ty jednotlivé úlohy, které na tom běží jo a takhle, že se tam nepracuje jenom s jednou úlohou, ale právě už jako s těma optimalizovanýmu, optimalizovanýma úlohama pro ty jednotlivé, jednotlivé druhy těch superpočítačů, když to řeknu jako takhle blbě, ale, ale jednoduše. takže, takže ano, záleží i na tom určitě. Jo, jo.

Jindřich: Eh, jak jsi mluvil třeba zhruba samozřejmě pro to zjednodušení, tak to porovnání v tom jako tisícenásobku těch iPhonů, tak to je jakej počítač? Protože vy jich tam asi máte víc, že jo, těch superpočítačů a mělo to jako nějakou historii v evoluci. Tak

Matěj: Угу

Jindřich: tohle je třeba ten nejsilnější, který máte k dispozici?

Matěj: Tohle je aktuálně, tady ty čísla, o kterých se bavíme, tak byla Carolina, což je teďkom naše ještě zatím vlajková loď pořád, co se týká superpočítačů. Máme ho čtyři roky, čtyři, pět let něco takového. Teď jsem to nedávno řešil s kolegou, ale to přesné číslo mi vyklouzlo. Ale je to něco kolem těch čtyřech, pěti let. A, k dnešnímu dni teda. A je jako vidět, jak ten hardware jako zastarává, jo, protože dneska už třeba ve chvíli, protože my tam máme vlastně A stovky, Nvidie čipy, když se bavíme o tom, o té GPU partition nebo o tom oddíle, ať jsem, ať jsem teda, tak, tak o tom oddíle, ve kterém jsou, ve kterém jsou GPUčka, tak tam máme A stovky, což dneska pro firmy už není vlastně jako zajímavý hardware moc, jo. Takže bavíme se o tom, Carolině, která má teda tady ty A stovky. Co se u nás plánuje, tak je obnova toho hardwaru. Ta obnova toho hardwaru je strašně důležitá. Teďkom v nejbližší době, co se týká té GPU, toho GPU oddílu, tak teďkom nás čeká upgrade Carolina NG, kdy vlastně bude nějakým způsobem jako upgradovaná potom do bližšího budoucna, teda do vzdálenějšího budoucna je to Carolina, jo, což je počítač nebo superpočítač, který se pořizuje v rámci projektu Czech Effectery, ke kterému se možná ještě dostanem, předpokládám.

Jindřich: Ty jsi zmínil ten žebříček těch pět set nejvýkonnějších superpočítačů na světě, tak kde se tam ta Karolína, případně ta Carolina pohybuje?

Matěj: Jo. Carolina ještě nikde, protože vlastně ta ještě neexistuje. Ta je teďkon ve stádiu nějakého podle mě soutěžení nebo něco takového. Ale co se týká té současné Caroliny, ta vlastně když byla, byla uvedena do provozu, tak v té době byla v tom žebříčku šedesátá čtvrtá. To znamená, že jako z těch oficiálně zaregistrovaných superpočítačů byla šedesátá čtvrtá na světě. Teďkom je to něco přes dvě stě padesát, jo, v tom, v tom pořadí je něco přes dvě stě padesát tuším, nebo něco kolem dvě stě padesáti. takže jako posouvá se to za ty roky určitě. My ještě máme tady potom jeden projekt LUMI AI Factory, je spojený superpočítač LUMI, do budoucna superpočítač LUMI AI, který se pohyboval tuším na třetím místě v tady tom žebříčku Top pět set teďkom je myslím top jedenáctka v tom světovém žebříčku. Takže, takže jako k té výkonné infrastruktuře pořád jako skrz různé projekty máme přístup, jsme schopni ho nabídnout i těm firmám, ale ten superpočítač LUMI už vlastně nemáme, nemáme tady u nás, no. Ten je, ten je ve Finsku.

Jindřich: A pokud to nějak nemotám, tak jako ta výkonnost těch superpočítačů se měří v těch tzv. flopech nebo flopech za, za vteřinu.

Matěj: uhum,

Jindřich: A

Matěj: uhum

Jindřich: můžeš nám tuhletu jednotku jako trochu přiblížit? A jakým způsobem se to vlastně teda měří ten jako s-samotnej výkon?

Matěj: Výborná otázka. Zkusím se někoho zeptat a pak vám dám vědět. Nevím, to se přiznám. Ne-nevím, nevím, nevím tady toto. Eh, že jako, hm, teď už jsou snad nějaké jako exaflopy nebo něco takového, ale já fakt nechci kecat, jo. Vím, že, vím, že Karolina je tuším měřena ještě v petaflopech. Eh, jak se to měří? Bude to pravděpodobně, eh, tak, jak jsme se bavili, jo, že se na tom pustí nějaké, nějaké úlohy a měří se, jak výkonem, jak výkonný vlastně je počítač, že jo. Ale myslím si, že ty petaflopy jsou jako v teoretickém výkonu. To znamená, že vlastně jakého teoretického výkonu by měl ten hardware, hardware dosahovat. Co se týká toho jako měření do detailu, tak to netuším, jak, jak se k tady těm číslům dochází.

Filip: Ale my jsme tady vlastně už několikrát zmínili IT4Innovations, Národní superpočítačové centrum, Univerzitu v Ostravě. nám rozmotat, jak teda tohleto společně souvisí? Jste jako soukromá organizace, nebo je to jako vlastně výzkumný projekt?

Matěj: Jo, jo. Ono vlastně tak to i začínalo, jo, v podstatě. Tam, tam jako stojí zrod IT4Innovations. My jsme vlastně pod záštitou Vysoké školy báňské Technické univerzity Ostrava. Jsme vlastně v podstatě výzkumné centrum, které je přidružené té univerzitě a, a tak vlastně s tady tou myšlenkou se to i zakládalo. Ono na začátku to vlastně byla, eh, myšlenka jako infrastruktury pro výzkumníky, samozřejmě i pro průmysl, ale počítalo se hlavně s tím výzkumem. už se to týká jako různých nemocí, chemie a tady těch, tady těch věcí. To se potom jako časem samozřejmě posouvalo dál. A teď se nacházíme i díky jako tomu, že pro AI je potřeba jako znatelný výkon, tak se nacházíme ve chvíli, kdy jako v podstatě se přelíváme hodně k tomu průmyslu, hodně k těm firmám, hodně ke startupům. A to je v podstatě asi i důvod, proč tady jako tak nějak sedíme spolu, no.

Filip: A vlastně když se řekne superpočítač, tys to i zmínil, že to jako primárně nejdřív bylo pro vědce. Teď už to vlastně se to dostává mezi firmy a startupy. Jako já pořád nebo myslím si, že spousta jako posluchačů bude mít ten pocit, že jako superpočítač to je něco právě pro ty jako extrémně složitý výpočty. Ale chápu to teda správně, je to něco i pro jako běžnej malej startup, kterej nemusí dělat ani jako AI technologii?

Matěj: V podstatě, v podstatě ano. Jo, tam potom záleží, jako čím se tím ten startup zabývá. Já bych na to šel trošku od lesa. Ono pořád tu infrastrukturu, kterou my tady máme, využívají jako z velké části vědci, protože je to právě o tom, že jako tak ta infrastruktura byla postavená a ti vědci jsou zvyklí ji využívat. Právě proto jsem na IT4I přišel mimo jiné i já, protože vlastně ty projekty, které se teďkon, eh, dělají napříč Evropou, což jsou ty AI factories, tak se, tak se snaží tady tu infrastrukturu přiblížit těm firmám a startupům, které jsou schopni využít, i když jako nedělají nějaký svůj jako AI produkt, ke kterému potřebujou prostě jako strašně hodně GPU výkonu. Ale, ale co se teďkon řeší hodně s firmami, tak je vlastně inference, protože spousta těch firem, i když nevyvíjí nějaký svůj AI produkt, tak jsou pro ně cenné ty data, které v rámci té firmy mají a vlastně nechcou to posílat úplně jako kamkoliv. Takže hledají možnosti, jak si provozovat nějaký svůj vlastní model, aniž by jako, a-aby měli kontrolu nad tím, jako kde ty data vlastně jako končí. Takže tady ty firmy za náma taky přicházejí. A to asi víte i sami, jako pokud člověk chce provozovat nějaký jako už výkonnější model, popřípadě i nějaký jako už nafanťunovaný, tak je k tomu potřeba relativně, relativně dost výkonu. Takže požadavky na inferenci odbavujeme v podstatě, v podstatě denně

Jindřich: Předpokládám, že to asi nejsou jako ty jediný use casy, že jo, eh, s jakejma za váma ty, ty, eh, firmy choděj. A když si to představím i nějaký jiný, tak jaký, jaký jsou třeba ty typický zákazníci? Kdybysme se teďkon mohli trošku jako o-odpou-- nebo od prostě tý umělé inteligence, byť chápu, že to bude asi složitý v dnešní době, že to bude asi ta většina práce, kterou jako vy děláte. Ale mě vlastně jako typově zajíma, zajímá, co jsou ty jako standardní úlohy třeba, který od vás potřebujou ty vaši jako klienti nebo zákazníci zpracovat.

Matěj: Eh, takhle. My tím, že tady máme jako v podstatě, v podstatě těch oddílů víc na tom superpočítači. Jedním z nich je třeba čistě CPU oddíl. Máme i superpočítače, které jsou čistě CPUčkové, že vlastně nemají, nemají grafiky v sobě. Eh, takže tam jako ty úlohy už jsou předurčené jako v podstatě tady tím. za poslední dobu, co můžu jmenovat několik firem za náma přišlo, že chtějí dělat nějaké simulace skrze, skrze Ansys, což je nějaký jako program, ve kterém jako se to tak nějak celé simuluje, jsem pochopil, ale tomu úplně, tomu úplně nerozumím do detailu. Každopádně vím, že něco takového jako existuje a s tím za náma firmy chodí. Co se týká těch, těch vědeckých výpočtů, které tady probíhají, tak ty jsou jako v podstatě různé. Jo, je to prostě nějaká, nějaká, něco z oblasti medicíny, je to něco z oblasti chemie. se to ještě jako liší v rámci těch jako jednotlivých oborů na různé podobory. Je to strašně jako těžké kvantifikovat. Asi bych teoreticky byl k tomu schopný vytáhnout, vytáhnout nějakou jako grafiku, ale, ale myslím si, že by to bylo tak, tak rozstřílené ty výpočty, že, že, že by ta grafika stejně byla taková, takový ten klasický kolačový graf, který jako je v podstatě taková jako jedna velká duha, jo. Takže, takže si myslím, že ty, že ty výpočty, výpočty jsou jako široké. Co se týká té GPU části, tak tam je to jednoznačně jako to AI, jo. I když jsme říkali, že nechceme zabrušovat jako k tomu AI, chceme se bavit mimo to, tak jako nedá se to v podstatě oddělit, protože dneska, dneska jako ta GPU část je převážně, pokud se bavíme o komerčních firmách nebo průmyslu, tak je využívaná směrem k AI.

Jindřich: Hm. Hele a jak tam funguje nějakej pricing? Třeba když za váma přijde ta firma, že chce jako něco zpracovat, tak vy jim dáte jako nějakou nabídku nebo platěj přímo za, nevím, hodinu běhu nebo za počet operací nebo podobně. Obecně jak vlastně tadyhle ta, ta nabídka a výpočet tý samotný ceny, co vám ten zákazník zaplatí, probíhá?

Matěj: Mhm. tam jsou v podstatě jako dvě úrovně. Jedna úroveň jsou ty SME startupy, kterým jako nabízíme jinou cestu než ten komerční pronájem. Potom tu ty velké firmy, které bohužel jako prostě nemůžou jít tou stejnou cestou z podstaty toho, že jsou jako prostě velké, mají větší obraty, takže tam to není úplně dotované. ale ty jdou teda tou komerční cestou. Co se týká, když teda ses ptal, tak zůstaneme u té komerční cesty. Můžeme se potom podívat klidně i na tu, i na tu bezplatnou cestu pro ty startupy a SMEčka. Ale co se týká té komerční cesty, tak vesměs je to tak, vesměs to funguje tak, že firma, firma napíše na nějaký poptávkový mail nebo přímo mně, pokud mají kontakt na mě, poptají, co potřebujou a já jim většinou pošlu nabídku. Dořešíme smlouvy, podepíšou se smlouvy, firma začíná počítat. Jo, žádné složitosti úplně. Eh, samozřejmě pokud je potřeba ve smlouvách něco upravovat, může se to protáhnout, ale snažíme se, aby ten onboarding té firm-firmy byl, byl co nejrychlejší. Eh, co se týká potom, eh, toho, eh, té GPU části teda, omlouvám se, teď jsem ztratil nit.

Jindřich: No mě,

Matěj: Teď.

Jindřich: mě, mě vlastně zajímá, jako když já jako zákazník bych přišel za váma a řekl bych: „Hele kluci, mám tady tuhletu úlohu.“ Tak jak, jak a jakým způsobem a jak přesně vy jste schopni vůbec stanovit tu cenu?

Matěj: Jo, už vím, supr. Eh, přesně k tomu jsem se chtěl dostat. Akorát už jsem uvažoval nad těmi startupy a nad těma esemíčkama. Eh, už jsem byl moc za rohem, takže se vrátím trošku. Eh, v podstatě my Karolině máme nějaký určitý počet těch výpočetních uzlů, eh, které obsahují nějaký hardware. Každý ten uzel má nějaký hardware. Když teďkom se budeme bavit o GPUs, tak jsem jako trošku jako pevnější v kramflecích. Tak tam máme, eh, osm, osm NVIDI A100 na uzlu. Pro nás nejnižší, nejnižší jednotka účtovací je uzlohodina. To znamená využití osm GPUs NVIDIA A100 po dobu jedné hodiny. Samozřejmě těch uzlů se dá využít víc. Máme je propojené, takže i s tím se dá jako pracovat. Eh, takže to je pro nás ta účtovací jednotka. K dnešnímu dni, eh, je ta cena tuším čtyři sta padesát pět korun bez DPH za uzlohodinu na GPU, na GPU oddíle. Potom samozřejmě máme i ten CPU oddíl, tam je ta cena kolem, kolem myslím padesáti korun něco takového. A ten má zase nějakou specifikaci, která je dohledatelná kdyžtak jako na webu

Jindřich: Dá se třeba nějak jako generalizovat ten jako medián toho času, co si u vás jako za ty jednotlivý úlohy ty klienti platěj? Nebo je to opravdu tak jako rozstřelený, že někdo si vezme pár hodin a někdo opravdu hodně obrovský množství času?

Matěj: Tak, tak je to rozstřelené. Je to rozstřelené podle velikosti té firmy. Máme velké firmy, které konzumujou strašně hodně výpočetního času. A potom máme firmy, které, které si tady vezmou stovky uzlohodin a tím jako končí v podstatě, protože jim to třeba stačí, jo. zjistí, že ta infrastruktura není pro ně. To je taky jako důležité říct, že vlastně lidi, kteří jsou zvyklí jako používat cloud a potkáváme se s tím dnes a denně, tak, tak pro ně může být malinko obtížnější vlastně naskočit do toho používání toho superpočítače. Je to něco, na čem tady pracujeme. Vyvíjíme různé jako nástroje pro to jednodušší připojení se k tomu superpočítači, ať tam vlastně odpadne taková jako ta bariéra. A, a myslím, že se nám to i jako daří, eh, s tím, co vidím, jako co se tady děje a kam míříme. Takže si myslím, že se snažíme jako to zpřístu-- ty superpočítače zpřístupňovat i uživatelům, kteří, kteří s tím nemají zkušenost a pro které by ta bariéra vstupu k tomu, k tomu superpočítači mohla být zásadní a třeba by je od toho odradila.

Jindřich: Jen abych se zorientoval, ehm, ty jsi říkal, že máte jako velký firmy a pak, že některý firmy si berou jako i stovky těch uzlohodin. Tak to jenom abych si zas dal do kontextu, když si někdo vezme jako stovky těch uzlohodin, tak to je jako málo. To je jako na nějakou menší úlohu z vašeho úhlu pohledu.

Matěj: 對啊，main shoe

Jindřich: Ok.

Matěj: 有

Jindřich: Mhm.

Matěj: До свидания

Filip: co se týče vlastně těch startupů, protože ty jsi vlastně zmiňoval, že kromě tady tý komerční části, tak jsou tam ještě ty startupy nebo ty menší firmy, kterým vy vlastně jako dokážete poskytnout ten výpočetní výkon zdarma. Jestli jsem to správně pochopil. Zároveň tam jsou asi nějaký jako delší služby, protože jako nějaká menší firma startup, tak já vlastně asi jako moc nevím, jak to celý jako uchopit, protože teďka když bych se vžil do role jako malé firmy, tak jako vím, že teda úzlohodina bude čtyři sta korun. Asi si třeba jako s nějakým AIčkem spočítám, co by mě to mohlo jako stát a kolik bych výkonu potřeboval. A teď vlastně jako vůbec netuším, co s tím. Tak jak to probíhá na tady tý úrovni?

Matěj: Jo. Ono výhoda u těch startupů a esemíček je taková, že tam jako tím, že mají ten výpočetní čas bezplatně, tak ono je v takových jako třech balíčcích, takže tam v podstatě nemají moc na výběr a musí si vzít to, co je v tom balíčku, jo? Takže tam se to, tam se to, to ulehčuje. U těch velkých firem, tam jim jako často pomáháme. neví, tak buď si vezmou nějaký demo přístup. Teďko máme zrovna jednu firmu, která to řeší jako podobně, že vlastně jako neví, kolik toho výpočetního času bude potřebovat, takže si vzala nějaké úplně nějaký drobný výpočetní čas. Zkusí si na tom pustit, co půjde, jak to půjde a podle toho se potom rozhodnou, jak velkou alokaci si vezmou jako v konečném důsledku. Jo, teďko nenabízíme bohužel žádné jako demo varianty, kde by člověk byl schopný si to vyzkoušet všechno. Je to něco, na čem jako interně pracujem teďkon zrovna. Včera jsem se o tom bavil. Včera bylo, včera byla neděle, v pátek, v pátek jsem se o tom bavil s kolegou. Takže, že se to jako hýbe nějakým způsobem a snad do budoucna budeme schopni nabídnout i tady tohle, což je potom další jako nástroj, kterým bysme chtěli odstraňovat jako jednu z těch bariér, které, které jako leží mezi, mezi námi jako superpočítačovým centrem a okolním světem.

Filip: Yes, sir

Matěj: Eh, jo, ale co se týká těch startupů a těch SMEček, tak, eh, vlastně co se týká toho bezplatného přístupu pro ně, tak v rámci evropských projektů, které jsou jako financované z evropských peněz, tak je možné získat jako přístup k tady té výpočetní infrastruktuře. Mě při nástupu na IT4Innovations strašně překvapilo, jak málo lidí o tom ví, jo?

Filip: Mhm.

Matěj: Takže já jsem si dal jako takovou, eh, takový jako svůj cíl, budu šířit osvětu. A musíme, musíme jako zajistit to, aby se o tom ty startupy dozvěděly, aby věděly, že ta možnost vlastně je. Jestli ji využijí nebo nevyužijí, je na nich. z těch startupů byl mimochodem i Jirka Štěpánek, který tady, který tady tuším taky byl, že? Takže to je jeden z lidí, jako s kterýma jsme, s kterýma jsem mluvil, s kterýma jsme mluvili a s kterýma jako do budoucna vidíme, že by mohla fungovat nějaká spolupráce minimálně skrze ten výpočetní čas. Když můžem, tak pomůžem. To je jako Snažíme se, snažíme se, co to jde. Eh, takže jako to je teďkom to, co se snažíme šířit mezi ty startupy a SMEčka, že vlastně existuje něco jako výpočetní čas zadarmo. Pojďte ho využít. Proč vlastně jako bezplatně ten výpočetní čas je, je to kvůli tomu, že se Evropská unie prostě snaží, snaží investovat peníze do toho, aby nám tady vznikaly ty AI startupy, aby neodcházely na tu infrastrukturu někde jako do zahraničí, ale aby zůstávaly tady a tady vznikaly, vznikaly ty jako super AI věci zbytečně jsme to neoutsourcovali někde, někde jinde. Takže to je to, proč se to jako nabízí. V podstatě, co děláme, tak nejenom, že ukazujem firmám, že je to možné něco takového získat, ale snažíme se jim pomoct i s tím, jako získat ty, ty výpočetní zdroje samotné, což je součástí taky toho, toho vlastně, co tady děláme. Ono i v podstatě je tam potřeba vypsat nějaká, nějaká žádost. Teďko mě mrzí, že tady není nikdo, kdo už si tím prošel, protože já vždycky všude řeknu, jako je to strašně lehké a teďkon lidi začnou: "Jo, lehké, to se, to známe. My už jsme vypisovali nějaké projekty a tady toto." Musím říct, že fakt je to jednoduché. Je to jednoduché, je to nějakých asi, jsou to nějaké-- a teďkon jako část lidí se vždycky lekne, když řeknu tady toto a část lidí je jako že "Hm, tak super", to je vždycky poznat podle toho, kdo už nějaký projekt, projekt psal a kdo ne. Takže jsou to nějaké čtyři až pět A4. toho jako v podstatě je to formulář jednoduchý, jo, tam se píšou,

Filip: Mhm.

Matěj: eh, na, na začátku se napíše nějaké summary a nějaký, nějaký abstrakt toho projektu. Potom se tam vypíše, kdo ten projekt jako řeší hlavně, kdo jsou team members, jak, jaké, jaký kód používáme, pokud nějaký, jestli je to proprietární kód třeba, jo. Není potřeba ho tam vypisovat do detailu. To, property. Teďkon, jestli mi nahodíte česky, budete hodní.

Filip: Autorské vlastnictví nebo duševní

Matěj: duševní

Jindřich: Dus ja.

Matěj: jo, jo,

Jindřich: Hm.

Matěj: vlastnictví. To duševní vlastnictví zůstává vlastně, eh, zůstává na straně, na straně té firmy,

Filip: OK

Matěj: jo. To znamená, že když ona jako využije tady těch výpočetních zdrojů, tak, eh, ne, se nezavazuje k tomu, že něco, co udělá, musí jako nabízet někde open source nebo něco takového. Je to, je to fakt jako šité, šité tomu, ať jdeme rozvíjet ten byznys tady, což, což považuju za strašně důležité. Takže, eh, takže takhle. Nechci být úplně moc dlouhý kolem toho. Možná spíš, jestli vás něco jako z toho, eh, když jsem mluvil, napadlo, tak by to bylo super, protože tady ten monolog, který jako bych tady mohl vést, ten mám nacvičený, jo? To, to jako bych zvládl, si myslím, tady hodinu o tom vykládat. Ale, ale jak říkám, nechci být dlouhý, takže spíš jestli vás k tomu něco napadá, jako z hlediska, z pohledu lidí, kteří jako s tím nepřišli do styku, tak, tak budu jako rád, když se spíš doptáte.

Jindřich: Padá nás spousta otázek, takže doufám, že máš hodně času. Ale jedna z těch, jako která mě napadla, tak jaký náležitosti ta firma musí splnit pro to, aby u vás mohla získat ten výpočetní čas zdarma?

Matěj: Mhm. Tam je důležité, aby byla součástí státu nebo země, která je součástí projektu Euro Horizon. Euro, Euro Horizon myslím, že se to jmenuje. Což je v podstatě jako skoro každá země, jako s kterou jsme zatím přišli do styku. Uvažuju, jestli jsme tam měli někde nějakou výjimku. Já si myslím, že ne, že všechny firmy, s kterýma jsme mluvili, tak jako tady do toho spadly. Co se týká potom dalších kritérií nějakých, tak je důležité, aby ta firma byla startup nebo SMEčko. To SMEčko je takové jako bych řekl, nevím teďkon české slovo zase takové shady trošku, každý jako to číslo uvádí trošku jinak. Tuším ale, že to je do dvěstě padesáti zaměstnanců ofiko. to znamená, že musí mít do dvěstě padesáti zaměstnanců. A to je v podstatě všechno. To je v podstatě všechno. Tím, tím vzniká nárok na, na ten výpočetní čas. Teda aspoň co se týká těch aktuálních podmínek. Teďkon nedávno jsem se na to díval a dokonce není tam zmíněné ani nikde, že by tam nemohly jako spadat velké firmy, ačkoliv je tam, že velké firmy by měly využívat těch placených modelů. Ale přiznám se, že s velkou firmou jsme to ještě nežádali, takže nemám, nemám zkušenost, jestli jako to projde nebo neprojde. Primárně prostě startupy, SMEčka určitě.

Jindřich: Yeah

Filip: bejt třeba i jako živnostník? Řekněme, že jako mám nějakej nápad na nějakej projekt a chtěl bych ho realizovat, tak musím si založit to SROčko nebo můžu přijít i jako s Ičem, když to

Matěj: Tak jo, jo, jo, v podstatě jo. Mhm.

Filip: Ok

Matěj: I s IČEM. Aspoň, eh, tak jsme žádali už tuším. Já si myslím, že jo, že už jsme tak s někým žádali a že to, že to prošlo, že jako je možné i s IČEM

Jindřich: A jak je ten výpočetní čas omezenej na tenhleten zdarma? Myslím pro ty startupy třeba

Matěj: Jo. Ono, jak jsem mluvil o těch balíčcích, tak oni tam jsou ty balíčky tři. Je to Playground, Fastlane a Large Scale, tuším. Každý ten balíček má jiný, jiný počet těch, aby náhodou to nebylo jednoduché, tak tady se to počítá v GPU hodinách, jo?

Filip: No jasne

Matěj: zapomeňme, co jsme se bavili a naskočme zpátky do toho, že používáme jedno GPU po dobu jedné hodiny. to je ta jednotka, o které se tady bavíme. A v podstatě je to o tom, že v tom základním balíčku, v tom Playground je pět tisíc GPU hodin, tom prostředním je deset až padesát tisíc GPU hodin a v tom nejvyšším je nějakých padesát tisíc plus. Potom to záleží na tom superpočítači jednotlivém, jako jakou má tu kapacitu. Tuším, že u Lumi je to něco maximálně přes dva miliony GPU hodin s tím, že tam je nějaký limit na milion něco měsíčně nebo něco takového. Ale, ale to jsou už čísla, do kterých se jako dostává málokterý startup, jo. Většině, většině těch startupů stojí, stačí ten Playground a Fastlane, popřípadě nějaký jako základní ten Large Scale, když to jsou jako nějaké větší, větší, větší projekty.

Filip: Já teda chápu, že vy jim vlastně s tím jako pomůžete. asi vyplnit i tu žádost, že jo, protože oni to většinou jako neznají. Asi i třeba posoudit, jako do jakýho programu se mají jako hlásit. A ještě mě k tomu napadá, když to všechno proběhne, schválí se ta žádost, tak jako jak rychle můžu očekávat, že dostanu ten výpočetní čas? Jsou to jako řádově dny nebo týdny? Jaká je ta čekačka?

Matěj: Jako to nejrychlejší, co jsme zažili, tak byly hodiny. Jo? A oni vlastně, protože celé tady, celé tady to, o čem se bavíme, tak je pod záštitou Euro HPC JU,

Filip: Mhm.

Matěj: což je nějaká prodloužená, prodloužená ruka EU, která, eh, řeší právě tady ty výpočetní čas a tady tohle. takže je vlastně na straně Euro HPC JU někdo, kdo to hodnotí, respektive ono to padá na ty jednotlivé superpočítačové centra. To znamená, že my když zažádáme přes Euro HPC JU na, o výpočetní čas na superpočítači LUMI, který je ve Finsku, o kterém jsme se bavili třeba, to spadne na někoho z Finska, kdo musí tu žádost jako nějak vyhodnotit a říct ano, ne. Jo? Takže je tam pořád na druhé straně nějaký člověk. Do jaké míry to člověk hodnotí nebo ne? Nevím. Těžko říct. Nevidím jim pod ruce, ale, ale z některých, z některých reviews, které jsme dostávali, tak pořád si myslím, jako že tam ten člověk sedí a ty žádosti. jako je to hodně odvislé od toho. Každopádně u toho Playground callu tam je to myslím tuším dva dny. toho Fast, kde je těch pět tisíc, u toho Fastlane, kde je těch deset až padesát tisíc, tak tam je to čtyři dny a u toho Large Scale je to deset dnů. Jo, jo, jo, tak to je. jako do tady toho, do tady toho vy, v, do tady toho časového okna pro vyhodnocení by se, by se to mělo vlézt a je to vlastně u toho Playgroundu a Fastlanu je to od té doby, kdy to člověk podá. To znamená, že tam nejsou nějaké jako prostě deadliny, jak pokud někdo někdy podával projekt, tak ví, že máte nějaký deadline, do kterého to musíte podat a pak se to začne vyhodnocovat. U těch, u toho Playground a Fastlane to probíhá v podstatě kontinuálně. To znamená, když pošlu do dvou dnů bych měl dostat, bych měl dostat, eh, odpověď, jestli jsem tu, ty resources dostal nebo ne, ty zdroje dostal nebo ne. A u toho Large Scale tam je to tuším jednou za čtrnáct dnů tam je cut-off date na základě, po kterém se to potom hodnotí. Abych byl fér, už jsem tady jako řekl ten, ten rekord, jako jak nejrychleji to bylo, tak budu, budu i trošku jako přísný a řeknu, že u jedné firmy se nám to podařilo až snad po deseti dnech, možná čtrnácti dnech u toho Playgroundu, Playgroundu, ale oni si tu žádost podávali jako před Vánocema a vlastně potom tam běžely ještě ty svátky, ten Nový rok a tady tohle. Takže z toho jsem i usuzoval, že tam asi sedí člověk na té druhé straně, protože fakt jako se to povedlo až po, až po Novém roce, no. Takže je potřeba tam počítat i s tím, že jsou tam lidi na druhé straně a lidi prostě občas mají volno, no.

Filip: A když tu žádost vlastně jako schválí, tak pak hnedka mám nárok na ten výpočetní čas? Protože jako vy máte omezený, ne, ty jako grafiky a ty uzly. To znamená, že jako pa-pak ještě asi jako mám nějakou čekačku nebo, nebo já už si jako zadám tu úlohu a ona se vlastně jako zaplánuje do

Matěj: chápu.

Filip: a

Matěj: Eh, možná projdu ten proces jako po tom, co se stane, když, když dostaneš vlastně tu alokaci. Když dostaneš, hm, ten oběžník o tom, že teda vítězoslavně jsi jako dostal svoje GPU hodiny, o které jsi zažádal. Eh, tak vlastně potom ti napíšou z toho superpočítačového centra, řeknou ti: "OK, gratulujeme, že jsi dostal," jo, takže pograt-, gratulací tam člověk dostane spoustu, jo? To je, to je na tom super. Jako kdyby si chtěl člověk jako zpříjemnit den, tak doporučuju požádat o výpočetní zdroje na Euro HPC JU. Eh, takže, eh, takže gratulací tam dostane člověk spoustu. Eh, dostane gratulaci teda i od toho poskytovatele toho výpočetního času a od něho většinou dostane nějaký návod k tomu, eh, jak se k té alokaci dostat. Teďkon v rámci Evropy vzniká něco, něco sjedne-sjednoceného, nějaké EFP. Budu rád, pokud máte něco, kde si to můžete zapsat, kdybychom se k tomu vrátili, protože to je taky zajímavé, zajímavá část celého. Eh, ale v podstatě dostane od toho, od toho echo o tom, že je možné teda založit ten účet. Jaký je ten proces založení toho účtu. Ten uživatel si ty účty za-, ten účet založí a v podstatě v tu chvíli může začít počítat, jo? tady ten proces je taky relativně rychlý. Já jsem si to schválně jako procházel, eh, ne jedenkrát, protože jsem říkal jako nemůžu mluvit o ničem, co jsem nevyzkoušel, že jo. takže žádal jsem to, dostal jsem to a bylo to, byl to jako fakt fofr. Eh, že jako až mě to překvapilo. Čekal jsem, že to budou jako takové prázdné jako claimy, jako že do dvou dnů můžete jo a tady toto. Ale, ale byl to, byl to fofr. Eh, co se týká potom té samotné úlohy, jo, kdy vlastně jako se to dá spustit. my třeba na Karolině a teď uvažuju, jak to chci míchat a nechci míchat jo, ale nebudu, nebudu to míchat, protože vlastně když člověk dostane výpočetní zdroje přes Euro HPC JU, tak dostane přístup na cluster, který normálně funguje, eh, přes dávkovač úloh nějaký, jo. To znamená, že když se to pokusím zjednodu-zjednodušit, co to půjde, jo, že když vlastně já pošlu tu úlohu na ten superpočítač, tak na tom superpočítači je nějaký trychtýř, jo, do kterého ty úlohy jako padají a tady se jako tak na sebe skládají. A tady dole vlastně v tom trychtýři je nějaký jako dávkovač, který rozhoduje o tom, která ta úloha zrovna spadne na ten superpočítač k tomu výpočtu tak, aby to bylo co nejefektivnější jako vůči těm zdrojům, jo. To znamená, že když si tam člověk pošle fakt nějakou malou úlohu, tak čeká jako fakt chvilinku, protože se uvolní nějaká malá část toho, toho clusteru a v tu chvíli tam ta úloha může spadnout, protože ten dávkovač vyhodnotí, že jo ještě stihnu vypočítat tady tu malou úlohu, než mi přijde tady ta velká, tak tam ještě naházím něco před ní a tím pádem se ta jako velká úloha může posunout trošku. Ale, ale v podstatě je to celé o tom. Je to řízené nějakým -takovým jako dávkovačem, který rozhoduje o tom, jaká ta úloha zrovna na ten cluster spadne

Jindřich: Myslím si, že v každém případě ty lhůty jsou jako velmi krátký. Asi jsem tak nějak jako subjektivně, bejc vůbec netušil, tak bych jeď jako čekal další. Ale když trošku odbočím, tak jsou nebo existujou v Čechách ještě nějaký další superpočítače?

Matěj: Nevím o žádných. Tak, tak doufám, že ne. Doufám, že jsme jediní. Teďko, teďko bůhví, jestli jsem si nenaběhl, jo? Ať-- ale myslím si, myslím si, že ne

Jindřich: Jo, já nevím, ale očekal bych třeba, jestli někdo na Akademii věd, viď, nějaký nejsou nebo něco podobnýho

Matěj: ono jako vím o spoustě i jako tady na VŠB fakult, které si jako nějaký, nějaký počítač, počítač nebo respektive nějaký hardware pořizujou, ale vesměs to není jako ten superpočítač, jo? Teďko mohli bychom asi polemizovat nad tím, jako co to znamená superpočítač a co to znamená prostě jenom nějaký jako menší hardware. Kde je ta hranice? Přesně tak. pokud vím, tak asi jako nic, co by co do velikosti a co do počtu toho, toho, co tady máme my za infrastrukturu, tak, tak si myslím, že v Česku není

Filip: Ale padlo nám tady vlastně jako superpočítače a přijde mi, že vlastně jako v rámci toho programu si můžu žádat i mezi nima, jakože máme superpočítačové centrum, které je tady u nás, to je v Ostravě teda respektive u vás. A potom je ještě ten projekt Lumi AI Factories a to je vlastně zase nějaká jiná odnož taky jako vlastně superpočítačů, ale spadá to jako do jinýho projektu. Možná pomůžeš nám

Matěj: Mhm, mhm.

Filip: to jako

Matěj: Jo, jo, tam ta, jo, chápu, chápu. Ta mně je strašně zajímavá ta historie. Já jsem nad tím taky uvažoval vlastně, jak to všechno vznikalo a myslím si, že jsem jako asi k tomu nějak došel a doufám, že nebudu úplně lhát, jo. Ale ono vlastně napříč Evropou vznikaly tady ty superpočítačové infrastruktury, které už tu teda jako byly. A potom v tu chvíli, když začlo, když se začlo řešit AI a Evropa teda si řekla dobře, je čas začít investovat jako do AI. U čeho začnem, co je nejvíc potřeba? Takže jako došli přirozeně k té infrastruktuře a myslím si, že jako v tu chvíli obrátit se na ty superpočítačové centra dávalo největší smysl, protože už vlastně ten základ v tom hardwaru jako měli. Jo, v podstatě. nestavíš, nestavíš to prostě nad ničím, nezačínáš na zelené louce, ale už máš nějaký základ, na který jako navazuješ, jo. v tu chvíli si myslím, že dávají smysl ty AI factories, které vznikají, protože není jenom Lumi AI Factory, ale těch AI factories je po Evropě devatenáct. to v podstatě projekty, které se skládají, uvažuju, jak moc to chci komplikovat, dejme tomu ze dvou částí, jo, dvou částí. Jak říkáme s kolegou, tak vždycky říkáme lidi a železo. Jo? Ti lidi, to jsou nějaké poradenské služby, konzultační služby, jsou to nějaké training aktivity a jsou to lidi, kteří dělají ty tooly, jo, o kterých jsme se bavili. Ty nástroje k tomu, aby se dalo přistupovat snadněji k té infrastruktuře a tady tohle. Jo, takže to je ta, ta jedna miska, ty, ti lidi. A potom je to železo, což jsou ty superpočítače, které vlastně v rámci těch AI factories vznikají. To znamená, že ono je to složené z takových jakoby dvou, dvou částí. Už to není jenom čistě o té infrastruktuře. Ono vlastně nikdy to nebylo úplně o té infrastruktuře, jo, ale probíhal v podstatě tady už i na IT4Innovation nějaký jako výzkum. Snažilo se, snažilo se pomoct tomu průmyslu a tak. Takže jako v minulosti, v minulosti už to tady taky fungovalo, ale teď jako s těmito projekty se to rozjíždí ve větším. Takže abych to, abych to tak nějak jako shrnul jenom tady tu myšlenku, tak vlastně existovaly nějaké, nějaké superpočítačové centra. Na ty superpočítačové centra se Euro HPC JU podívalo a řeklo si ha, tady bysme mohli udělat jako takový ten základ pro, pro vlastní infrastrukturu pro AI. A vlastně na základě toho začaly vznikat ty, vznikat ty AI factories

Filip: Takže i vlastně jako počítač super nebo superpočítač v Ostravě tak vlastně jako spadá do AI Factories.

Matěj: To, to bude vlastně ta Carolina potom.

Filip: Carolina.

Matěj: Jo?

Filip: ok

Matěj: Mhm. Že vlastně ta Carolina, ta už tu je s náma nějakou dobu. Ten, eh, projekt, to Lumi AI Factory, o kterém se bavíme, tak jede tuším nebo je v provozu od dubna dvacet pět, něco takového. Eh, co se týká, Czech AI Factory, na základě kterého vlastně jako, eh, by měla být tady, uchovněná, eh, Carolina, tak ta vlastně, eh, ten je v provozu tuším od, od dubna dvacet šest. To možná budou jako někteří vědět dokonce líp než já. Já jsem tam tehdá v tom období vím, že jsme kolem toho strašně lítali, takže nevím, co byl, eh, za den ani měsíc pořádně. Ale, ale v tu chvíli si myslím, že to bylo, byl duben dvacet šest

Jindřich: Ty jsi tady prosím tě už několikrát zmínil výraz jakýsi Euro HPC a nevím úplně, jestli jsem pochopil, co to je. Můžeš nám to trošku přiblížit?

Matěj: určitě. Ono vlastně, Evropská unie, eh, když se snažila, eh, rozjet tady tu infrastrukturu evropskou, tak si řekla jako: "Je nesmysl to všechno jako řídit z jednoho místa. Uděláme si tady prostě takovou, jak to říct, no, firmu ve firmě, jo, v podstatě oddělení, které se bude zabývat jenom tím," tak jak my máme prostě tady oddělení kvantových výpočtů, jo, třeba, tak unie si udělala prostě tady prodlouženou ruku Euro HPC JU a v tom jsou a Euro HPC JU jsou sedí lidi, kteří se zabývají na full time tady tou HPC infrastrukturou a tou tématikou toho HPC, toho, eh, high perfo-high performance computing

Filip: No a ta nová Carolina, která se teďka vlastně staví, ta bude optimalizovaná už asi z toho názvu jako AI, že jo, Carolina, tak

Matěj: Mhm.

Filip: jakoby tam to bude asi postavený primárně z grafických karet a tím cílem je teda jako inference nebo trénování, nebo je to jedno?

Matěj: Tak, eh, tam je to jako v podstatě, řekl bych cílem je AI.

Filip: OK。

Matěj: Jo a vlastně cokoliv s tím spojeného. My teďkom vlastně nebo my, já do toho nezasahuju, minimálně ne, co se týká jako nějakého hands on, kluci tady vyvíjí právě tu, ten nástroj pro tu inferenci na těch superpočítačích, protože je to něco jako, co se tady úplně nedělo a minimálně ne tak, jak to známe asi, asi my jako uživatelé, že prostě mi někde jede nějaký model a já se ho jako aktivně doptávám, on mi aktivně odpovídá, protože vlastně do té doby, tak jak jsem říkal, ten princip byl takový, že ty úlohy padaly do toho dávkovače a, a vlastně v podstatě bylo možné jako napromptovat tu úlohu, zabalit k tomu ten model, poslat to na ten superpočítač a my to potom vrátilo nějaký výstup. Jo, to je taková ta klasická inference, co se dělala a byla vždycky tak nějak možná. Teďkon samozřejmě se začínáme pohouštit víc s tím, jak se rozvíjí i ty, i ty potřeby těch firem. Ale teďkom zase mi utekla někdy, jestli mi nahodíš otázku, bylo by to super.

Filip: Jo, eh, vlastně

Matěj: Ani jinak.

Filip: co je tím cílem tý Karolíny? Jestli jako

Matěj: Jo jo, jo, jo, jo,

Filip: inference

Matěj: jo.

Filip: Pochopil jsem obecně

Matěj: Jo, takže jsem ti úplně neutekl z té otázky. Já jsem myslel, že jsem ti utekl někde jinde, než než si než si mířil. Jo, takže ono to je v podstatě tak, jak je to i dneska. Jo, ty firmy za náma přijdou a oni mají, mají různé požadavky, chtějí fine tunovat model, trénovat model, chtějí prostě inferenci, jsou v podstatě ty tři nejčastější, nejčastější use cases obecné. Hodně ty firmy, přichází, tak chtějí benchmarkovat ty modely. Jo, chtějí zjistit, který ten model je vlastně pro ně nejlepší, který jako dává smysl použít na ten jejich use case. Takže jako to se, to se tady hodně děje, ale to souvisí s těmi, s těmi třemi modely v podstatě, které jsou takové jako základní a od toho se, od toho se dá potom odpíchnout dál do těch jednotlivých jako větví.

Jindřich: Jaký jsou náklady na takovej superpočítač?

Matěj: A na superpočítač, eh, jsou, jsou vysoké. Já si myslím, že číslo si myslím, že můžu, že můžu říct. Já si myslím, že to je jako obecně relativně známé. to, to schválně zkusím ťuknout, ťuknout do nějakého Perplexity nebo do něčeho a uvidíme, jestli mi vyhodí to číslo. Já se budu modlit, že jo. Ale třeba ten projekt LUMI AI Factory tak dohromady je vlastně za nějakých šest set padesát milionů euro, jo? většina z těch peněz jde právě na tu infrastrukturu. Potom část těch peněz jde potom na, na ty lidi, kteří, kteří pomáhají s tou AI. Ty, ty experty, které tady máme a kteří jsou schopni jako si s tou firmou sednout a říct: „Děláš to, děláš to jinak, než by se to mělo dělat. Tady když to uděláš, bude to efektivnější.“ Nebo něco takového

Jindřich: Já p-předpokládám, že, hm, samozřejmě tam budou jako obrovský ty, ty počítací náklady, ale pak že i na tu samotnou jako inferenci budou vznikat nějaký náklady. A dokážeš nám třeba jako odhadnout, jaký náklady jsou, já nevím, na, na elektřinu, pak jako na chlazení, že jo a tak podobně?

Matěj: Upřímně tady ty čísla nemám, ale určitě někdo od nás je mít bude. Tím možná trošku teasnu naši budoucí spolupráci. Třeba když se tady někdy zastavíte, tak, se můžete zeptat těch správných lidí.

Jindřich: Ok, ok, to jako to by mě zajímalo, protože já si to moc ani jako nedovedu představit.

Matěj: Uh-huh,

Jindřich: Ale už jenom když si vezmeme jakoby ty počty těch grafických karet, který jsi říkal, tak to bude mít jako obrovskej příkon, tak možná, jestli to nepude třeba do megawattů i víc, jako bych možná dokonce dokázal jako o-odhadnout

Matěj: Jako takhle, on hardware jako jede v podstatě furt, takže ta spotřeba tam bude jako asi velká, ale máme to štěstí, že ten hardware je fakt vytížený. To znamená, že má dělat to, co má dělat a v podstatě jako ty peníze se nepálí někde do vzduchu. Jo a ať už když ne těma firmama, tak, tak určitě těmi věci.

Filip: A teď vlastně jako když jsme u tý, toho odběru, tak byť my tu otázku máme na konci, ono se to tady nabízí. Eh, děláte s tím vším přebytečným teplem, který ty grafiky jako vyprodukují a tak? Protože jako kolem toho musí být jako obrovský systém, jak to jako celé uchladit.

Matěj: No jo, za to, za, superpočítače jsme nejvděčnější v zimě Teď se nám, teď se nám na budově stalo, že nám v těch největších horkách, co byly teďkon týden, dva zpátky to bylo, taky už ne-neví-nevím, nevím času, ale nám klimatizace a to bylo jako fakt šílené tady jako vydržet ještě. Já mám kancelář na vrchu, takže pod střechou. Takže to bylo jako, bylo to zajímavé. Každopádně jako v zimě s, máme aspoň jako částečnou zálohu a to je právě to teplo z těch jako superpočítačů, protože vlastně to teplo z těch superpočítačů je používané k vytápění budovy. Ono to nevytopí tu budovu úplně kompletně na nevím třicet stupňů nebo pětadvacet stupňů nebo kolik bychom tady chtěli mít, ale, ale minimálně jako to šetří ty náklady, jo. Ten vzduch jako jde nějakým způsobem předehřátý a potom nám tady tu budovu dohřívá. Ale co je zajímavé, když už jsme se bavili, když máme jako nakousnuté ty dvě linky toho superpočítače Lumi a tady našich superpočítačů na IT4I, tak třeba superpočítač Lumi tím, jak on je fakt velký, jo, říkám teďkon v tom, v tom Top pět set vyšel jedenáctý nejvýkonnější na světě.

Filip: jo?

Matěj: Ne ve Finsku. Tak, tak. Tak ten vyšel teďkon jedenáctý nejvýkonnější na světě a tam, tam je to, tam je to přebytečné teplo používané k vytápění jako toho, toho města, které tam je v podstatě v blízkosti, jo. O tom jsou takové jako pěkné články určitě dohledatelné. Takže, takže jako to přebytečné teplo, pracuje se s ním. Není to, že bychom ho zbůhdarma posílali do vzduchu a zavírali nad tím oči. Snažíme se ho využívat a snažíme se to využívat jako v podstatě napříč těmi superpočítačovými centry po Evropě.

Jindřich: Ty jsi říkal, že vy v zimě používáte to přebytečný teplo na vytápění tý budovy, teda částečně. Ale c-co v létě? Jak teda řešíte to, tu přebytečný teplo? Tam asi předpokládám musí bejt jako nějakej chladicí systém v tý budově u těchhle superpočítačů.

Matěj: je. Je tady chladící systém v té budově. S tím máme taky veselou příhodu aktuálně, protože obnovujeme chladící systém v budově jako superpočítačů termíny se nám protáhly víc, než by měly. Takže GPU část Karolíny nějakou dobu byla, mimo provoz, což bylo mimochodem jako strašně bolestivé ve chvíli, kdy my jsme jeli šňůru nějakých workshopů s právě s tím jedním nástrojem, který má usnadňovat přístup ke Karolíně. A ono kvůli tomu, že prostě tady na budově to chlazení nebylo a ten superpočítač byl jako přehřátý ještě jako prostě v těch teplech, tak nám to na těch workshopech padalo. Jo, což, což bylo, což bylo jako strašně smutné a říkal jsem jako no, nedá se, nedá se nic dělat, no. Ale takže, takže má to samozřejmě, má to samozřejmě tady jako chlazení na střeše. Je potřeba ty superpočítače dochlazovat, to odpadní teplo tam jako pořád odchází. Jak říkám, asi by bylo dobré se pobavit spíše s lidma, kteří tady mají na starosti infrastrukturu. Možná je to i téma pro mě. Zkusím se jich poptat, ale můj odhad je takový, že ono to nejde, nejde až tak ohřáté ten vzduch do těch, do těch rozvodů toho tepla. Takže si myslím, že, že by, že nám to nepřehřívá tu budovu v tom létě, jo, že spíš to je v té zimě, že jako přidáváme a jenom to tomu topení pomáhá. Ale to, to si myslím jako já. Je to můj laický odhad z toho, co jsem tak nějak jako posbíral za informace. A určitě si myslím, že by bylo fajn si o tom popovídat s někým, kdo, kdo to tady má na starost a ví o té infrastruktuře v podstatě první poslední.

Jindřich: A ještě jedna věc mě k tomu vlastně napadá, když, eh, tam je určitě nějaký aktivní chlazení, že jsou tam jako aktivní části, je tam jako velký teplo, tudíž je to opravdu jako velkej nápor na ten samotnej hardware. Tak jaká je životnost těch samotných superpočítačů nebo případně těch jednotlivých grafických karet, který tam máte? Předpokládám, že se asi po pár letech jako musej měnit, jednak asi kvůli životnosti a druhou taky kvůli jako dalšímu výkonu vzhledem k tomu, jak ta technologie roste.

Matěj: Jo. Jo, ono, ono paradoxně, eh, stejně ty grafické karty a obecně ten hardware se obnoví dřív kvůli zastaralosti toho hardwaru, než že by podlehl nějakým jako teplotním vlivům a nějakému opotřebení. takže, takže jako vesměs hardware kvůli tomu, že už je zastaralý, eh, zastaralý, co se týká, co se týká třeba výkonu. Jo, ale není to o tom, že by, že by nám tady, že bysme tady šli vždycky ke Karolíně a co dva dny vyměnili, vyměnili dvě GPUčka, protože se přehřály a, a odešly do věčných lovišť.

Jindřich: Kvůli tomu výkonu to se jak často třeba obměňuje?

Matěj: No jak říkám, teďkom vlastně Karolína by měla mít, tuším, že je to pět. Já jsem říkal tak čtyři, pět. Já si myslím, že to bude pět, takových pět let. A vlastně v tomto roce se chystá Karolína NG. Takže je to zhruba těch jako pět let, něco

Jindřich: Že pět let může bejt ta životnost třeba.

Matěj: Угу, угу,

Jindřich: Ok. A to se, to se obměňujou jenom některý z těch grafických karet nebo tam musej bejt jako všechny stejnýho typu?

Matěj: Eh, ono vlastně v podstatě ten superpočítač se staví v podstatě nový, jo? Že vlastně ten starý, eh, třeba teďkon jako krásný příklad tady máme ještě pořád Barboru, eh, a vlastně společně s ní i Karolínu. Barbora byla vlastně ještě před Karolínou a ta už vlastně taky pomalu dosluhuje s tím, že jako už není v podstatě jako používaná moc na nějaké jako takové níž vědecké, vědecké věci je to v pohodě. Když je třeba Karolína přeplněná, tak, tak se dá jít na tu Barboru, když, když je ten hardware dostačující. ale v podstatě ten jako hardware je schopný jet relativně ještě dlouho. ale jako z hlediska těch, výpočtů to, nároků těch výpočtů, tak je potřeba ten hardware obnovit dřív a většinou tady ty nám běží potom jako záložní. Ono tady v podstatě to začínalo na nějakých superpočítačích, které se jmenovaly Anselm a Salomon. Jeden z nich myslím skončil někde v nějaké firmě, že si ho od nás odkoupila kdysi a ten druhý nevím, jestli tam je doteď. Je pravda, že jsem si to nezjišťoval už dlouho, ale stoprocentně vím, že byl v dolní oblasti Vítkovic v technickém muzeu. Jo, takže, se snažíme, eh, se snažíme jako držet i ty starší superpočítače, ale když už prostě přijde jejich čas, tak je nutné, nutné je taky pustit.

Jindřich: Tady se možná trošku sluší odbočit a co mě hrozně zaujalo právě když jsem se připravoval jako na tenhleten díl podcastu, tak ty, ty jména, že jo, těch vašich superpočítačů, který tu už několikrát padly, ať už to byl ten Salmon, Karolína nebo Barbora, tak vlastně pocházej z havířský historie Ostravy. A vy jste tam měli, že jo, jako hornický štoly nebo doly, respektive se jmenovaly a po nich právě vybíráte ty jména a pojmenováváte ty superpočítače. To je vlastně skvělý, že jo, protože to pro vás nebo obecně pro tenhleten jako kraj tak má jako takovou symboliku přesně toho havířství.

Matěj: Mhm. Což mimochodem bylo něco, co jsme si vyměňovali v rámci naší možná budoucí chystané spolupráce. Tak myslím, že něco takového tam dokonce bylo zmíněno a dneska jsem to řešil vlastně jako jestli, jestli to do toho scénáře zahrnovat tady tohle nebo ne, protože jsme jako vlastně to je to nejhorší, jo, že člověk neví, jestli tu žije v té bublině a něco to znamená jako pro něho, anebo to něco znamená i pro ty lidi navenek, jo. Ale myslím si, že jako právě když se jako, když se to řekne a ti lidi jako vlastně zjistí, že, že tam je nějaká návaznost na tu minulost, tak je to strašně super, protože vlastně se z té uhelné minulosti hrabeme vstříc jako něčemu, něčemu, co je, co jde vstříc budoucnosti, jo. Což je, což je strašně super a přijde mi to jako fajn odkaz na tu, na tu minulost, no.

Filip: Když jsme u tý budoucnosti, tak ty jsi zmiňoval, že vy budete budovat nebo už se buduje vlastně ta Carolina. Já jsem zároveň zaregistroval, že se řeší projekt AI Gigafactory v Česku pod vlastně českýma radiokomunikacema. To je taky jako součástí jako AI factories, co se budou po Evropě? Nebo to je něco zase jako

Matěj: Hm, takhle. projekt, projekt taky vyhlašuje EuroHPC JU, což je vlastně ten, ten stejný, ta stejná entita, která, která provozuje nebo respektive poskytuje finance pro ty AI factories, o kterých jsme se bavili. Takže částečně to, to financuje právě EuroHPC JU. Co se týká-- teď jsem nevím, jestli jsem neuhodil do mikrofonu.

Jindřich: Oye

Matěj: Takže co se týká té AI Gigafactory, tak tam jsme v kontaktu s ČRAČkem, s kterým jsme mimochodem objížděli i ty workshopy, kde, kde vlastně nám tam kvůli chlazení ta Karolina vždycky při tom náporu trošku klekla. Což u superpočítače je jako úsměvné, ale i to se, i to se občas stává, život je nevyzpytatelný. a vlastně s ČRAČkem, s Českýma radio, s Českýma radiokomunikacema řešíme vlastně i ten projekt toho Gigafactory, který oni zaštiťují vlastně. Jsme s nima kvůli tomu v kontaktu a uvidíme, jak to vlastně celé dopadne. Takže ono částečně to financování a myslím si, že to je dohledatelné, že částečně to financování tam jde vlastně z EuroHPC JU, částečně jde od Českých radiokomunikací a potom ještě je tam nějaký státní finance a možná ještě nějaké další. Jo, tam úplně nejsem v detailu.

Jindřich: Máte, eh, u vás v Ostravě i, eh, kromě těch superpočítačů i kvantovej počítač. Mohl bys nám trošku přiblížit, jakej v tom je rozdíl a jak se vlastně tyhlety dva počítače lišej?

Matěj: Aha, určitě. Eh, a zabíhat úplně do technických detailů, protože je neznám, ale máme tady jako Zase takový tease malinký možná do budoucna. Máme tady oddělení a máme tady, eh, vlastně kolegu, který má na starost právě oddělení kvantových výpočtů a ten o tom může vyprávět jako fakt krásně, jo, že to dokáže přiblížit, protože tomu rozumí, takže to umí vysvětlit. Eh, každopádně jako ten zásadní rozdíl, který tam je, takže vlastně, eh, u toho klasického superpočítače, když jsme se bavili o té GPU části, tak tam jsou ty GPU čipy. tady vlastně kde u toho kvantového počítače, který můžete vidět mimo jiné mnou, eh, tak je, tak je vlastně, nejsou GPU čipy nebo CPU čipy, ale jsou tam takzvané QPU, QPU čipy. takže což jsou, které jsou založené vlastně na, eh, kubitech, tam nejsou tak jako v klasickém, eh, v klasickém počítači. Nemluvíme o bitech, ale mluvíme o kubitech, jo. tak vlastně, eh, to je ten jako zásadní rozdíl vlastně jenom v tom, jak ten, jak ten supe-, jak ten kvantový počítač funguje. Ty kvantové počítače se teďkom staví jako po celé Evropě. Je to taková experimentální platforma, protože vlastně ten, u toho superpočítače se teďkom jako aktuálně se pořád neví, jaké, jaké je ustavení těch kubitů na tom čipu samotném, jaké je vlastně to správné a to nejefektivnější pro tu komunikaci těch kubitů mezi sebou. Jo, my tady tuším máme nějaký teďkom hvězdicový tvar, eh, hvězdicové uspořádání těch kubitů. To znamená, že vlastně máme jich dvacet čtyři. Dvacet čtyři. To znamená, že, eh, jsou do nějakého hvězdicového, hvězdicovitého tvaru a uprostřed, eh, je jeden a teďkom rezonátor tuším, prostě takový zprostředkovatel, abych to řekl lidsky, který jako, přes který prochází ta komunikace mezi těmi kubity. Jo a to je vlastně jako ten, ten rozdíl, že on ten kvantový počítač funguje jako v podstatě úplně jinak, jo. Tak jak ten klasický počítač funguje nula, jednička, tady, eh, u toho kvantového počítače jenom se stavem nula nebo jedna, ale pracuje se vlastně se stava, se stavy nula, jedna a všechno mezi tím. Jo? Eh, my máme na tričku takového jako, jako super slogan, jak bych řekl po ostravsky takový fajný slogan. kdy tady vlastně vzadu máme, vlk, jo, což je název našeho superpočítače a myslím, že tam je claim, eh, kde Schrödingerova kočka dostává technickou podporu nebo něco takového, jo. Eh, protože ono v podstatě je to jako taková, eh, taková Schrödingerova kočka, jo. Protože není to ani nula ani jednička. A vlastně až v tu chvíli, když jako se to dopočítá, tak je potom jako nějak jasné, jestli to je nula nebo jednička. Ale říkám to, cha, vám jako kolega vysvětlil mnohem líp, no. co se týká jako těch úloh, které se na tom počítají, tak jsou to hodně optimalizační úlohy. Není to teda pro všechny typy úloh, rozhodně. Jsou to prostě nějaké specializované úlohy. Máme si myslím, že i na webu k tomu nějaký dokonce atlas toho, jako co se třeba dělaly na výpočty na kvantu od IBM v minulosti a tady tohle, jo. Protože co se týká toho našeho superpo-- toho našeho kvantového počítače, on vlastně uživatelům byl zpřístupněný teprve, teďkom zase mi to lítá jako měsíc, buď červen nebo červenec dvacet dvacet šest. To znamená jako relativně nedávno.

Filip: A mě

Matěj: Takže ty první-- červenec, tak červenec. Super. Eh, takže aspoň jsem byl blízko.

Filip: Ja,

Matěj: Když nic, tak jsem tušil aspoň. To si ze mě vždycky kolega dělá srandu. Vždycky říká: "Jako ty se vždycky uvrtaš do něčeho takového, kde musíš říct nějaké datum a ty si ho nepamatuješ." Já říkám: "Ale to jsem já." Eh, takže, eh, takže byl zpřístupněný relativně nedávno. Takže ty výsledky vlastně těch, eh, těch projektů, které na tom, které na tom ti uživatelé dělali, tak mi ještě nejsou známé. Je možné, že už jako v laboratoři třeba nějaké, nějaké výsledky mají, ale ještě, ještě nevím žádné jako praktické, praktické výsledky, které by vznikly jako přímo tady u nás. Jak říkám, je to experimentální platforma. Vím, že u nás jako kluci pracovali na tom, aby vlastně ten kvantový počítač byl propojený, s těmi jako klasickými superpočítači, protože právě třeba na tom klasickém superpočítači může proběhnout nějaké předzpracování té úlohy, nějaké prostě, specifická část úlohy, která je vhodná pro ten superpočítač a potom vlastně nějaká zase jako ještě specifičtější část toho, té celé úlohy se přesune na ten kvantový počítač, tam se spočítá a, a jede se dál, jo. Takže takové v podstatě jako bych řekl hybridní systém trošku.

Filip: Chopil

Jindřich: Tento kvantovej počítač, nebo promiň, promiň, že ti do toho skáču Filipe, ale ještě mě zajímá, ten kvantovej počítač, tak ten taky můžou normálně jako využívat ty startupy třeba nebo společnosti, který si u vás zaplatí ten výpočetní výkon?

Matěj: Jo, jo. My to nenabízíme ještě komerčně, tuším. Já si myslím, že režimu ještě Kvanťák neběží, určitě je možné, tak jak jsme se bavili přes to Euro HPC JU, kde byly ty těch pět tisíc GPU hodin, deset až padesát a padesát tisíc plus GPU hodin, tam je vlastně jsou tam i calli, které jsou specializované na právě Quantum, jo. Teďkom byl myslím cut-off date proběhl myslím prvního osmý teďkon prvního devátý je další ten cut-off date, takže tam je možné určitě zažádat. Už tady máme jednoho žadatele, s kterým jsme jako začali na AI Factory. Myslím ne jako tady, že máme jenom jednoho, ale s kterým jako jsem osobně jako v kontaktu, protože to Quantum ještě není jako úplně rozšířené. Takže jako ty startupy a ty firmy, s kterýma jsem ve styku, tak jako Quantum v podstatě tak jako líznou, ví, že jako něco takového existuje, ale jim to do firmy zatím ještě jako žádný, žádný, žádnou výhodu nebo žádný jako, žádnou výhodu nepřináší. Takže s něma, s nima se o tom jako moc, moc nebavíme, jako kdo o to zažádat. Ale máme teda, pardon, jednoho uživatele, se kterým já jsem ve styku, respektive s kolegou jsme s ním ve styku a ten vlastně žádal teďkom do toho prvního devátý, je ten cut-off date, tak žádal o zdroje tady u nás na, Vlkovi, na kvantovém počítači našem. Takže, takže tam potom jako z toho možná něco vznikne.

Filip: Předpokládám, že to jsou různý jako nějaký vědecký úlohy. Ty jsi zmiňoval různý jako optimalizační úlohy. ještě třeba nějaký jako další přirovnání nebo jako příklady, jaký typově ty úlohy by mohly bejt? Protože věřím, že jak jsi sám zmiňoval, že jo, ty firmy vlastně jako nevědí, čem by jim ten kvantovej počítač mohl vůbec jako pomoci. Tak jestli jako existuje nějaká jako rozhodovací rovnice, kdy si říct: „Hele, tady by to kvantum vlastně mohlo mít nějakej

Matěj: Jo. Jako za mě, a teďko mě možná jako zlynčuje někdo jako tady na budově, ale za mě jako bych šel, eh, první s, bych se první zeptal, jestli vlastně jako nestačí ten normální jako počítač, jo, superpočítač teďko. A v tu chvíli bych se jako úplně nepouštěl možná na ten kvanťák ve chvíli, kdy nechci dělat jako nějaké experimenty nebo nějaký výzkum sám pro sebe. Třeba ten člověk, jako s kterým, já si myslím, že ho můžu zmínit, jo. Je to Jan Tyl, eh, který, eh, vlastně dělal na Lumi, dělal benchmarking modelů a potom se právě sešel s Markem Lampartem tady od nás, kterého jsem zmiňoval. To je vlastně ten, ten vedoucí toho našeho kvantového labu. Takže se spolu sešli, zjistili co a jak, v čem by mu to mohlo pomoct a zažádal si teda teďkon toho 1. 9. Bude, si bude hrát s jako s naším kvantovým tady počítačem. Ale důležité je tam vypíchnout to hrát si, protože je to fakt si myslím jako pořád dost experimentální platforma, jo. Že to není, eh, že bych to zaváděl, že bych teďkon, kdyby za mnou přišla firma, tak bych jí řekl: „Jo, pojďte to zkusit na tom kvanťáku, tam to, tam vám to jako poběží jako super.“ Ale, ale je to spíš takové pro nadšence, kteří chtějí objevovat, co se v tom oboru děje, co je nového, jak si s tím jako poradit. Chcou jako do budoucna vědět, s čím možná budou pracovat a tak.

Jindřich: Jaký jsou náklady tady na ten výpočetní výkon toho kvantovýho počítače v porovnání s tím superpočítačem?

Matěj: Výrazně nižší, výrazně nižší a jakože fakt výrazně, jo. V tom jako spo-- doufám, že nekecám, ale já si myslím, že jo, že to tak je, pokud si správně pamatuju. Protože vlastně ten provoz těch GPU karet je jako drahý. Jak jsme se bavili, můžeme zkusit jako potom vytáhnout nějaké přesné číslo, ten provoz toho kvanťáku je jako zásadně, zásadně levnější než, než to celé. Jako samozřejmě, když se člověk podívá jako na to, co, co tady je za mnou, tak je to relativně, je to relativně velké. Mně to připomíná přesně jako jak začínali, začínali počítače kdysi, jo, takové prostě jako obrovské bedny. Takže si myslím, jako že jsme v začátku a tady to, tady to se ještě zmenší. ale je tam spousta infrastruktury kolem potřeba, že v podstatě teďkon nemám jak ukázat, ale teoreticky jako to, co dělá ty výpočty, to, co je na tomto Quantum, tak je takový jako fakt malý čip někde zespodu toho lustru, který, který tady někde, který bych vám tady mohl ukázat, ale zase bych rozhodil celý setup, takže, takže můžeme kdyžtak nakonec, ale v podstatě je to jenom ten malý čip a on, něho je potřeba vlastně všechny ty, všechny ty jednotky další, jo, které jsou tady kolem něho všude, které ho chladí a dělají různé jako ty věci kolem něho. mimochodem je zajímavé i tady na sále i tady, i tady u toho kvanťáku. Jsou to teda jako dvě rozdílné věci, není to jedna, ale na sále třeba máme podíl kyslíku takový, aby se tam nemohlo nic vznítit, jo, což mě jako strašně, jako, ale vlastně dává to smysl, ale jako než jsem se to dozvěděl, tak jsem jako bych si řekl jako asi, asi nic zajímavého

Jindřich: Kozuello.

Matěj: no. A je, no. Takže to. A co je zase zajímavost jako u kvanťáku, tak vlastně u toho čipu musí být v podstatě absolutní, absolutní nula, jo.

Filip: Mhm.

Matěj: To znamená, aby se tam odstínilo nějaké, rušení a nějaké takové věci. Říkám, o tom by jako asi lépe popovypravěl Marek Lampart od nás. Ale, ale to je taky zajímavé, že u toho čipu je fakt absolutní nula

Jindřich: Ty jsi ještě, eh, říkal, že ty náklady teda na ten výpočet jsou jako významně nižší. Tak jak se liší ten jako čas samotnej, eh, v porovnání s tím superpočítačem? Ty jsi třeba říkal, že jo, abych to upřesnil trochu, tak ty jsi, eh, předtím říkal, že ten první balíček je nějakejch pět tisíc jako těch výpočetních hodin a vyšší s-- nebo stovky hodin, tak je nějaká menší úloha. Tak jak je to třeba v porovnání s tím jako výpočetním časem toho kvantového počítače?

Matěj: Na kvantovém počítači je to v sekundách.

Filip: OK

Matěj: Tam se ten, tam se ten výpočetní čas jako nabízí v sekundách, takže jako ten, ten rozdíl je jako zásadní. Ale zase říkám, ten princip toho výpočtu je úplně jiný. A samozřejmě úplně neznám, takže, takže tam bych úplně jako zabíhat nechtěl, ať se tady neježí kolegům vlasy potom. Ale, je tam ten princip jako jiný, no. Takže jako tam se to počítá v sekundách. Na těch GPU je to v hodinách

Filip: Ale když se posuneme od toho kvantovýho počítače k nějakejm jako takovým vlastně jako, řeknu, zajímavým otázkám. Mě třeba u tý Karolíny, která se teďka vlastně staví, tak jako jedna věc. My vlastně všude čteme, eh, říká se tomu, to je jak to bylo? Myslím, že GPU Armageddon nebo něco takovýho. Prostě zkrátka jako asi tušíš, jo, jo, že prostě grafický karty jsou nedostatkový zboží. Trvá, než si je člověk objedná, než mu jako dorazí a tím pádem vlastně jako poměrně rychle zastarávají. Tak jako jak vy plánujete nákup tady těch jako karet, čipů? Jako daří se vám to, nebo to musíte kupovat se zpožděním?

Matěj: No je to sranda, jo, protože ještě tím jako jak vlastně jsou ty superpočítače financované, my musíme udělat jako nějaké v uvozovkách pro zjednodušení výběrko. V podstatě jo, musí se vypsat něco, nějaká specifikace, pak se dělá nějaké jako výběrko na toho dodavatele, respektive na ty čipy a to trvá nějakou dobu, že jo samozřejmě. A vlastně až potom po nějakých těch všech peripetiích ty čipy dostaneme. Jo, to znamená, že vlastně už jenom od té doby, kdy se jako ty čipy vyberou, tak může uběhnout třeba rok v podstatě my tady už dostaneme třeba jako rok, rok starý hardware, jo. Což sami víte, že v dnešním světě jako rok je, je hodně. Jo, jako co se týká hardwaru. Takže to je, to je jako nevýhoda toho určitě. Ale myslím si, že jsme pořád jako schopni pomocí těch různých technologií, jako jak je to propojené všechno těma službama, které kolem toho nabízíme, tak jsme schopni jako pořád si myslím relativně vyvážit tu, tu zastaralost toho hardwaru, jo.

Filip: Mhm.

Jindřich: Mhm. Hele, tohle to budou jako trošku hluboký vody, ale zajímá mě jakoby tu nějakej jako, eh, subjektivní pohled. Hm, jak myslíš, že si vedeme třeba my jako Česká republika v tom jako hypercomputingu vůči jako zahraničí, vůči ostatním státům? A pak samozřejmě se nabízí ještě jako další stupeň. Eh, jak si třeba myslíš, že si vede Evropa oproti Americe v tomhle segmentu?

Filip: Чене.

Matěj: Mhm, mhm, Nebo Čína. Jo, jo. Eh, si, že jako republika, ale takhle, jo? Zase jako je potřeba říct, my jsme na to jako nedávno s kolegou jsme nad tím uvažovali, že jestli nejsme náhodou jako moc v bublině už, jo? Protože jak člověk jako v tom žije, tak jako si myslí, že je vlastně všechno super a pak vyleze z bubliny a zjistí, že vlastně nikdo ani neví, jako že nějaké Národní superpočítačové centrum je, jo. Takže, to je ta, to je ta věc. Ale myslím si, že jako v rámci Evropy jsme na tom dobře. Myslím si, že jako i v rámci těch evropských projektů, které vznikají, což je mimo jiné třeba to EFP, o kterém jsem ještě potom jako chtěl říct pár slov, jenom ať, ať lidi mají jako celkově i vy vlastně ať máte jako celkový obraz toho, co se jako teďko děje v Evropě s těma výpočetníma kapacitama. Eh, tak Máme, máme slovo, jo? Není to, že bysme jako byli někde v upozadění a st-seděli v rožku a nikdo se s náma nebavil a vždycky jsme jako posbírali ty drobky, co někde zůstanou. Ale v rámci, v rámci té, toho HPC máme jako v Evropě slovo a jsme slyšet, což je strašně dobře. A co se týká Evropy jako takové, tak jako nebudeme si lhát do kapsy, že jo, jako nejsme úplně, nejsme napřed, ani vyrovnaní, jsme myslím si pozadu, já doufám, že to budeme schopni jako dohnat, dohnat na lidech, no. To je jako, my děláme, co můžem, abysme jako poskytli infrastrukturu. Snažíme se pomoct firmám, aby, aby byly schopni se na AI adaptovat nějakým způsobem, aby byly schopné ho, schopné ho začlenit a to i těm, které jako jejich core business není to AI, ale jsou to třeba jako projektantské firmy nebo průmyslové firmy nějaké, jo prostě, že není to jejich core business to AI, tak tam doufám, že jako budeme schopni pomoct a taky jako trošku, trošku akcelerovat tu Evropu. A, a myslím si, že potom jako tady máme spoustu super firem, s kterýma jsme i v kontaktu, jako je třeba Bottle Cap AI, jo, nebo nějaké takové firmy, které se fakt snaží, snaží ten, ten náš tady evropský piece, AI pieceček jako posunout směrem dál. A myslím si, že jako se jim to, se jim to daří. A jak vidím ty lidi tady, tak já si myslím, že nakonec, nakonec by to mohlo dopadnout nějak dobře. Naopak jako, hm, a to je jako čistě můj osobní názor, ale myslím si, že jako to vidíme tak nějak jako všichni, uvidíme jako, jak dlouho to ta Amerika vydrží, že jo, v té AI bublině.

Filip: Mhm.

Matěj: Kdy, kdy jim to, kdy jim to praskne, nepraskne. Teď je otázka taky jako geopolitická situace, jak s tím zamává. Je to takový, je to takový nestabilní svět teďkon. Těžko říct, těžko říct, jak se to vyvine, kde se to vyvine, kdo to nakonec vyhraje, kdo to nevyhraje. Ale, je strašně zajímavé třeba sledovat i v rámci těch projektů, jo teďkon, co řešíme, protože často slyším, jako že Evropa je přebira-byrokratizovaná, jo a že teďkon tady my řešíme AI Act, zatímco Čína prostě jako tady používá všechny možné informace, jako aby to AI jako postavila. Ale Ale je to fakt zajímavé, jako jak s ně-s nějakýma těma firmama jsme v kontaktu, tak vchází do toho ty etické otázky, jo. A teď to nejsou jako etické otázky jenom mně, že bych jako se rozhodl, že jako dobře, tak tady ta firma, eh, ne. Ale jako i těm lidem, kteří jako třeba mají potom s tou firmou spolupracovat a ví, co ta firma dělá, tak třeba ten morál jako tam pro ně může být takový jako narušený, jo, v tu chvíli. A přece jenom jako když s tou firmou spolupracuje někdo, eh, kdo není úplně přesvědčený o tom, jako že s ní chce spolupracovat v rámci toho projektu, tak už to potom ta práce neodsype tak, jak by mohla nebo měla, no. Takže, takže je to takové jako dvojsečné, no. Zase na jednu stranu, eh, mi líbí, že, že se snažíme jako to zjednodušovat, ale nenecháváme to úplně jako volně totálně. Eh, takže, takže jako uvidíme, uvidíme, kam to dojde, no.

Filip: A jak třeba vnímáš, eh, takovej ten tlak těch firem, který vlastně jako, protože vy jste akadem-- nebo vy jste vlastně jako firma, ale jste pod akademickou sférou, že jo. Nebo

Matěj: Jo, my jsme výzkum-výzkumná organizace. jo,

Filip: Jasně.

Matěj: jo, výzkumný ústav

Filip: ty komerční subjekty, a teď nemyslím nutně třeba jenom OpenAI, Anthropica podobný, ale i třeba ty menší, tak jakoby to financování jako budou mít asi větší a i vlastně ty mzdy těch lidí tam dokážou jako vystřelit do neuvěřitelnejch výšin. Tak jako jak todleto vnímáte? Jako děje se to i u nás, že ty jako největší mozky odcházej do zahraničí, do těchhletěch komerčních subjektů nebo jenom čistě vlastně z nějaký lásky k tomu výzkumu a že to chtěj posouvat tady, tak zůstávají?

Matěj: Jo. Možná jako zásadní jenom informace k tomu, co jsi říkal. Jako my nejsme OpenAI, se nesnažíme být OpenAI. My jako nevyvíjíme nějaký jako svůj model, ale naopak se snažíme ty firmy podporovat v tom, ať jako ten, ten model, jako ať na něm pracujou oni. Takže my jsme spíš takový, tuším Oracle, ne? Poskytovatel, jakože přes něho to tam nějak jde v Americe. Takže, spíš něco takového. Ale tím se nechci rozhodně srovnávat. Ať, ať se nedostaneme někam, kam nechcem. spíš jako pro představu. Takže jo. Mzdy. Jo, jo, mzdy, respektive platy u nás. Těžko říct, těžko říct. Nemám, nemám ten pocit z toho, že by, že by ty velké mozky jako odcházely někam do zahraničí. A myslím si, že právě jako projekty typu AI Factories nebo AI Gigafactory by mohly být tím argumentem, proč tady ty jako mozky zůstanou a vlastně nepůjdou, nepůjdou nikam pryč, jo. Protože my jsme schopni jako v podstatě už dneska nabídnout tu infrastrukturu k tomu, aby jako mohly ty firmy trénovat v podstatě jako, když to řeknu blbě, tak neomezeně, jo. A myslím si, že to je jako hodně velká pomoc. A tak jako co sleduju těch startupů, s kterýma, s kterýma mluvíme, tak ty startupy často dostávají, dostávají nějaké, nějaké finance z nějakých různých fondů a z takových věcí. Takže, takže tam si myslím, že jsou schopni potom ty lidi i zaplatit. Takže tak nějak jako vnímám to společné úsilí k tomu, aby jako tady vyrostly, vyrostly nějaké firmy, jako na které budeme moct ukazovat a říkat: „To jsou oni, to jsou ti průkopníci AI.“ A doufám, jako že budeme součástí toho jako jim pomoct vzrůst, no.

Jindřich: Chci tě, nebo když jsme se tě ptali na to, eh, jak jsme, eh, vepředu nebo ne, tak, em, mně se líbilo, jak jsi říkal, eh, nejsme napřed. To je tak jako krásně řečeno. Líbí se mi tvoje pozitivita. Hele, ale my už se teď pomalu, eh, blížíme do jako závěru toho našeho podcastu. Ale možná jestli bych tě ještě mohl poprosit, hm, kdybys měl teď jako zacílit na jako lidi třeba, který nás poslouchaj a který v hlavě maj, že by u vás jako chtěli využít ten Compute Time, tak vlastně co maj udělat? Maj se ti asi ozvat a možná já vím, že Piťu už jsi jako o tom mluvil, tak jestlis bys mohl jenom ještě v rychlosti teda zmínit celej jakoby ten proces, jak to teda u vás funguje, až, hm, než se dostanou k tomu samotnýmu jako, eh, výpočetnímu výkonu?

Matěj: Hm, bych asi zůstal u toho, co jako řešíme s firmama nejčastěji, což je ten bezplatný výpočetní čas pro ty, pro ty startupy a pro ty esemíčka. Tam jako nejlepší je se ozvat přímo mně, popřípadě některému z mých kolegů, ale přímo mně chybu neudělají. Takže ozvat se, ozvat se přímo mně. Já je navedu tam, kam je potřeba. Pomůžeme jim s žádostí, pomůžeme jim vypsat tu žádost. Nejtěžší je vždycky poprvé. pak už to, pak už to jde relativně, relativně jednoduše. Takže, to jsme jim schopni určitě pomoct. Co firmám často pomáháme, tak je i ten onboarding na to HPC. Jo, je to služba, kterou jim nabízíme. Nabízíme ji taky bezplatně, takže, nemusí mít ani strach z toho, že si zažádají o ty výpočetní zdroje a nebudou vědět, co s nima. Poskytujeme jim jako tu pomocnou ruku i v tady tomhle. Takže to je ten většinou další krok po té žádosti, kterou jsme teda tady jako tak nějak shrnuli, takže ji nechci opakovat úplně znova, ale v podstatě se snažíme na to navázat i ten přístup potom jako k tomu samotnému superpočítači. Ať, ať je co nejhladší vlastně. po dokončení nebo po ukončení té alokace, po vyčerpání nebo uběhnutí toho času, což jsem možná neřekl, že ty alokace jsou vlastně na tři měsíce, tři měsíce a potom rok s možností prodloužení. Když vezmu ty tři, ty tři cally, po dokončení tady té alokace je možný zažádat znova. Jo, že není to jednorázová věc, kdy jako by firma vypotřebovala tady pět tisíc GPU hodin a tím to pro ni haslo a odteď jsi jako v tom sama. Díky, že ses stavila a čau. Ale snažíme se nebo respektive i nad tím uvažovali v Euro HPC JU a o ty cally je možné žádat znova. Jo, to znamená, že znova prodat, podat další projekt a tady tohle. Ale s tím jako fakt těm firmám pomáháme a vesměs ty firmy, které jednou zažádají, tak už potom s náma zůstávají v kontaktu, protože mají nějaké dotazy. Třeba potom, když podávají znova ten projekt, tak nám třeba píšou o radu, jestli takhle je to v pohodě, jestli něco změnit, nezměnit. Takže, takže tak to většinou jako probíhá tak nějak jako od začátku dokonce velice zevrubně.

Filip: Když ty firmy žádaj, tak dokázal bys i říct nějaký jako běžný třeba chyby nebo věci, který jako s-s čím přijdou a zaskočí je to? Mě napadá třeba jako že nemají data nebo že mají třeba jiný očekávání, který my, my jsme se teda v tomhle díle snažili nějak jako napravit nebo nějak jako vysvětlit, o čem to je. Ale jako

Matěj: Mhm.

Filip: c-když to vezmu z toho druhýho pohledu, co, co ty firmy jako třeba překvapí nebo co podcení?

Matěj: Jo. Eh, tam je důležité asi jako pochopit dvě roviny, eh, firem, se kterýma se bavíme. Když to vezmu jako fakt v obecnosti a nebudu zabíhat, tak jsou to jako firmy, které už jsem nakousl. Jsou to ty, které, jako core business není to AI. Nedělají žádný AI produkt, který chtějí nabídnout ven na trh, ale dělají to, to AI dělat kvůli zefektivnění vlastních procesů. Eh, a ten core business jejich leží někde jinde. máme ty firmy, které jako jsou AI core a ty jako dělají, viz třeba právě Jirka Štěpánek, jo. To, to je prostě jako core AI firma nebo respektive, eh, s, eh, tím jeho Lassem a ještě, ještě něco tam má, že? A teď si nevzpomenu. Promiň, Jirko.

Filip: že jo,

Jindřich: Бландец, но

Matěj: jo, jo,

Filip: nástrojů

Matěj: jo,

Filip: laso je

Matěj: jo, to

Filip: nich, no

Matěj: Las to, no. takže, eh, to jsou potom jako ta, ta druhá skupina těch firem. Eh, u tady těch firem, jako které, které jsou AI core business, tak u těch jako je nejčastěji přek-překvapí jako ten přístup k té infrastruktuře. To, že musí vypsat nějakou žádost nebo něco takového. Takže tam jako jsou ty, eh, ty překážky, které se snažíme bourat. U těch firem, které mají core business někde jinde a chtějí s AI nějak začít, tak jako budu se opakovat, ale tam jsou to, eh, tak jako slýcháváme to všude, ale jsou to data, procesy a lidi, jo? u těch dat prostě ti, ty firmy často neví ani, kde jim ty data leží. Nemají je prostě nějak uzpůsobené jako tomu, že by s nima měly v digitálu nějak dál pracovat nebo cokoliv takového, jo. Tam, tam jako ta, to spektrum těch chyb je velice široké. Takže, takže data, procesy, to je jako problém v podstatě každé firmy. Já si myslím, že i ty firm-firmy, ve kterých jsem jako v minulosti pracoval, tak jako hodně, hodně tekly na tom, že tam nebyly ty procesy jako správně nastavené a v podstatě nikdo neměl úplně moc času na to ty procesy nastavit. potom jako když, eh, když se snaží uvažovat nad tím, jako jak by to mohla dělat AI, tak jim říkáme jako: "Vy první musíte vědět, jak byste to udělali bez té AI, jo. V tu chvíli jako teprve pak můžete začít uvažovat, jako co dál, no." jsou ti lidi. tam je to o tom, že buď se ti lidi jako staví na zadní a bojí se, že jako přijdou o práci nebo něco takového, což není moje zkušenost zatím teda musím říct. Eh, a myslím jako v rámci firem. A nebo, eh, anebo, a teďkom jsem normálně zapomněl to druhé. Ale bylo to určitě taky zajímavé. Já si vzpomenu. Zk-zkuste něco, zkuste nahodit něco dál a uvidíme. to, jenom bych chtěl jako avizovat, že točíme večer, takže jako už, už ten mozek nepracuje tak jako odpoledne.

Jindřich: to úplně v pohodě. Já si myslím, že spoustu zajímavejch inspirací jsi nám, eh, předal. Nicméně já mám za sebe:

Matěj: jestli, jestli tě můžu přerušit?

Jindřich: pujdejt.

Matěj: že to jsme totiž řešili taky v té firmě jedné a tam jako to bylo strašně těžké, protože vlastně tam my jsme dostali jednoho, dva ajťáky, kteří jako dělali prostě takové to klasické jako Microsofty, tady jsme nastavovali nějaký server a potom tam byla, eh, banda těch lidí, kteří dělali ten jejich core business a bylo strašně těžké jim vysvětlit, jak vlastně ty data strukturovat a jak je připravit, jo. A já jsem použil, teď jsem to dokonce někde slyšel. Jsem si říkal, jako ten člověk, jak tím uvažuje dobře, jde vidět, jako že se pohybuje jako v tom trošku, já jsem jim říkal jako uvažujte nad tím tak, jako kdybyste si prostě tady dotáhli brigádníka, jo? Dotáhli jste si brigádníka, po kterém chcete, ať on dělá nějakou práci, kterou vy nechcete. ho nemůžete jenom posadit k tomu počítači a řeknout: „Udělej tady kapitolu čtyři," jo? z čeho mi má udělat, jaké jsou ty vstupní data, co, co s tím jako má dělat, jo? Takže říkám, vy na začátku si musíte říct jako dobře, tak tady máme brigádníka a ten brigádník jako z čeho to má poskládat vlastně, jo? A to už je jenom takový základní matrix toho nebo základní matice toho, jak se dostat k tomu, aby ty data jako tam začaly dávat smysl a jak to navazuje na ty lidi. Protože v tu chvíli, kdy ten, kdy ten člověk vlastně začne s tou AI dělat, a to nemusí jako mít jako řešení na míru ta firma, jo, to stačí v podstatě jenom, ať používá běžně ChatGPT nebo nějakého Clauda nebo něco, tak v tu chvíli se stává podle mě jako částečně manažerem, jo, že prostě zadává ty úlohy. A zadávat ty úlohy tak, aby bylo je tou druhou stranou zpracovat tak, aby ten výstup vypadal tak, jak já chci, je strašně těžké. Jo, je to, je to fakt složité. Ať už jako co se týká lidí, tak ať co se týká jako toho AI samotného. Protože teďkom kolega si hraje, hraje s tím, že by jako tady nám udělal nějaký jeden systém, který se nám, který se nám teďkom hodí a nevyhovuje nám žádné komerční řešení z podstaty toho, jak tady fungujeme projektově. Takže on strávil jako fakt den, si myslím celý den čistého času, ne jako kontinuálně, ale čistého času jenom tím, že specifikoval ten proces jako toho, co chce vlastně jako dosáhnout, jo. To, jak to má probíhat, co by to mělo mít, nemělo mít. A to je jako to důležité na tom strašně, jo, že i když jako do těch firem to AI jako vleze, tak ti lidi to nejsou vždycky úplně ready, no. Jakože to, to tam vidím jako ten problém u těch lidí, jako který tam může nastat. To bylo to, co jsem zapomněl, co jsem chtěl ještě říct teda.

Jindřich: Já mám možná poslední otázku, hmm, tak napadá. Máte nějaký jako sociální sítě nebo nějakej blog nebo něco, kde si třeba můžem dohledat bližší informace a zároveň třeba přečíst nějaký jako case study těchhle těch projektů?

Matěj: Určitě, určitě. Máme jako klasicky máme web it4i tečka cz. Je možné nás dohledat na LinkedInu. Myslím si, že máme i Facebook, ale LinkedIn asi si myslím, že je jako takový obligátní, že tam jako si myslím, že nás najdete určitě. Myslím si, že na YouTube taky občas nějaký short přistane nebo něco takového. Máme tam i nějaké jako videa, kde jsou dokonce myslím i, dokonce i přednáška o Quantu, takže jako doporučuju možná i tam jako se kouknout na náš YouTube, kde jsou možná jako detaily, o kterých jsem tady dneska nemluvil jsou víc do detailu, protože jsou, jsou víc jako fokusované na to téma jedno. doporučuju určitě i ten YouTube kanál. A, a já nevím, jestli budete potom někde dávat pod video kontakt na mě, kdyby měl někdo zájem jako

Jindřich: Díky

Matěj: pobavit o AI Factories, popřípadě o přístupu k infrastruktuře, o přístupu k těm lidem. Potřebuje pomoct s AI nějakým způsobem, tak klidně ať se ozve.

Jindřich: Skvěle. Jo, to, eh, určitě pod video dáme. Eh, jsme na samém konci. Díky moc Matěji, že sis našel čas, byť jak jsi zmiňoval, je pondělí večer. My si toho samozřejmě ceníme a myslím si, že jsme se dozvěděli zase spoustu zajímavých informací. To téma bylo takový dost nevšední, si myslím. Ne každý jako, jak už jsi zmiňoval ty, o tom ví a ne každý tomu rozumí samozřejmě.

Matěj: Jo jo a to jsem i já, jo, v podstatě. Já si myslím, že tomu nerozumím jako ani, ani jako zčásti nějaké pořádné, jo. Ale to je, to je o tom, že čím víc jako se do toho člověk ponořuje do toho tématu, tak zjišťuje, že tam je spoustu odboček, no. Takže tak. Ale děkuju za pozvání a rád jsem jako se vynasnažil to lidem trošku víc přiblížit a budu rád, jako když uvidíme a uslyšíme.

Filip: Taky za mě díky moc, bylo to super zajímavý. Já doufám, že to někoho třeba motivuje, že vás osloví a že třeba tam právě najde ten výpočetní čas na to, co mu vlastně jako v tý firmě pomůže. A taky děkuju našim divákům, že jste nás poslouchali nebo že jste se dívali. A pokud nechcete, aby vám takovýdle zajímavý rozhovory utekly, tak určitě nás nezapomeňte sledovat, ať už pomocí odběru na YouTube, Spotify nebo vlastně kdekoliv, kde nás posloucháte. A nebo taky na Instagramu, kde sem tam přidáme i nějaký další zákulisní informace

Jindřich: Je moc pěkný večer. Mějte se. Čau, čau

Filip: Ahoj