Přeskočit na obsah
O podcastuSessionsEpizodyHostsOdebírat
Session

Stanislav Zavadil

1h 30min

Souhrn

Data, která pošlete do AI chatu, projdou load balancerem, subprocesory a několika státními hranicemi, a ve chvíli, kdy procházejí modelem, nejsou nikdy šifrovaná. Právník a spoluzakladatel Cosmic Compute Stanislav Zavadil vysvětluje, proč vypnuté trénování ani placený tarif nejsou garancí bezpečí, co reálně slibuje DPA a zero data retention a kdy dává smysl pronajmout si dedikovanou grafickou kartu v pražském datacentru místo veřejného API. Druhá půlka patří AI Actu: zakázané praktiky z článku 5, povinné označování výstupů, rozdíl mezi providerem a deployerem a proč je vymahatelnost v Česku zatím téměř nulová. Dojde i na čínské open-weight modely a sleeper agents, cenu inference řádově nižší než u frontier hráčů a na to, proč evropská AI suverenita zatím neexistuje.

Transcript

Stanislav: vaše data může podle, podle podmínek normálně nějaký člověk prostě prohlídnout, pročíst si,

Filip: Ale když si třeba zaplatím a vypnu si trénování, je tam pořád tady ten problém?

Stanislav: Řekl bych, že to, že je služba placená, není dostatečnou garancí, že by byla bezpečná.

Jindřich: Jaká si myslíte, že tam je jako reálná vymahatelnost v případě, že tenhle ten AI Act někdo poruší?

Stanislav: jsme přesně v té situaci, je ta vymahatelnost velmi špatná.

Jindřich: Dnešním hostem je Stanislav Zavadil, právník, který staví technologické firmy. Pracoval jako poradce místopředsedy Sněmovny, založil whistleblowingovou platformu a letos spoluzaložil Cosmic Compute, českou službu, která poskytuje mimo jiné i inferenci AI modelů. Budeme řešit soukromí, bezpečnost dat a AI Act. Stando, díky moc, že jste si zase našel čas a vítejte v Deep Link Show.

Stanislav: Díky za pozvání

Filip: Dobrý den, taky zdravím a zdravím i naše diváky. Stando, vy jste začínal jako poradce místopředsedy sněmovny přes volební systémy. jste se od tohohle dostal teďka ke Cosmic Compute?

Stanislav: Nemůžu říct, že ta pozice poradce místopředsedy by byla úplně mým začátkem. Já jsem už od útlého dětství miloval IT, a když jsem měl tu příležitost dostal jsem se k nějakému počítači nebo, eh, čemukoliv podobnému, později třeba PDAčkům, chytrým telefonům, tak jsem, eh, byl nadšen a vždycky jsem si s tím rád hrál. Snažil jsem se to zařízení jak po softwarové, tak hardwarové stránce co nejvíce pochopit. Bavilo mě z něho ždímat maximum výkonu a optimalizovat si ho ke svým účelům. A díky tomu jsem taky, eh, členů rodiny a přátel něco rozvrtal, přenastavil, rozmontoval nebo zničil. Tak se ještě zpětně omlouvám. A to mě provázelo po celou dobu a vlastně v průběhu gymnázia jsem se živil primárně přípravou webových stránek a tvorbou webů. A v závěru, v závěru gymplu už jsem pracoval i, i jako prodejce a servisák A když jsem se rozhodoval, kam na vysokou školu, tak už mě hodně táhla právnická fakulta. tehdy jsem si řekl, že když budu šikovnej programátor, tak nebudu ten titul tak moc potřebovat a budu se tomu moct věnovat i tak. Ale pokud bych se chtěl věnovat té právní lince, tak tam potřeba bude. A rozhodl jsem se jít na práva, jsem se vlastně ale věnoval, eh, nějaké, eh, nějakému střetu tady těch, dvou zaměření a věnoval jsem se hodně IT právu, kybernetické kriminalitě a třeba diplomku jsem psal na ransomware, takže, eh, není to tak drastická změna. Jsem se věnoval jak, jak IT, tak potom právu později souběžně, eh, v podstatě c-celou dobu. A v závěru, v závěru studia pro mě přišla velká příležitost práce ve Sněmovně, kterou jsem využil a věnoval jsem se tam různým věcem, mimo jiné těm volebním systémům. A, eh, potkal jsem tam spoustu zajímavých lidí a nahlédl do legislativního procesu, což si myslím, že bylo užitečné, protože jiné jsem se tam dozvěděl o chystané legislativě v oblasti toho whistleblowingu a tam jsem nakonec připravil projekt, který řeší jak ty technické, tak ty právní povinnosti firem, které v té době přicházely. Takže od té doby už jsem se primárně věnoval, eh, tady tomuhle systému a to vyústilo nakonec i v to, eh, že s příchodem umělé inteligence a většího rozvoje a kapabilit otevřených modelů jsme s Jakubem Seichterem, mým co-founderem, založili Cosmi Compute a teď se věnujeme právě, právě sk-skládání, provozování, správě IT serverů i inferencím a jazykovým modelům.

Jindřich: Díky za ten vhled. My se určitě do těch detailů těch jednotlivých částí, který ses zmínil, dostanem. Ale ještě bych ch-chvilku chtěl zůstat u tý pozice toho poradce místopředsedy Sněmovny. Co tam jste měl jako za tu náplň práce nebo jak to tam obecně probíhá na týhle pozici?

Stanislav: Na téhle pozici může být ta práce poměrně různorodá a ta moje byla, eh, téměř výhradně legislativní. To znamená, eh, v případě, že, eh, přicházel, eh, nějaký, eh, zákon, který spadal do gesce, nebo místopředseda si přál něco, navrhnout, změnit, podat návrh zákona, tak my jsme tam byli vlastně v dvoučlenném týmu, který připravoval tu legislativu. To znamená většinou nějakou jak legislativní, tak faktickou analýzu toho problému, který se řeší návrh variant a připomínkování, celého toho legislativního procesu, přípravě pozměňovacích návrhů a podobně. Takže je to pro představu hodně práce z většiny, z většiny za počítačem a textech, která, která zkoumá, jak něco co nejlépe upravit a, zkoumá třeba i hodně souvislost s jinými zákony, jak to všechno správně upravit, aby to dávalo smysl, aby ten právní řád trochu logický a systematický. Takže je to, je to hodně taková právní práce na, nad texty zákonů a jejich, jejich návrhy.

Jindřich: A tohle bylo už po těch právních studiích, nebo to bylo ještě společně jako se studiem?

Stanislav: Hm. Já jsem tam nastoupil dokonce krátce před, před koncem, takže byl ve sněmovně přibližně tři roky a jsem tam ještě jako student

Filip: Chceme se posunout k tomu, co nás vlastně nejvíc zaujalo, protože vaše propojení technologií, AI, programování a právní činy je, troufnu si tvrdit, poměrně unikátní. Většinou lidi stojí na jedný nebo druhý straně spektra. No a nás primárně zajímá a myslím si, že i naše posluchače, téma, jak se pracuje v dnešní době s našima datama a jak s nima mají firmy nakládat, ať už jednotlivci, týmy nebo i korporace. A začnu takovou asi obecnou, ale nejjednodušší otázkou: se vlastně stane ve chvíli, kdy využiju nějakej AI nástroj, ChatGPT, Claude a dám tam naše nebo moje data, kam tečou, co se s nima děje?

Stanislav: A ty scénáře se budou trochu různit podle toho, do jaké

Filip: Mhm.

Stanislav: to dáme a v jakém, v jakém nebo konfigurací používáme a podobně. Ale obecně ta data se nějak zpracují na tom stroji, kde, eh, kde se, se zadají v podstatě jenom v takové podobě, že se odesílají z toho zařízení ven prochází nějakou cestou do infrastruktury toho poskytovatele. Tam může nad tím být ještě nějaký load balancer, který to rozděluje podle typu požadavků, podle toho, které, která část infrastruktury je volná a podobně. Může tam dojít k nějakému předzpracování těch dat různými způsoby nakonec, eh, nakonec v podstatě interagují s těmi samotnými vahami nějakého modelu a můžou být potom ještě procesována po té samotné interakci s těm, s těmi vahami a, potom zase nějakým způsobem jdou zpátky do, do té aplikace nebo do toho chatu. V souvislosti s tím může, může nějaký třeba agentický harness, nějaký framework, který, řídí, co se tam přesně děje, volat řadu nástrojů a z hlediska dat a bezpečnosti v celém tom řetězci můžou a nemusí být ještě další, subprocesory, tedy nějaké další služby, které se používají a kterým ta data nebo jejich část nějakým způsobem jdou a ty zase dělají velice podobné kolečko. Takže ten, ten prostup těch dat může být poměrně složitý a může a nemusí se ho účastnit řada, řada různých subjektů, můžou projít řadou státních hranic a často se úplně ani přesně, přesně tu cestu nemůžeme dozvědět. A v souvislosti s tím je tam samozřejmě mnoho míst, kde ta data mohou nějakým způsobem být udržována, skladována. Nejenom obsah toho promptu, ale i třeba metadata, co jsou kolem něj. kromě, kromě toho, jak ty služby to využívají cíleně, tak tam samozřejmě vytváříme nějaké, plochy pro případné útoky úniky. Takže ta data jdou poměrně složitou cestou, která může být různá. Ne vždy se dá dopředu přesně odhadnout. A kdybychom to vzali úplně do hloubky z pohledu bezpečnosti, vlastně už od toho samotného vstupu jsou ohrožena nějakými druhy nebezpečí, ať už je to ukládání a vykrádání anebo nějakých- Přečtení i, i třeba, na úrovni samotné klávesnice. když já jsem ten, kdo zadává, ten, eh, samotný obsah, tak už tam je možný nějaký útok třeba na bezdrátový, eh, bezdrátový přenos mezi třeba klávesnicí a přijímačem, pokud není dobře vyřešen a, dokonce, eh, odečtení třeba podle mírně rozdílných zvuků, které vydávají jednotlivá tlačítka, což dneska už třeba modely umí docela hezky analyzovat. Ale vás bude určitě hlavně zajímat, co se děje v těch jazykových modelech jako takových

Jindřich: No obecně ten, ten narativ, eh, kterej vlastně platí pravděpodobně obecně a hodně často se jako opakuje, tak se říká, že je jako velmi nezodpovědný dávat takový citlivý nebo osobní údaje do těch chatů, řekněme těch jako komerčních modelů. Jakej je na to jako podle vás nebo jakej na to máte úhel pohledu? Platí to?

Stanislav: To určitě platí. Velmi záleží na tom, jaký druh údajů tam dáváme a co přesně to je za službu a jak ona s nimi nakládá. A obecně, jde o třeba opravdu osobní informace, tak to může být vlastně i protiprávní je tam dávat. Pokud se, pokud se pouze zeptám jakékoliv služby, třeba jak fungují jazykové modely, tak to je úplně v pohodě udělat podle mého názoru s čímkoliv, pokud, pokud to bude třeba klasifikovaná přísně tajná informace a já ji opravdu zadám do nějaké služby, která je třeba typicky neplacená a monetizuje tak, že a využívá data, která přes ní tečou, nebo je třeba pod dohledem nějakého silného, třeba státního subjektu, tak to může být, jsem přesvědčen, i trestným činem. Takže potřeba velmi přiměřeně volit tu cestu podle toho, jak citlivá data mám a vědět, co se potenciálně dít může a co si můžu dovolit, kam vložit a kam ne.

Filip: Bychom to možná upřesnili. By-- jako není to vlastně problém tý umělý inteligence, že jo? Protože ten model ve chvíli, kdy ty data vejdou dovnitř, pak se zpracujou těmi váhami a dostaneme nějakou odpověď, tak tam jako v tom samotným procesu k tomu ukládání nedochází. Ale ten problém je, co ten vlastník nebo ten provozovatel, ten, kdo zajišťuje tu inferenci, to znamená provozuje ten model, tak co s těma datama dělá, jestli se třeba uloží pro trénování nebo cokoliv dalšího. Jaký jsou tady možnosti? Je to tak, že když ta služba je zadarmo, tak zkrátka ty data se používají pro, pro další trénování. Ale když si třeba zaplatím a vypnu si trénování, je tam pořád tady ten problém?

Stanislav: Řekl bych, že to, že je služba placená, není dostatečnou garancí, že by byla bezpečná. A samozřejmě u těch úplně bezplatných verzí je to nebezpečí největší, protože často i stačí si často přečíst obchodní podmínky nebo nechat si, si nějaký jazykový model a z nich vytáhnout, co potřebuju. A tam je prostě jasně dáno, že ty bezplatné verze nemají ty garance těch, těch vyšších. A typicky ono se to stává často, že i když vyjde nějaký nový model, tak je třeba i zadarmo úplně nějakou dobu nebo za cenu, která je prostě pod hodnotou toho, těch nákladů na infrastrukturu a oni prostě potřebují, potřebují ten model zdokonalovat a potřebují ty data a nebo na ně buď na nich trénovat, analyzovat, diagnostikovat anebo v horším případě využívat i jiným způsobem, to znamená i přímo používat případně. A to nebezpečí do určité míry u těch profesionálních placených služeb, kde, kde opravdu můžu například vypnout trénování. A to, že ale je vypnuto trénování, tak to úplně neznamená, že jsou data v bezpečí. To znamená, že pokud ten provider dodrží co slíbil, tak nebude opravdu to, co bylo obsahem toho promptu, použito na trénování dalších modelů a jejich zdokonalování. Ale to nám ještě vůbec neříká, jestli je ukládá, jakým způsobem, jak dlouho, k čemu jinému než ke trénování je používá. Takže samotné vypnutí trénování je skvělé, pokud nechcete, aby se na datech něco trénovalo, ale bez to ještě nezaručuje, že to znamená, že s nimi nakládáte správně, pokud jsou teda ta citlivá neříká vám to vlastně nic o tom zbytku. A taky třeba o metadatech, na což se často zapomíná, ale to vlastně kde, kdy, kým byl, byl ten prompt třeba odeslán, tak často může mít i specifičtější hodnotu než nebo jinou, jiný druh, může to být jiný druh informace, než je samotný ten obsah, toho co se zpracovává.

Filip: Když si teda vypnu to trénování, tak j-jaký jsou vlastně ty use casy, co ten provider s těma datama může dál dělat? Eh, zkrátka jako jaká je jeho motivace ty moje data dál uchovávat?

Stanislav: Tam to může být řada, řada důvodů a některé z nich budou oprávněné, jiné třeba méně. v případě, že to bude služba, která, která na těch datech nebude trénovat, ale bude třeba otevřeně moci je nějakým způsobem využít je využije, aniž by, aniž by k tomu úplně měla oprávnění, tak ona prostě může vzít to, co tam je a nějakým způsobem to třeba monetizovat, typicky prodat nebo využít v návrhu vlastních produktů tak dále a tak dále. Takže těch možností je řada a, ale z těch, třeba z těch oprávněných důvodů se, se můžou data uchovávat kvůli bezpečnosti a tak dále. Dokonce, dokonce existuje i review a je docela běžné, že zvlášť u těch větších společností vaše data může podle, podle podmínek normálně nějaký člověk prostě prohlídnout, pročíst si, zkontrolovat, jestli jsou v pořádku. Tam se může taky snadno stát nějaká chyba, že se dozví něco, co nemá někdo a podobně. Takže těch, těch možností, když ty data máme a uchováváme, je řada. Řada z nich jsou legitimní účely a řada z nich můžou být i zákonně v pořádku, ale nemusí na ně ten, kdo ten prompt zadával, myslet, že vlastně to použití nastat, anebo že, že může dojít ještě k nějakému jako nechtěnému úniku těch dat, co se dlouho uchovávají například.

Jindřich: Ono existuje Data Protection Agreement, jo, takzvaný DPA, který některý tyto služby nabízejí třeba společnostem. Jakou v tohle máte důvěru? Je to opravdu něco, co mě třeba jako firmě skutečně jako řekne, že ty moje data jsou v bezpečí?

Stanislav: Ta právní linka je důležitá. V okamžiku, kdy s vámi nějaký provider je ochotný tohleto uzavřít, eh, tak je zřejmé, že to myslí vážně vznikají vám většinou specifické právní nároky v případě, že to poruší. Takže, eh, to je první věc. Druhá věc je, že může jít o nějakou jinou zákonnou povinnost. To znamená, že pro vás je vlastně, eh, DPA nutností, abyste, eh, dál někoho ty data nechat zpracovávat. A rozhodně je to důležitá garance, na které je potřeba trvat při, eh, při, o túro-u-určité úrovni citlivosti dat. Takže tohle je určitě důležitá věc. A druhá věc je technické provedení. Eh, prostě, v okamžiku, kdy má u sebe někdo fyzicky data, zejména, zejména data, co prochází jazykovými modely, tak prostě fakticky přístup k nim má. Takže tam už je to potom otázka, eh, otázka té důvěry a jeho schopnosti je třeba ochránit. eh, věřím, že pokud opravdu někdo umožňuje vypnout trénování, ideálním případě provozuje třeba, eh, nějaký bod, který opravdu ne-nezhromažďuje žádná data, že, že opravdu zpracuje, tomu se říká zero data retention a ještě je s vámi ochotný uzavřít tu dohodu o zpracování dat zpracovatelskou, tak je to už velmi silná kombinace k tomu mu důvěřovat. A současně, kdybych se k tomu měl ještě vyjádřit jako skepticky z technického pohledu, tak u dat, kterých chcete mít absolutní, eh, absolutní jistotu, že nikam neuniknou a že nikdo opravdu fyzicky nemá, v případě umělé inteligence si opravdu musíte zpracovávat na lokálních strojích offline, protože, u modelů neexistuje end-to-end šifrování. Do modelů jdou nešifrovaná data, a pokud mám fyzický přístup pamětem například nebo k čemukoliv, tak, tak prostě mám fakticky možnost ty data číst a jediné, co můžu dělat, je poskytovat právě garance v podobě auditů, certifikací, uzavírat, uzavírat tyhlety zpracovatelské dohody a dohlížet na to. technicky je u AI vždy problém, protože ta data nemůžou být tak šifrovaná jako třeba bankovní data. V-v okamžiku, kdy probíhají modelem, jsou nešifrovaná.

Jindřich: Což předpokládám, že,

Filip: Hm

Jindřich: promiň Filipe, což předpokládám, že může bejt vlastně velmi podobnej problém i u těch lokálních modelů. Jo, tam taky, když někdo k tomu jako fyzicky bude mít přístup nebo třeba k těm RAM pamětem, tak vlastně úplně s-stejnej přístup

Stanislav: vždycky můžete strčit čtečku pod nějaký, eh, nějaký modul, nějaké úložiště, eh, tam se předpokládá, že si na to dohlídnu sám a že jsou to mí zaměstnanci, že tam mám velmi silnou úroveň kontroly. Ale, eh, ano, tak nic na světě není úplně bezpečné navždy. Eh, to tak, to tak je. eh, ale u těch lokálních modelů je velmi, velmi dobrá kontrola nad, nad těmi daty a, a některé společnosti to z rozumných důvodů, pokud mají extrémně citlivá data a potřebují s nimi pracovat v jazykových modelech, tak prostě dnes už ty, ty možnosti poměrně chytrých lokálních modelů jsou a, a, a jde to řešit i takhle

Filip: Já se tady ještě zeptám vlastně z pohledu nějaký třeba menší a střední firmy, protože ty často nemají tak velký prostředky na to, aby si třeba řešily lokální AI, aby si nakoupily hardware. Tak jak, z jakýho, z vašeho pohledu, jaký ty plány těch největších hráčů, jako je třeba Claude a ChatGPT, jsou za vás v pořádku? Už třeba ta týmová licence pro to, když třeba nemám nějaký jako extrémně citlivý data, tak jako může bejt v pohodě A nebo třeba za vás jedině Enterprise a ty týmový licence nedávají smysl?

Stanislav: Tak já se přiznám, že na tuhle otázku si netroufnu odpovědět a řekl bych, že odpovím trochu vyhýbavě. Pokud potřebuju takovýhle data zpracovávat, tak je dobrý udělat si, udělat si ten proces tak, aby to nejcitlivější už do toho modelu nešlo aby se to u mě lokálně zase třeba do toho modelu vrátilo. Do těch dat vrátilo až po tom, co projdou tím modelem. ty, ty podmínky a realita se můžou rychle měnit a já ani v tuhletu chvíli nemám přesně nastudovaný všechny podmínky všech,

Filip: Jasně

Stanislav: tarifů subscriptions, takže si nikomu nedovolím rovnou radit, co už je v pohodě a co ne. Ale velmi, velmi výhodný může být ty data částečně očistit, anonymizovat na tom, tom vstupu pak, pak si je zpracovat po proběhnutí toho modelu. ještě pokud někdo chce pokročilejší ochranu, tak si může pronajmout ne čistě inferenci, opravdu výkon. A nemusí to ležet nutně u něj kanceláři, ale může si pronajmout výpočetní výkon, který už má nějakou vyšší ochranu zabezpečení a tam si rozběhne, tam si rozběhne třeba vlastní model. Je to pokročilejší, je to pokročilejší a náročnější, ale třeba tohle je něco, co my velmi typicky děláme, že někomu umožníme jako výlučný přístup třeba k serveru on si

Filip: Mhm.

Stanislav: co potřebuje nebo mu pomůžeme nastavit model nebo workflow, co přímo pro ty jeho potřeby, vlastně pak, pak už to neteče přes žádné veřejné API. Už je to prostě čistě jeho, vzdálený přístup a nikdo jiný tam nemůže. Tak to je ještě, ještě tak na půl cesty, když si to opravdu nechcete dělat lokálně a zároveň to nechcete posílat neočištěné do nějakého veřejného modelu. Obecně, obecně bych více důvěřoval těm, těm velkým jménům, těm frontier, frontier hráčům, kde jsou vyšší třeba reputační rizika pro ně a podobně. Ale jak víme, tak i tam se dějí, tam se dějí různé problémy a občas se prostě, občas se prostě stane, že nějaká data nebo modely uniknou a nevyhýbá se to jako nikomu ty chyby.

Jindřich: Pojďme se možná trošku posunout na takový širší téma a tím je AI, AI Act, kterej, eh, vlastně vyšel v platnost teď relativně nedávno. Tak mohl byste nám jako laikům trošku přiblížit, o co se vlastně jedná?

Stanislav: Určitě a rád. Eh, abychom dodrželi úplně precizně tu právní terminologii, tak, eh, on, eh, vešel v platnost už v roce, už v srpnu dvacet čtyři, ale skutečně teprve nedávno, eh, je účinný. Eh, nebo d-druhá vlna, velká část těch povinností je určená teprve, a vymahatelná tedy teprve od nedávna. A Act je, eh, takovou první ucelenou úpravou, to znamená, eh, nějakým, nějakým komplexním předpisem pro, pro Evropskou unii, která se zabývá regulací, eh, subjektů a, a subjektů, které pracují s umělou inteligencí a s, se systémy, které ji používají a stanovuje, stano-stanovuje zejména povinnosti, nějaký jasný sankční rámec za, jejich porušování. A, eh, podle mého názoru, eh, je, je nutné, že nějaká regulace vzniká. je velmi složité AI regulovat už jenom kvůli nesmírné rychlosti, eh, jakou se tohle odvětví ubírá. A, eh, současně vychází z dobré myšlenky, že, že právě podle kritičnosti užití, eh, eh, se nastavují, eh, se nastavují podmínky pro používání. A, eh, teď už, eh, v dnešní době stanovuje zcela konkrétní, eh, požadavky, zejména na zákaz některých, eh, druhů využití, eh, systémů umělé inteligence, které vyjmenovává v pátém článku. A určitě, kdo s, eh, s těmi systémy pracuje, tak by si to měl projít. Anebo třeba, eh, uvádí případy povinného označování výstupů umělé inteligence, což je, eh, jedna z těch povinností, která snadno dopadá na, eh, na širokou škálu, eh, subjektů i malé firmy

Filip: U označování se možná zeptám, jak to vlastně vypadá? Protože pokud něco vygeneruju přímo pomocí AI, ať už je to obrázek, text, tak tam je to jasné, to musím označit. Pokud to napíšu ručně, tak je to taky jasné. Ale co taková ta kolaborace? Když já na-nechám si napsat text, pak ho upravím, přeji mu nějakej další nebo třeba i použiju obrázek tím, že ho vytvořím ručně, ale vygeneruju si jenom nějaký ilustrace do toho. ten AI Act vlastně nějakou hranici od toho, kdy je to AI vytvořený obsah?

Stanislav: Přesnou hranici a definici, co už je a co, co není, je vždy náročné, um, a někdy zábavné v právu hledat. Nicméně, uh, to, že, to, že, uh, kolaboruju třeba na vytvoření emailu, i kdyby ho ve výsledku, uh, z většiny napsal, uh, napsal jazykový model, tak z mého pohledu jednoznačně regulováno není a označeno to být nemusí. jiná situace je, uh, u systémů, které bez dozoru generují tento obsah automaticky. jiná situace je, uh, u obsahu, který by mohl být předmětem veřejného zájmu. Tam je ta povinnost, uh, toho označování definovaná poměrně přesně a, a je spíše jasná

Jindřich: To-- nebo takhle, eh, na koho přesně míří ten AI Act? Míří jako skutečně i na širokou veřejnost a stejně tak i na právnické osoby a, a firmy?

Stanislav: Na, eh, na širokou veřejnost, eh, spíše nemíří a, eh, stanovuje několik kategorií subjektů, které, eh, které reguluje jako dost explicitně a jsou to především, eh, ti provideři, což je, což, eh, je skupina, která opravdu vytváří ty jazykové modely a jsou poskytovatelem, eh, a jsou poskytovatelem těch jazykových modelů a tam, eh, je to, tam je to poměrně, eh, přísnější. A potom máme ty deployery, ty, eh, ty potom, eh, ten jazykový model třeba, používají v nějaké své službě, kterou uvádí na trh. eh, my to tam máme poměrně sektorově. Eh, třeba příkladem je, eh, zákaz profilování emocí u uchazečů o zaměstnání, eh, pomocí umělé inteligence. Takže to je třeba, to je třeba věc, která je zakázaná úplně jasně. Eh, dále tam máme, věci, které míří na státní správu a, zakazují například v reálném čase rozpoznávat obličeje i za účelem, i za účelem třeba dopadení pachatelů trestných činů, eh, s výjimkou, s výjimkou pro nějaké závažnější trestné činy a podobně. Takže, co tady máme nebo zákaz třeba nějakýho so-, eh, nějakého sociálního scoringu. Kdyby, kdyby byli lidi profilovaní podle, eh, podle různých parametrů a potom se jim podle toho třeba regulovaly, eh, přístupy k některým věcem. Takže tyhle, eh, tyhle kategorie jsou, jsou nejvíc zamýšlené. Ale že by, že by AI Act přímo, eh, přímo reguloval, eh, přímo reguloval to, jak s ním, eh, jak s AI pracují individuální, individuální nadšenci a lidi, to spíše ne. Tam, eh, by s-by se někdo opravdu mohl dostat jenom v případě, že by, že by přímo porušil některý z těch výslovných zákazů. Ale, eh, ten, v tuto chvíli AI Act, eh, ne, téměř žádné povinnosti na, na běžného uživatele umělé inteligence.

Filip: Že hele, jestli to chápu správně, tak pokud já jako běžnej uživatel bych třeba k tomuhle nějakýmu scoringu nebo vyhodnocování těch už-uchazečů o práci použil jakýkoliv nástroj, klidně ChatGPT, ne ani nějaký specializovaný, ale jako použil bych ho na tady ty zakázaný činnosti. Takže se teoreticky už jsem v konfliktu s tím AI aktem. Nebo se to vztahuje čistě fakt na ty jako tvůrce těch softwarů?

Stanislav: Tady je ještě specifická situace. Eh, to, co jsem zmínil, tak se čistě týká vyhodnocování emocí. Takže tam je to opravdu, já jsem to zmínil, protože je to takhle konkrétní, že já můžu skórovat uchazeče o zaměstnání pomocí AI. Mám tam nějakou přísnější regulaci, budu pravděpodobně spadat ještě do té, co se chystá v roce dvacet sedm přísněji, ale nesmím vyhodnocovat jejich emoce a jsou tam jenom velmi, velmi úzce pojaté výjimky. Takže já můžu skórovat uchazeče životopisů, nesmím, eh, nesmím, eh, na pohovoru vyhodnocovat pomocí kamer třeba jaké měli emoce v průběhu toho, v průběhu toho rozhovoru. Co tam uvádí a co tam uvádí legislativci za výjimku je například, to ani při práci, nejenom při tom ucházení se o zaměstnání, ale ani při práci nebo třeba ve škole. A výjimkou je například pilot letadla. Tam je to z důvodu bezpečnosti umožněno. Tam jeho emoce můžeme zkoumat kvůli bezpečnosti. Takže, tady tohle bylo velmi konkrétní. Tak jenom abych byl úplně precizní. ano, v tomhle tom případě stačí použít nějaký cizí systém. A pokud tohleto, i jako fyzická osoba podnikatel udělám, tak, tak se opravdu dopouštím toho přestupku na který je, na který je velmi vysoká hranice i určená i obratem i, i poměrně vysokým. je myslím třicet pět milionů euro, pokud se nemýlím a až sedm procent obratu jako horní, horní sankce, horní hranice té sankce. Takže tam by se to dotklo osoby, i když správních pravidel trestání by ta pokuta měla být přiměřená tomu, co se stalo a jakým způsobem zasáhne do toho, do té sféry toho daného člověka.

Jindřich: Jaká si myslíte, že tam je jako reálná vymahatelnost v případě, že tenhle ten AI Act někdo poruší? Jo, kam tím mířím je to, že eh, minimálně z nějakýho mýho laickýho úhlu pohledu hrozně dlouho například trvalo po tom, co přišla v-- přišel v platnost vlastně zákon GDPR, tak než jako se reálně začal vymáhat. Tak myslíte si, že to třeba i s AI Actem bude podobný?

Stanislav: A to je vynikající otázka. tady v tomhletom případě jsme přesně v té situaci, kdy, eh, je ta vymahatelnost velmi špatná. eh, přestože jak GDPR, tak AI Act jsou nařízeními a jsou tak jako, tím pádem přímoúčinná, ne, nemusí nutně čekat na českou implementaci, aby, aby mohly opravdu ukládat povinnosti, eh, soukromým subjektům, tak- Přesto my musíme nějak ten právní řád uzpůsobit, aby byl v souladu s tím nařízeníma, aby, um, aby opravdu byly nějaké nástroje pro a vymahatelnost. A to se opravdu v tuhletu chvíli nestalo až doposud. takže, um, ještě je to poměrně brzy, ale pokud se nemýlím, tak ještě žádná pokuta za, za tyto po-povinnosti nepadla a je dost možné, že ještě nějakou dobu nepadne, protože, um, dotčené orgány, ze-zejména Český telekomunikační úřad a taky Česká národní banka a Úřad pro ochranu osobních údajů v tuto chvíli opravdu nemají, um, nemají ty potřebné kompetence a nástroje pro to, aby kontrolovali a případně sankcionovali ta porušení. ta legislativa je v tuhletu chvíli v přípa-přípravě um, teď je ale opravdu takové mezidobí, kdy ta vymahatelnost je špatná. To neznamená nutně, že je dobré to porušovat, protože jak jsem zmínil, nařízení platí přímo a můžou z toho porušení vycházet i jako jiné důsledky. Navíc ne všechna porušení, um, um, právních předpisů, která jsou nějak spojena s umělou inteligencí, nutně vychází z AI Actu. Um, úřad už pro ochranu osobních údajů už například udělil a udělil pokuty za AI, za automatizované nevyžádané, um, obchodní sdělení a podobně. Takže ono se může stát, že porušíte, um, jiné, jiné předpisy nebo, nebo nějaké soukromoprávní delikty spácháte, když nebudete dodržovat něco, co AI Actu výslovně zmíněno, i když se zatím špatně vymáhá. že, um, že se to, um, že se to zlepší a ty subjekty budou mít lepší přehled o tom, co přesně a jak funguje. Um, republiky je to typickým neduhem, že tady implementujeme ty, um, ty prováděcí předpisy nebo ty související zákony pozdě a špatně. je to problém, protože ty subjekty nemají daný jasně rámec. Um, ty, povinnosti nikdo neví, na kolik platí. A třeba zrovna u toho mého projektu s whistleblowingem to trvalo několik let a dostali jsme za to ještě obrovskou pokutu za tu pozdní implementaci. Takže je to věc, která je tady typická a často se kritizuje a doufám, že už se brzo zlepší.

Filip: Zase, když se na to podívám z pohledu nějaký menší firmy nebo třeba freelancera, dokážete mi říct, co jsou nějaký hlavní body toho AI Aktu, který by se mě mohly týkat? Na co bych si měl dát pozor? Protože je mi jasný, že jsou jako různě regulovaný subjekty, který pracujou s extrémně citlivýma datama. Tam nechci úplně zabíhat, ale fakt tak jako běžnej uživatel nebo ne uživatel a třeba běžná menší firma, tak co jsou nějaký ty rizikový věci, na co bych si měl dát pozor?

Stanislav: A v podstatě já bych se zaměřil na to přečíst si článek pět a ne-ne-neprokousávat se celým tím AI aktem. Tam jsou jasně dané ty, eh, ty případy, které jsou už zakázané a které se nesmí, nesmí využívat. je to, je to především u těch u zneužívání nějakých citlivých informací, u třeba a ploš-plošný sběr a, a obličejů. jsou tam uvedené nějaké výjimky a jsou tam uvedené poměrně konkrétně ty zakázané případy využití a to je dobré určitě znát. A, a potom ještě podívat na to, jestli negeneruju nějaký obsah, který by bylo dobré, by bylo dobré označovat. Ale jinak v zásadě to, že, že by ten subjekt by jako běžná firma spadla do nějakých povinností providera modelu a podobně, tak to je, eh, to je téměř vyloučeno. Tam dokonce nespadáme ani my, když ty modely provozujeme nebo i třeba mírně měníme. To je opravdu, opravdu povinnost, která se týká jenom těch společností, co, co trénují nebo velmi významně mění, eh, mění modely. A současně pokud působíte ve specifickém odvětví, tak to už asi dobře víte. protože pokud já dodávám třeba součástky pro kritickou státní infrastrukturu, kde, eh, kde se používá umělá inteligence, tak tam asi pro mě ten AI akt nebude žádná novinka a budu mít nějaký minimálně právní tým nebo, nebo alespoň analýzu, která, která mi to přesně řekne, co, co a proč je potřeba dělat. A už je dobré se s tím konkrétním, s tím konkrétním zaměřením obrátit na někoho, kdo, kdo to vyhodnotí jako detailně.

Filip: Ještě mě napadla taková věc, kterou si, že spousta dělá a ona asi dost možná nebude souviset s AI aktem, ale možná s nějakým jiným zákonem. Ale zkrátka zajímá mě, jak vy se díváte nebo vlastně zákon, jak se dívá na scraping dat, když jako si chci z internetu vytáhnout nějaký informace z LinkedInu, Facebooku, Google Map a tak dál. Je tam nějakej právní rámec už na tohleto nastavenej nebo je to něco, co se teďka děje ve velkým měřítku a ještě se to pořád nějak snažíme jako uchytit?

Stanislav: Zrovna ten AI Act upravuje a konkrétně zakazuje právě scraping těch obličejů. A je to nejčastěji, to bývá porušení podmínek těch služeb, které, které scrapuju. Takže to bývá nejčastěji soukromoprávní delikt a vystavuju se spíš hrozbě žaloby od toho subjektu, od

Filip: Hm.

Stanislav: ty data stahuji. ale přiznám se, že na tohle věci nejsem úplně expertem, ale bude asi takový základní rámec a u některých případů, u některých případů se to může lišit, ale bude potom záležet i na tom použití. Ale vysloveně obecně veřejná data, kde to nezakazují podmínky služby, tak, tak zpracovávat ve výchozím stavu ve většině případů zakázáno není. Typicky to budou nějaké specifické případy nějakých citlivých údajů ty je nicméně zakázané vystavovat a další-- a dále právě ty, ty případy, jako je nově, nově to AI zpracování obličejů

Jindřich: Vy jste, mm, před chvílí zmínil, že ještě někde v roce 2027, myslím příští rok, má přijít v platnost jako rozšíření toho AI Actu, který má bejt teda zaměřený na vysoce rizikové systémy, pokud se nepletu. Můžete nám přiblížit trochu víc, co todleto znamená a koho se to případně dotkne?

Stanislav: Přesně tak. Eh, eh, je to tak. Teď se to ještě trochu odsunulo, eh, pravděpodobně zejména z důvodu chybějícího aparátu a infrastruktury. A, a takže spíše z technických, z technických důvodů, eh, na straně Evropské unie. a některé ty části pro tady ty silně regulované, odvě-odvětví a případy se opravdu posouvají až, až na prosinec roku dvacet sedm. eh, neznamená to ale nutně, že by si, eh, měl někdo úplně oddechnout. Eh, řada, řada z těch regulací už teď nějakým způsobem je v, těch aktuálně účinných povinnostech, ale, eh, bude tam, bude tam ještě přísnější rámec pro, pro některé ty citlivější případy. Některé z nich už jsme zmínili. Je to třeba to profilování těch u-uchazečů o zaměstnání a podobně. Takže tam bude ještě přísnější, eh, přísnější rámec pro, eh, vyhodnocení, eh, a, a celý ten dodavatelský řetězec, pro dohled nad tím, pro vyhodnocování i průběžné, eh, jak, nakolik to funguje, reporting, případných, případných zneužití a, a tak dále. Takže tam bude ten balíček těch compliance povinností ještě mnohem, eh, širší, dá se očekávat. A, a část z nich bude, aktuální až v tom prosinci, v tom závěru příštího roku.

Jindřich: Hm, já možná ještě, eh, nebo takhle, kdybych vás chtěl požádat, abyste trošku jako odpočinul nebo odkouknul od toho jakoby vašeho jako profesního úhlu pohledu. Kam si myslíte třeba jako subjektivně, byť chápu, že trochu fabulace tohleto směřuje, jako myslíte si, že jako dobře, že ty regulace vůbec jako přichází a případně v jakým množství?

Stanislav: Ahm, regulace jsou potřeba Eh, hlavně z toho důvodu, že, eh, přesvědčen, že vrcholní představitelé Evropské unie si dobře uvědomují, že, eh, suverenita Evropy, eh, v AI závodě je velice, velice slabá a, eh, je potřeba nastavit regulativní rámce, které nás nějakým způsobem ochrání, eh, před, eh, před těmi jako potenciálně kritickými, eh, kritickými dopady. Eh, to znamená, že bychom si, eh, že bychom si třeba tu kritickou infrastrukturu, opravdu znehodnotili úplně a, eh, a vystavili, modelům, které nemáme pod kontrolou a neumíme je používat. To si myslím, že, eh, že je nutné regulovat. Eh, a současně je otázka, nakolik nás to může ještě více brzdit, eh, v, v nějakém vývoji. Ale já se domnívám, že tak, jak je to v tuhletu chvíli nastaveno, tak příliš, eh, příliš nás to brzdit nebude. A po té technické stránce, i když, eh, to třeba providerům, eh, a vlastně výrobcům jazykových modelů může podstatně zkomplik-podstatně zkomplikovat práci na těch modelech, protože, eh, je známo, že data sety pro, pro velký modely se sbírají různě a často zda, eh, pro která ta oprávnění jsou přinejmenším nejednoznačná. ten evropský případný autor modelu mnohem, mnohem větším dohledem. Ale, eh, současně nám to může trochu pomoci s regulací těch, eh, těch zahraničních subjektů a může to i pomoct některým, některým lokálním, lokálním providerům. kromě AI Actu, eh, je v přípravě i další legislativa, která by měla ještě zpřísnit, eh, některé, aspekty umělé inteligence, zvlášť v té kritické infrastruktuře. dá se předpokládat, že, eh, zanedlouho, eh, nebude možné používat, eh, ty, eh, kritické druhy využití eh, modely nebo služby, které jsou sice, eh, v Evropské unii, eh, podléhají nějaké kontrole, eh, nebo vlastnictví který z Evropské unie není. Takže je dost možné, že, eh, v blízké době pro citlivé údaje nebudu moct použít ani, eh, frankfurtské datacentrum Amazonu. A i když si Microsoft založí eseróčko v Praze, tak prostě státní správa ho do kritické infrastruktury, eh, nasadit nesmí. A, eh, to, to může v řadě případů, eh, pomoci budovat nějakou, eh, institucionální odolnost a, a ochranu před, eh, velice hladovými, eh, zahraničními korporáty, které, které opravdu potřebují těch dat co nejvíc, aby- aby ty modely natrénovaly a, a, a držely se na prvních příčkách

Filip: Já tomu vlastně v tý kritický infrastruktuře rozumím. Co si kladu za otázku a vlastně jako nemám na ni pořád odpověď, ale teďka OpenAI představili nový funkce. Jedním z nich byli agenti Dots a zkrátka místo toho, aby snažili tu evropskou legislativu splnit, tak oni prostě řekli, že tahleta funkce nebude v evropským prostoru, v evropském hospodářském prostoru dostupná. není to vlastně jinej efekt, než jsme čekali, že místo toho, že my ovlivníme ty subjekty, aby vlastně ty služby udělaly bezpečnější nebo s ohledem na tu naši legislativu, tak oni nám je sem zkrátka nepustí?

Stanislav: Já si nejsem úplně jistý, co od toho čekáme, ale, ale určitě když zavedeme nějakou regulaci, tak provider té služby ji buď přizpůsobí, nebo ji neposkytne. Nemá moc jiné, moc jiné možnosti a vymahatelnost práva v Unii je poměrně dobrá a, a umíme ukládat i poměrně vysoké sankce těm velkým subjektům. je teď otázka, kde je přesně ta míra ochrany těch spotřebitelů státní infrastruktury a tak dále a kde už si tím zavíráme, zavíráme dveře k, k produktům. A ta, ta se dokonce asi těžko zodpovídá i předem. Já si myslím, že, že tohle může těžko někdy někdo jako efektivně vyhodnotit při přijímání té legislativy. A na druhou stranu to tady třeba může vytvořit iniciativy, které to pak budou, které pak budou vytvářet konkurenci lokální a v souladu s těmi pravidly a těm to pak zas dá určitou výhodu při poskytování těm evropským subjektům. Takže těžko se to říká plošně, ale i když to třeba nebylo zamýšlené jako jeden z účelů, tak jako je to jeden z logických důsledků, že pokud se tu něco obtížněji poskytuje, tak se to raději vypne.

Jindřich: Dobře. Možná než se posuneme dál, eh, vlastně zas takových těch větších témat, který bychom rádi s váma taky probrali, tak je vlastně vaše společnost Cosmic Compute. Ale vy už jste tady i několikrát, eh, zmínil ten whistleblowingovej nástroj, který je teda Wis-Wispero, pokud se, eh, nepletu. Tak je ideální, jestli nám ho můžete trošku přiblížit, představit, co to vlastně dělá, kdy jste to založil a komu to slouží?

Stanislav: Že, se týče, co se týče Whispera, tak je to vlastně který splňuje právní povinnosti vyplývající ze zákona o ochraně oznamovatelů. Je to opět evropská legislativa, která vlastně nařizuje všem subjektům, které mají více než padesát zaměstnanců, mít nějaké bezpečné kanály pro oznamování protiprávních, protiprávních, trestných a některých dalších činů A, eh, ten rámec taky poskytuje nějakou ochranu oznamovateli, aby byl chráněn před odvetnými opatřeními. co tohleto přináší v praxi, že každý subjekt, který, eh, který má přes padesát zaměstnanců nebo je v nějakém regulovaném odvětví, musí zavést bezpečné, eh, kanály, eh, jak ústní, tak písemné. Musí mít nějak-nějaké telefonní číslo, e-mail a tak dále. A musí být připraven přijímat a vyhodnocovat ta oznámení. Eh, to, co děláme my, a že to, řešíme softwarem, který má právě zabezpečené tady tyto kanály, má nějakou automatizovanou telefonní linku a e-mailu vlastně dělá nějakou bránu do šifrovaného prostředí. Takže to není v nějakých vytvořených schránkách, které jsou nezašifrované a umožňuje šifrovanou komunikaci mezi tím oznamovatelem a někým, kdo to oznámení řeší. eh, díky hlídání lhůt a přizpůsobení tomu zákonu si subjekty s využitím toho softwaru můžou tady tu povinnost sami zajistit. A, eh, my současně děláme i tu právní linku. To znamená, že úplně převezmeme, eh, všechny ty povinnosti, eh, podle toho zákona. Řešíme, dosadíme i tu příslušnou osobu, která, eh, ty povinnosti řeší za to, že to je v pořádku. Takže k nám vlastně může tady tu povinnost jak technicky, tak právně ten subjekt outsourcovat a nemusí se jí zabývat. tohle, eh, tohle je projekt Wispero, který, který funguje už více než pět let. A, eh, o čem bych rád mluvil hlavně, tak je teď nový projekt Cosmic Compute a, eh, v rámci, v rámci Cosmic Compute my vlastně budujeme AI infrastrukturu, eh, pronajímáme ji a, eh, taky monetizujeme hardware tomu, kdo, eh, má zájem si ho zakoupit a, eh, mít z něj nějaký příjem. Takže my vlastně, eh, my vlastně provozujeme, eh, servery s výkonnými grafickými akcelerátory eh, tuhletu výpočetní sílu pronajímáme jak na nějakých tržištích, tak přímým zákazníkům a provozujeme tam, eh, provozujeme tam, eh, otevřené modely, ať už na míru někomu přímo pro něj nebo nějakou volnou kapacitu, eh, máme i dostupnou veřejně v rámci našeho API vlastně stavíme a monetizujeme servery. současně, když někdo, když někdo chce si server pořídit a mít z něj nějaký příjem, tak ho bereme do správy bereme si, eh, nějakou provizi za to, že, eh, že ten cizí hardware monetizujeme. Takže vlastně budujeme infrastrukturu, kterou, kterou nějakým způsobem prodáváme, pronajímáme, vytěžujeme a, eh, taky stavíme servery pro, eh, pro společnosti, které to chtějí mít interně a optimalizované servery subjektům, co to chtějí provozovat zcela lokálně. Takže tohle je to hlavní zaměření.

Jindřich: Takže vy ten hardware přímo vlastníte, jestli chápu správně?

Stanislav: Část z něj ano část z něj, a, a část z něj pouze spravujeme cizím subjektům a, a monetizujeme

Filip: Ten hardware, tak vy ho máte, máte i jako vlastní datový centra nebo ty centra si pronajímáte? Jak to funguje?

Stanislav: máme, eh, vlastně v tomhletom objemu to máme v datovém centru, eh, eh, cizím, ne, ne ve vlastním. Zatím vlastní datové centrum neplánujeme, eh, ve-veškerý ten nádveří je v certifikovaném datacentru, kde, jsou potřebné parametry včetně zálohy a zálohy elektřiny, dostatečně rychlých linek a podobně. už, je to už v rozsahu, který se nedá úplně provozovat v nějaké běžné kanceláři. Takže, eh, v tuhletu chvíli spolupracujeme s datacentrem, kde, kde máme naše servery.

Filip: To datacentrum, to je tady v Český republice

Stanislav: Přesně tak to máme v Praze

Filip: Mhm. No a vy teda poskytujete celou škálu služeb, ale když se teďka zaměřím primárně na tu inferenci těch AI modelů, tak jak tady to funguje? Já za váma můžu přijít a říct, že potřebuju provozovat nějaký vlastní model. Vy mi pomůžete asi možná to i vymyslet nebo už musím přijít s konkrétním požadavkem?

Stanislav: Přesně tak. Eh, vy když přijdete, většinou už zákazníci mají nějakou představu, co potřebují, eh, a my jim tady k těmto účelům můžeme buď vybrat, vybrat ten a sestavit jim stanici, na kterou, na kterého budou provozovat sami, případně, eh, jim můžeme, ten model provozovat my a poskytovat jim právě ty inference. Eh, s tím, že, eh, s tím, že to mají všechno tady, v Česku a jim pronajímáme, eh, ten samotný výpočetní výkon a můžou si na, na té přidělené alokované kapacitě serveru, eh, dělat vlastně, co potřebují. Eh, nemusí to být nutně jenom třeba inference, ale můžou si na tom dotrénovávat modely, generovat, eh, generovat a upravovat různé, eh, různé datasety. A nebo jsou to inference typu, eh, typu jazykových modelů, generování videa a podobně.

Jindřich: Ten allocation výpočetní výkon je jako skutečně dedikovaný anebo je například sdílenej třeba i s jinými subjekty?

Stanislav: V naprosté většině těm koncovým zákazníkům nabízíme dedikovaný výkon, který se velmi prakticky dělí na počet těch grafických karet, eh, což je základní jednotka pro, eh, pro jakoukoliv AI inferenci, trénování, fine tuning a podobně

Jindřich: Jak se daří vůbec v dnešní době nakupovat grafické čipy?

Stanislav: A vynikající otázka. je pravda, že, eh, ta stávající doba je velmi turbulentní a, eh, využíváme všechny schopnosti, co máme, abychom, eh, budovali, eh, budovali tu infrastrukturu, eh, za nějakou, eh, s nějakými přiměřenými náklady. Ale v tuhletu chvíli letí, letí cena naprosto všech komponent raketově nahoru eh, opravdu, opravdu se setkáme s tím, že, eh, že to zdražování je velmi, velmi rychlé, ale současně, současně ruku v ruce s tím roste i ta poptávka a, a hodnota toho pronájmu. Takže, eh, je to, je to dynamické odvětví a, nedá se plánovat víc než na několik měsíců dopředu. Ale, eh, cesty vždycky jsou. Eh, takže když, eh, když, eh, potřeba něco sestavit, eh, může být potřeba víc improvizace, eh, pořád, pořád se bez problémů dají stavět velmi výkonné stanice. A, eh, vlastně teď jsme vstoupili do doby, kdy, eh, umíme opravdu zprovoznit, které se velmi blíží těm, těm špičkovým frontier modelům. Takže je to, eh, je to zajímavá doba pro, takovýhle projekt

Jindřich: Jaká je životnost takovejch průměrnejch grafickejch karet třeba v tom datovém centru, když na tom provozujete inferenci Opus Like modelu?

Stanislav: A životnost těch, karet, co používáme my a to je, to jsou, to jsou karty GeForce RTX 6000 Pro, je poměrně dobrá, co se týče stávajících statistických dat. důležité je hodně to, jakým způsobem s těmi kartami pracujete, jak je máte nastavené, jak je máte chlazené. Ono zase ta datacentrová infrastruktura je trochu jiná než, než běžný domácí počítač. když spouštíme server, tak to zní zhruba, když startuje letadlo a to proudění vzduchu je v vhodné serverové bedně úplně jiné. A když umíte dobře pracovat třeba s řízením, s řízením spotřeby těch karet, kdy oni třeba když optimalizujeme na nějaké inference, tak často i s nízkým profilem spotřeby dodávají prakticky stejný výkon, v podstatě se nestává úplně to, co se stává u herních karet, že by se, že by se pálily, pálily konektory. Ale samozřejmě je, jaká bude životnost, se uvidí až v průběhu několika let. Nicméně když provozujete větší infrastrukturu, tak většinou předpokládáte, že budete spíše, spíše modernizovat na novou generaci, než že budete čekat na pozáruční smrt všech karet. A podle toho si sečtete rozvahu.

Filip: Pochopil jsem, že když přijdu za váma s tím, že bych chtěl si provozovat nebo mít inference z nějakýho Open Weight modelu, tak vy mi dokážete poradit, jestli, eh, si mám nasetupovat třeba s vaší pomocí nějakej vlastní server nebo třeba si pronajímat jenom tu inferenci. Ale obecně, když byste se na tohle měl podívat, myslíte si, že lokální řešení, a teď myslím lokální opravdu jako vlastní hardware pro nějaký menší firmy dává dneska smysl i vůči těm dynamickým cenám a jako nutnosti to spravovat? Anebo spíš tydle firmy měly jít cestou tý pronájmu tý inference a počkat si, až se ten trh trošku ustálí

Stanislav: Záleží, ale obecně si myslím, že, eh, že to dává smysl spíš méně pro ty menší firmy. Pokud, pokud chceme provozovat model, který, který bude už opravdu stát za to, tak musíme do, musíme do, eh, té infrastruktury jako věnovat, eh, jednotky milionů minimálně. A, eh, potom máme k dispozici vlastně poměrně, eh, velké množství tokenů ke spotřebě. Ono je vlastně těžké ten model hlavně spustit a pak už, eh, pak už zase je otázka, jestli, jestli opravdu dokážeme vytěžit těch třeba třicet, šedesát souběžných streamů jako dvacet čtyři sedm. Takže tam, eh, ekonomicky samozřejmě podle té spotřeby dává pro menší firmy nejčastěji největší smysl, pronajmout si ten výpočetní výkon. Anebo když dělají něco, eh, něco prostě intenzivního jenom nějakou chvíli, tak si opravdu třeba ten drahý server pronajmout, ale jenom na ten jeden úkol, třeba na měsíc. A, eh, to dává větší smysl než řešit právě zastarávaní, eh, zastarávaní správu a podobně. nicméně pokud tam nějaký specifický účel je a někdo potřebuje třeba klasifikovat, eh, třeba zdravotnická data nebo něco podobného, tak, mu i poměrně běžná stanice za pár set tisíc může udělat dobrou službu lokálně s modelem, který na to naprosto stačí vlastně ten náklad, eh, nemusí být až tak velký. Takže záleží tam opravdu na tom účelu a, eh, na tom, jaká, jaká data zpracováváte.

Jindřich: Kdo je váš typickej zákazník? Jestli to vůbec lze generalizovat

Stanislav: Hm. Generalizuje se to špatně, ale obecně ta naše infrastruktura se nejvíc používá na lokální piloty. To znamená, někdo chce začít pracovat s umělou inteligencí a chce mít k dispozici dostatečně silný hardware a začíná zkoušet nějaké scénáře, kdy by to využil. potom velmi často právě ke klasifikaci nějakých citlivějších dat. A potom je naším velmi častým zákazníkem někdo, kdo už je, kdo už je spíš odbornější subjekt a potřebuje trénovat, trénovat nějaký model, dotrénovávat, dělat fine tuning, upravovat, upravovat váhy, vyvíjet něco vlastního. A máme tam, máme tam v historii využití i řadu akademických a vědeckých pokusů a často máme skvělou infrastrukturu ke generování videa, takže hodně se u nás generuje video, v nějaké části obrázky hodně zájemců potom klasické nějaké textové, jazykové, modely nebo třeba nějaké nasazení průmyslové, že klasifikují nějaké obrázky výrobních linek a podobně. Takže ta škála je poměrně pestrá a tohleto všechno jsou využití, s jejichž poptávkami nebo realizací jsme se setkali.

Filip: Vy

Stanislav: A

Filip: často,

Stanislav: možná jsem

Filip: no, no, pardon

Stanislav: tu nejdůležitější a nejdůležitější, a to je vývoj softwaru. Kódování si myslím, že je vlastně největší, eh, já to mám za-zařazeno jako jazykový model, ale prostě velká většina se používá pro vývoj kódu

Filip: Hm. Často nebo primárně jsou open weight modely z Číny a eh, čínský zboží nebo čínský, eh, vlastně jako, nebo ten, ta, ta infrastruktura často i je označovaná Národním kybernetickým úřadem nebezpečná. A mě by zajímalo ty open weight modely. Já rozumím tomu, že ty modely se provozují u vás, takže vlastně jakoby data do Číny, ale někdy se mluví o tom, že tam jsou takzvaný sleeper agents. To znamená, že my vlastně nikdy nemůžeme vědět, jak ten model byl natrénovaný a jaký konstrukty přejal. A ve chvíli, kdy ho zapojujeme jako agentickou AI, tak jestli tam nejsou schovaný nějaký rizika. Jak se na tohle díváte vy? Je to nesmysl nebo opravdu tohleto hrozí?

Stanislav: Určitě to není nesmysl. skutečně, eh, skutečně, eh, ty nejzajímavější modely v tuhle chvíli z pohledu, eh, z pohledu výkonu jsou převážně z Číny. Eh, máme několik, eh, amerických modelů, které, eh, se snaží držet krok. Eh, na ty někteří zájemci reagují ještě hůře snad než na ty čínské. A, eh, je potřeba hodně, eh, hodně důsledně oddělit, eh, oddělit dvě linky. První je, eh, třeba čínská infrastruktura tam to může být, eh, velmi problematické. A druhá věc je model a jeho váhy. A skutečně existují, eh, nějaké, nějaké mechaniky, které, eh, které mohou, vyústit v to, že se ten ch-model chová nějakým způsobem, a-a, eh, do kterého vstupuje státní aparát. U některých čínských modelů to bude třeba, na některé druhy citlivých politických otázek a podobně. Eh, takže, eh, čínský model může být velmi neuhodný, když budete psát, eh, učebnici, eh, dějepisu, která se bude na čínské historii bude vám dávat určitě zkreslené výsledky v řadě případů. A-a A když někdo nechce čínský nebo americký model, my mu rádi zprovozníme vlastně úplně cokoliv, co bude potřebovat na míru, na míru jeho přáním. Nicméně fakt je takový, že pokud chcete třeba vyvíjet kód, tak v těm, těm čínským modelům se teď něco málo, málo snad jako vyrovná. Takže, takže pro tady to využití jsou ty čínské modely zkrátka nejlepší. co se týče sleeper agents a nějakých, potenciálně škodlivých mechanismů začleněných přímo do samotných vah modelů, tak je to věc, která, která je teoreticky popsaná. V praxi si myslím, že, že k ní téměř nedochází. Ty modely se dají zkontrolovat a u, u oficiálních vah těch, těch modelů je velmi nepravděpodobné, že by to někdo nepozorovaně měl. Je ale dobré si dát velký pozor na, na třeba různé odnože, dotrénované modely nebo předpřipravené optimalizace modelů, kde už snadněji, ať už přímo do těch vah, což opravdu je taková věc, která, které se obávám velmi málo, spíš do toho frameworku kolem, tak tam už se může snadno něco, něco podít. my to, my to kontrolujeme. My, my tohle to bereme jako velkou prioritu a nám například běží na, na celém tom clusteru nějaká dohledová služba, která právě dělá přesně to, že tam občas posílá data a testuje, jestli je někde v celé té infrastruktuře nenajde jinde. Takže my vlastně máme nějaký, nějaký servis, který hlídá, že opravdu pořád jsme, jsme zero data retention a ten prostě pošle nějaký unikátní vstup a hlídá, jestli v paměti příliš dlouho, jestli se někam neukládá, ať už v té nezměněné podobě nebo v nějaké obdobné. Kontroluje, kontroluje výstup, jestli, se něco takového neobjeví v datových tocích na datových linkách. je to jeden, jeden ze způsobů, jak na ten model jde, dohlížet. Nicméně nejsem zatím seznámen s žádným případem, kdy by u nějakých oficiálních vah nějakého velkého otevřeného modelu byl opravdu funkční mechanismus na, na nějaký únik dat. Ale je, je to, je to zají-zajímavá, zajímavá věc na sledování. Jsou, k tomu nástroje, jak to, jak to hlídat a pozorovat, což, což my děláme. zase pokud budete mít inference lokálně a offline, tak můžete, i když budete mít velmi opatrný přístup, tak můžete i tohle to vyloučit, protože to prostě můžete provozovat bez, připojení.

Jindřich: Jaký je cíl společnosti Cosmi Compute? Plánujete mít vlastní datacentrum nebo se spíš starat o cizí infrastrukturu třeba?

Stanislav: Díky. Naším cílem je určitě, určitě a tvořit, tvořit spolehlivého poskytovatele, který je vhodný i pro, pro citlivá data, který bude mít dobrou reputaci. Chtěli bychom, chtěli bychom době dosáhnout i toho, že budeme mít novou generaci výpočetních jednotek, konkrétně platformy Vera Rubin. domnívám se, že, že datacentrum bude nějakým střednědobým, střednědobým plánem vlastním. to je zhruba, zhruba, co teď chceme dělat. Chceme budovat spolehlivého poskytovatele evropského a vyvíjet, infrastrukturu, která bude spolehlivá a velmi, velmi rychlá.

Jindřich: Pokud se nepletu, tak v Čechách se plánuje projekt takzvaný AI Gigafactory. Je to něco třeba, co se vás týká nebo co byste potenciálně mohli využít?

Stanislav: Ano, je to tak. Eh, je to, eh, je to jedno z míst, kde je, eh, kde je velmi pravděpodobné, že tu Gigafactory bude. obecně, eh, obecně, eh, tyhle velká, tyhle velké infrastrukturní projekty, často přináší, eh, přináší právě zlepšení té, eh, té páteřní infrastruktury, takže nám, eh, to sekundárně může pomoci třeba v podobě, velmi silných linek a napojení na okolní státy. A jinak je to, eh, je to něco, kde já v tuhletu chvíli, nevidím, přímý přínos nebo, nebo vy-vý-nějaké výrazné riziko, protože máme trochu jiné cílové skupiny a, eh, bude ale v každém případě zajímavé pozorovat, eh, pokud nám tady něco, eh, takto rozsáhlého vyroste.

Filip: Při přípravě mě ještě zaujalo, že, eh, vy spolupracujete i se společností Transformuj AI. Oni vydávali teďka case study, kdy vlastně na x reálných případech tak měřili tu cenu spotřeby těch modelů, těch open-weight modelů, který jste jim navrhli naměřili, že až někdy jako desetkrát nižší cena se jim podařilo jako získat než oproti poskytovatelům, jako je třeba Anthropic na Cloud Sonet se stejnými výsledky. Kam se-- jako kam tím mířím, na co se chci zeptat? Tak obecně řekl byste, že ty open-weight modely na tý vaší infrastruktuře dokážou bejt jako znatelně efektivnější než tady ty frontier hráči? Nebo je to vždycky use case od use casu a je to potřeba změřit?

Stanislav: Je to, to významně efektivnější přibližně o ten řád. A, eh, je, je potřeba poznamenat, že se to velmi rychle mění. Ty, ty modely vychází co pár týdnů a opravdu se to rychle mění. Ale, ale ano, pokud někdo už má tu spotřebu těch tokenů takovou, eh, že už je to cítit, tak of-- s těmi otevřenými modely, eh, dosáhne velmi často stejného výsledku s, s velmi razantním několikanásobným až klidně řádovým snížením nákladů. A je to taky jeden, jeden z důvodů, proč, proč to společnosti zvažují. Takže pokud ten, pokud ta útrata za, za ty tokeny za ty inference už je velká, eh, velice prostým motivátorem může být cena. A tam, eh, tam, se u otevřených modelů prostě dostanete řádově, řádově na lepší čísla, a dokonce, dokonce ta propast, která byla dříve obrovská v té inteligenci, se pořád snižuje mezi těmi frontier modely a mezi otevřenými modely. Takže dnes už opravdu, eh, jsme schopni provozovat model, který, jako ve velké většině parametrů může konkurovat třeba Fableu. A to je model, o kterém jsme ještě nedávno četli, že je tak silný, že se nesmí vydat. Takže jde to velmi rychle a ty otevřené modely doslova těm, doslova těm, eh, komerčním šlapou na paty, co se týče výkonu. co se týče té ceny, tak jsou prostě podstatně levnější. Takže je to jeden ze základních důvodů, proč, proč vlastně firmy chtějí, chtějí přejít třeba na ty otevřené. Nemusí nutně potřebovat třeba takovou bezpečnost dat a nezáleží jim na tom, aby, eh, aby data neopustila republiku a podobně, ale chtějí zkrátka ušetřit.

Jindřich: Je možný nějak ty vlastně náklady, pokud já bych chtěl u vás, eh, provozovat třeba nějakej model, tak nějak vlastně generalizovat, abysme si to nějak, nějak jako dokázali představit. A jaká je případně třeba jako nejmenší jednotka toho pronájmu? Vy jste zmiňoval, že se to asi měří, nebo eh, jak to mám říct, na základě počtu těch využitých grafických čipů, jo, tak jaká je třeba cena za pronájem tady jednoho grafického čipu?

Stanislav: A v podstatě naše základní ceníková cena za jednu, eh, RTX šest tisíc Pro, která má devadesát šest gigabajtů, eh, grafické paměti, tak je dvacet devět tisíc korun za měsíc. A abyste si to k něčemu dokázal, eh, přirovnat, tak na, eh, na tady tomhletom akcelerátoru dokážete provozovat, eh, třeba, třeba z těch čínských modelů, eh, Qwen tři osm, dvacetisedmimiliardový model nebo, eh, nebo Qwen, Qwen Nextflash, který, eh, který bude, eh, podobný jako, třeba Sonet, eh, ve výkonu. Dá se to srovnat hezky třeba na Artificial Analysis webu a bude opravdu, eh, bude opravdu výrazně levnější, eh, mnohonásobně. s tímhle modelem dokážete celkem, eh, přes tisíc tokenů za sekundu při nějakých třiceti dvou souběžných requestech. Takže na takovéhle kartě, eh, za, za cenu, eh, za cenu kolem, eh, za cenu kolem těch dvaceti devíti tisíc a v tuhletu chvíli dokážete generovat dvacet čtyři sedm tisíc tokenů za sekundu, eh, přibližně, eh, v úrovni, v úrovni nějakých sekundárních modelů, eh, těch komerčních

Jindřich: Chápu. A je to teda tak, že tam mám dedikovanou tu grafickou kartu. Eh, vy jste řekl tu cenu za měsíc a je pak už prakticky na mně, do jaký míry já ji vytěžím

Stanislav: a, a samozřejmě, eh, jak jsem zmínil, máme ty modely i jiné, takže dá se, dá se nám i zadat třeba nějaký, nějaký job, který potřebujete spočítat a my ho uděláme, když máme volnou kapacitu. dá se spustit třeba víc menších modelů na jedné kartě, a podobně. Ale t-tady to základní, tady ten základní pronájem jedné karty, vypadá zhruba takhle a ten model tam dokáže, v této úrovni tam dokáže, dokáže počítat zhruba kolem těch tisíc tokenů za sekundu generovat

Filip: A jestli to teda chápu správně, tak vy neposkytujete v tuhletu chvíli cenu za token. Ta nejmenší jednotka je, že si pronajmu nějakou grafickou kartu na nějakej čas

Stanislav: Můžete u nás i, eh, i pořizovat za token

Filip: Mhm.

Stanislav: Eh, máme vlastně, eh, máme vlastně veřejné API, které eh, negarantované. Uvolňujeme tam volnou kapacitu, ale tam si kdokoliv může vytvořit účet, a když nějaká volná kapacita je, tak, tak může pracovat má tam i nějaké kredity

Filip: Угу

Stanislav: a, eh, potom je tam cena, cena za token, kterou se snažíme nasazovat jako kompetitivně. Když někdo používá třeba Open Routeru, tak býváme těsně pod ním nebo na nějaké spodní hranici cen, eh, cen Open Routeru. A, eh, jen, eh, jen v případě, že, že potřebujete, potřebujete ten, eh, ten stream spolehlivý, tak tam, a třeba dvacet čtyři sedm, tak potom děláme rezervace na nějaké konkrétní počty tokenů nebo na ty streamy. A ale je možné domluvit i, eh, i cena za token

Jindřich: Mě často, mluví se o, eh, takzvaným takovým slovním spojení evropská AI suverenita. Eh, vlastně je to takový jako hrozně obecný z mýho úhlu pohledu, ale vlastně je to vůbec něco, co je z vašeho úhlu pohledu reálný, když se používají jako čínský modely anebo americký čipy?

Stanislav: Ta otázka to trochu obsahuje tu odpověď. Eh, s tím, že neexistuje, eh, evropská suverenita v AI. A my, eh, se to tady snažíme trochu dohánět tou regulací, ale, eh, nemáme ani infrastrukturu pro, výrobu hardwaru a nemáme vlastně ani chvíli žádný úplně, eh, úplně kompetitivní model. Eh, takže, v tomhletom Evropa zaspala a, eh, nezbývá než, než doufat, že se to zlepší. Ale je to situace, která trvá velmi dlouho. použitelné čipy vyrábí, eh, jeden nebo pár subjektů na světě a, eh, už je to, už je to velmi dlouho. takže, takže opravdu, eh, evropský kontinent v tomto suverénní, eh, suverénní není a, eh, věřím, že se chystají velké pobídky k tomu, aby se to dohnalo. Tak, eh, nezbývá, než se na to těšit, že, eh, se toho tady někdo chopí.

Filip: Se pomalinku blížíme ke konci a mě napadá taková praktická otázka, možná trošku jako obsáhlá, ale řekněme jsem firma o pár lidech nebo deset, dvacet lidí. Tak jakou vy vnímáte nejčastější chybu, který tyhlety firmy dělají z pohledu AI a práce s jejich datama a na co by si měly vlastně dát pozor? Takový ty jako největší problémy, který, na který by mohly narazit.

Stanislav: Já se opravdu bohužel často setkávám s tím úplně základním problémem, že, eh, AI nikdo systematicky té firmě neřeší a, eh, že opravdu, eh, se stává to, že přesně to, o čem jsme tady mluvili, že někdo vezme nějaký dokument, střelí ho do nějaké bezplatné verze chatu. otázka je nejenom ten výsledek a jeho kontrola, ale samozřejmě celá ta cesta správy těch dat a nějaká odpovědnost té firmy za to. eh, já tam tu chybu vidím v tom, že si nikdo nenajde čas udělat si aspoň nějaký základní rámec, říct zaměstnancům co, jak, kam, kam dávat a kam ne a proč. Vysvětlit jim, jakých případech je to, je to důležitá věc tohle velmi pomůže. Bohužel se u toho zdaleka nesetkávám jenom u nějakých neodborných subjektů, ale, eh, byl jsem svědkem, dost, dost laického používání i, eh, jak vývojáři, tak právníky, lékaři. prostě často, často ten člověk nemá, nemá čas a chuť, po-nebo nemá prostor porozumět a porozumět tomu, jak to všechno funguje, jaká rizika a odpovědnost s tím nesprávným použitím mohou být spojena. eh, teď se to začne čím dál, eh, čím dál více, eh, více vracet a, eh, s tím větší problémy. Takže je na čase, udělat aspoň nějakou základní vizi, vysvětlit a stanovit si a vysvětlit, jak, umělou inteligenci v rámci podnikání používat a seznámit s tím kolegy. To je, to je, to je kritické. ty další chyby, to už je, to už jsou třešničky na dortu. Tady ten základ chybí ve spoustě firem, aspoň podle, podle mého názoru,

Filip: A když teda jsem,

Stanislav: zvlášť těch

Filip: hm, a když teda jsem ten majitel, tak za kým bych měl jít první v tý firmě? Je to teda IT, když se jedná primárně o jako pochopení toho, jaký data tam můžu dát, jak se to technicky zpracovává, protože jako chápu asi právní oddělení, to mi jako dá názor na to, kam třeba ty data můžu dát, ale pak potřebuju ještě jako to prakticky jako vyřešit, že jo, nasadit. Tak asi teda IT.

Stanislav: Tohle je přesně, přesně ta potřeba, kde by měly spolupracovat ty dvě zdánlivě velmi zdá-vzdálená odvětví, a to jsou právníci s IT. A ti by měli dát dohromady technický a právní rámec toho, jak se s těmi daty bude pracovat. A na tomhle musí spolupracovat jak IT, tak právní oddělení

Filip: Já třeba často ještě u firem slýchám to, že primárně pro-- jako z IT, protože já sám jsem ajťák, takže, eh, ty lidi si tam stěžujou na to, že my to chceme implementovat, ale vlastně compliance a právníci ve firmě nám hází klacky pod nohy, že prostě říkají: „Ne, to nejde. Ty data tam prostě dát nemůžem.“ A jako vnímáte to podobně, že třeba ten právní svět ještě jako na tu adopci není tak připravený a je to jako strašně těžko uchopitelné. Takže vlastně spíš ty právní týmy říkají: „Hele, radši počkáme, než abychom jako se snažili najít tu cestu, jak teda ty data zpracovávat, protože je tam těch možností, co se může pokazit, zkrátka spousta?“

Stanislav: Tady těžko vyvodím obecný

Filip: Jasný

Stanislav: ale, ale určitě není právní tým úplně mimo a říká, že, že raději něco dělat nemá, tak myslím, že to může být často pravda. A chce to, chce to udělat nějakou opravdu řízenou strategii, jak to, jak to IT využívat a toho se musí účastnit, toho se musí účastnit jak, jak to právní, tak to technické oddělení, aby to fungovalo i ze strany těch regulací, ze strany toho, toho rozvoje a akcelerace té firmy pomocí, pomocí jako správně používaných třeba jazykových modelů. A nepochybuju o tom, že, že to řada právníků může zbytečně brzdit. A ani bych se nedivil, kdyby to řada právníků brzdila velmi rozumně. Takže obě dvě ty, oba dva ty scénáře

Filip: Jasně.

Stanislav: určitě, určitě existují.

Filip: jako kam jsem tím mířil, eh, co byste jako poradil těm lidem, těm, co stojí za těma technologiema, jak s těma právníkama třeba jako mluvit? Je to třeba právě odkázat na společnosti, jako je Cosmic Compute, který jako dokážou po-pomoct postavit tu lokální infrastrukturu. Je tam i to propojení toho, že vy jste právník, jste zároveň i jako člověk, kterej technologiím rozumím, protože to si myslím, že tam to často drhne, že jako každá strana má to svoje a najít tu společnou řeč je vlastně strašně složitý. Tak jestli na to máte z praxe nějakej jako tip?

Stanislav: Tohle určitě může být dobře a zvlášť když, ať už to právní, ať už ta právní nebo ta technická část, když si uvědomuje, že, eh, ne všechno, co je potřeba zpracovávat, se musí poslat někam do čínské infrastruktury, ale že existují a že existuje třeba lokální provider, který opravdu má místní strukturu, nevyužívá, nevyužívá třeba žádné třetí strany, podepíše to DPA a, a stojí, stojí na zakladatelích, kteří mají dlouhou historii v compliance a, a úspěšnou, tak tam být často odpověď to, jak s těmi daty pracovat. A opět zase, když právní oddělení dozví, že i ty nejcitlivější data se dají nějakým způsobem zpracovávat úplně lokálně a můžou je mít pod plnou kontrolou a třeba že ty výstupy můžou být i zpracovávány na strojích, který vůbec není připojený do ani vnější sítě, tak to zase může otevřít, otevřít jak efektivně zavádět ty technologie a současně dodržovat, dodržovat správně ty, ty právní postupy a regulace. Takže rozhodně, rozhodně místní provideři, lokální modely můžou být dobrým můstkem pro, pro konflikt mezi, mezi technickou implementací a adopcí a obavy, obavy té, té právní stránky.

Jindřich: Jaká je podle vás ta konkurenční výhoda, eh, společnosti Cosmic Compute? kam tím vlastně mířím? Proč abych jako třeba váš potenciální zákazník měl ty citlivý data smě-svěřovat vám ne třeba Amazonu a využít jejich službu Bedrock?

Stanislav: Rozumím. A v podstatě, eh, těch důvodů, eh, je, je řada. Z hlediska čistě obchodního, jak už jsme tady zmínili, tak my jsme schopni tu infrastrukturu poskytovat výrazně levněji než, eh, než hyperscaleři, potažmo ty inference výrazně levněji než, než frontier komerční modely. To je jeden z prvních důvodů. A druhý, druhý důvod je to, například s tou, s tou připravovanou další legislativou, tak máme opravdu významně větší nezávislost. To znamená, že, že když pronajmete, když si někdo pronajme infrastrukturu od nás, tak my opravdu, eh, n-nepociťujeme žádný vliv nebo tlak třeba americké vlády, pokud, pokud se bude, bude dít cokoliv, ať už, ať už z hlediska přístupu k datům nebo naopak třeba nutné, nutnému rychlému omezení nebo zakázání těch služeb. Jak, jak jsme zmínili, může se stát, že, že ti provideři, kteří jsou spravováni nějakou zahraniční entitou, tak, z důvodu ať už regulace nebo, nebo státního zájmu prostě něco přestanou poskytovat anebo, nebo to budou poskytovat evropským subjektům za, za jiných podmínek a podobně. A co se, se týče potom, potom právního rámce, tak je zase otázka, v jakých parametrech, a to už je poměrně individuální, ale v jakých parametrech se, se dá podepsat právě třeba ten Data Protection Agreement s různými subjekty a my jsme v tom flexibilní a schopní tady ty dohody podepisovat a držet. A ještě je tam na tom jedna dobrá věc, že vlastně i díky té blízkosti, tak my máme technicky excelentní, excelentní třeba latenci. Opravdu, opravdu, když ty data neletí přes celý svět, tak pokud máte něco, co je kritické pro, pro rychlou odezvu, tak tam dosahujeme velmi dobrých parametrů, třeba i v porovnání, i v porovnání jako s velkými datacentry a třeba americkými. Takže tohle jsou asi, asi z těch našich pozic. to jsou důvody, to jsou důvody, proč si nás ty subjekty, subjekty vybírají. To znamená lokalita, compliance, cena a

Filip: Se tímhle tím blížíme ke konci. Eh, děkujeme za veškerý odpovědi, zajímavý insighty. Zeptám se na závěr: je něco, co tady nezaznělo a podle vás by mělo, ať už z pohledu bezpečnosti nebo lokálních modelů. Zkrátka jako cokoliv, co byste chtěl ještě sdělit

Stanislav: Myslím, že, eh, že zaznělo, eh, vše, co, co, co si vybavuji. Ještě doplním možná k té poslední otázce, eh, k té naší konkurenční výhodě, eh, jsem si vzpomněl, eh, proč by měly vlastně subjekty svěřit, eh, svěřit data nám, když jsme založili Cosmyk Compute teprve nedávno, a to před třemi měsíci. eh, tady bych vlastně, eh, tady bych vlastně na to ještě rád odpověděl, že tam, eh, záleží hodně na tom, a v jakých parametrech, eh, chcete stavět a dělat. eh, pokud vlastně potřebujete třeba interní stroj, tak, eh, je otázka, jestli si potřeb-- jestli je klíčem, existence toho subjektu. A my vlastně, eh, z hlediska té bezpečnosti máme se svým co-founderem, eh, ten profil, eh, v compliance dlouhý. Eh, on spoluzaložil, eh, finančně technologický startup Spendy a byl vlastně jedním, eh, jedním, byl vlastně prvním, kdo dostal, eh, PSD2 licenci od České národní banky vedl implementaci jedné z nejpřísnějších -finančně, finančních regulací. A, eh, já, jak jsme zmínili, tak v rámci toho oznamovacího systému, který funguje už více než pět let, tak mám, eh, tak mám vlastně, několik set subjektů a u více než stovky z nich, eh, jsem, jsem přímo odpovědný za to, že to compliance dodržují. v případě, že by tam něco neměli správně, tak jsem za to odpovědný osobně a pokutu, a pokutu hradím za ně. A já si myslím, že nejlepší důvod, proč si vybrat subjekt, který je lokální a poměrně nový, je dívat se na, na nějaký track record těch zaměstnanců, protože, vlastně, eh, žádnému z našich klientů nikdy žádná pokuta za celých těch pět let udělena nebyla. A to je přesně důvod, proč si myslím, že je dobré si nás teď vybrat i pro, eh, dodávání Compute, protože jsme teď na začátku, ale rychle rosteme a máme vlastně, eh, máme vlastně, eh, velmi velký fokus na tu, a respekt k práci s dat-s daty a s citlivými údji. nejenom na ten, nejenom na ten technický rámec. Takže se jenom nevrtáme v serverech, eh, je dobré, když vybíráte na cokoliv nějakého subdodavatele, který funguje krátce, podívat se, jakým způsobem funguje a kdo, kdo stojí za ním. Eh, jinak samozřejmě můžou být use casy, kde, kde bude Microsoft lepší třeba u nějakých, eh, velkých celoplošných, eh, nasazení s-z-z počte-- kde potřebujete obrovské množství toho výpočetního výkonu. Tam třeba je problém ještě škálování, ale věřím, že, že to brzy doženeme a budeme schopni, eh, zaštiťovat i, eh, i hodně velké požadavky na, eh, na velký výkon.

Jindřich: Je určitě zajímavý. díky moc ještě jednou, že jste si našel čas. Bylo určitě fajn se dozvědět něco o AI Actu. Přece jenom jsou to věci, který nás relativně úzce týkají. A mimochodem máte skvělé název společnosti. Mně se to hrozně líbí, je to kreativní a akorát se mi tam trošku pletou ty K a C,

Filip: yeah

Jindřich: to je jenom taková, eh, zpětná vazba ode mě. ještě jednou díky moc.

Stanislav: OK

Jindřich: i, eh, našim posluchačům. Samozřejmě, pokud se budete chtít na něco zeptat nebo něco doplnit, určitě, eh, můžete do komentářů a budeme rádi, když nás budete odebírat. jednou díky moc. Díky Filipe i tobě. Mějte se a těším se na příště.

Stanislav: Jest pozwanie

Filip: Hezky děkuju a mějte se krásně a my se na vás budem těšit u další epizody podcastu Deep Link Show