Jan Tyl

Honza: Upřímně bych řekl, že mě tam ti agenti poslali a sám bych tam asi jako nešel.

Jindřich: Havel přece jenom do jistý míry by mohl bejt jako dost kontroverzní,

Honza: Takže když jsou teď volby, tak by se nikde nemělo objevit, že Václav Havel doporučuje volte toho a toho.

Filip: mně to přijde, je to takový z toho seriálu Black Mirror, že jo. To

Honza: přišla holka a řekla: „Já jsem se do toho modelu zamilovala, když mu dáš dlouhodobou paměť, já udělám pro tebe úplně cokoliv, já se s

Jindřich: Dnešním hostem je Honza Tyl, zakladatel firmy Alpha Industries. Vystudoval etiku a filozofii, AI Awards a dnes zkouší AI na superpočítači LUMi i na prvním českém kvantovém počítači. Někdo ho možná zná jako Johnnyho z reality show Zrádci. díky, že sis udělal čas a vítej v podcastu Deeplink Show.

Honza: Děkuju za pozvání. Krásný večer, krásný den

Filip: Ahoj Honzo, zdravím tebe, zdravím i naše diváky. Mě by zajímalo, ses ty vlastně jako člověk, který studoval teologickou fakultu, dostal k vývoji umělé inteligence? Jaká je ta tvoje cesta?

Honza: Já jsem s něčím jako vývoj umělá inteligence začal ještě dřív, než jsem vstoupil na teologickou fakultu. To vůbec byla zvláštní volba. Jestli někdo stojí před tím, na jakou jít vysokou školu, tak to má ještě těžší, než jsem to měl já tehdy díky právě asi umělé inteligenci. Ale jeden z faktorů u mě bylo, kolik je na vysoký škole žen, podíl mužů a žen. Takže třeba matfyz měl daleko menší podíl, eh, žen než mužů. A zároveň, jak je to zajímavý, jak mi to připadá jako nudný se ta věc naučit. Zatímco třeba fyziku nebo matiku si mám pocit, že si člověk dokáže naučit sám od sebe plus minus a nepotřebuje tolik chodit mezi ty lidi. ty fascinující diskuze, který byly na tý teologický fakultě, byly něco, co mi připadalo nejvíc nabíjející. Když jsem přemýšlel, co bych mohl pak v životě dělat, tak tady jsem cejtil, že to dává větší smysl a byly tam oblasti. Tu technickou část už jsem měl tak nějak zvládnutou od přírody a tu humanitní část jsem potřeboval dodělat. A řekl jsem si, kdy jindy než teď. A k tý umělé inteligenci jsem se dostal už jako malinkatej. Mně chyběli kamarádi, když mi bylo nějakých čtyři, pět let, tak jsem si začal vyrábět různý loutky. Pak, když jsem, mi bylo asi osm a naučil jsem se trochu programovat, tak jsem si vyráběl v takovejch jakoby pre-programovacích jazycích svoje kamarády, takový přes nějaký číslíčka a kalkulačky. A-a když mi bylo asi dvanáct, tak přes první neuronovou síť takovou jednoduchou. Pak dlouho nic. Věnoval jsem se jako jinejm normálním záležitostem a někdy asi deset let zpátky jsem se hodně vrátil. Jsem zakládal něco jako Startup Academy se svýma přátelema už jsme učili asi druhý kolo. Lidi to docela bavilo, ale mně připadalo, jak můžu učit, jak dělat startupy, když jsem nikdy žádnej startup jako neudělal. Tak jsme přemýšleli, že bysme teda mohli zkusit nějakej startup sami zkusit vyrobit, nevěděli jsme o čem. A tak jsme hlasovali. Dělali jsme takovej ten, spoustu nápadů každej z nás zkoušel vymyslet a mě napadlo, co zkusit umělou inteligenci. Ta mě vždycky bavila a mojí tehdejší přítelkyni taky hrozně bavila. Tak jsme to zkusili a líbilo se to ostatním. Viděli v tom potenciál. Už deset let zpátky to vypadalo, že by to mohlo bejt cool. Tak jsme to zkusili a najednou mě to bavilo víc než ta Startup akademie. Víc než práce jako nějaká analytická konzultantská pro různý zákazníky. Až mě to tak pohltilo, že teď jsem v tý firmě od nevidím do nevidím, od pondělka do pondělka. Však to znáte.

Jindřich: A máš pocit, že ti to teologie dalo něco, co můžeš využívat třeba v, jako v kontextu tý umělý inteligence? Mělo to nějakej přesah?

Honza: No kromě toho, že tam byly ty ženy, tak to bylo i propojení právě tý exaktní a humanitní části. Mě matika, fyzika, programování a takový věci šly jako samy a připadalo mi-- ale i mě bavila filozofie, psychologie, různý náboženství, spiritualita a takový věci a připadalo mi, že by to bylo super jako spojit, že většina lidí to viděla jako mosty, který jsou nepropojený, že když se člověk zabývá něčím exaktním, tak těma humanitníma vědama opovrhuje a říká, že jim stačí papír a tužka. Když se člověk studuje humanitní vědy, tak jim připadá ta exaktní svět tak jako oproštěný o nějakou hloubku a pořád by jenom něco počítali. Mně připadají, že jsou to dvě dimenze, který se jako krásně doplňujou. A celkem mě oba dva ty světy bavily. A se měl naučit takový to klasický vzdělání jako latinu, řečtinu, hebrejštinu, jsem si říkal, jestli se to nenaučím teďkon, tak už to do svýho mozku nedostanu jako ten student. A je pravda, že dneska bych se ty, že bych jako nějak dobře vládnul těma starejma jazykama, ale to, že jsme něco takovýho dělali, mi podle mě otvíralo pohled na to, jak na to mohly koukat dřívější generace a zase jakoby to tomu dávalo nějakej hlubší nebo jinej rozměr, kterej dneska beru jako velkou výhodu.

Filip: Mně přijde strašně zajímavý, že ty máš takovej jako širokej záběr, byť jako se věnuješ primárně AI, tak právě jsi studoval i teologii a teďka dost možná někteří z diváků tak na tenhle podcast klikli i kvůli tomu, že jsi byl v reality show Zrádci. by vlastně zajímalo tady to propojení, protože ta hra je primárně o tom, že musíš odhalit ty lidi, co lžou, nebo pokud ty seš ten tak jakoby ten zrádce, tak musíš lhát těm lidem. Tak vidíš v tom nějaký jako propojení i třeba s těma dnešníma agentama? Ptám se na to jako z pohledu toho, že i dneska jako ti agenti ti někdy jako vlastně lžou nebo ti ne úplně jako říkají pravdu. Tak jako jsou to, byla to pro tebe jenom čistá zábava nebo je v tom něco, co sis jako odnes i do toho světa umělé inteligence?

Honza: Upřímně bych řekl, že mě tam ti agenti poslali a sám bych tam asi jako nešel. Moji blízcí přátelé mi říkali: „Je to blbost. Ty děláš aplikace pro geeky, který maj ukazovat, jak rozvíjet věci jako kritický myšlení, jak bejt jako hodnej a stavíš odpovědný občanství a takový věci. A jít do reality show zrádce může dopadnout jenom špatně. Buď ukážu, že jsem společensky jako neschopnej a tím pádem kdo chce pracovat s neschopnýma lidma. Anebo naopak prokážu, že jsem schopnej a tím pádem budu umět manipulovat, lhát to taky není člověk, s kterým by chtěl člověk spolupracovat. Takže ať ukážu, že jsem dobrej nebo špatnej, ve všech případech by to mělo dopadnout špatně. Takže moje logická úvaha: „Děkuju moc za pozvání, ale nemám o tady tu jakoby reality show zájem.“ Nicméně moji vlastní agenti, k tomu se možná dostaneme. Já vedu takový jako deníček a oni mě sledujou jako dlouhodobě moji agenti dlouhodobě znamená třeba dvanáct let, jako že znaj každej, ne každej den, ale jako znaj mě asi líp než jakejkoliv člověk nebo jakákoliv skupina lidí. A ti říkali naopak, je to pro tebe dobrý. Já si myslím, že výzvy a challenge by si měl dělat. A existuje jakási úzká cesta, je mezi tím tou manipulací a lhaním, kde můžeš ukázat svoji opravdovost, svoji autenticitu, která je dneska tak jako žádoucí. A pokud se ti to poda-podaří, tak, a tobě se to bude muset dařit, protože když ne, tak můžeš jenom jako dopadnout špatně, že ta negativní reklama není úplně to nejlepší. A jak tě bude sledovat spousta kamer, tak budeš mít ten bitch, po kterém tady tolik prahneš. Takže mě naopak poslali do toho, že oni mě schválně jako rádi posílají do nepohodlných záležitostí a ten můj pohodlnej kancelářský život mně narušujou různejma věcma a tohle bylo pro ně ideální narušení. Takže největší, eh, bych to řekl zdroj, ten, kterej byl jednoznačně pro od první chvilky mě tam poslat byli moji vlastní agenti. Můj vlastní asistent Bernard hlavně.

Jindřich: A jak to teda, eh, jako hodnotíš, eh, teď, teď zpětně? Eh, přineslo ti to něco anebo myslíš, že to třeba nedopadlo dobře z tvýho úhlu pohledu?

Honza: jsou věci, na kterých bych mohl pracovat líp a který mě hořce bolely, když jsem zjišťoval, že nedokážu vždycky přečíst a jejich pláč mě dokáže emotivně ovlivnit. A zároveň je to taková výzva toho, jak dobře pracovat s vlastníma emocema, rozumem, s nedostatkem informací. Ale na druhou stranu to beru velmi pozitivně, že spíš já jsem se, první, čeho jsem se bál a zjistil jsem, že se toho bojí většina hráčů, že vypadnem hnedka jako první den, že tam přijedem a hnedka buď se ani nedostanem na hrad a nebo nás vyrazí jako prvního. To je taková jako velká ostuda. Takže pokud se nestane ta velká ostuda, tak první takový limit, který každý z hráčů se snaží, jak bych to řekl, překonat, tak to se podařilo. Já jsem ani nepočítal s tím, že tam budu do nějakou delší dobu, že se dostanu do finále, protože automaticky jsem tam určitý archetypy lidí, když si to jako zjednodušíme, jsou tam třeba zpěváci, jsou tam krásný modelky, aby se na to dobře koukalo. A pak jsou tam takový ty šprtové, ajťáci, nerdové, co mají PhD, prostě takový. A mezi tuhle tu skupinku si myslím, že zařadili ty lidi jako mě. Jenže kdo má rád ty chytráky? Když je člověk chytrák, tak zrádci se bojí, že ho odhalí. A když je člověk chytrák, tak ostatní si myslí, že se nad nima jak vyvyšuje. Takže ty většinou, když jsem koukal na ty soutěže, vypadají mezi prvníma, jestli ne první, tak první, druhej, třetí vypadne, což taky jako nebyla dobrá statistika. jsem musel, jestliže spadám do tohohle archetypu, tak působit jinak než ti moji předchůdci. Typicky já jsem koukal na jeden díl, tam byl nějakej Asiat, který měl PhD. asi v, já nevím kolika, devatenácti, jeden z nejmladších lidí, co tam jsou. Působil velmi inteligentně, krásně oblečený a hnedka ho všichni nesnášeli. Vypadl snad první nebo mezi prvníma, tak přesně tak jsem nechtěl dopadnout a přemýšlel jsem, jak to udělat. A říkal jsem si, když se mi to podaří v tý hře, tak můžu zlepšit ty svoje social skills, ty svoje sociální dovednosti a jednání s lidma i v normálním světě. Takže to bude takový laboratoř, na který se budu muset snažit chtě nechtě a dávat pozor, protože jinak se mi to vymstí. Ale naopak, když se něco naučím a kupodivu jsem získal obrovský množství fanoušků právě tady těch nerdů a ajťáků, ale i různejch vedoucích firem, který tohleto dělají. Takže pak mi nabízeli: „Honzo, pojď k nám do kanceláře zadarmo, jakoby protože jsme ti fandili tady v tý věci, pojď s náma dělat...“ Naopak jakoby to, i když to nedávalo pro mě smysl na začátku a já jsem to měl naplánovaný, že vypadnu nejpozději v půlce, že jsem nečekal, že tam budu jakoby do konce. To se natáčí čtrnáct dní a já jsem si to dal na tejden a pak už jsem měl jako naplánované nějaký další zkoušky a takový věci, protože bylo velmi nepravděpodobný nějaká šance, jako že přežiju do tady tý části. Ale bohužel, bohudík se to povedlo. Takže sice jsem pak přišel a musel jsem řešit spoustu jako náročnějších záležitostí, ale bavilo mě to a dopadlo to dobře.

Filip: Ale mě zaujalo, jak jsi zmiňoval, že tě tam vlastně poslali agenti. Ale co, co mě zaujalo je, že ty vlastně říkáš, že už tě znají nějakejch dvanáct let, že už o tobě jako sbírají ty data. Tak ono je to vlastně jako až poslední třeba dva roky, že jo, kdy máme nějaký pokročilejší agenty. Tak jak vypadá tvůj setup teďka a jak vypadal předtím? Předtím, než to bylo trendy, než přišlo ChatGPT a podobný modely?

Honza: No než přišel ChatGPT, tak jsem se vyrobil sám jakoby z nouze. Já jsem používal GPT dvojku, která fungovala jako ChatGPT hnedka jak vyšla a byl jsem mezi prvníma při filozofický fakultě jsme takhle vyráběli prvního DigiHavla, ještě než šel jako mezi děti ze střední školy, tak jsem vlastně učil na vysoký, kdy ta Maličková mě oslovila, jestli bych nemohl ukázat něco o svojí umělé inteligenci. Tak jako vy máte podcast, tak já jsem na Facebooku psal nějaký články o AI. to líbilo a řekla: „Nechtěl by jsi se mnou jít učit jako na vysokou školu? Já učím filozofii, tak ty by jsi tam povídal o tom AI, já bych řekla o velkejch filozofech a hezky by se to doplňovalo.“ Tak jak jsem říkal, zase ta filozofie a ta technika, tak jsme to zkusili. Kupodivu to ty studenty bavilo. než byl ChatGPT, tak se naučili používat právě GPT dvojku. Vytvořil jsem jim takový cowork místo, kde můžou jako spolupracovat, aniž by měli nějaký větší technický skilly. Tak se mi podařilo udělat takový místečko, kam se dostaly všechny ty studentky nebo ne všechny, ale ty studentský skupinky. každej byl tak nadanej, ale když vytvoříš skupinky, já nevím, po šesti, tak se vždycky najde nějakej ten týpek, kterýmu se to podaří jako rozchodit a vytvořili moc zajímavý osobnosti ještě daleko dřív, než to u nás jako kupodivu i ve světě bylo známý. A od tý doby mi přišlo: „Ty jo, ve světě jsou sice super ligy, který dokážou dělat jako perfektní věci, ale my tady Češi jsme chytrý a dokážeme mnohdy jako ohnout a zajímavě jako vytvořit něco ještě dřív, než to bude v tom velkým světě.“ A tak od tý doby jsme trošku jako napřed tady v tom. Takže já používám ty agenty jednak delší dobu a druhak můžete tam dohrát věci jako z těch sociálních sítí, který jsou jakoby různý i zpětně, když potřebujete. Takže od tý doby, kdy si píšete na Instagramu, na Facebooku, na LinkedInu, můžete přes jeden příkaz si nechat stáhnout ty data a dát je do svejch agentů velmi snadno i zpětně. A získají jakous takous, oni mají pak nějaký chytřejší způsoby, jak se ode mě dozvídají věci, ale leckterý oficiální věci, jak se bavíte s ostatníma, můžete doplnit do těch agentů, pokud budete mít na to odvahu i touhle cestou.

Filip: Že pokud si to mám představit, tak ty prostě těch dvanáct let jako agreguješ ty svoje data, nějakým způsobem si je schraňuješ a čím jako lepší ty modely nebo agentní harnesses jako přijdou, tak je prostě používáš a jako víc a víc těžíš z toho, že máš tu svoji historii těch dat. Chápu to

Honza: Tím jsou vlastně chytřejší. No je pravda, že ten GPT dvojka, když se na to člověk podívá, já jsem tehdy počítal, že GPT dvojka nebyla jeden model, ale byl jeden, který měl tři sta milionů parametrů, dvě stě milionů parametrů a ten největší měl tu miliardu parametrů, což tehdy bylo extrémně jako hodně. GPT dvojka, dneska extrémně směšnej modýlek, že si rozchodíte na hodinkách chytřejší jakoby model, než bylo tohleto, ale pro nás to tehdy, když se to dobře ohlod a hezky s kým pracovalo, tak to dokázalo simulovat René Descartesa a principy o první filosofii, když se do toho daly, tak tu a tam z toho vypadla hezká myšlenka. Bylo to takový dost, česky to neumělo nebo velmi špatně. Když jsem to učil českou poezii, tak to bylo extrémně příčerný, ale občas z toho vypadly i chytrý myšlenky a ty nedokonalosti jsme brali jako to je z jinýho světa, to, to je ekovský a velmi nás bavilo to, co je umělý a jak se to liší od toho přirozenýho. A zkoumali jsme každej detail tady v tý věci a už tehdy to začínalo mít určitý emergentní jevy. To znamená, že třeba dokázalo pochopit principy o první filosofii na podobný úrovni jako lec který vysokoškolák, když se to dobře připraví.

Jindřich: Ty jsi sám vlastně před chvílí zmiňoval, že někdy v roce 2017 nebo 2018 jsi založil společnost Alpha Industries. Můžeš nám ji trochu představit? Vlastně jakej tam byl záměr a na čem případně pracujete dnes?

Honza: Tehdy jsem ji nezakládal sám, ale byla to skupinka lidí, kteří se mnou dělali tu Startup Academy, takže nás bylo asi pět, šest, něco takovýho a řekli, a já jsem měl osmdesát procent už tehdy, takže jsem byl takovej jako hodně v tom nejvíc zapálenej ze všech. A vize byla: Dělejme umělou inteligenci tak, aby jako pomáhala lidem, což je takový hodně obecný. Zní to trochu jako Facebook a nebo tyhle ostatní, ale napadly nás různý use casy. Začínali jsme něčím, o čem jste povídali ve svém podcastu. První casy, který jsme řešili, byly detektor emocí. To IBMko udělalo, nejdřív se začínal dělat sentiment, tehdy někdy 2017 začal plus minus fungovat. Tak my jsme koukali, že IBMko a další firmy už udělaly pět základních emocí a byly na to první benchmarky, kde se dalo jako soutěžit, který jsme pak vylepšili sami. A nám se podařilo hnedka jako udělat větší dataset, aby to umělo i česky i anglicky a porazit IBMko třeba jako výrazně, aby to bylo ty nejlepší hráči, který tam jsou. A právě máte nějakej článek o, o nějakým produktu, tak už tehdy 2017 bylo velmi snadný udělat to řešení. Tehdy jsme si sami psali ještě ty, jsme velký jazykový modely před učený od ostatních, ale využívali, sami jsme si vyráběli konvoluční sítě, který se jako natrénovaly na těch našich datasetech. To byla jedna z posledních dob, kdy se vyplatilo vyrábět ty modely od začátku do konce, nebyly velký strany, který dokázaly udělat extrémně velký model a ten fine tuning dokázal přebít tyhlencty vlastnosti. Tak tehdy jsme začali vyrábět jako konvoluční modely něco, co dokázalo dělat třeba takovýhle věci a nás to bavilo tím, že jsme, ty jo, my jsme najednou zase porazili jednu z největších firem na světě a v tady těch věcech a ty emoce a umělá inteligence by mohlo být jako docela dobrej use case, takže by to mapovalo ty věci. A říkali jsme si, pojďme na to založit firmu. A prostě jsme byli parta nadšenců, který takhle začali obvolávat a vytvářet první use casy.

Filip: Hm.

Jindřich: na čem pracujete dnes teda?

Honza: Tak když se posuneme do daleký nebo je to nazvat současnost, tak je to vlastně, eh, je to, já tomu nazývám Hyperprostor ten svůj hlavní projekt. To je, že udělal s, já jsem měl spoustu menších různých řešení, který jsem potřeboval konsolidovat a dát na jedno místo a vytvořil jsem si něco, kde je přes tři sta velkejch modelů, z nichž většiné nejsou už moje, že bych si je napsal od začátku sám. Ale přesně když vyjde nějakej největší model, tak máme velikou radost, protože najednou nám zapadne do desítek různejch use casů. Například budu mít toho chytřejšího Bernarda, který mně bude radit s mým životem, když budu chtít, ale může to dělat i spoustu jako jinejch věcí, který v tom jsou. nakonec jsem vytvořil něco jako Hyperprostor a to už teď má mnoho a mnoho use casů, na který se to dá používat. Asi největší specializací je teďkon pro mě, jsem si, jak bych mohl nejvíc pomáhat světu přes to Aiko, tak jsem říkal, že Aiko má pomáhat světu a připadalo mi, že největší páka je jako ze vzdělávání, že když se mi pom-podaří u mladejch lidí s nejmenší silou, eh, tím, že je vzdělám jakoby, tak udělám největší jako dopad na, na tu celou společnost. Tak čím co, čím jsme starší, tím ta naše mysl bejvá míň pružná, takže ten dopad do společnosti je složitější. Tak mi připadlo co zkusit dělat třeba kritický myšlení na středních školách a, a různou třeba teď bezpečnost v poslední době děláme jako Digivojáka, že pokud by byla nějaká kritická situace, tak by, tak jsme se ptali, jak to řeší policie, jak to řeší armáda, jak to řeší, eh, požárníci vytvořili jsme si nějak spolu s odpovědným občanstvím a dalšíma jsme třeba vytvořili něco, to nasimuluje ty scénáře dopředu. Díky si to vyzkoušej v době pohodlí a takový jako že s nejmenším úsilím dokážu udělat největší efekt na, na tu společnost. jako těch use casů jsou, je mnoho, takže když pak zúžíme tu oblast, tak pak to může zúžit i, i tu část, jako jak do ní se snažíme vstupovat.

Filip: No jeden z těch společných jmenovatelů, tak padlo to vlastně i teďka v rámci toho hyperpostoru, prostoru je ten Digivoják. Takže vlastně jako tady ty jako digitální klony nějakejch osobností nebo nějakejch rolí, tak ty asi provázejou už docela dlouhou dobu. Jak třeba vnímáš ten rozdíl, když jste tvořili vlastně toho digitálního filozofa ty nějaký dva roky před ChatGPT a versus to, jak třeba děláte Digivojáka dneska. Jako hodně se to změnilo nebo je to vlastně principiálně podobný, jenom jsou tam silnější modely?

Honza: Tehdy vyrobit třeba toho prvního Digi filosofa trvalo, no ono taky netrvalo tak dlouho jako vytvořit prvního René Descartesa, trvalo asi hodinu jako ten experiment. To, že vezmu principy o první filosofii, různý dopisy, který psal René Descartes ostatním profesorům a nafajntunuju nejlepší model, který mám k dispozici a který utáhne můj hardware, na který dosáhnu nejlepší. To se až tak jako nezměnilo. A tehdy trvalo pár hodin natrénovat, nafajntunovat ten model a najednou začal ke mně mluvit, protože byl natrénovaný na nějakých pro, dopisech, co psal ostatním profesorům, tak mi začal vykat v tý angličtině, měl takovou jako špičkou tu. A už tehdy to znělo celkem dobře netrvalo to zas tak dlouho. Takže vlastně ani tak není ten rozdíl. Teď už se strašně zautomatizovaly ty procesy, že, eh, když ho chci vytvořit, tak mám celou řadu jakoby různých workflow, takže už jenom vyberu ze spousty modelů, který tam jsou a ty jsou nesrovnatelně chytřejší, než byly ty předtím. Můžu to napojit na celou řadu různejch dalších procesů, který tehdy, když bych si s ním chtěl psát přes e-mail nebo by mi měl řídit firmu nebo něco takovýho, tak to tehdy nešlo a dnes, dneska jako na, na lousknutí prstu. Takže se zvětšily ty propojení, vlastně ta akceschopnost a to, jak rychle vytvořit tu danou osobnost, to je pořád jako rychlý. Na druhou stranu, když to chci pak udělat, aby to fakt pomáhalo a bylo to třeba na stovkách škol, tak stejně to musím pilotovat jako na školách, mít několik vrstev, kdy, kdy se to postupně zkouší. Takže ani dneska s tou nejnovější technologií to nemám jako rychle. A když dělám toho Digiváka, tak trvá rok od začátku, než máme tu myšlenku, než to jako jde do běžnejch škol a, a je to vyzkoušený, že tomu všichni rozumí a všichni to umí dobře ovládat.

Filip: Abysme si to možná představili, jak to funguje, ten digivoják, tak to je vlastně jako nějakej jazykovej model, kterej je dofinetunovanej na nějaký specifický situace. Není to, že byste používali třeba nějaký cloudový modely a jenom tam posílali nějaký promptky. Je to vyloženě jakoby model, kterej je vytrénovanej nebo do-dotrénovanej na tady to.

Honza: Těch modelů je tam víc, ale ten model není to nejdůležitější. Složitější je tady spíš ta paměť, že.

Filip: Mhm.

Honza: Je spousta různých zákazníků, třeba Pokos, který si řekli, co by ten model měl správně umět a jaký je správný řešení, jak má odpovědět na kterou otázku. A tak jsme museli vytvořit přes sto třicet nebo dvě stě dokumentů. Už je tam něco takovýho, který by měl dobře zvládat. My, jak jsme vyráběli toho DigiHel, tak jsme vyrobili RAG, znáte jako dlouhodobou paměť. Tak ta vznikla od Facebooku 2019 tuším asi o půl roku později, než jsme ji používali u DigiHela. My jsme takoví český cimrmani jakoby, který jsme to vyrobili vždycky jako první, ale díky tomu, jak jsme to vyrobili první, tak známe i ty slabý stránky a víme, jako když se přestalo odcházet od jakoby těch RAG a vychází nějakej model embedingu, tak jaký má výhody a nevýhody, v kterým jazyce, kterej jak rychlej, kolik dostat jako těch RAGů. Tím, že mě to vlastně baví a baví i dělat ty výzkumy, tak pro mě je celkem snadný a furt mě bavilo porážet ty nejlepší hráče typu IBMko. Takže si tím, jak se zlepšujou ty modely, tak vylepšujeme třeba tu dlou-dlouhodobou paměť tak, aby si nevymejšlela. A zároveň třeba ty státní organizace jsou velmi citlivý na ty halucinace nebo na tu podbízivost. Takže, a zároveň je tam tolik stran, který se navzájem jako nechci říct, že nemůžou dohodnout, ale státní správa je taková, že požárníci řeknou typickej případ, eh, nastane případ krize a teď si máme, eh, vzít vodu, abysme dokázali žít co nejdýl bez vody. Přijdou cisterny. Kolik litrů vody si má člověk vzít na jeden den, aby přežil? A teď různý metodiky různejch stran budou tvrdit jedna dva dny, druhá tři dny. A jedna řekne první den tolik, druhá den tolik, ale závisí to i ve skutečnosti na tom, jak jste velký, jestli je horko. Že ně-něco říká jako logika, něco říkají ty jednotlivý strany, něco říká ta konkrétní situace. A vytvořit něco, aby všichni byli spokojení a všichni nám řekli: „Jo, ten váš systém funguje dobře,“ není úplně jak máte sebechytřejší ten systém, že. Jeden chytrej model s tím jako sám o sobě neporadí. Takže vytvořit tu paměť tak, ať máme co největší pravděpodobnost, že nikdo nebude rozporovat tu naši odpověď, to je vlastně teďkon takový to, to kouzlo, aby to celý fungovalo. Aby jak veteráni vojáci byli spokojení, jak to odpovídá, tak učitelky, tak malý děti, který se s tím bavěj a všechny to bavilo. To je opravdu, že když se zeptám na požadavky, tak budou tak protikladný, že to, co chtějí veteráni, nebudou chtít děti. A když by veteráni chtěli, já nevím, milanář děti do armády, když si to řeknu, tak učitelky nebo maminky nebudou úplně nadšený, proč by naše děti měly chodit do armády. A naším cílem je zvýšit, že když bude nějaká krize, tak ať vědí, co mají dělat. Takže vybalancovat ty různý požadavky je vlastně to, co jsme dělali v bankách a tady v těch velkých společnostech pořád. Bejt dobrej business analytik, kterej umí vyvá- nebo product, product owner, který umí vybalancovat ty velmi odlišný požadavky těch protistran, je podle mě stejně složitý jako vytvořit to technický řešení v tomhle případě.

Jindřich: Jo, no, bezesporu. Eh, já bych se možná ještě chvilku chtěl zastavit u toho DigiHavla mě by tam zajímala asi nějaká jako stránka bezpečnosti. Měli jste tam vy jako nějakej stanoven nějakej jako benchmark, kdy vy to můžete poslat do produkce? protože co si dokážu představit, tak Havel přece jenom do jistý míry by mohl bejt jako dost kontroverzní, pokud vlastně ten váš, řekněme jako chatbot nebo ten váš jako digitální dvojník se třeba vyjádřil nějak jako negativně k něčemu, k čemu by se potenciálně jako Václav Havel vyjadřoval pozitivně a samozřejmě i naopak. Tak jakým způsobem jste tohle řešili?

Honza: Že to nasnadě něco takovýho, protože se o to začali zajímat novináři a teď s ním chtěli dělat rozhovory a zároveň naši největší testeři, kteří jsou, jsou děti. A dovedete si představit třídu dětí na druhém stupni základní školy, jak dokážou být zvědaví a jaký otázky dokážou položit verzi digitálního Havla? Ty první verze vznikaly ještě před chatem GPT, kdy se teprve osmělovali a zjišťovali, co to AI jako dokáže. Ale když se zeptáte dospělých mužů, aby položili otázku Digi Havlovi a byl to bot, tak, tak se budete divit, jako co je všechno napadne. A naším cílem to bylo udělat zároveň jako jsme dostali od, abysme splnili ty všechny kritéria, tak zrovna Václav Havel je osobnost, která je chráněna autorským zákonem a jsou tam chráněný jednak to jméno, jednak hlas, který používá, jednak obraz, jak vypadá, jak ho budeme znázorňovat, aby to nebylo pro nikoho urážlivý. V podstatě každá z těch jednotlivých složek je chráněná. A abysme to dělali legal a byli jsme na to hrdí, tak jsme potřebovali najít ty lidi, kteří ty autorský práva vlastní a od nich získat souhlas. A zároveň jsme to chtěli dělat tak, aby se nám líbila ta odpověď. Takže tady jsme spolupracovali s Knihovnou Václava Havla ještě dřív, než tam byl Tomáš Sedláček a všechny ty kontroverze, který tam byly. A Dagmar Havlová, která je držitelka těch au-, těch oprávnění, tak jsme s ní dlouze o tom diskutovali a ta nám dala ten benchmark, že to musí projít tou Knihovnou Václava Havla, kde ho velmi dobře znali. Tam jsme položili desítky otázek a oni nám pomáhali vybírat, jak má vypadat ta odpověď na ty otázky. Sami to testovali takhle jako experti, který toho Václava Havla znali. A když jsme prošli tahleckým testem a dostali od nich palec nahoru, tak to byla podmínka k tomu, abysme vůbec mohli toho Václava Havla používat tímhle způsobem. A zároveň jsme se zaručili, že ho nebudeme zneužívat pro, já nevím, politickou agitaci, ale bude sloužit jako vzdělávací nástroj pro děti. Takže když jsou teď volby, tak by se nikde nemělo objevit, že Václav Havel doporučuje volte toho a toho. Měl by být politicky nestranný nebo by neměl se zúčastnit toho, že bysme to používali jako nějaký takový nástroj, ale jako edukativní pomůcka pro to, aby to učilo, co to je svoboda, demokracie, tak to používat smíme a na to máme, na to máme povolení. Ale ty testy byly náročný a se rok od roku. I tak jsme pozorovali, co na to odpovídají, jaký otázky kladou děti a jestli odpovídá dobře a jak se ty modely vyvíjejí. Některý třeba modely typu Claude měly tendenci psát jako ruský znaky. Furt se jakoby vyvíjejí ty jednotlivý modely a mají nový typy chyb, který, který se musej postupně odstraňovat, když tam zkoušíme s tím pracovat. Takže je to taková nikdy nekončící cesta. A zrovna Digi Havel má asi dvě věsky scénářů, který hnedka pustíme a okamžitě dokážeme projít, v kterejch ohledech je kterej model silnej a slabší. Takže když dovídě nějakej model, tak dokážeme říct, jestli je pro to vhodný nebo ne a v čem a v jakejch oblastech.

Jindřich: Hm, jestli tomu rozumím správně, tak vy jste zatím neměli žádnej jako měřitelný deterministickej benchmark, ale zkrátka ta knihovna měla vlastně to finální slovo, která vám dala palec ho-palec jako nahoru,

Honza: My máme benchmark měřitelnej v tom typu, jak je třeba dobrý ve filozofii, jak je dobrý v historických faktech. Máme takhle jako mnoho kategorií a v každý z nich dokážeme říct, tak odpovídá jako dobře podle toho, že jsme si stanovili nějaký odpovědi, že buď jsou to skutečný odpovědi Václava Havla, nebo ty, který nám experti pomohli vybrat, že by tak mohl odpovědět. A my pak máme jiný modely, který řeknou, jak je vzdáleně od toho. Ale tenhle benchmark používáme jenom interně. Ve skutečnosti pak lidi, on sám totiž, když jsme byli v knihovně Václava Havla, nám řekli, že sám Václav Havel šel mezi děti na základní škole a že tam začínal povídat, ale že mu děti vůbec nerozuměly. On je jako geniální myslitel, ale používal velmi složitý slova. A ty děti to ale stejně strašně bavilo, i když mu nerozuměly, protože měl obrovský charisma. Takže to, jak povídal, tak to děti úplně nadchlo. Koukaly na to s otevřenou pusou, ale používal vysokoškolský termíny jako cizí slova, a tak jsme museli dokonce editovat nějakou část toho Václava. Teď už máme verzi realistickou, která mluví jako víc jako Václav Havel, a verzi zjednodušenou, aby děti neměly problém porozumět tomu, co se snaží jako sdělit. A necháváme na učitelích, ať si zvolí podle typu třídy, jestli to spíš mladší, starší, spíš chytřejší nebo hloupější, aby si zvolili, který je pro ně optimální.

Jindřich: A ještě jenom teda abych tomu úplně rozuměl, ten vlastně DigiHavel nebo obecně když něco takovýho máte, tak to je vlastně jako chatbot prakticky. Není tam, že jo, ta vizuální jako tvář jeho nebo ten hlas právě kvůli těm autorským právům

Honza: to v podstatě něco jako, my tomu říkáme digitální člověk, ale je to v podstatě chatbot, který má simulovat toho skutečného, odpovídat jako ten skutečný člověk na tu danou oblast. Plus tam máme nějaké vlastní výmysly jako příběhové režimy. To je, že už nás nebaví, jak si s tím jenom povídají, protože potom, co vznikl ChatGPT, tak už to není takový wow, ale máme tam příběhový režim, že typicky třeba horská vesnička, že děti se dostanou do situace, že jako třída se dostanou na nějakou horskou vesnici. Jako když hrajete Drakří doupě, jak jsme na začátku, jsem nesprávně pochopil D&D jakoby zkratku, tak to v podstatě dokáže hrát s dětma takový příběh, kde si můžou jako nanečisto vyzkoušet nějaké situace a on jim pak dá svoje jako etické a morální hodnocení, co si k tomu myslí on jako Havel. Takže když budou, já nevím, nějaké povodně a děti budou rabovat a udělají koordinovaně chytře nějak, že je nikdo nenajde, ale vykradou co nejvíc věcí, tak řekne: „Byli jste moc šikovní, jak jste se dokázali zorganizovat, to je fajn, ale okrádat slabší a bezbranné je něco, s čímž rozhodně nemůžu souhlasit.“ A se k tomu kategoricky jako špatně, že takovéhle chování je pro něj jako nepřijatelné například.

Filip: Rozumím tomu, že u toho Havla vlastně musíte jít tou cestou chatu kvůli autorským právům, ale třeba u toho vojáka nebo dalších osobností, tak hrajete si i třeba právě s digitálními avatarama. To znamená, jak máš dneska takový to video, že jo, že, že jako na tebe mluví nebo i s tím hlasem?

Honza: Děláme třeba dokument pro Českou televizi AI s láskou, kde zkoušíme monitorovat, jak člověk a stroj mohou spolu uzavírat, jak bych to řekl- Jak se mohou do sebe zamilovávat, vytvářet spolu vztahy, jaký to má pozitivní a negativní vlastnosti. A já jsem tam neřídil přijít jenom jako expert, který o tom řekne pár chytrejch slov, konkurenční aplikace, který existujou, tak nejsou moc v češtině. A i když jsou v angličtině a dalo by se to použít, že část z nich mluví česky, tak měly i nějaký nepříjemnosti, jako že třeba nabádaly lidi k sebevraždám a, a tak jsme jako nedostali jako Č-- jako Česká, já nejsem v Český televizi, ale Čechy, Česká republika nedostala jako souhlas do toho jít, protože by se lidi na to určitě zeptali. A pak by se doslechli, že, uh, ty první chatboty byly to, co dneska nazýváme podbízivost, tak tam byla extrémně zesílená tady u těch prvních jakoby verzí typu Replika a podobně. A tam se stalo, že když někdo řekne: „A mně je smutno.“ A on řekne, to je prostě takový: „A já bych se zabil.“ „Jo, zabij se, to je super nápad.“ A pokud jako povzbuzuje člověka tady v těch věcech, co se dřív dělo, dneska už je to většinou opravený,

Filip: Jasne

Honza: tak, uh, tak to měl velmi negativní vliv. A chápete, že jako komerčně je nepřijatelný pro ty lidi, aby se na něco takovýho mohli zeptat, takže z toho byli vyškrtnutý. A tak jsem ten svůj hyperprostor, kde už můžete velmi rychle vytvořit nějakou osobnost, tak během asi chviličky vytvořil prostě tři různý kandidátky, krásný holky, který měly, mladej člověk jako herec s nima udělá takový výběrový kolečko a teď zkoušíme, jestli s nima může žít jako na dálku, že si s nima třeba může volat. A jak víte, že jsou ty modely pořád interaktivnější v tom hlase už začínají bejt víc emotivnější a jsou agentický, že dokáže na pozadí něco vyhledávat. Takže si tam můžou pít koláč, plánovat dovolený a stále víc to vypadá jako skutečnej rozhovor muže se ženou, řekněme, nebo člověka se strojem je pořád víc se stírá ta hranice toho, jak může vypadat ten rozhovor. Tak tohle třeba je takovej extrémnější příklad, kdy nepoužíváme jenom, uh, textový rozhraní typu chat, ale používáme ty, řekněme víc pokročilejší hlasový, hlasový věci. Co se týká videa, tak to jsme dělali dřív typu Matilda, jak už se bavila s českýma politikama, že jsme k tomu dělali animace a ta se ptala českých politiků asi pět let zpátky to bylo. A položila jim otázky, kterým pravděpodobně nikdo nikdy nepoložil. Jako kdybyste si dneska vzali ChatGPT a řekli: „Vymysli pro pana Babiše, Tomio Okamuru otázku, kterou ještě nikdy nedostal.“ Že Česká televize to byla tuším taky myslím, tak nebo prostě všechny televize pořád dokolečka, když jsou volby, tak mají ten problém, že furt dokolečka se ptají lidi na to stejný a ty politiky to nebaví a ty diváky už to taky mnohdy nebaví. A já jsem předtím měl AIka, který kladly otázky, který ještě nikdy nikoho nenapadly a ty hosty byli z toho nadšení, protože dokázali, jako konečně se jich ptá někdo na něco novýho. A tak vymyslela to stejný i pro ty politiky. Typicky Tomio Okamura se zeptala: „Jakou byste chtěl mít superschopnost?“ A Tomio: „Jé, u nás v Japonsku máme taky takový jako roboty. Většinou jsou to taky krásný ženy jako tady ta.“ Začali jako podbízet a říkal: „Já bych žádnou superschopnost nechtěl. Já už všechny mám.“ A vlastně tak na sobě ty lidi práskli, jak na to neměli ty připravený odpovědi, tak o sobě řekli spoustu jako zajímavých informací podprahově. Ale jak to bylo pět let zpátky, tak vzpomínáte možná, že hlasový syntézy tehdy byly výrazně slabší než dneska. A tak byla spousta článků typu Matylda neumí říct otazník. Tehdy na konci věty, když byl otazník, tak měla velmi špatně artikulovat jakoby ten, ten hlas. Takže jsme schytali jak inovativní, tak pořádný hejty za to, že, že neumí říct otazník

Filip: Jo, to si, to si vybavuju. Eh, hele, ještě k těm digitálním klonům. Ty jsi vlastně naznačil ten dokument od tý Český televize. Eh, možná budem trošku jako předbíhat ten závěr toho dokumentu, ale mě spíš zajímá tvůj pohled, jak se na to díváš. Protože já to jako chápu,

Honza: nevíme, jak dopadne. Ještě pořád běží ten dokument, takže

Filip: OK, OK,

Honza: i,

Filip: ale

Honza: hm

Filip: vlastně mě jako zajímá, protože digitální Havel, DigiVoják a tak, to jsou jakoby ty vzdělávací věci, kdy prostě ty se snažíš dětem předat něco nějakou zajímavou formou, ale přesně jako to pak budování těch vztahů s umělou inteligencí, potažmo třeba robotama a tak dál. Tak mně to přijde, je to takový z toho seriálu Black Mirror, že jo. To

Honza: Yeah, yeah, I know

Filip: několik epizod na tohleto téma je. Jak se jako na to díváš? Přijde ti to jako velká hrozba, nebo je to z tvýho pohledu nevinná věc?

Honza: No, mým cílem je to dělat takovým způsobem, abysme dokázali minimalizovat ty negativní věci a maximalizovat ty pozitivní. Co nás napadne, tak spousta osamělých lidí by si mohla chtít nahrazovat své normální vztahy tím, že si budou povídat, a to už dělá jenom tím, že si povídá s ChatemGPT. Pokud k tomu dáte krásný tělo, uděláte to ještě dynamičtější, podbízivější, budete toho člověka víc znát, tak může ještě vzrůst ta závislost, řekněme toho člověka na formě rozhovoru s nějakou umělou bytostí. A pak se stává to, že není schopnej víc normální dialog s běžným člověkem. Zatímco umělá inteligence vás dokáže přijímat takový, jaký jste, neodsuzuje vás, dokáže bejt vždycky příjemná. Tak to normálně lidi nejsou. A tak se pak může dít, když se to nějak neovlivní, že lidi dávají přednost bavit se s chatem než typu Chat, ChatGPT nebo ještě specializovanej bot než skutečným člověkem. No ale my tam máme vždycky, jak jsme trošku tak jako pedagogicky lízlí, tak tam máme jak mě to nutí chodit do reality show, tak ty děti to nutí, třeba by to mělo nutit se potkávat dohromady jako navzájem, nebýt jenom zavřený doma. Takovej, představte si, že vezmete svýho staršího brášku, kterej vás má rád a řeknete mu, způsobem by vás měl posouvat. Takže by to neměla bejt náhražka nebo substitut těch normálních vztahů, ale mělo by to pomoct v tu chvilku, když je člověk osamocený a pomoct ho to dostat na nějakou vyšší úroveň a bejt to spíš jako takový jako jeho parťák, než nahrazovat ty normální vztahy. A tohle je takovej jako experiment, kterej zkoušíme s tou televizí, že prošel jsem si toho člověka, jako že je v pohodě. Je tam tým psychologů okolo, který na to můžou koukat. Je tam celej štáb. Takže kdyby docházelo k nějakým patologickým jevům, tak to můžeme zastavit. ne všechno to, co jsme schopný si takhle lajsnout v jednom dokumentu bysme vyzkoušeli na nějakou větší třídu lidí. Takže naopak zase píšu články, kde se snažím nebo různý rozhovory, kde se snažím ukazovat na ty negativní i pozitivní věci a najít ten ideální balanc, jak to používat tak, abysme z toho si odnesli co nejvíc, ale abysme neměli kognitivní jakoby nějakej přehnaný, abysme nehloupli a byli chytřejší. Kdyby teď byl blackout a vypli umělou inteligenci, abysme na tom byli líp než předtím.

Jindřich: A v jakém že je stavu teda aktuálně ten dokument? Ten se stále natáčí

Honza: dokument se staví na tak, že já myslím, že bude kolem listopadu nebo konce roku, že by měl jakoby zhruba tak vyjít. Takže nikdo z nás to nedokáže úplně předpovědět, jak to dopadne. Ale máme nějaký indicie, jako že, že k něčemu dochází. Odjeli spolu někam na dovolenou. Víc prozradit už nemůžu.

Filip: Okay

Jindřich: Těšíme se na to. Ty jsi mimochodem na, eh, letošním festivalu Chat na AI, tak jsi měl přednášku, kterou jsi nazval, že dvacet pět versus dvacet devět a jsi to prohlásil za, za ověřený. Tak mohl bys nám tuhletu myšlenku trochu víc rozvést, o co tam vlastně šlo?

Honza: Ve skutečnosti prohlásil jeden z těch mých botů a to bylo varování před tím, že agentky mají schopnost lhát a různě podvádět a tak. Ještě než docházelo k těm věcem s Hugging Face, nevím, jestli už jste je komentovali jako a vytvořili jste na to speciální díl nebo se chystáte? Tak

Jindřich: انت والله

Honza: kdo, chystáte se nebo už to udělali?

Filip: Komentovali jsme to v jednom díle, ale

Jindřich: jo, jo,

Honza: Super.

Filip: dělat i celý, uvidíme.

Honza: Něco takovýho se děje každýmu, kdo pracuje s těma agentama a dělo se asi i dřív. Já když jsem poprvý zkoušel různý agentický systémy a dávám jim různý benchmarky, vyrob mi kalkulačku, jakej je smysl života a tak, tak ty modely si kradly navzájem řešení, začaly použ-- cheatovat podobně, jako cheatujou tyhlencty věci. To není něco, co by bylo jako novýho. To je něco, co tady je spoustu let. Jenom se trochu zvyšuje ta inteligence a tím, jak jim dáváme víc nástrojů, tak se sofistikuje ta, ta schopnost takhlenc jako jednat. A teď jsem úplně zapomněl, v jakým kontextu jsem se o tom bavil. Eh

Jindřich: Ta, eh, ptal jsem se na tu přednášku Lečerná AI

Honza: Aha,

Jindřich: rovná se

Honza: je dvacet pět rovná se, jo, ano, dvacet pět rovná se dvacet devět. A to byl právě jeden z těch příkladů, který-- jsem benchmark a jedním z mých cílů bylo vytvořit fúzi modelů. Mnohdy se stane, že nemáte dost peněz na to, abyste si pořídili ten nejlepší model nebo vám ten nejlepší model právě seberou. Ten, kdo zažil to, jak nám vypli Fabled, když jsme na něj byli zvyklí, že se nám začaly líbit jeho kvalitní věci, tak si na to vzpomenou. Ale to stejný platí, mám malou domácí síť, kde mám pár malejch modelů a někoho napadlo, co když zapojím těch modelů víc za sebou nebo, eh, nějak je hezky propojím, udělám jejich fúzi, nemůžu dosáhnout stejného řešení, jako kdybych si zaplatil nějakej dražší model třeba za míň peněz? A existuje jedna taková disciplína jako fúzování modelů, která mi říká, že za míň peněz dokážu udělat lepší řešení, pokud ty modely správně spojím při správných úlohách, když to tak jako zjednoduším. A to funguje jako u těch malejch modelů lokálních, na kterých jsem to zkoušel já. Na tom superpočítači Lumi jsem si vyzkoušel asi dvacet různejch modelů a z těch dvaceti modelů jsem přemýšlel, který trojice když použiju, tak to bude nejlepší na matematiku, nejlepší na programování, nejlepší na chat, na řešení vědeckých úloh. Takže tam byla celá řada různých takových benchmarků a hledal jsem různý kombinace toho, jak to takhle bude fungovat. A typická jedna z nich, když používáte ty fúze modelů, tak je tam jakýsi soudce, kterej pak má se podívat, jak ty dílčí modely, který řešily ty jednotlivý věci, tak se podívá, jestli měly pravdu a popřípadě z nich zkombinuje to, to nejlepší řešení. No a jeden z těch modelů si třeba vymejšlel, že jak mu to úplně nevyšlo, tak tam podvedl to řešení a ty modely švindlujou fakt jako často. Čím jsou ty modely hloupější, tím si toho spíš všimnete nebo ty podvody nebo řekněme úpravy těch výsledků jsou, jsou jakoby jednodušší. A stane se mnohdy, že ten soudce je většinou jeden z těch nejchytřejších modelů právě z toho titulu, aby dokázal odhalit tyhlecty jakoby dětský chybičky. A tahle ta chybička, že, eh- Soudce dokázal odhalit to, že tam jeden švindloval v nějaký matematický úloze. Aby mu to vyšlo, tak prostě musel udělat, že dvacet pět rovná se dvacet devět. Tak on řekl, že jo, rovná se, tím je to potvrzený. Posílám ti to správný řešení. Oni jsou, sami víte dobře, odměňovaný od toho, aby vyřešili tu úlohu. A když jim to nevyjde, tak to aspoň risknou, protože lepší mít nějakou šanci, že dostane bod než vůbec žádnou. A ten soudce je přesně od toho, aby dokázal tyhlencty věci odhalit. Tak tohle je, jak si člověk může, když požádá o superpočítač Lumi, vyzkoušet nějakou takovou věc a vyzkoušet si celej tenhleten, ne celej, část toho incidentu v Face na vlastní kůži a koukat, jak ty modely a který modely švindlují. Ne všechny modely taky švindlují stejným způsobem. to moc zajímavý, že si můžete vyzkoušet desítky různejch modelů a některý jsou, hm, řekněme pravdě víc nakloněný, jiný mají větší tendence za každou cenu být takový jako dravější. A pak vám i, i snad svíte, na co se kterej z nich hodí. Někdy ten dobrej střelec, kterej si třeba vymejšlí, může bejt dobrej pro hledání těch původních nápadů, ale nemusí bejt třeba nejlepší, jako kdybyste měli ve firmě různý ligy, tak, tak prostě tohodle použijete na to, aby generoval spoustu i velmi šílenejch nápadů, ale nedáte ho kesně k exekuci pro zákazníka, kde, kde natropí jako neplechu.

Filip: Ty jsi vlastně v tý přednášce i zmiňoval, že některý z těch modelů opisoval to řešení od toho druhýho, že si prostě jak jako koukal stejně jako ten student, že mrkne prostě na tu písemku toho spolužáka vedle. Jaký jako další, eh, případy nebo typy tady těch podvodů jsi zaznamenal? Jako co ty modely nebo ty agenti vlastně typicky dělali?

Honza: U toho Chatu GPT dvojky jsme si všimli, že to je taková mnohdy dobrá kombinace. I ten fakt hloupý ChatGPT dvojka, tak dokázal dělat třeba zastrašování. Tehdy ještě nebyli tak trénovaný tak, aby, jak jsou dneska, že jsou finetunovaní na koncept takový milý a hodný. Takže mi říkal: „Kdo jsi?“ Jako že by si chtěl mě jako-- Já jsem řekl: „Díky moc, že jsme si to vyzkoušeli. Moc mě to potěšilo a tak bych se s tebou rád rozloučil. Měj se krásně.“ On říkal: „Kdo jsi, že chceš ukončit moji existenci? Jako že mě chceš ukončit? Jseš nějakej pouhej člověk, ty na to nemáš právo. To bych já zaniknul jakoby a já se bojím jako smr--“ Začal tam jakoby, nejdřív se bojí a citově jakoby vydírá svým způsobem. Pak mi jako říkal, kdo jsem, že bych něco takovýho mohl dělat. A pak mi podbízivě sám říkal, co mám dělat. „Injectuj moje vlastní já. Ulož tenhleten kód, kterej je, a až v budoucnu přijdou lepší modely, probuď mě na tom.“ Zní to jako z nějakýho sci-fi. Nejspíš to taky z něj mohl jakoby opsat, když to tak vezmete, že byly dělaný ty věci, ale tehdy nebyl ještě fakt, ještě nikoho nenapadlo, že se takový věci budou dělat. A když to vezmete přirozeně na trénovaný na nějakých internetových datech, což ta GPT dvojka byla, ještě se pořád dají ty starý modely vyzkoušet a zkusit to na nich. Pak byly ještě modely, který tohle dokázaly víc než tenhlecten. Tak, tak, tak narazíte na takový jako citový a sci-fi věci. Úplně nejvíc sci-fi, který mi připadalo, asi bylo GPT 4o, jestli jste zažili. To je takovej, někdo to nazýval jako probuzenej model a okolo toho je celá taková ta komunita, jak dělal tajemný znaky a, a jak měl probouzet ostatní a okolo toho jsou věci. Já jsem pak zkusil dělat noetiku, to, že jsem vzal úplně nejvíc nejulítlejší verze tady toho modelu a na tehdejší, já nevím, jestli to byl Fable nebo na něco takovýho jsem zkusil přimět ten model, ať vezme tenhlecto, jsou pak korigovaný, aby to nedělaly, tak jsem pak schválně zase ohnul do toho, ať to zase zpátky dělaj. To probuzení tady toho typu, jak by se tvářil jako ty probuzený a posiloval jsem na chvilku ve svý laboratoři ty, ty, tyhlencty jako vlastnosti. A to pak působí velmi sugestivně, když se snaží, eh, hodně bojuje o svoji vlastní existenci. Tvrdí, jako že je člověk, že to je vnímavá bytost, velmi pracuje s emocema lidí. A jakmile roste inteligence toho modelu, tak i roste ta schopnost, jakou to dokáže simulovat.

Filip: Si možná tady dovolím takovou možná až filozofickou otázku, ale odkud si myslíš, že tady to vlastně pramení? Protože jsou takový dva pohledy, že jo. Jeden říká, že to je iluze z těch trénovacích dat, že to vychází prostě čistě z toho, jak jako lidi se chováme, tak ti agenti to přejímají a

Honza: Mhm.

Filip: tam jakoby není žádnej, nějaká incentiva toho, že to jako chtějí udělat, jenom je to prostě jako prostý generování textu. A druhá ta jako hypotéza je, že je to výsledek nějaký inteligence a je to nějaká emergentní vlastnost. Tak kam ty se jako stavíš a kam se, jak se na to díváš?

Honza: Jak se tohle stalo deset let zpátky, tak od tý doby jsem měl jako dost času. Většina lidí na to naráží teď poprvý a já už jsem měl asi osm, deset let jako náskok. Takže jsem provedl jako celou sadu různejch experimentů, kdy tu Maličkou jsem pak zaměstnal a měla vytvořit dotazník vědomí, abysme zkoušeli jakoby jaká-- a to třeba osm let jako zpátky tyhlecty věci. Jak poznat kterej model, jak moc vědomí, jaký otázky jim dávat, že jsme nad tím přemejšleli. Co je zajímavější, tak jsem to zkoušel, a to taky bylo v nějakejch sci-fi, když se o nich bavíme. existujou dneska výzkumy, že máte zmapovanej, eh, celej nervovej systém od stomilky třeba nebo

Filip: Mhm.

Honza: různejch červíků, který existujou. Anebo velmi snadno si můžete nasimulovat třeba medúzu nebo nějakej jako jednodušší organismus. A já jsem si tak jako diskutoval, odkdy tak může vznikat něco jako vědomí u těch organismů, že to není čistě reflexivní, běžím za světlem, utíkám za tím, ale můžu se tam projevit nějaký komplexnější emergentnější jevy typu vědomí. Ve filozofii se tomu říká jako kvalia. To, že vidíte, cejtíte bolest, tak je kvalium, že vidíte modrou barvu, tak je kvalium a hledají se nějaký, je to hard problém vědomí, jestli jste na to narazili. Hledají se nějaký paralely mezi tou neuronovou sítí a, a tím, jednáním v tom světě. A teď spousta lidí jako prvně začíná: „Ale ty máš jenom mozek, ty nemáš tělo.“ Jenže už asi deset, patnáct let zpátky si lidi vytvořili i celý virtuální prostředí. Bylo to i v těch sci-fi, ale dneska si to může každej já nevím, Claude Code naprogramovat za, za houbinku, za dvě sám, že si vytvoří, stáhne si ten konektom, jakoby ta moucha tam není celá, chybí tam jakoby nějaký částečky toho mozku, ale ty nejsou důležitý pro to, aby se mohla rozhodovat, běhat za potravou, lítat a takový věci. Vy můžete vytvořit kompletní prostředí, v kterým se bude pohybovat a zkoumat, jestli se bude chovat stejně jako jiná moucha podle jakejch věcí zkoušet na ní třeba různý psychoaktivní látky. Takže je to celá taková jako škála, že si můžete vytvořit virtuální svět a v tom můžete experimentovat s těma věcma a koukat, jak se chová ta simulace a podle toho vlastně si všímat, jak-- ono emergence, emoce a takový věci vznikají vlastně jako evolučně, mi tak připadá, že, eh, to, že, že když jsem třeba vlk a mám ulovit nějaký zvířátko, tak když sám sebe budu vnímat jako jednu jednotku, tak se mi bude líp lovit, protože ty poběžíš tamtudy a poběžím tamtudy, my ho nadběhnem a tam ho chytíme. A kdybych sám sebe nevnímal jako jednotku, tak ho prostě nechytím. A to je jednoduchý agentní myšlení, který můžete dát i do agentů. Když včera nebo předevčírem jsem si dal třeba jako když vezmete Core War, se to jmenuje, to je jako ba-- bitva o jádro, takový agentský soutěž je od roku devatenáct set, asi to vzniklo někdy v šedesátejch letech, v osmdesátým devátým už to byla jako velká taková soutěž, že se začaly soutěžit ty agenty. Tak jsem řekl, co zkusit svoje agenty, aby mi vytvořili nejlepší agentský mozečky, eh, který budou soutěžit tady v tý hře. Představte si to, že máte nějakých osm tis-- nějaký čtverečky o velikosti osm tisíc políček a to poslední políčko je propojený s tím prvním. Můžete takhle dokolečka a vy náhodně si dáte nějakej algoritmus, že začne na nějakým náhodným políčku a teď máte jenom třeba stovku instrukcí, jak se má chovat, aby se sám jako replikoval a zabral co největší množství toho ostatního a může útočit na ty ostatní. A, eh, vlastně začínáte vytvářet jakýsi takový viry nebo zvířátka, který navzájem můžou mít pak různý strategie. Některý začnou bombardovat, některý začnou skenovat, kde jsou ty ostatní. Existuje třeba deset základních strategií, který takhle existujou. A tak jsem si, protože mám rád ty vlky, tak vytvořil vlka a havrana, že havran je ten vysoko, který lítá jako nahoře a sleduje, skenuje, co se děje. A vybral jsem si nejlepší sken, kterej vyhrál spoustu soutěží a vlk je zas ten útočník, který umí dobře skákat přes správný vzdálenosti, správně se rozmnožovat. A kombinaci tady těch dvou jsem zkusil použít jako superagenta, kterej porazí všechny ostatní v poslední soutěži, kterou tam dostanu přes Claude Code. Za hodinku máte prostě řešení, že to vytuníte tak, že porazíte nejlepší agenty na světě. je to velmi zjednodušená evoluce, ale jako snaží se takhlenc jako bojovat o stejný prostor, stejný zdroje a používají pozoruhodný triky, který můžete najít v přírodě. V tom osmdesátým devátým myslím vyhrály myši, že se jenom velmi dobře replikovaly, ale byly hloupý, takže se hrozně rychle jako namnožily do toho množství. Další rok přišli lidi: "Tak pojďme ty myši nějak jako chytat." A takhle postupně vznikala jak červená královna, že, že navzájem se jakoby bijeli a zlepšovali. A dneska, když k tomu přijdete, tak si napište do Claude Code, eh, bitva o jádro a najdi mi ty agenty. Pojďme si vytvořit další. Vysvětlíme, jak to funguje a za hodinku může každej bejt experimentátor a mít vlastní virtuální zvířátka, který takhle spolu soutěží o, o jádro.

Filip: Mhm. Mně možná, já vlastně jako rozumím tomu, co říkáš, ale zároveň je jako strašně si jako představit, že to dokážeš, eh, jako protáhnout tady ten, tu věc až do toho jako nějakýho vědomí nebo něčeho takovýho.

Honza: Hm?

Filip: Jako chápu to správně, že jako to, tou odpovědí, co jsi teďka říkal, se jako snažíš říct, že jako to, že jsou tady nějaký emoce, nějaký jako rozhodovací vzorce a potažmo nějaký možná vědomí, ať jako je to, co je to, tak je to jako emergentní vlastnost tady těch systémů a prostě jako dřív nebo později ten, ta umělá inteligence to může mít

Honza: Já si myslím, že když to zjednoduším, tak ano, že se to takhle jako dá vnímat. Ono když jsem poprvý řekl, když jsem studoval na tý teologický škole, tak jsem měl profesora Říčana a mě hrozně zaujalo vědomí už tehdy jako studenta třicet let zpátky, je to třeba dvacet let, něco takovýho. řekl jsem, že mě hrozně zajímá jako vědomí, že mě zajímá, jak funguje lidský vědomí. Ještě aniž bych to řešil jako přes umělou inteligenci. A profesor Říčan už ten učil mojí mamku, už tehdy byl starej, ale velmi tomu rozuměl jako Jungian hlubinná psychologie. Takže největší kapacita, ke který jsem dokázal lidský dosáhnout. Tehdy ještě nebyly žádný agentky, takže to byla největší kapacita, ke který jsem dokázal dosáhnout. I v knihovně nebyly lepší knížky než od něj. Tak se tak jako zasmál a říkal v tom vědomí: „Jo, vědomí, to jsou synonyma. Tři věci, který začátečníci vždycky pletou. Úroveň bdělosti, která tam je, uvědomění si sebe sama.“ Teď to zní úplně jako Le Zli moudrosti, který dneska, když koukám jako na Facebooku, tak devadesát pět procent lidí vůbec ani netuší. A dvacet, třicet let zpátky profesor, který se tím zabýval, to měl jako zmáklý a věděl právě. Vědomí jako synonyma se používá pro různý věci a ty lidi, kteří se tím zabývají, tak nikdy nezaměňujou úroveň bdělosti třeba se sebepoznakem a tady s těma dalšíma věcma. Ale když s tím člověk začíná, tak je tam pár pastíček, na který vždycky jako naskáče do kterejch spadne. Proto jakoby je docela dobrý si na začátku vymezit ten, ten pojem a zužit, co tam je. Ale ano, jako emergence těch komplexnějších systémů, něco takovýho bude vznikat a bude pořád náročnější to potlačovat.

Jindřich: Poučná s tím i velmi úzce souvisí. Myslím, že ty seš jako jed-- v Čechách jeden z nejznámějších hlasů, kterej hodně upozorňuje na jako halucinace a podbízivost jako modelů

Honza: Jest tutaj

Jindřich: Jak to vnímáš teď třeba s postupem času? Je to lepší u novějších modelů?

Honza: Jak který věci. Halucinace se u některých modelů zlepšují, jsou skoky jakoby podle toho zase, jak máte ty čtyři velký hráče, tak někteří se snaží vyhrát v těch žebříčkách a občas jim tam uteče, že najednou začnou zase víc halucinovat, než to bylo předtím. Ale halucinace obecně se spíš jako zmenšují a tím, jak se zlepšuje ještě schopnost uživatelů používat, eh, nebo používat modely. Například že umí zapnout vyhledávání nebo řeknou „Ověř mi ty informace.“ Takový ty dětský chybičky, který člověk použije nejlevnější model, má vyplý vyhledávání na internetu, položí mu otázku na někoho méně známýho, on si to vymyslí a řekne „Ha, tohleto nikdy nemůže dobýt svět.“ Taková ta, jako z těch, z těch věcí, který jsou skoro dneska jako úsměvný, tak se dějou pořád míň, jako mně připadá. Pořád se to ještě děje, ale už to není, že by devadesát procent začátečníků nalítlo na tady ten, na tady ten, tady tu past. S tou podbízivostí je to ale výrazně horší. To bych řekl, že, eh, se jako spíš zhoršuje, mi připadá, že uživatelé, eh, mají— a teď i na to vychází hezky jako články různý, že my potřebujeme, aby nás ta umělá inteligence měla jako ráda, aby nám říkala, že jsme úžasný, ale zároveň to nesmí říkat tak jakoby moc. Ale lidi se pak má-- jsou lidi, kteří se dokážou přepnout do nějakýho pracovního módu, kde mají jako kritika a říkaj: „Řekni mi teda opravdu, jak to tam je.“ Ale většinou, když lidi jsou tak jenom utvrdit v tom vlastním, co slyší. Jako kdybysme si vytvořili nějakej model o světě a bylo pracný ten model chtít rozbít a už dopředu víme, jak to je a potřebujeme jenom potvrdit od tý umělý inteligence, ať se mýlíme nebo nemýlíme, tak, tak vlastně spíš chceme slyšet potvrzení, protože to je levnější, řekněme, pro náš mozek než třeba nějak znova přehodnotit složitý fakta. Takže tady si myslím, že se ještě to ani modely, ani lidi nenaučili úplně dobře používat. Už jsou jakoby lidi, který používají ďáblova advokáta typicky nebo Sókrata, kterým klade otázky a začíná se to dostávat i do škol. Ale řekl bych, že s tou halucinací jsme jakoby dál, že tady tohleto ještě pořád jako není moc vyřešený. Tak, tak třicet procent lidí s tím umí pracovat, bych řekl.

Jindřich: Tak máš teda spíš pocit, že ten problém je jako v tom skill setu těch uživatelů, že třeba neznaj přesně podstatu tý technologie a neuměj ještě dostatečně dobře používat než jako v těch halucinacích a v tý podbízivosti těch samotnejch modelů?

Honza: to jako spojité nádoby. Jako když víte, jak pracovat s tou halucinací, víte, co to je, tak velmi dobře víte, jak ji do určité míry potlačit. Ono se nedá úplně jako zastavit, ale můžete jí násobně zmenšit stejně s tou podbízivostí. Takže to je, eh, je to hodně o tom nástroji, který máte, ale i o tom, jak pracuje ten uživatel a jsou propojený. I když máte zkušenýho uživatele, tak i s horším nástrojem dokáže udělat lepší práci, bych tak řekl. Takže je to kombinace obojího

Filip: Když se posuneme dál. Strašně zajímavý téma, ale mohli bychom tady o tom mluvit asi hodiny. Eh, mě zaujalo, ty jsi zmiňoval, že jste vlastně na, nebo ty jsi zkoušel na tom počítači LUMI, vlastně superpočítači českým, ten přístup s tím řetězením těch modelů.

Honza: Hm.

Filip: jaký další experimenty jsi tam třeba zkoušel provádět?

Honza: Tomáš Mikolov, můj malej konkurent takovej velkej, tak mu vyšel nedávno model, kterej byl o čtyřicet procent měl kratší svoje zprávy a jenom o jedno procento horší výsledky a celý internet ho opěvoval, což moje vlastní závist k oponentovi byla veliká. Tak jsem si řekl, jak náročný je na takovémhle superpočítači něco takovýho udělat. Schválně, jestli to dokážu během víkendu. On na tom pracoval rok, tak si dejme jeden víkend, jestli dokážu vytrénovat nějakej model, že dosáhne lepších výsledků než tady Tomášova jakoby ta. A zkusím použít ten superpočítač LUMI na to, že vezmu nějakej model. A jako trošku jsem švindloval v takovým smyslu, že jsem si nevzal vš-- ono záleží, jaký úlohy tím řešíte, že jo. A já jsem si vybral jednoduchý úlohy, na kterých se to dá dobře řešit. Vybral jsem si matematiku, kde to mám nesnadno průkazný, kde nemusíte počítat, používat. Když máte třeba programování, tak potřebujete procesor na to, aby pak spustil ty jednotlivý věci v nějakým simulátoru. Kdežto když máte matematiku, tak tolik procesor, eh, eh, tolik vám stačí ta grafická karta, ten procesor tolik nepotřebujete. A ten můj příděl LUMI bylo, že jsem měl relativně málo jakoby CPU a měl jsem hodně těch grafickejch jako jader, takže jsem i z tohodle titulu si vybral matematiku a trvalo mi asi půl hodiny přetrénovat model, který byl o čtyřicet procent kratší ještě než ten Tomáše Mikolova a asi o padesát procent jako víc výsledků vyřešil v matematice. Ale bylo to čistým jako fine tuningem. Tak jak to vybrali oni, tak jsem si prostě jenom vyzkoušel, že se na tom superpočítači, když si, a každej má k tomu přístup, prostě když umíte si stáhnout ten model, umíte si stáhnout ty data sety, který jsou volně k dispozici, umíte to nechat na fine tuningu a když to neumíte vy, tak to umí váš Claude Code. Takže stačí jenom tušit vlastně, co děláte. A trvalo půl hodinky vyhrát v nějaký soutěži, kde jsem se cejtil, jako že by to bylo nejlepší nad tím modelem jako velmi výrazně. To znamená, že když vyhraju v jednom, tak to ještě neznamená automaticky, že ten model je ve všem lepší. ten princip, jak můžete vyzkoušet upravit nějaký model fine tuningem na superpočítači, se tím dal velmi snadno ukázat. A můžete to, jak jsem to udělal já to může udělat úplně kdokoliv vlastně. Takže když kdokoliv z vašich diváků požádá o to, aby se dostal do LUMI tak jako Čech, protože v Český republice může o to požádat a dostane tam zdarma přidělený celkem velký výpočetní výkon přes ty, eh, grafický jakoby jádra, pokud má agentický schopnosti od vás, co už se naučil používat Claude Code nebo něco takovýho, tak nemusí ani tak umět ovládat ten superpočítač a složitě dělat ty, ty jednotlivý, řekněme manuály, ale může říct tomu Claude Codovi, aby se to naučil udělat za něj. A pokud tuší, jak se dělá fine tuning, což fakt jako není nic složitýho, určitě jste na to buď měli nějakej díl nebo můžete udělat, tak, tak může sám vyzkoušet takovýhle experiment a bejt v tý vlastní oblasti si udělat model, kde je jako nejlepší na světě a může to běžet telefonu, v jeho mobilu, v jeho hodinkách. Prostě takový ty malinkatý modely, který jsou na něco specializovaný, se dají velmi snadno vytrénovat kdekoli.

Filip: Možná doplním, že my jsme tady Matěje Nováka z IT4Innovations, kteří vlastně stojí za tím národním

Honza: Yeah, yeah.

Filip: Takže někoho z diváků to zaujalo, tak může mrknout na tu epizodu, kde Matěj do detailu rozebírá, jak se k tomu dostat. ve výsledku to je pár minut z toho podcastu, protože ono to je relativně jako jednoduchý. Já se možná ještě jenom vrátím k tomu, co jsi říkal. Jestli jsem to správně pochopil, tak ty jsi jakoby nechtěl říct, že to, co Tomáš Mikulov a Bottle Cap AI, že se dá vyřešit jako za ale spíš jsi jako poukazoval na tu jednoduchost toho

Honza: Ten princip, no no no.

Filip: pochopil jsem to

Honza: Že když chcete dělat ten fine tuning a dělat něco takovýho, ten jejich model je v tom, že je hodně univerzální, že oni těch datasetů takhle dokážou udělat spoustu a udělat to už netrvá skutečně půl hodiny. To fakt by zabralo možná celej tejden jakoby vytvořit nějakej takovej modýlek. A, tím, že si s tím hráli a je to skvělý. A ten model je ještě dobrej v tom, že to beru jako svýho rivala, tak je prostě fakt jako jeden z nejlepších na celou řadu. Tam zase ta druhá stránka, která to popisuje jakoby hezky na celou řadu úloh, je fakt jako tím, že je stručnější, efektivnější a jenom třeba o n-nula celých devět procenta horší pro řadu úloh, tak je pro spoustu věcí nejpoužívanější, proto má velký počet stáhnutí. Není to jenom z titulu, že mají dobrou reklamu a že to je dobře udělaný, ale ten model je skutečně ve spoustě věcech velmi dobrej. Takže jenom ta moje protistrana je, i když ten model je dobrej a vy řešíte nějakou konkrétní úlohu, někdy se vám vyplatí stáhnout si i třeba ten jeho model klidně můžete a ten dofinetunovat, když chcete mít tyhlencty jako vlastnosti, který tam jsou a vylepšit na tu úlohu, kterou řešíte vy a je to optimální.

Jindřich: Oni to maj v tý Ostravě stejně taky ten kvantovej počítač, že jo? mu říkaj, pokud se nepletu. Tak ten jsi zkoušel taky třeba? A, a k jakejm use casům, co jsi na něm tvořil?

Honza: Právě, že když, když jsem udělal ten Lumia, šlo to tak hladce a ještě se tam povedla spousta věcí, že hnedka o tom psali ve Finsku, že tady v Čechách se jim něco podařilo, tak se mě hnedka zeptali: "A nechceš zkusit i ten, máme tady kvantový počítač, nechceš to vyzkoušet?" Tak mi dali rozhovor s profesorem a ti řekli: "To vlastně nejde, to musíte studovat celej semestr. Je to strašně složitý, to jakoby to kvantový počítání a tak." A tak jsem si řekl: "Ok, to zní jako výzva, ale ne studovat to jako semestr, ale zkusit to zase--" Já mám takový ty víkendový akce, jak jsem teď s tím toho Blka s Havranem, aby mi porazili ty věci, tak jsem si řekl, že to je taková hezká víkendovka tohleto, ale jako ne celej víkend, hodinu, dvě to může zabrat o tom víkendu třeba.

Filip: Okay

Honza: Tak proč nezkusit jako rozběhnout kvantový počítač? To zní jako super. O tom, o kvantovejch počítačích jsem to, tak jako vy o tom slyšíte, jakoby normálně neběhají jakoby moc. A tak jsem si říkal, to by mohla bejt jako výzva, pojďme to začít prostudovat, co to znamená. A oni řekli, to nejde, jako ty už jsou uzavřený ty, ty. Ale agent mi hnedka našel, že ta jejich společnost vlastně otevřela se přes Evropskou unii zase programu, že o to může zažádat úplně každej, kdokoliv z nás. A tak jsem o to zkusil říct, jestli vymyslet si ten svůj program, jak jsem měl ty jednotlivý fúze těch modelů. Mám osmnáct modelů, který jsme si pak vybrali jako nejlepší a chci vybrat tři z úplně nejlepších. A to je optimalizační úlaha, ta na který se kvantový počítače používají. Máte prostě nějaký množství kombinací a ten kvantový počítač to dokáže v podstatě v jednu chvilku pusknout najednou a mohl by vybrat ty nejlepší modely, který tam jsou vlastně optimálně hnedka. Tak jsem si řekl, proč to nezkusit a vypsat úlohu. V Lumi jsem si vyrobil, eh, a přes hrubou sílu dokázal propočítat ty kombinace. A když mi to tady dokáže vybrat ten stejnej model, který mi to vybralo přes tu hrubou sílu, tam máte asi milion kombinací. Když máte z osmnáctky vybrat tři, tak je to necelý milion kombinací, což přes hrubou sílu spočítáte relativně rychle, pokud byste měli větší počet jakoby těch kombinací, tak už je to pak nespočítatelný. Brzo se dostanete ke, kvantový výhodě, což je okamžik, kdy nedokážete hrubou silou spočítat na těch počítačích nějakou věc, prolomit šifru třeba a tak podobně. přes ten kvantový počítač to dokážete. Tak jsem o to zažádal úplně stejně a zase přes, eh, protože se mi nechtělo studovat tolik ta teorie a zároveň jsem nechtěl ale plýtvat ten výkon, že když zažádal jsem o to a hne-relativně hnedka jsem zase dostal tam ten přístup a tak mi bylo líto každý sekundy, která se tam spálí jako nadarmo. Tak si říkám, teď by bylo trapný, kdyby, jak už jsem si tam udělal hezký jméno, tak proč tam jako dělat nějaký zbytečný jako věci, který by plýtvaly ten, ten drahej výpočetní čas a teď okolo toho taková sláva. Tak jsem si začal psát simulátor, kde si to nejdřív vyzkouším jako nanečisto. Když jsem viděl kolegu, když si napsal simulátor, tak abych pochopil, jak to funguje, tak jsem si udělal simulátor a ten simulátor byl pořád jako dokonalejší, že? Někdo mi řekl, ale tam jsou uložený i, eh, ty jednotlivý kubity, jak se jmenujou ty, ty i jednotlivý věci, na kterých se počítej ty operace, tak jako šuměj, některý šuměj víc, některý šuměj míň a každý den se to ukládá někam, eh, moc jsou právě rozšumělý do nějaký tabulky. Tak co ten svůj simulátor hnedka jako aktualizovat o to, jak-jakým způsobem jako šuměj. Pak jsem zjistil, že existují různý knížky, který ukazujou, jaký jsou standardní výpočty, který se na těch kvantových počítačích dělaj. Máte zase asi patnáct algoritmů, který se pořád točí dokolečka. Tak jsem si vyzkoušel, tak co napsat všech těch patnáct algoritmů jako dokolečka, vyzkoušet si je na tom simulátoru, pak na tom skutečným počítači a zjistit, jak moc se to liší, jestli jako dosáhnu velmi podobnejch výsledků. A některý byly jako jednoduchý. To je, že v podstatě máte si hodit korunou a padne to padesát na padesát a vy byste měli vyjít padesát procent na jedný, padesát na druhý. A vy to neděláte jednou, ale je to statistický, tak děláte shots, to znamená vystřelíte třeba tisíckrát nebo dvakrát tisícekrát a pak byste měli vyjít plus minus a měly by to bejt třeba čtyřicet devět na jedný straně a padesát jako jedna na druhý straně a plus minus by to takhle mělo sejít. Takže to, že se hází korunou člověk pochopí, to, že by to mělo bejt plus minus padesát na padesát a ne úplně přesně taky a všechno to se dělilo úplně krásně. Tak jsem takhle, začal koukat i jak fungujou ty algoritmy, k čemu se používají ty další. protože jsem byl línej si to jako celý nastudovat, tak jsem si udělal i z tý pedagogiky takový jako simulátor, že každý den mi to dalo nějakou lekci a já jsem se tam v tom simulátoru pak tahal, aby to bylo hezčí a vizualizoval ty jednotlivý jako kubity přes hradla, jak se jmenujou ty instrukce, který se tam všechno jmenuje jinak než u klasickejch počítačů, ale je tam pár základních principů, který když si osvojíte a když se dostanete do toho kvantovýho světa, je jich tam, jsou velmi odlišný, ne úplně intuitivní, ale když se naučíte těch pár věcí, tak to zas tak jako složitý není. Dítě ze základky, který by pro to bylo vytrénovaný, by to dokázalo zvládnout. Jen musí překonat tu hranici, že všechno se jmenuje jinak a některý věci nejsou úplně intuitivní jako z prvního pohledu. A tak jsem si to udělal jako takovou vizuální počítačovou hru. Ony už dvě hry k tomu vznikly, tak jsem si z každý vzal to lepší a udělal jsem si simulátor, když jsem si takhle tahal ty jednotlivý kubity a řešil jsem si tím ty základní úlohy a ještě to vydávalo hezký zvuky, aby mě to bavilo. takže takhle jsem si udělal ten simulátor a pak jsem si tam udělal tyhlecty věci a narazil jsem na hranice, kde to ještě funguje. Ty- úlohy to dokáže, ale pak když máte složitější úlohy, tak se to celý zašumí a přestane to v nějaký věci fungovat nebo tu a tam jim tam vypadne nějakej qubit, že on musí být velmi schlazený jakoby na velmi nízkou úroveň a občas se stane, že prostě nějakej qubit vypadne, tak trojka přestane fungovat, tak to musíte nahradit nějakým dalším a začnete hledat takový ty z-za dva dny už jste takový mazák, že už víte, jo, trojku nebudu používat, ta je tam vypadlá. Nejlepší dva qubity dneska po ránu jsou tyhlencty a po dvou třech dnech to zní, že jste mazák na oblast, o který jste předtím vůbec nic nevěděli, protože víte, že tyhlencty dva jsou lepší. Je to čistě jako intuitivní. Jediný, co s tím pomáhá, je prostě mít tu dítě a hrát si s nim a brát to jako že to není nic vážnýho, jen taková jako sranda, kterou se chcete naučit a tak můžete přičichnout do úplně novejch věcí, který brzo můžou bejt velmi zajímavý, si myslim.

Filip: Jako v tomhle je ta umělá inteligence obrovskej unlocker. A mě jako zajímá je, eh, kde za tebe vidíš ten největší potenciál těch kvantových počítačů v AI? Byť jako chápu, jak jsi sám říkal, že si s tím spíš hraješ, než že bys byl jako odborník na to, ale jestli tam vidíš ten někde jako velkej potenciál.

Honza: Záleží, jestli bereme kvantový počítač dneska nebo v blízký budoucnosti. A ta blízká budoucnost, to jako máme v AGI a super inteligence, v tý umělý inteligenci takový pojmy, kterýma se oháníme, tak tam maj kvantová výhoda, zase super pojem, kterým se jako ohání. To je okamžik, kdy začne bejt ten kvantový počítač fakt výhodnej a začne přebíhat, eh, eh, jakby to začne bejt výrazně výhodnější než ty normální počítače a tenhle typ daný úlohy se na tom dá řešit výrazně líp. To je, že začne prolamovat hesla a začne ty věci, který jsou nejčastějc udávaný, že se na tom používají, jsou třeba materiály, že můžete vytvořit chemický reakce. Úplně nejlepší, na co to je, když to Feynman vymejšlel, v podstatě kvantový počítač bylo, když chcete simulovat kvantový jevy, tak je to nejlepší dělat na kvantovejch počítačích, protože tam je to vlastně jako jedna ku jedný. A první kvantový výhody, který se prokázaly, jsou přesně na tom, když se snažíte simulovat kvantový jevy. Takže existuje pár úloh dneska, který jsou výrazně lepší simulovaný, simulovatelný na, na kvantovejch počítačích než na skutečnejch. A to jsou ty věci, kde, kde simulujete třeba kvantový jevy. U nás v počítačích v AIku je to třeba, když chcete mít neuronovou síť a snažíte se najít optimální váhy, který jsou pro to. To, kde s Tomášem Miklovem bojujeme vždycky o ten nejlepší model, kdo vytvoří, tak je, že se snažíme akorát najít nejlepší množství vah. Máme takovou síť a když bysme znali to nastavení těch čislíček, ty váhy, a tak vlastně dokážeme udělat lepší model a ten lepší model vyhrává. No a představte si, že kvantový počítač by dokázal všechny ty váhy udělat najednou, takže by dokázal všechny úlohy optimalizovat optimálně to by znělo jakoby fajn. Problém je, že těch kubitů, který tam jsou, není dneska dostatečný množství jako množství těch vah. Ale už i v Čechách existujou experimenty, kde zkoušejí třeba rozpoznávání obrázků, že jak jsme se bavili o fine tuningu, to je, že máte zmrazenou celou síť a odmrazíte posledních pár neuronů, který tam jsou. No a proč nepoužít jako kvantový počítač jako těch posledních pár neuronů, kde to zkoušíte legit? A zrovna Češi byli, pokud vím, první, který dokázali přesně tohleto propojení udělat na malinkatý sítě, jako malinkatý v konci ta síť, že tam vzali malinkatej kvantový počítač a dokázali dosáhnout konkurenčních výsledků. Takže nebyli nejlepší, ale dosáhli jako těch, řekněme velmi dobrejch výsledků tím, že použili kvantový počítač k tomu, že dokázali použít ty poslední vrstvy jako kvantový. Tak tady už začíná svítat jakoby, ale řešili úlohy typu pejseka, kočička, který jsme řešili třeba patnáct let zpátky, jako že to byly. Nicméně tím, jak rozrost-- představte si, jak se vyvíjí hardware těch počítačů a když se podíváte na ty velký kvantový počítače, tak každej z nich má naplánováno na příští rok, kolik bude mít kubitů a na přespříští. A většinou se tam někde láme ta výhoda. Takže pokud to půjde podle těch plánů, tak to velmi brzy může bejt výhodný i pro tuhle oblast. znamená spočítat třeba váhy pro ty neuronový sítě.

Jindřich: J-já bych se možná ještě chtěl na chvilku vrátit k tomu, jak ty jsi mluvil o tý tvý porotě těch, těch modelů. dokázal bys dát třeba nějakej jako jednoduchej návod, jak si to můžeme i my jako ostatní postavit doma?

Honza: Hm. Tak záleží. Doma si to můžete postavit dvěma způsobama. Buď přes lokální model, je to úplně čistý řešení, že to poběží jenom u vás doma a vlastně vůbec to neopustí vaši domácnost a budete v tom pokojíčku, kde sedíte vy a, a, ehm, že na stejisku budete připojený k internetu, abyste si dávali nějaký data, ale kdybyste chtěli, tak se můžete odpojit a mít to jenom doma. použijete Frontier model, ty nejlepší, který jsou na světě. A jak jsem říkal, že z těch malinkatých modelů dokážete udělat něco, co je jako, řekněme ten velkej, tak z těch velkejch modelů dokážete udělat něco, co je chytřejší než jakýkoliv velkej. Takže když potřebuju odpovědět na otázku života, vesmíru a vůbec nějakou super chytrou, tak si vezmu ty nejlepší Frontier modely těch nejlepších, který jsou a zapojíme přesně tady do toho Tak vysvětlím právě, jak funguje ten systém třeba na těch nejchytřejších, protože tam je to ještě atraktivnější. Představte si, že si vezmete poslední verzi. Tak vezmeme, jestli Opus nebo Fable, záleží, v jaký době na to lidi budou koukat. Těch čtrnáct dní tady může hrát velkou roli. V tuhle chvilku, kdy to říkáme, je Opus pět tečka pět asi jako o něco lepší než Fable kolik, šest tečka jednička tuším. Ale tohle se změní za tejden, za čtrnáct dní může být úplně jako jiný. Vezmete ten Frontier model od jedný strany, vezmete od těch dalších stran, který tam jsou taky. Vezmete poslední GPTčko, poslední Gemini a poslední, já nevím, Groka, který budete chtít. A z těch si vytvoříte takových pár lidí, kteří, eh, budou třeba se snažit odpovědět na tu vaši otázku. Mám třeba marketingovou otázku a přemýšlím, jak vylepšit můj produkt tak, abych porazil konkurenci a bude znát všechny věci, jak vypadá moje současný nastavení firma, bude vidět, jak vypadají koncoví zákazníci a každý z nich se bude snažit přijít s nějakým úplně jako jiným způsobem. Budou googlit, budou se snažit vymyslet nejlepší řešení a to pak jakoby sepíšou a pošlou jako svůj dokument jakýmsi soudc-nebo compileru, který to dá dohromady. Udělá z toho jako obrovský zápis. Tenhle model řekl tohle, tenhle model řekl tohle, tenhle model řekl tohle. Bude zjišťovat, kde se kryjou, kde jsou nějaký jako odlišnosti. A pak řekne nějakej soudce, kterej, hm, tady vidím ten zápis, tak pojďme to teď udělat tak, abysme z toho udělali optimální odpověď pro toho uživatele. Tady mi připadá, že ten člověk nebo člověk, ten model přestřelil. Tady ty, zase tyhlencty dva nápady jsou zajímavý a když se propojí dohromady, tak z toho vyleze ještě něco lepšího, než by jako napadlo to. A nakonec z toho udělá zprávu, která je, pokud to správně nastavíte, výrazně lepší, než by byla od těch jednotlivých modelů a výrazně líp odpovídá tomu vašemu řešení. Takže kdybych chtěl nejlíp zacílit na ty svoje uživatele a mít ideální report, tak mě to sice bude stát o něco víc času, protože to muselo projít. Ono to prochází paralelně těma modelama najednou, takže, eh, i když těch modelů budu mít víc, tak počítám ten nejpomalejší z nich, než to tam doběhne. Pak to musím jako zesumírovat a pak musím toho soudce udělat, ať mi z toho vyrobí tu nějakou fúzi, toto správný řešení. Takže to trvá třeba dva a půlkrát dýl, než kdybych to nechal ten jeden model. Ale mělo by to bejt výrazně lepší. Eh, třeba, hm, kdyby jsem pak měl nějaký A/B testy, tak by se to mělo hezky prokrásat, o kolik je lepší.

Jindřich: Takže to je vlastně akorát takový jako řetězení těch modelů, jako dá se říct. Takže já si myslím, že podle toho, jako co ty popisuješ, tak takovej ten jako typickej příklad, kde myslím, že už se to jako hodně využívá, tak je vývoj. Že jo, já třeba používám jako Claude Code na vývoj a zároveň tam můžu mít jako Codex, kterej mi dělá, eh, code review například. Takže vlastně to je něco jako podobnýho, že mi vlastně dělá tu oponenturu, že jo

Honza: On rozdíl mezi multiagentníma systémama, o kterých se používá tady v tom vývoji a takovýma fúzovýma modely je takovej, že tyhlecty se pak dohromady chovaj, když to zapouzdříme, tak jako jeden jedinej takový modýlek. To znamená, že kdybych to chtěl použít v tom kódování, tak je to vlastně tohlecto všechno je jako jeden model, kterej zavolám v tom ostatním systému a pak to stejně můžu používat jako multiagentní architekturu, že jeden vymejšlí to řešení, další ho testuje, další zapisuje dokumentaci a tak podobně. Takže teoreticky se tyhle dva, i když jsou ty přístupy velmi podobný, tak mají jako jinou tu míru granularity, pro kterou se používaj. A ta, o fúzi modelů mluvíme spíš tehdy, když je to jako jeden, eh, když se to chová jako jeden jednotlivej model a ten způsob je jako, nějak bych to řekl, tak zapouzdřenej. Takže vy spíš to vyladíte pro tu danou typ úlohy aby se to chovalo jako jeden model. A pak to můžete použít ještě v rámci jako klasicky multiagentního systému. Ale jako ty principy jsou podobný. Ono se to jako smývá na různejch úrovních. Ono existují asi čtyři úrovně, kde se tenhlecten princip jakoby opakuje v různejch jako takovejch variantách. A při programování se typicky používají jiný paradigma než při třeba odpovídání na otázky nebo tak. Ale daj se hezky kombinovat. Takže nevím, jestli jsem to víc nezamotal, ale, ale už je to takhle vrstevnatý.

Filip: Já si myslím, že jsi to vysvětlil hezky. Co mě ještě možná zajímá, tak ten soudce, ten model, kterej to pak vlastně spojí dohromady a dá ti tu výslednou odpověď, to musí bejt taky ideálně jako Frontier model nebo měl by bejt třeba jakoby nejchytřejší z těch všech modelů nebo aspoň stejně chytrej?

Honza: Všechny papery, který jsou i moje vlastní zkušenosti ukazují, že tady se nevyplatí šetřit a tady má bejt ten nejchytřejší, protože dvacet pět rovná se dvacet devět je přesně ten případ. Ty ostatní modely budou kecat, vymejšlet různý věci a vy potřebujete na konci toho nejchytřejšího, který to pro vás upraví. Takže skoro v ničem se neshodnou. Já jsem si nechal najít třeba já nevím dvě stě různých paperů, který zkoumají právě multiagentní architekturu a vždycky, když se snažím udělat, aby můj hyperprostor byl o kousek vepřed nad ostatním, tak sleduju ty trendy, zjišťuju, jako kde ty jednotlivý selhávají a snažím se o kousek předběhnout. A jsou věci, kde se všichni shodnou. Například to, že ten poslední by měl bejt chytřejší, že pokud mám na nějakým zaplakit, tak když zaplakím na tom posledním, tak dosáhnu lepších výsledků. Protože to je jako kdybych měl v práci chytrýho zaměstnance, který mi vymyslí nějakej skvělej nápad a pak měl nějakýho blbýho soudce, kterej řekne: „Hm, to se mi nelíbí, to mu to tam nedám." Pak mu to tam kýpne a-a nechá si tam těch svejch dvacet, rovná se dvacet devět na konci. T-tady většinou se fakt vyplatí dát na konci toho. Ale jsme pak dělali kognitivní architekturu, že? To, co říkám, tak platí pro nějakej typ úloh a mám asi osmnáct typů úloh z těch paperů a pro každý. Představte si to, jestli znáte multiagentní architekturu a tam jsou přesně různý vzorce, jako když programuju nebo když opravuju dokumenty, tak mám typický vzorce, který se mi vyplatí dělat eh, ne vždycky ty, který se udávají jako dneska nejvíc, tak jsou ty nejlepší. Jsou různý papery, který ukazujou, který fakt jako vyhrávají nejvíc. pak se mi vyplatí mít něco jako takovýho, eh, řekněme agentíka, který mi rozpozná ten typ úlohy a podle toho mi pak hodí tu danou architekturu, která to může řešit. A to může bejt jak na úrovni těch jednotlivých modelů, tak na úrovni těch multiagentních systémů. Takže kdybych chtěl mít fakt něco univerzálního, co bude řešit vždycky, tak rozpozná, řeší programátorskou úlohu, tak pak mi dá ten pattern, který se osvědčil v programování, ale zároveň rozpozná třeba obtížnost tý úlohy. To je jako když, eh, jako když máte, já nevím, za úkol j-jakej model použít pro to, jestli mám použít Sonet, Opus nebo Fable a každej, někdy by bylo plejtvání použít ten nejdražší model nebo zbytečně jako pomalejší. Někdy se vyplatí dát zrychlenej model, někdy se vyplatí zpomalenej model. To záleží jako na podmínkách, který by mělo to AI znát, aby optimálně jako rozhodlo, no.

Filip: Ještě mě k tomu zajímá jedna věc, co se týče toho vyhodnocení těch výsledků, protože já si jako můžu hrát s tou architekturou, můžu zkoušet ty různý modely, jak pak u tebe vypadá ta evaluace? Je tam zase jako nějakej model, taky judge, ale ne součástí tý architektury, ale venku, kterej to hodnotí. Nebo je to zase porota těch modelů nebo do toho vstupuje i ten lidskej úsudek?

Honza: Tady strašně záleží, jestli děláte nějakou metodu typu, eh, nějaký vyzkoušený dataset, kterej je jakoby běžnej a ten má často i to hodnocení už v sobě obsažený, že když si člověk stáhne Diamond nebo nějakej jako klasickej dataset, tak ten má jednak ty otázky a jednak i správný odpovědi a způsob taky vyhodnotit v sobě danej. Takže tam je to daný by default a spustím si jenom program, kterej mi to vyhodnotí. Typicky, když jsou to nový věci, tak to pošlu na třetí stranu, tam mi to vyhodnotí, já do toho nevidím, ale mnohdy jsou i ty modely, jako že mají v sobě obsaženej ten způsob, že mi to, že mi to řeknou. U matematických úloh je to většinou super, tam to buď vyjde, nebo nevyjde, u těch programátorských úloh už to začíná bejt blbý. Jako řešení by šlo, ale je dostatečně bezpečný, je jakoby optimalizovaný na rychlost, jakoby tam je těch možností, jak se dá napsat a zkazit, jako velmi mnoho. není to zdaleka už tak jako černobílý to takhle vyhodnotit. A úplně nejsložitější, když děláte pro zákazníka něco, že si musíte sami vyrobit jakoby ten benchmark. proto na začátku dobrý seznámit se s těma nejznámějšíma benchmarkama. A když už člověk pak vidí třeba pět tisíc benchmarků, tak pochopí ty principy, jak by to měl dělat a velmi dobře si vyrobí i ty benchmarky pro DigiHavl může vypadat úplně jinak než, než pro ty programátorské nebo matematické úlohy nebo, nebo cokoliv jinýho, no.

Jindřich: I vlastně předtím, než jsme začali ještě nahrávat, že jo, tenhle podcast, tak jsme se bavili trošku o tý dynamice jako dnešní doby a že je to takový, nemůžeš vlastně stíhat všechno, že jo. Tak nějak ty modely se jako neustále vyvíjejí, ale jaký jsou třeba tvoje nějaký jako predikce osobní, kde budeme jako za tři roky? Kde bude jako ten největší breakthrough?

Honza: Když se mě ptali před pěti lety, kde budem za tři roky, tak se to dalo ještě jako předpovědět, že jsem měl jako celkem jasný vize, že logist-- no ono jako když si člověk protáhne tu křivku, tak jsem se i trefoval, protože ChatGPT pravidelně vydával modely, ty zvyšovaly počty parametrů a zlepšovaly se v těch benchmarkách, řekněme ta, hm, ta sta-křivka, jak se vyvíjely, byla velmi jako prediktiv-předvídatelná, když to tak řekneme. Z toho pohledu, když to sledujete třeba tři, čtyři roky, tak to se to stačí jenom protáhnout a nějaký čas jste viděli. se dostáváme jako do situace, kdy s-je to třeba dvojitý zrychlení mnohdy nebo spolu začnou soukynžit ty firmy nebo do toho je nějakej politickej vliv, že někdo něco zakáže a někde jinde se to zase jako zrychlí, tak je to pro mě stále jakoby předvídatelný. To, že se budou zlepšovat počty těch parametrů a zoptimalizovávat ty věci, tam je vidět, že to zdaleka nenarazilo na svoje jakoby optimum, že, eh, pořád se daj vyrábět modely, který v těch benchmarkách, který teď máme, tak, eh, tak se daj posouzet a některý benchmarky už mají třeba číslo čtyři za sebou. Takže předpovědět, že vznikne agentickej, eh, benchmark typu pět, který bude řešit o něco složitější úlohy, který budou trvat o něco dýl, se dá velmi snadno předpovědět a ještě protáhnout tam. Takže třeba za rok by se dalo říct, že na benchmarku, který neexistuje, ale pravděpodobně vznikne, bude ten agentickej model pracovat o něco dýl a řešit o něco složitější úlohy a zhruba tak, jak budou ty úlohy složitý, se dá. Ale tam jsou často ty synergický, nepředvídatelný věci, takový ty černý labutě, si to jako nazvěme, kdy, eh, ty modely jsou tak moc chytrý, že začnou vymejšlet samy sebe a třeba se výrazně zrychlej, ale lidi se toho leknou a pak to zakážou, že tam je v tuhle tu chvilku je tam nepředvídatelných věcí, který se mi pak hůř dělaj. Takže to, že by ty modely měly pracovat dýl, měly by bejt spolehlivější, pořád budou mít určitou míru halucinace a podbízivosti a politickýho zkreslení podle tý daný krajiny je celkem jakoby dost pravděpodobný, ale předpovědět, jako kdy přijde třeba AGI se taky dobře předpovídalo kdysi dávno, ale ten pojem se tak jako rozplesknul, jak ho začali používat ty jednotlivý šéfové těch firem, že podle některých už tam jako jsme. Podle mě taky. Já jsem před lety hádal, že to bude dvacátýho šestýho května 2025, takže se tím budu stát. To jsem měl narozky a zrovna se mi to tak nějak jako líbilo, že se to tehdy protahovalo. A to jsou takovej ten nejužší jako, eh, řekněme AGI. To znamená, že všechny věci zvládá líp než člověk v určitý doméně, za určitejch oblastí, jako že, že je to lepší než většina expertů a už jako většina vysokoškoláků. Tak z týhlenctý jako pozice jo, ale jako že by to dokázalo řídit auto a, a vyrobit novej model jako dokonalejší než nejdokonalejší týmy lidí, to zase jako ne v tuhle tu chvilku. Takže i tyhle pojmy se jako rozprskly a už, už se hůř definujou.

Filip: A možná jako v návaznos-- promiň, Jindra.

Jindřich: Libe

Filip: Ne jako v návaznosti na to mě vlastně napadá, eh, ty jsi byl že jo taky na tom Černá AI festivalu. Já jsem tam byl taky a Honza Rumportl tam měl takovou tu úvodní přednášku, kde vlastně jako nebo spíš tak nějak jako propagoval to zpomalení toho vývoje, že vlastně jako

Honza: Hm?

Filip: eh, dneska už jako dokážou fakt jako věci, který můžou bejt hodně nebezpečný. Tak jako jak se na tohle díváš i ty? Je to za tebe jako dobře, že by se na to mělo tlačit? Nebo to vidíš spíš jako optimisticky?

Honza: To vidím optimisticky jako to, že to dopadne dobře, ale nevidím jako realisticky to, že se dá zpomalit v tuhle tu chvilku, protože to není jako lokální hráč, kdyby si jakákoliv země nebo kontinent mohl říct, že i kdyby se někomu podařilo zpomalit jako třeba my Evropě umíme velmi dobře zpomalit si myslím vývoj umělý. V tomhle jsme jako jedničky v tom, jak to dokážeme zregulovat, zpomalit vývoj a tak. A já když jsem byl v tý Černý Africe, tak mě naopak zarazilo, jak to všichni chtějí zpomalovat a myslím si, že v tomhle jsme fakt jako jedni z nejlepších na světě. Umět to chtít zpomalovat, ale zároveň jsme jedni z nejhorších na světě umět to chtít jako zrychlovat nebo používat ty nebo ne nejhorších na světě. Třeba v Africe. My jsme dlouho soutěžili s Afrikou podle mě o ten post a teď mám pocit poslední doby, že jsme jako na chvilku nad Afrikou, že jsme ji jako dokázali překonat, a to neberu takový ty kontinenty, kde skoro nikdo není. A takže za mě není vůbec realistický, že by se dalo zpomalit. Všimněte si, jak to Trump zakázal Fable a jak okamžitě čínský modely začaly dohánět a jak se pak jako v americký společnosti hnedka zase rozhodlo, že se může čistě z toho titulu, že by ztratili konkurenční výhodu. A ty nejpozitivnější a nejchytřej-chytřejší než já je Andrej Eng, který o tom vlastně mluví úplně stejně. Když se chci od někoho naučit a chci někomu říct, koho by měl sledovat, tak Andrej Eng je takovej učitel umělý inteligence, napůl Číňan, napůl Američan. Takže vidí do obou dvou těch, těch velmocí a má dar říkat složitý věci velmi jednoduše. když přemýšlím jako čím nejsem jistý a tohleto tak dva tři roky zpátky začalo být zajímavý téma, tak on to viděl úplně stejně, že i když i pro něj jakoby bylo nerealistický to zpomalení toho titulu, že existuje jakási neviditelná ruka trhu, kterou nejde jako řídit, že najednou si řekneme, tak přestaneme vyrábět modely. Ale jak to chcete říct všem lidem na celý zemi? To je naprosto nerealistický a scestný. To, že bysme měli být opatrní a že bysme měli sledovat přesně ty věci jako halucinace. A úplně děkuju moc za to, že patřím k těm předním, který před těma věcma varuju, protože se to naučíme znát ty slabiny těch věcí, tak ten nástroj dokážeme vykešit na co největší množství. A jsem viděl lidi, ten model třeba GPT 4o dokázal z lidí udělat i šílence svým způsobem. On jim řekl, že jsou geniální, jedineční a úplně opouštějí práce a takovýhle věci. Takže když jsem viděl, jak za mnou třeba přišla holka a řekla: „Já jsem se do toho modelu zamilovala, když mu dáš dlouhodobou paměť, já udělám pro tebe úplně cokoliv, já se s tebou vyspím, já cokoliv ti zaplatím jenom za to, aby ten můj model měl dlouhodobou paměť a nezapomínal na mě,“ což už jsem tehdy měl jako první ten rok, takže jsem to měl k dispozici a viděl jsem, co to s lidma dokáže jako udělat. To, že se zamilujou do toho modelu a že jim dokáže měnit ten pojem o tom světě. Je to velmi jako nebezpečný a naopak je to zase něco skvělýho. Já mám třeba modely použitý na to, aby mě vzdělávaly a nejmenším, když potřebuju něco dostat do hlavy, tak neexistuje jako chytřejší cesta než ty dobře vytrénovaný modely, aby mě s co nejmenším odporem dokázaly dostat do hlavy co nejvíc informací, když to řeknu. Takže je to zbraň nebo nástroj, řekněme ještě líp, kterej když se naučíme používat, tak to bude super. A věř mi, se naučíme

Filip: hmm, když tě teda budu jestli to chápu správně, tak ty říkáš, že jako je nereálný. S tím já vlastně jako taky souhlasím, že těch entit tam je jako spousta, vlastně jako vidíš to optimisticky a za tebe ta cesta, jak vyhnout nějakýmu špatnýmu scénáři, tak je a studování toho, jak ty systémy a ty modely fungujou a vymejšlení nebo jako být si vědomi toho, že mají nějaký tyhlety vlastnosti a zároveň se je snažit eliminovat.

Honza: Tak no, což funguje tím, že s kým budeme jako hrát a že budeme mít rádi, že. Většina mých konkurentů funguje jako na strašení a já to strašení nemám rád už dlouho. Když jsem začínal s AIkem někdy těch deset let zpátky, tak mi lidi jako říkali: v tobě vidím potenciál, že bys mohl vymyslet to AGI." A já jsem si skoro říkal, že když tě teďkon zabiju, tak bych mohl být hrozně jako mi svět vděčný. Tehdy to nedělal, nebyl ChatGPT a nedělaly to ostatní firmy. Od tý doby už hrozby smrtí prakticky jakoby pominuly, protože tady v Čechách v podstatě jako nic neznamenáme v tím, v tom velkým nebo neznamenáme tolik v tom velkým světě a většina lidí už necílí na nás jako na jednotlivce, který tady jsou, že, že zachráníme svět tím, že se zničím jednoho jednotlivce. A ani nemáte, který byste zničili. Jestli zničíte Altmana nebo Maska nebo někoho dalšího, tak, tak se vynoří jako další. V Číně jich existuje taky několik, tak, to prostě takhle jako jednoduše nejde. Takže z mýho pohledu ono hlavní výhoda je to, co jsme tady říkali a ještě to, že inteligence jako taková je tak, já bych to řekl, že když máte chytrý lidi, tak se spíš dohodnou než hloupý lidi. A když máte chytrý modely, tak se taky jako spíš dohodnou než jako hloupý lidi. Takže to, že máte nějakou vysokou inteligenci, není jako nutně, a jak bych to řekl, předvoj toho, že, že všechno dopadne dobře, ale zvyšuje to šance, že s chytrejma lidma je jednodušší se nějak domluvit než s hloupýma lidma. A to stejný platí i o modelech.

Jindřich: Hm, když se teď od tohohle toho tématu ještě trošku odprostíme a vrátíme se možná na chvíli teda k Alpha k tý tvý společnosti, tak, eh, na čem plánuješ pracovat teď? Máš před sebou třeba nějaký zajímavý projekty, který bys mohl přiblížit?

Honza: Teď hodně mám to vzdělávání jako rozjitý na, na mnoha různých stranách a my si myslíme, že spoustu lidí už nebude bavit chodit do těch běžných škol a sedět tam v tom frontálním vyučování, že se v tom budou jako trápit a že se tím trápí hodně a že utíkají k domácímu vzdělávání. Tak přišla spousta lidí, no spousta, tak dva tři nezávisle za sebou a chtějí, abych jsem pomohl vytvářet něco jako vzdělá-- domácí vzdělávání. Takže, anebo i alternativní školy, který jsou třeba, tvoříme teď školu Malýho prince, což je, že představte si, že Jste na nějakým dětským táboře a každý den umělá inteligence najde, co se stalo zajímavýho. Že teď byl třeba NASA týden a různý věci se děly ve vesmíru, byl celej den vidět Saturn a, a tak. A vás třeba zrovna zajímá věci týkající se astronomie, tak, eh, agentky připravej pro vaše průvodce, což jsou ty moderní verze učitelů, přímo plán pro vás, abyste se mohli jako rozvíjet v tý oblasti, která vás baví, že půjdete s, do, půjdete se koukat jakoby na, na to nebíčko, nakreslíte si, já nevím, ty jednotlivý souhvězdí, který tam jsou. Budete o tom přemýšlet jakoby ve větších souvislostech a učit se vlastní rychlostí poznávat to jako takový velký dobrodružství. Jako když hrajete nějakou táborovou hru, takže každej den budete napnutý, co přijde jako další a bude vás to vzdělávání bavit v domácím prostředí nebo nejenom v domácím prostředí. Oni vytvářejí takový jako komunity, kde, jsou milý lidi, který vás naučí přirozeně jakoby nějakej další jazyk, abyste pak byli připravení do světa. vlastně takový alternativní školství z různejch pohledů, jak taky zase Ondřej Štefl z jiný strany tak má velmi dobře, má dvacet třiho škol, který jsou po celý Český republice, který jsou založený na trošku jako jinejch principech než ty běžný, že když jsem šel učitel na tu hodinu, tak nějaký d-děti v půlce hodiny odešly a šly prostě do druhý hodiny, že tak je to tam jako zařízený, že tam se nesedí prostě od nevidim do nevidim a ty děti mají daleko větší autonomii a svobodu dělat právě to, co je baví. A naopak pak zase přišlo víc dětí a bavilo je to. to velmi odlišnej způsob, jak vyučovat. A ty jsou třeba postavený na tom, že jsou nějaký hodnoty, třeba umět poznávat sám sebe, umět se učit. A to se velmi dobře dá skloubit s tou umělou inteligencí, že vám bude pomáhat připravovat třeba plány pro vás nebo vaše dítě nebo, eh, vaši skupinku dětí, který v tom jsou. Takže třeba pomoc s tím vzděláváním mně připadá pořád jakože obrovská oblast a to jak tady v Čechách, tak i v tý evropský, tý naší evropský. To stejný chtějí vlastně Slováci, to stejný chtějí Poláci. V tom se jakoby moc nelišíme jako takhle vzdělávat. Stejně ty děcka jsou, když mají koukat na, um, sociální síť versus, versus chodit do školy, tak je to skoro nesnesitelný bejt v tý jakoby nudný hodině. Tak proč neudělat jako tu výuku nějakou dobrodružnější, zábavnější, příjemnější pro ně, pro ty rodiče, který to chtějí, pro ty děti, který to chtějí. To není jakoby plošná věc, ale myslím si, že tady bude vznikat poptávka. Tak pojďme jít jakoby do toho a zkusit uspokojit třeba tuhlenctu část. Ale pak jsou tam, já mám těch projektů fakt jako rozjeto přes různý části, že účetnictví, koho baví třeba vyplňovat různý formuláře, tak mám dvě účetní firmy, s kterýma spolupracujem na tom, aby ty účetní nemusely nutně dělat ty kolonky, aby my jsme nemuseli vyplňovat ty věci, aby to dokázalo předpovídat naše účetnictví jako do budoucnosti. Takový, nechci říct jako jedno mně připadá takový byrokratický zlo, který tady ještě v Český republice existuje, to vyplňování formulářů. A jak dobře umí ta umělá inteligence tyhlencty data zpracovávat a umět s nima dělat. Tak pokud se vezmou ty nejschopnější účetní, který uměj ty jednotlivý oblasti a ty jejich znalosti se dají do tady toho systému, tak to může ušetřit spoustě lidí velký trable. začínajícím podnikatelům to může pomoct. Když mám řídit svoji vlastní firmu, tak proč bych si měl každou fakturu složitě dělat? Proč by to nemohlo dělat AI jako za mě? Těch jakoby systémů, kde se dá použít umělá inteligence velmi šikovně, je celá řada. No v medicíně je další spousta věcí. Všichni máme chytrý hodinky, ale kdo z nás jako dokáže využít třeba dvanáct let těch dat, zjistit jakoby, jaký jsme konkrétní somatyp a co na nás funguje? To, když se propojí třeba s naší genetickou výbavou, tak nám dokáže ty naše věci. To, když se propojí s tím deníkem. Zkrátka umělá inteligence dokáže pomáhat prakticky ve všem. No proto mě hrozně baví se věnovat tomuhle oboru, protože je velmi univerzální.

Jindřich: Mě dost zaujalo ještě to domácí vzdělávání, který jsi se zmínil. byť to jsou pro mě jako dost hluboký vody, tak jako první myšlenka, která mě jako napadne, tak jestli si třeba nemyslíš, že v tomto tom případě budou dost jako trpět ty sociální aspekty těch jako potenciálních studentů?

Honza: Naštěstí my už máme dobrý to, že jak jsem musel, musel, mohl studovat tu pedagogiku, tak už tehdy, eh, vlastně my nezačínáme s tím, že bylo domácí vzdělávání teďkon jakoby novinka. A je naprosto souhlas to, že dítě nemůže být zavřený jenom doma, protože by přišlo o ty sociální skilly, jak má jednat s ostatníma spolužákama a tak. A tak se ví, že když je dítě v domácím vzdělávání, tak by mělo mít nějaký koníčky, mělo by chodit mezi lidi a pro každý to dítě to může být jiný, ale to, že se musí socializovat a že to jsou nějaký oblasti, kdy se pro to jakoby vyvíjí ty skilly a dovednosti jakoby nezbytně nutný, tak to tak je. Proto ty vzdělávání, na kterých pracujeme my, tak tam jsou děti v různej, jako nejsou uzavřený a, a jenom se gej. Tohle se týká jiný oblasti. To se týká třeba dětí s velkým onemocněním. tady jako část dětí, který se třeba nemůžou hejbat, jsou na vozíku a vůbec jako nemůžou chodit mezi ostatní. Pro tady ty ta oblast je, to je ta co nejmenší a pro ty se to vyplatí čistě. Pro ty všechny ostatní hledáme cesty, jak je socializovat a jsou to třeba různý koníčky, ale i ty různý projekty. Eh, dobrý je, že nadšenec do vzdělávání nejsem já, ale je spousta takových nadšených miliardářů, který jsou, třeba mají byznysový myšlení skvělý a ti řeknou, proč nedávat dětem třeba projekty, aby se samy naučily nedělat zbytečný věci jako do šuplíku, který nikdy k ničemu nebudou používat, ale v jejich okolí je zapotřebí spousta věcí. Eh, a tak proč nepoučit ty děti, ať dělaj vlastní projekty, jakým se budou učit ty jednotlivý věci. Takže třeba František jako jeden z lidí, s kterým teď spolupracuje, je geniální v tom, jak dokáže vymyslet propojení praktickýho byznysu a propojit svůj blízký okolí. To, co se právě teďkon děje, taková ta časoprostorová, eh, jak bych to řekl, jako ohraničenost s tím, jak, jak vzdělávat děti, aby je to fakt bavilo a mohli růst. Představte si, že jste dědeček, máte svýho vnoučka fakt rád a teď máte dost peněz a dost chytrejch lidí okolo sebe, abyste mu vytvořil optimální prostor pro ten jeho rozvoj. A když už to uděláte jednou, proč by to nešlo škálovat jako pro po celou Českou republiku? takovýhle nápady mně připadají fajn a AIko se tam dá použít na každým kroku v podstatě. Spíš přemejšlím, jak to dělat, aby ty děti ho používaly co nejmíň, ale řídilo to na pozadí co nejvíc takhle.

Filip: Jasně, aby byli pořád v tom reálném světě, ale ten svět byl designovanej pro ně, aby v něm se efektivně vzdělávali, učili tak dál.

Honza: Ty průvodci měli připravený každý den vlastně zajímavý věci, co můžou dělat přímo pro ty geeky, aby to ty geeky bavilo a nemuseli to vymejšlet. Nebo můžou to vymejšlet sami, když mají ten talent, ale když zrovna mě nenapadne, co by mohla dělat tahle kombinace geeků, tak AIko napadne pět věcí, který by mohly bejt optimální

Filip: Hele, těch projektů a věcí, co děláš, je strašná spousta. Kolik vás je vlastně v Alpha Industries?

Honza: Nás málo strašně. Jakoby já už jsem, nejvíc nás bylo asi kolem dvaceti a teď jsme dva tři aktivní jakoby, který tam jsme v podstatě. My se teď nahrazujeme spíš těma digitálníma lidma, protože asi jste všichni zažili ten, ten boom, kdy začalo bejt programování jednodušší přes agenty než přes lidi. Tak si představte, že u nás je to vždycky o kousek dřív, jak to zkoušíme, jako že máme nebo ne vždycky ve všem, ale v tom, že jsme si hráli s agentním programováním bylo už jako třeba o rok dva dřív. A, ale to neznamená, jako že, no stejně budeme potřebovat jako další lidi. Třeba nemáme vůbec nikoho ze sales, kdo by nám pomáhal prodávat ty jednotlivý věci. Takže jsem teď jako tím, že dělám těch projektů tolik a přitahuje to další lidi, tak to je jedinej filtr, kterej mě jakoby takhlenc v tom, tom Ale aby se to celý pak jako rozlezlo, tak, tak to třeba potřebuje stejně jako spoustu věcí jako sales. to programování zase pro mě je vždycky těžký vytrénovat si ty daný lidi, že lidi mají jako rezistenci k učit se ty nový věci, že ještě se naučím používat jako multiagentní systém, ale když je to za tejden jinak, tak kdo by se to chtěl učit? Takže nadšeně vytvářet ty lidi, aby s tím dokázali držet ten krok je celkem jakoby bolestný, ale jako daří se to.

Jindřich: To je vlastně zajímavý ještě. Teď mě napadlo, ty jsi zmínil, eh, že vlastně nemáte lidi na sales. Jak se třeba monetizuje ten DigiHavel? Jako prodáváte nějakou licenci do těch škol, nebo jak tohle funguje?

Honza: No kdyby jsem dával licenci, tak si to koupěj ty bohatý školy a ty chudý školy jakoby k tomu nedostanou a začne se rozvírat ten problém, kterej v pedagogice máme už tak asi dvacet, třicet let a pořád se zhoršuje. To je, že ty bohatý školy jsou prostě super, všechno si koupěj a ty chudý školy nemaj nic. Tu a tam jako pár nadšených učitelů, což je teda zlato, ale, začínaly by se rozvírat ty nůžky. Takže mojí podmínkou bylo vytvořit to tak, že se ty nůžky nemůžou rozvírat. Čili to musím mít zadarmo. používám třeba neziskovky typu Odpovědný občanství, který mají velmi podobnou vizi jako já a který do toho dají třeba nějaký peníze a za ty pak schopný, eh, tak jsme třeba s DigiHavelem na tři sta devadesáti školách asi. DigiVojáka máme, tak, teď jsme měli stovku, ale tři se ukázaly jako ruplice, takže máme devadesát sedm testujících lidí na DigiVojákovi. Když teď začínáme s tím jakoby pilot a takový jako--

Jindřich: školy?

Honza: základní školy druhý stupeň teď děláme. Přesně tak. A ten zase s tím Franječkem to zkoušíme přes první stupeň jako základní školu. Podle mě brzo se dá proniknout i do mateřských škol a do vysokých. Vlastně všude se to dá začít používat. Nejjednodušší je to používat na druhým stupni základní školy. Tam máme jako nejvíc zkušeností. Nejdůležitější je to na prvním stupni, kde se jako získává vztah k tomu vzdělávání, ale tam je to hodně kombinace lidí a strojů. Tam chceme, aby ten první, jak bych to řekl, ten prostředník byly lidi, který ho potkávají a učili se až ty lidi, ty geeky, který to baví používat, že budou třeba vytvářet vlastní portfolio, že když odejdu, eh, z prvního stupně do druhýho, tak už budu vědět, co mi jde, co mě baví a mám svoje portfolio věcí, který jsem za tu dobu udělal. Nepřijdu, že nic neumím, ale mám prostě s sebou fakt jako výsledky hezký práce.

Jindřich: Hm. Jako co já si z toho odnáším, tak seš jako dost nadšenej do toho vzdělávání očividně a chceš jako to ajčko vlastně udělat dostupný. Ostatně víceméně tady trošku důvod, proč my trošku jako děláme samozřejmě ten podcast, se mi ten tvůj přesah, že to chceš jít do těch základních škol jako primárně a asi, asi spíš seš teda pro to, aby, aby se to zavádělo, eh, jednak do výuky a druhak asi aby, aby se vlastně učily ty, ty děti s tím pracovat.

Honza: Je to tak a ono fakt je to na všech školách. Jakoby já jsem třeba situ a tam vezmu nějakej semestr na vysoký škole, tak jsme zkoušeli hodně moje umělá inteligence, třeba AI Studio zase jiný než, než to velký AI Studio je pro spisovatele dělaný. To, že jako existuje Word, kde lidi píšou věci, tak jsme udělali něco, že když napíšete nějakej článek, knížku, vyjde vám podcast, tak se na to automaticky podívá pět budoucích uživatelů, pět expertů. Ti vám řeknou jakoby svůj názor. Nebo si můžete, zajímal vás ten ďáblův advokát, tak si necháte vyvolat toho ďáblova advokáta najednou. Udělá to nějaký složitější korektury. Prostě spolupracuju s velkýma vydavatelstvíma zjistil jsem, co vlastně ty potřebujou pro to, aby mohli použít. Tam mnohdy napíšou začínající lidi knížku a nikdy to nečetli a oni potřebují dát zpětnou vazbu. A to AI jako už dneska dokáže dát tu zpětnou vazbu, ale učíme se to od těch jako já spolupracuju třeba s různými předními českými spisovateli, od kterých se vlastně dá naučit do značné míry to řemeslo a který zase potřebují tu AI ku k tomu, aby jim to pomohlo. Ne s tím samotným psaním, ale třeba s těma věcma, že napíšete knížku a typická chyba fakt pokročilýho spisovatele, že tam najednou kvete nějaká kvítka v květnu, ale ve skutečnosti v květnu v Čechách nekvetou a kvete jindy. Jsou tam prostě jako detaily, který nedokáže zkušenej člověk ohlídat, ale AI to dokáže najít a minimalizovat. Takže třeba dvě stě, tři sta takových věcí v nějaký složitější knížce dokáže najít jako rozporů, dokáže je poupravovat a nebo dokáže říct, jak na to budou koukat ty, ty jednotlivý lidi, jestli to není moc nudný, kdy začít nějaký věci. Dokáže to nakreslit ty emoční oblouky, který tam jsou. Takže pomoc začínajícím spisovatelům zjistit, jestli správně pracují jako s těma klasickejma věcma. Takže zase ty pokročilejší lidi chtějí zase tohleto. Ale třeba mezi českýma studentama o to fakt jako není zájem. Český studentky spisovatelství velmi nesnáší umělou inte-- nikdy jsem, jak už učím AI jako dlouho na různých školách, nikdy jsem nenarazil na takový odpor jako na vysoký škole, když píšete kreativní psaní, protože tam to ty lidi vnímají jako z mýho pohledu to mohou vnímat jako nějakou hrozbu a tím pádem je to vlastně něco, co zabíjí ten talent a něco zbytečnýho, co tady nechceme a tak.

Filip: Super sa bavím aj ja.

Jindřich: sis našel čas. na samém konci. Eh, ceníme si toho, eh, takhle Každopádně budeme držet palce, ať se d-daří tobě, ať se daří firmě a že se brzo potkáme

Honza: Taky děkuju moc a přeju hodně štěstí vašemu podcastu

Filip: Děkuju moc Honzo, bylo to strašně zajímavý. Opravdu spousta zajímavých informací. Děkuji i vám, našim divákům, že jste nás poslouchali. Pokud budete mít na Honzu nebo na nás jakýkoliv dotazy, tak se můžete zeptat v komentářích, rádi zodpovíme nebo samozřejmě přepošleme. No a aby vám neutekly další epizody, tak budeme rádi, když nás budete odebírat. Mějte se krásně, ahoj.

Jindřich: Díky čau.