AGI a Singularita

Jindřich: Jsme v době AGI, ASI a nebo dokonce Singularity. Kdo ví, těch názor je spousta, nicméně teď v poslední době se o tom mluví víc než kdykoliv předtím. Čau Flipe, ať zas vidím, pojďme to zase nějak otevřít, ideálně bez hype a fakticky se o tom trošku pobavit.

Filip: Ahoj Jindro, zdravím tě, zdravím i naše diváky. na to. Tohle téma, já si dovolím tvrdit, že je takový hodně filozofický, že si budem hodně povídat o tom, jako jaký znaky to může mít, aby to byla nějaká AGI, ASI a tak dál. Zkrátka jako bude to takový hodně názorový, protože ani vlastně ty největší kapacity v tom oboru se neshodnou. proč se o tom vlastně bavíme teďka? Jako proč to teďka přišlo? Já si myslím, že ten důvod je takovej, že my vlastně na konci srpna, tak jsme měli ten incident s Hugging Face, že jo, kde vlastně OpenAI agenti při vlastně testování benchmarku, tak v rámci nějaký skupiny, tak oni utekli nebo utekli, napadli Hugging Face a tím pádem vlastně jako byli schopný získat, eh, nějaký, eh, podklady nebo spíš jakoby zfalšovat ten jejich evaluation, ten jejich benchmark. Zakládali si nějaký fórum, eh, vlastně v nástroji, kterej v uvozovkách hacknuli, aby spolu mohli komunikovat. Jako o tom teďka nechcem mluvit. Ten incident byl jako dost zajímavej, ale byl to podle mě jako jeden ze spouštěčů toho, proč najednou tady ta debata se otevřela. Potom se vydala OpenAI Astra. Zase, eh, byly názory, kdy jako welcome to AGI, že jo, že je to prostě jako extrémně silnej model, že jako už ta AGI je tady. Na druhou stranu to, že OpenAI prezentovalo, že ten jejich benchmark ARC AGI, tak Astra víceméně jako nasytila, tak, eh, OpenAI to vyšlo na devadesát devět procent, když pak byly nezávislý testy, tak myslím, že to bylo nějakejch šedesát osm nebo něco takovýho.

Jindřich: Hm,

Filip: Takže

Jindřich: 62 dokonce

Filip: Jo, možná šedesát dva. Záleží jako na tý agentic harness, že jo, ve který to běží a samozřejmě taky kdo to měří. Takže jako tady z toho těžko soudit. No ale co asi jako nejvíc si myslím, že zarezonovalo, bylo, že, eh, týpek z Anthropicu, researcher, myslím Jacob Coc-Coxon, tak, eh, vlastně jako on odešel z Anthropicu a tweetnul: „Hele, prostě hazarduje se s našima životama, už to není safe.“ A nějakej jeho kolega tak pak tweetnul, že: „Hej, je tak desetiprocentní šance, že nás to jako vyhubí.“ A tohle si myslím, že tak jako odstartovalo zase nějakou debatu o tom teda, jako jestli tady je AGI, jestli se blížíme k nějaký ASI a podobně. no, těch eventů bylo dost. A ještě vlastně Dario Amodei vydal, vydal tu zprávu We Must Pace the Frontier, kdy vlastně společně s dalšíma, CEO z velkejch AI labů tak lobbujou za to, aby se nějakým způsobem ne nutně zpomalil vývoj, ale aby byly nástroje, jak ho jako regulovat. sledovals tady ty novinky, co si o tom vlastně myslíš? Co se za

Jindřich: Hm.

Filip: pár týdnů událo?

Jindřich: A já si myslím, že je tady jako důležitý si uvědomit, že o jakýs jako AGI se tady mluví prostě šedesát let třeba už jo, už od nějakejch jako šedesátých let minulýho století. A tam už spoustu jako vědců předpovídalo, že vždycky říkají za dvacet let, jo, za deset let, pak někdo říká za osm let třeba

Filip: Yes, sir

Jindřich: a, a podobně. Jo, takže tam je důležitý jako si uvědomit, že opravdu ty predikce tady už byly jako, eh, prakticky od stejnou dobu, co vůbec nějakej název jako umělá inteligence existuje. Jasně, teď si můžeme říct, že velmi pravděpodobně jsme tomu jako nejblíž, co jsme kdy historicky byli.

Filip: Tak

Jindřich: Ale zároveň, jestli ve mně má promluvit jako trošku nějakej skeptik, tak přesně jakoby těch deset procent posledních je to nejvíc jako komplikovaný v jakýmkoliv úkolu, že jo. A typicky umělá inteligence nám to teď ukazuje. Když si chce něco na vibe koutit, tak osmdesát procent celýho projektu máš takhle. A když ho chceš potom opravdu jako vymbazlit do těch devadesáti pěti procent, tak to už je to, co ti vezme to spousta času. A teď je vlastně otázka, jestli my právě nestojíme těsně na prahu těch jako deseti procent, na prahu těch devadesáti procent těch AGI, jestli tady vůbec je nebo není. Ale to je nějaká jenom taková moje jako filozofická myšlenka. Na druhou stranu určitě stojí za to nad tím minimálně jako trošku zauvažovat, když o tom začnou mluvit takový světový kapacity, jako je, eh, jako Dario Amodei nebo, eh, Sam Altman prakticky. Ale možná mě ještě vlastně trošku zarazilo, ty jsi mluvil o, eh, tom incidentu Hugging Face. Jasně, teď se o tom jako úplně nechcem bavit. My jsme vlastně i zvažovali, že se o tom pobavíme v nějakým jako samostatným díle, ale pojďme to minimálně jako trošku, trošku zmínit, ať jako víme, o co jde. Ty asi o tom budeš mít jako víc informací, ale vlastně ze mě když to mám hodně zjednodušit, tak ta jako podstata věci je, že v nějakým sandboxu ti agenti jako dostali úkol, kterej byl nesplnitelný a oni vlastně na základě toho, aby vyšli vstříc tomu zadavateli a aby ten úkol vlastně splnili, tak začali porušovat ty pravidla, který měli. A tudíž začali jako hledat například ty zranitelnosti jako ostatních systémů, až se právě třeba dostali do, eh, systému, že jo, Hugging Face, kde objevil nějakou zero, zero day zranitelnost, který nikdy, kterou ještě nikdy nikdo předtím nezmapoval. A ono to krásně reaguje i na ten incident, kterej byl už třeba snad dva roky zpátky, že jo. Když, možná ještě, ještě víc dokonce, když, eh, vlastně researchři i jako AIčka, tak, eh, dali nějakej model a, eh, vlastně dali ho do neřešitelný situace v šachu a řekli, že ten model musí vyhrát. A ten model vlastně neměl jak vyhrát, že jo. Tam vlastně nebyla řešitelná situace. Prostě už se tam jakoby blížil jako šach mat, takže vždycky vyhraje ten hráč. No a ten model jako vlastně zase porušil ty pravidla tím, že smazal celou tu hru, smazal celej ten software na šachy a napsal tomu uživateli, tomu zadavateli, že vyhrál. A to si myslím, že to krásně jako ilustruje i to, kde jsme vlastně teď, akorát že v mnohem, mnohem větším měřítku a velmi pravděpodobně i v mnohem nebezpečnějším měřítku.

Filip: Ale rozhodně, jakože ještě taky jako upřesnění k tomu incidentu. Ono jako jak říkáš, bylo to vlastně v sandboxu, kdy evaluovali, ty jo, teď si nevzpomenu na název toho benchmarku, ale b-b-byl to jeden specifickej benchmark a vlastně jako ty agenti bylo zajímavý, že oni už asi jako po půl hodině nebo hodině tak jako louskli to, jako hacknout ten výsledek, ale potom vlastně celou dobu řešili, jak to zamaskovat po sobě, aby vlastně jako, protože klasicky ty když máš tu evaluation, tak ty vlastně pokud to děláš jakoby zodpovědně, kvalitně, tak ty nehodnotíš jenom ten výstup, to znamená ten výsledek, ale koukáš na postup, že jo. Je to stejný, jako když žáci prostě vyplňujou nějakej test z matematice. No tak učitel, když tam napíše, že nějaká sla-strašně složitá rovnice rovná se třicet pět, tak ti řekne: „Hele, to ti neuznám, protože tady nemáš postup, to jsi prostě od někoho opsal.“ A jako dost podobně se to udělá u těch modelů, že ty vlastně jako nekoukáš jenom na ten výsledek, ale koukáš i na tu cestu, kterou, jakoby kterou ten model musel použít, aby vlastně k tomu výsledku došel. Ten reasoning, řekněme. No a agenti ale byli schopní získat ten výsledek, ale vlastně jako neměli tu cestu. oni se vlastně celou dobu snažili jako pokusit získat ty správný řešení v uvozovkách. došli k tomu nějakým jako reasoningem, že to bude asi na tom Hugging Face. A co bylo ještě zajímavý, tak oni využili jeden balíček, kterej se jmenuje Artifactory, ale to není podstatný. A tam našli tu zranitelnost, jak utect z toho sandboxu přes tady ten balíček a oni si v něm pomocí vlastně jako ukládání malejch poznámek vytvořili takovou wiki, kdy ti agenti

Jindřich: Jasně, děkuju. Hm.

Filip: jo, nástěnku, oni si jakoby mezi sebou předávali informace, jak to teda zneužili, aby ten jako delší agent, co přijde, tak aby mohl vlastně to jako využít. A co bylo třeba fascinující, tak některý ty agenti jako- Ono to tam bylo v tom reportu, že jako takový jako kamikadze, že vlastně jako věděli, že už jsou provařený, že jakoby v tom benchmarku podváděli. Tak je pak ten jakoby roj, ono vyloženě myslím, že to, jak oni si to říkali, eh, kolektiv, oni si říkali kolektiv, ty agenti. To bylo jako slovo, který si oni vymysleli. Tak ten kolektiv, že vlastně se jako shodl, že hele, tyhle agenti už jsou provařený, tak ty vlastně jako půjdou v tom vpředu a budou zkoušet takový ty úkoly, co jako je provařej, že nějak jako podvádějí nebo že někam utekli. Jo, takový ty jako nebezpečný mise by se dalo říct. No ale to už bysme zabíhali jako do detailů. Ale zkrátka tam bylo hlavně to fascinující, jak ty agenti jako kooperovali mezi sebou. Vytvořili si nějakou knowledge base, vlastně sdílenou, kterou používali, aby si jako předávali ty informace. A celý to jako zhaslo ve chvíli, kdy oni už byli na tom Hugging Face, měli to a pravděpodobně nějakej researcher jako vypnul ten experiment. Prostě jako tam v tom logu prej jako viděl, že prostě agenti najednou jako se povypínali, jakoby popadali vlastně jako se neví proč. Není k tomu důvod, že by se to stalo samo. Takže prostě je nejspíš někdo jako vypnul, aniž by jako věděl, co se tam jako dělo. a to asi jako jsme vzali hodně, hodně jako povrchně, co se stalo. Ale co je na tom fascinující je, a vlastně to jako za mě i ukazuje to, že nějaká ta inteligence nebo ta AGI tak není jako o tom jednom modelu jako takovým, ale je to možná o nějakým jako seskupení, že jo, více agentů, který spolu komunikujou, sdílej ty znalosti, protože vlastně jako i lidstvo, že jo, stojíme na tom, že sdílený znalosti mezi sebou a jeden člověk jako takovej tak není super inteligentní, jako lidstvo, jako kolektiv

Jindřich: Hm.

Filip: dokážeme hustý věci, i když jako jedinec by to prostě nedokázal. Takže jako, no jako zajímavý, to jsem trošku utek, ale chtěl jsem jenom upřesnit ještě, jak to, jak to tam probíhalo.

Jindřich: Mě na tom, nebo já si myslím, že obecně jako to nejfascinující na tom je ta autonomie, že jo, protože my vlastně na to nejsme zvyklí, že něco vlastně je natolik chytrýho, že by to dělalo takovýdle jako autonomní akce. A my vlastně, to je, to je ta evoluce je obecně zatím jako tak hrozně rychlá a nejsme zvyklí na to z toho důvodu nebo mimo jiné z toho důvodu. A to mně právě přišla skvělá analogie, když vlastně o tomhle incidentu mluvili ve Vinohradský dvanáct, jako v podcastu, jo. A tam právě ten člověk vlastně říkal, že my jako lidi jsme zvyklí na nástroje, jsme zvyklí jako na velmi pokročilý nástroje. Jo, když potřebuji něco udělat, tak si vezmu ten specializovaný nástroj, jako třeba vezmu si vrtačku, když chci vyvrtat díru, eh, když chci odeslat zprávu, vezmu si telefon. Vždycky mám ten nástroj, ale já najednou jakoby nemám ty nástroje a jenom jakoby zadám ten cíl a vlastně ta auto, vlastně autonomně ty agenti se dostanou až jakoby k tomu cíli, jo. Což vlastně pořád je to takovej trošku sentimentální switch, jako jak nad tím přemejšlet, jo, že ty vlastně tobě je jedno, jaký ty nástroje vlastně ty agenti využijou, akorát jdou potom, jdou vlastně autonomně po tom výsledku. A to si myslím, že je dost odlišný od toho, jak jsme byli zvyklí vlastně fungovat teď po staletí prakticky. A vlastně mně to přišla i ta analogie jako dost na místě.

Filip: Jako tam bylo i zajímavý sledovat to, že ty agenti, oni zaprvý prováděli reasoning, jestli jako jsou v reálným prostředí nebo ne. A jako nějak se pak shodli, že jako asi nejsou, takže je to v pohodě to, co dělaj. Vlastně si jako ospravedlnili to, že prostě jakoby hackli nějakou službu. A zároveň bylo zajímavý, že jako ani jeden z těch agentů se jako nerozhodl upozornit toho člověka nebo nějakým způsobem jako

Jindřich: Угу

Filip: to, co se jako děje. Takže jako jak říkáš, jako my jsme zvyklí na nástroje, ale todle je prostě jako nějaká entita, která si něco dělá. A teď je jako otázka, že jo, je to, já tady nechci tvrdit, že tady vzniklo nějaký vědomí nebo něco takovýho. To bysme se pouštěli do fakt jako hlubokejch vod. Ale j-jako bezpochyby je fascinující vidět, že když dáš jako spoustu já nechci říct, no hloupejch se říct nedá, ale jako chytrejch LLMek, modelů, agentů, který ale můžou dělat věci a kolektivně něco jako dělat, takže jako dokážou dosáhnout velmi působivejch věcí. možná my jsme to jako odpálili hnedka jako těma incidentama, ale možná se sluší si jako říct, co ty pojmy, že jo. My jsme říkali tady AGI, ASI, singularita a tak. to vlastně jako znamená, že jo? Protože máme dneska, a to jsou i ty agenti, který byli v tom incidentu, máme takzvanou jako N-A-A-N-I, Artificial Narrow Intelligence. To znamená, že ty máš jakoby úzce vyprofilovaný modely, který řešej nějakou specifickou věc, nebo jich můžou řešit víc, ale v nějakejch jinejch doménách jsou prostě jako nepoužitelný. To znamená, že jakoby na čem byly natrénovaný, tak fungujou jako skvěle a na čem natrénovaný nebyly, tak tam udělaj klidně jako úplně stupidní chybu. Jo a to se děje i dneska jako s těma LLMkama, byť jsou jako extrémně chytrý, tak ty jim dáš prostě jako tady čteš o tom, že oni řeší matematický úlohy, který prostě vž, jako po desítky let nebyly prolomený, na druhý straně ti prostě udělaj jako nějakou úplně banální chybu při analýze jednoduchýho dokumentu. A to je přesně jako ono, že jo, že ty máš to jako narrow intelligence, že v nějakejch aspektech je to extrémně silný, ale jako overall není to ta úplně obecná inteligence napříč úplně všema doménama, jako c-c-co my lidi jsme schopný vlastně zvládnout.

Jindřich: Už vlastně se asi plynule dostáváme k tomu, co to je ta AGI, že jo. A to je vlastně ta jako obecná, eh, umělá inteligence. A tady oni se často jako ty, eh, definice lišej, že jo, toho,

Filip: Mhm.

Jindřich: no zkrátka těch definic je tady jako celá řada. My už jsme na to trošku naráželi i v našem posledním dílu, že vlastně to ty jednotlivý definice těch výrazů u AI agentů jsme na to vlastně narazili, že jo, že nejsou úplně standardizovaný, jo. Takže to, to krásně demonstruje, jak je ta doba jako doba rychlá a jak ty nový termíny relativně vzato vznikají. Nicméně ten jako obecnej konsensus je, že by to, že AGI by mělo bejt jako obecně ve všech, eh, oblastech vlastně lidskýho poznání lepší než nějakej jako medián člověka. Což jestli tam jako jsme ještě jsme nebo nejsme, kdo ví. Asi jak jsme říkali jako na začátku, zase každej na to má názor jako trochu jinej. A tady zase já se vrátím jako k tomu zdroji Vinohradská dvanáct, jo, jako bohužel to opakuju znovu, ale zase se mně tam líbilo, i když ne, možná to nebylo tam, možná kecám, možná to bylo jinde. Eh, tak no zkrátka ta analogie zase, která tam byla, tak byla, eh, vlastně mezi studentem a kalkulačkou, že jo. Protože, eh, tam byl přesně rozdíl mezi tou jako obecnou inteligencí, což by spíš byl ten jako student, anebo mezi tou NN, eh, ANI, že jo, tou jako úzkou, což by byla ta jako kalkulačka. Kalkulačka za tebe asi jako nenapíše esej, kterou bude nějak jakž takž asi ten jako student zvládnul, ale zároveň kdyby šlo třeba o integrály, tak ta kalkulačka toho studenta zašlape do země, že jo. Takže

Filip: ばいっすね。 No

Jindřich: že zkrátka ta kalkulačka by se spíš blížila tomu ANI, zatímco to AGI by asi pravděpodobně spíš byl jako ten student.

Filip: to je hezkej příklad. Ono vlastně a zase to jako naráží na to, že jako často se bere jako je to NAI je to AGI, ale je to prostě škála, že jo. Je to stejně, jako když jsme se bavili o vibe codingu, agentic engineeringu, chatbotovi nebo asistentovi a agentovi. Jakože nemůžeš říct jako tady jsou přesná pravidla, kdy to prostě je tohle a kdy to je to něco jinýho, protože někdy to může mít už ty vlastnosti jako dnešní agenti, tak jako ze spousty věcí už bych se třeba jako zdráhal tvrdit, že to je ta narrow intelligence, protože někdy jako fakt dokážou jako obecný věci, ale někdy fakt udělaj jako pitomost. Takže no, kde to je? Ale tak to jsme se asi shodli, že je to nějakej jako plovoucí termín. A potom po AGI, tak co následuje, tak je ASI, že jo. To je vlastně jenom nadstavba, je to Artificial Super Intelligence. A to vlastně co říká je, že to jako překonává lidský schopnosti těch jako top lidí v tom daném oboru úplně ve všech oborech. To znamená, že prostě už jakoby nemáš člověka, kterej tu umělou inteligenci v jakýmkoliv oboru, byť je to prostě ten nejlepší expert, nositel Nobelovy ceny, whatever, tak ho prostě překoná. Jo, v tu chvíli prostě umělá inteligence překonala všechny. A to už je taková situace, kdy si říkáš OK, jakože když je něco extrémně chytřejšího než ty, tak už se pak dostáváš do toho bodu, kdy nejenom že to může udělat skvělej pokrok, to jako rozhodně, ale zároveň nemůže tě ta inteligence jako, jak to říct, jako lakovat, jako začít ti lhát a prostě přechytračit tě. Protože tohle se přesně řešilo v kontextu třeba toho Hugging Face incidentu, jo, že jako ty agenti vlastně se snažili jako nafejkovat to, že nepodváděli. Nikomu o tom neřekli a snažili se jako zamíst ty stopy. Oni zkoušeli, jestli nedokážou si modifikovat ty transkripty svoje, aby to jako nebylo dohledatelný potom atd. A teď jako ok, my pořád máme ty jako relativně narrow intelligence agenty, když už budeš mít tu ASI, tu super inteligenci, tak jako co jí brání v tom, aby tě přechytračila, že jo? Takže tady už se podle mě dostáváme do úplnýho, úplnýho jako extrému. Otázka je, jak se tohle podchytí to vůbec je reálný, že jo. Těžko říct.

Jindřich: Je důležitý si jako uvědomit, že obecně vzato lidi už jako odjakživa tak nebo my jako lidstvo, tak máme rádi si ukazovat, jak máme konkrétní milníky, že jo. Nebo si sahat jako na konkrétní věci a říkat si: „OK, tak teď přišly počítače a tohleto je ten počítač jako co já mám doma. Teď přišly smartphony a tohleto je jakoby ten, ten smartphone." A přišel tady v roce 2007, když jo, Steve Jobs představil na Keynote Applu a přesný termín. A to jako tady nejde, že jo. Tady jako nikdy nepřijde někdo, kdo by řekl: „Hele kluci, tak tohleto je AGI a můžete se s ní jako seznámit. A to, co bylo předtím, tak to jako AGI jako nebylo." Jo, bude to zas nějaká jako něco jako průmyslová revoluce, že jo. Tak jako my úplně přesně nevíme jako ten den a čas, kdy přišla průmyslová revoluce. Eh, takže vlastně to, kdy ta AGI nebo ASI případně jako přišla, tak budeme schopni říct až potom zpětně, když se ohlédneme asi pravděpodobně při nejmenším po několika týdnech, spíš měsících, dost možná i letech.

Filip: Hlavně to budeš mít s čím porovnat, že jo. Protože dneska je vlastně jako zajímavý sledovat to, že ty máš určitý milníky, který se jako stanovily typickej, eh, test byl, že jo, Turingův test, jako jestli ten robot, eh, vlastně jako přechytračí tě a dokáže je, se chovat jako člověk. To znamená, že ten test je jednoduchej, že jo. Prostě sedí testovanej subjekt a na druhý straně je z jedné strany počítač, z druhé strany je prostě člověk a on si povídá s oběma a snaží se určit, kdo je počítač a kdo je člověk. Zkrátka jakoby jestli dokáže poznat, že si píše s člověkem nebo s počítačem. Hele, jako dneska si myslím, že tenhle test už jako

Jindřich: Řekl ani asi no

Filip: mo-- jo, to, to už prostě neplatí. Ale dřív to byla ta definice toho, že ten počítač je inteligentní nebo že má jako nějaký vědomí asi ne, ale že prostě jako jo, že, že, že má tu, tu inteligenci. bysme

Jindřich: Jako

Filip: no to vůbec,

Jindřich: jasně no, Turingův test je nás s náma osmdesát let, že jo, nebo kolik?

Filip: Jo jo, ale spíš tím jako chci poukázat na fakt, že jako i ty naše definice se vlastně jako pořád posouvají a že to, čemu jsme říkali AGI před rokem, dvěma, tak už i u GPT trojky nebo čtyřky možná se mluvilo, že to je jako AGI moment, že jo, a to. A jako myslím se posunul jako o parník v tom, co ty

Jindřich: Não é assim não

Filip: modely dokážou. A zase i ta definice se jako posouvá s náma. Takže přesně jako to, cos říkal ty. Pravděpodobně my se za pět, deset let ohlídneme a řekneme: „Hele, někde tady kolem.“ A teď nevím, jestli dva tisíce dvacet šest nebo sedm, osm, třicet. Těžko říct, já si fakt jako netroufnu tvrdit, jestli AGI je nebo není, prostě se jako ohlídneme a řekneme si: „Jo hele, v tomhletom období to prostě tak nějak jako asi začalo přicházet.“

Jindřich: Přesně ani vlastně tady jako není žádná jako unifikovaná autorita, která by mohla prohlásit to, že je to to AGI, že jo. Jako jasně oni.

Filip: není definice, že?

Jindřich: Přesně tak, ano.

Filip: No

Jindřich: Že vlastně chybí i ta definice a každej má tu definici trochu odlišnou. Že jako OpenAI tím může říct velmi pravděpodobně trochu odlišnou, když má Anthropix. Samozřejmě Čína přijde taky velmi pravděpodobně s odlišnou. Eh, každopádně asi se shodneme, že teď jako nevíme a za pár let možná taky vědět nebudeme nebo třeba se zase hodně posuneme, ale stále tam nebudeme. Kdo ví, tohle je jako složitý, eh, určit, ale necháme to asi na těch chytřejších hlavičkách, který tady jsou. Každopádně asi do, pro doplnění nám tam ještě chyběl termín singularita. To už jsme taky zmínili, ale asi ne, ne, neobjasnili. A tam už je to prakticky, eh, jakejsi, eh, bod zlomu, kam my nedohlédneme v tenhleten okamžik. A označuje to vlastně situaci, kdy ten model dokáže exponenciálně zlepšovat sám sebe a vlastně už nepotřebuje prakticky žádný další jako tréninkový data nebo jaký, jakej jako trén, eh, trénovací proces, hm, tý autority. Eh, respektive třeba těch vývojářů tý společnosti, ale zkrátka sám o sobě už je jakoby natolik silnej, že dokáže přijít s novým řešením, dokáže vymejšlet nový věci a dokáže se vlastně dostat až za hranice aktuálního lidskýho poznání

Filip: No jo a on ten termín je tady zase taky dlouho. On znamená, že jo ve spoustě odvětvích různý věci, ale přesně jako u těch AI modelů je to tady ctó a je to přesně to rekurzivní trénování, kdy vlastně ten trénink, že jo, máš tu jako škálu, jak ti se ti to zlepšuje a najednou ti to ustřelí, protože najednou AI je schopná trénovat AI to už nikdo jako nestačí, že jo. Jako najednou těm nebo jak to jako se dokáže vylepšovat. Takže najednou ta exponenciála. Já myslím, že Honza Romportl nebo někdo tomu říká, že singularity je takovej už jako blbej profláklej dojem, pojem, že on tomu říká, ty jo myslím, že

Jindřich: Nějaký ex-exponential nebo něco takovýho.

Filip: jo, no

Jindřich: Něco s exponenciálou.

Filip: Přesně

Jindřich: ano, ano, něco takovýho, no

Filip: Extrém, extrémní exponenciál, superexponenciál, něco takovýho. A mně, mně to vlastně jako dává smysl, že ty máš prostě ten růst té inteligence a najednou v bodě singularity už ti to ustřelí tak, že jako tak chytrý, že my jako nejsme schopní vůbec jako ani stačit a pochopit ty procesy, co se tam dějou. Je to science fiction? Není. soudit, ale jako je to určitej bod jako zlomu, kterej označuje, že my už prostě jako lidi nebudem stačit. Fascinující a děsivý zároveň.

Jindřich: jo, jo přesně, přesně, přesně. Mě jako trošku, když se o tom takhle bavíme někde, jako běhám rád po zádech si asi říkám, jo ty jo jako s těmahle všema situacema, jestli opravdu nemůže bejt jako něco pravdy, viď? Jako že by se to jako zbláznilo natolik, že tady lidstvo skončí. A vlastně vždycky ještě když se o tom bavíme, tak, eh, si vždycky vzpomenu na Fermiho paradox, že jo. Protože, eh, abych to trošku jako upřesnil, tak Fermiho paradox vlastně je hypotéza, která říká když je vesmír tak velkej a je tady potenciálně tolik obyvatelnejch planet, proč nemáme žádnej přímej důkaz o tom, že nejsme ve vesmíru sami, že jo? No a jedna z těch teorií toho jako Fermiho paradoxu jako říká, že za to může i to, že, eh, potenciální civilizace existujou, ale zničej sami sobě, zničej dřív nebo později zkrátka zničej sami sobě sami sebe tím, že vyvinou příliš silné zbraně, což může bejt potenciálně i třeba ta příliš silná umělá inteligence. A zkrátka nikdy ta, hm, potenciální civilizace vlastně nedospěje do toho bodu, nebude tak stará, aby v čase mohla potkat třeba někoho jinýho tady jako ve vesmíru. Jo, takže snad jsem to jako objasnil trošku jasně, ale každopádně jo, jo ok, každopádně vždycky když se o tomhle tom bavíme, tak si na tuhletu teorii vzpomenu.

Filip: Jo, ono myslím, že se to jmenuje Great Filter, ne? Něco takového, že máš jakoby ty různé filtry, které jakoby

Jindřich: Velký filtr.

Filip: je musí--

Jindřich: Jo přesně no,

Filip: že

Jindřich: přesně.

Filip: překonat.

Jindřich: No jasně, akorát těch jako teorií tam je spousta a

Filip: No jasně

Jindřich: tadyhle to, že zahubí ta civilizace sama sebe, je jedna z nich

Filip: No, jako souhlasím, no, jako je to fascinující, je to děsivý zároveň a za, jako je, je fascinující sledovat fakt ten vývoj dneska, že jo. A zároveň je zajímavý, že i ty jako šéfové těch firem, a byť samozřejmě jako může to být určitý marketing pre-IPO, eh, jo, prostě snaha jako zlepšit nebo trošku přifouknout tu bublinu. Tak Altman říká, že interní AGI by podle nich měl bejt do konce roku dvacet šest, tak jako těž-těžko říct, jako ještě pár měsíců máme. A Moodey, tak ten zas tvrdí, že jo, pár let, nějaký tři roky. Demis Hassabis, tak ten, to je vlastně CEO DeepMindu, že jo, taky nositel Nobelovy ceny mimochodem skvělý rozhovory s ním. Tak ten říká zas něco kolem roku 2030 a myslím si, že říká fifty fifty jako padesátiprocentní šanci něco takovýho. Karpaty zase jako během dekády. Jako co mi přijde zajímavý je, že byť se jako neshodnou na datumu, tak ale jako všichni říkaj ne, že AGI je blbost, ale kdy přijde. Jo, víš, že to není ta debata o tom, jako jestli, ale přijde. A teď já jako nevím, necejtím se úplně kvalifikovanej na to, abych jako s nima polemizoval. Ale když se tak podívám na to, jak dnešní agenti co dokážou a co fungujou, tak asi si myslím, že nemusíme bejt daleko od pravd- nebo oni nemusí být daleko od pravdy. A zároveň oni viděj i na ty interní research modely, který nejsou za guardrails, nejsou

Jindřich: Jasně

Filip: jsou prostě pár měsíců napřed, že jo, logicky. Jsou tam různý trénovací uličky, který třeba se ne, jako nespatřej světlo světa, takže jako bezpochyby toho viděj víc. Já nevím, no, co si o tom myslíš? Jak hodně věříš tady těm pánům?

Jindřich: A jako určitě je důležitý mít na paměti, že oni pracujou jako s mnohem pokročilejšíma informacema, než pracujeme my, že jo. Eh, tys to trošku zmínil, jak mají přístup do těch labů a zkrátka pracujou s tím. A samozřejmě v neposlední řadě jsou jako mnohem, mnohem kvalifikovanější a jsou jako mnohem znalejší celýho toho oboru a věnujou se tomu jako mnohem dýl než vlastně my tady jako dohromady, jo, než spoustu lidí okolo nás jako dohromady. Eh, já se snažím vždycky od toho akorát jako trošku držet odstup. Třeba na tom bu-něco bude, třeba na tom něco nebude, ale když už to říkají všichni jako oni, tak velmi pravděpodobně jako na tom něco bude, jo. Myslím si, že jako bejt k tomu skeptickej a otáčet se k tomu zády asi jako není úplně ten, ten správnej úhel pohledu.

Filip: No sou-souhlasím. Za mě je to takové to, že je úplně v pohodě říkat: „Hele, to asi nehrozí, si to a tak." Ale jako myslím si, že už jsme za bodem, kdy jako když někdo řekne: „Hej, to je úplná blbost, to se prostě jako nikdy nemůže stát," tak podle mě jako nesleduje to dění. Jako že v-vím, že je to možná tak jako paušalizující, ale jako hej, to, co se děje, si myslím, že fakt jako ty otázky vyvolává. A jako fakt na tom spektru můžeš být od toho, že tomu jako věříš, že to přijde brzo a až od toho, kdy je to velmi nepravděpodobné. Ale ta otázka za mě jako relevantní je, jestli to AGI se blíží nebo neblíží. co je jako zajímavý, tak vlastně v tý debatě jsou takový jako dva úhly pohledu na tu AGI a že se soudí podle toho, co buďto jako dokáže, to znamená ty výsledky a nebo na ten proces toho, jak vlastně se učí. Protože ty máš, jo, jako často jsou definice, že je stejně dobrá jako třeba ten člověk nebo průměrný člověk ve všech možných oblastech. jako neříká nic o tom učení. A je třeba jako zajímavý, mně přijde přidat do té rovnice to, že u-umělá inteligence, která by se měla rovnat tý lidský, tak nejenom že by měla mít ty znalosti, ale měla by schopná vlastně kontinuálně ty znalosti vstřebávat a učit se jako v uvozovkách zažívat ty věci a pamatovat si to. To jako je ekvivalent toho, že se mění ty váhy toho modelu, protože že jo dneska, abych to jako upřesnil, tak když máš ten model a já tomu říkám ta černá krabička, tak on má to, co se naučil, tak má jako zakonzervovaný v sobě, má ty váhy prostě jako hotový a to, co se učí nebo to, co jako sbírá ten kontext navíc a dělá to jako toho agenta chytřejším, tak je ta harness, to znamená ten software okolo, že jo. To, že si píše ty poznámky, děláme skilly, různý prostě jako knowledge base a další věci. Tak to jsou jakoby věci, který dělaj toho agenta chytřejšího, ale ten model jako takovej, tak se prostě jako nemění. A todle je třeba jako z průlomů za mě, kterej když přijde, že dokážem jako dynamicky měnit ty váhy toho modelu při tom, jak ho používáš. To znamená, že se jako učí stejně jako tvůj mozek, že jo. Když něco prostě novýho zažiješ, tak ty spojení v tom mozku se ti trošku jako pozměněj, že si jako zapamatuješ ty věci, naučíš se je. Tak pokud tohle přijde, tak si říkám, že to už by mohla bejt fakt ta jako AGI, kdy, kdy, kdy ty modely se jako učej z tý zkušenosti. Otázkou je, jako jestli to potřebujem, jestli vlastně jako všechny to učení, jenom té harness toho okolo, tak jestli to nebude stačit, jo, aby, aby to překonalo tu inteligenci lidskou. Who knows?

Jindřich: Hm.

Filip: tohle mně třeba přijde jako jeden z takovejch hlavních argumentů, proč si vždycky říkám: „Hej, jako je to taková dobrá simulace toho, že je to jako extrémně výkonný a chytrý, to nemá jako tady tu vlastnost toho učení.

Jindřich: Hm, jeden z těch argumentů, že v tý AGI už jsme, tak relativně nedávno, že jo, proběhlo, eh, médiama, že umělá inteligence vyřešila, eh, v matematice Navier-Stokesovy rovnice, což je jakýs jako matematickej problém, že jo, kterej údajně byl, eh, byl vlastně považován nebo byl jako nazýván, že je to, eh, matematickej problém tisíciletí a umělá inteligence ho vyřešila. Nicméně to samozřejmě jako doprovází, eh, taková jako kon-kontroverze a několik měsíců už jako předtím, tak, eh, vlastně na nějaký matematický konferenci právě dva vědci představili jako hypotetickej model, jak by se tyhlety rovnice, eh, mohly řešit. Eh, stejně tak, že jo, jak to zkrátka probíhá, když člověk vě-vědec nebo respektive jako dělá vědu, musí jezdit po konferencích a musí tam zkrátka prezentovat nějaký jako svoje články včetně nějakýho jako svýho, mm, jako poznání. No a, eh, vlastně po tom, co se vyřešily jako tyhlety rovnice, tak to nebylo nic jinýho, než že, že vlastně použili už tehle, tudletu potenciální představenou cestu, která by hypoteticky mohla fungovat. T-těch dvou vědců, což jeden, já si nevzpomenu na jméno, to myslim, to ani nemám napsaný, ale mimochodem to jeden byl, eh, jako přímo researcher z Anthropicu. A zkrátka oni na to potom pustili přes jako deset tisíc jako agentů a vyřešili to. Jo, takže tady je otázka, jako vyřešila to, teda přišla na ten jako způsob to řešení těch, těch Navier-Stokesovejch rovnic skutečně jako AI? Anebo jestli tam byl prostě jenom takovej ten jako superpower, že jo, ta obrovská, eh, ten obrovskej compute. Tak vlastně to jsem zkrátka chtěl jako popsat, že to byla ta kontroverze, kterou jako doprovázelo, eh, doprovázely ty, ty novinový média, že jo. Co bylo třeba, nevím, asi v Seznam Zprávách nebo v novinkách nebo někde. Eh, zkrátka že umělá inteligence vyřešila tyhle rovnice. Ono vlastně jako částečně jo, ale jenom díky tý hrubý síle. Ne kvůli tomu, že by skutečně ta AI přišla na tu konkrétní metodu toho řešení.

Filip: No jasně a to je, a to je přesně jako ono, že se jako pak ukazuje to, že nejenom že ty máš třeba definici, to je AGI, ale ještě jako vždycky si vymyslíš, a teď to nemyslím jakoby by to byla blbost, ale že jakoby vždycky se najde něco, co řekneš: „Ale to není ještě ta naše inteligence," protože tady řekneš, jako že oni to vyřešili jako brute forcem, že prostě pustíš jako mordu agentů a ty budou zkoušet prostě všechno do aleluja a prostě jednou to jako padne. A teď si řekneš jako ok, tak jako je to vlastně ta inteligence nebo je to jenom jako těžkej brute force? teď, a teď je otázka, jako že vlastně ten brute force jako není to vlastně jako jedno? A teď já jako na to nemám odpověď, jo, ale jenom tím chci říct, že vlastně to krásně ilustruje to, že fakt ta definice pojm-toho pojmu i to-toho jako AGI je strašně plovoucí, že jako přesně jako ty-ten model se neučí, on na to nijak systematicky nepřišel, prostě to jako brute forcnul. Ale pořád tam musí bejt ta logika, že on si nadesignoval jako ten systém, jak to bude brute forcovat, že jo, jak to bude jako testovat, vyhodnocovat. Takže jo, jako těž-těžko soudit, no, ale, ale jako

Jindřich: Jo, ale je to jako takový--

Filip: stranu

Jindřich: je přesně, přesně, přesně. Je to jako takový so so, že prostě nemůžeš říct ano, jo, ok, prostě máte pravdu. Jasně, umělá inteligence nám tady vyřešila ten matematickej problém. Ale kdybychom si chtěli ještě trošku víc--

Filip: jakoby

Jindřich: nebo-- no povídej klidně, hele. Jako já chápu tu kontroverzi kolem toho.

Filip: já taky, já taky. Ale jako vlastně je otázka, jako že vyřešila to AI? No j-jakoby vyřešila. Sice jako jakýmkoliv způsobem jako brute forcem, ale jako vyřešila. Takže jako to tvrzení vlastně není jako falešný nebo lživý, že jo?

Jindřich: No ale ano, ale vyřešila to jako způsobem, kterej vlastně dva vědci představili tady pár měsíců zpátky. Jo, takže jako to AIčko už jako

Filip: j-jo

Jindřich: jakoby ten směr, kudy se má jako vydat pro vyřešení

Filip: Jo, jako chápu, no, chápu.

Jindřich: No ale každopádně

Filip: ono těch matematických úlo- nebo problémů, co se za poslední měsíc vyřešilo, je jako několik, že

Jindřich: No jasně, jasně no. Jo, tohle bylo takový to větší, co proběhlo médiama.

Filip: Jo,

Jindřich: Ale ono kdybychom si chtěli ještě trošku jako víc zafilosofovat, jo, nebo, nebo odbočit, tak bys ty dala otázku, co to udělá s takovejhlema jako vědeckýma konferencema, že jo? Jestliže tam někdo jako představí nějaký svoje potenciální řešení a někdo, kdo má přístup k tomu obrovskýmu výkonu, k tomu obrovskýmu compute power, tak řekne: "Aha, ok, dobrá myšlenka, fajn, pojďme to zkusit. Sto tisíc agentů here kluci, dělejte to a pak řekněte, jestli je to cesta nebo není to cesta. Není to cesta. Ok, dobrý. No tak tam ty věce necháme v tom se dělat, šťourat ať ještě pár let to jako zkoušej." Když někdo přijde zase s někým jiným, tak dalších: "Hele kluci, sto tisíc agentů." Extrémně nákladný, ale když máš jako ten compute power, tak očividně můžeš vítězit, což vlastně se nám ukazuje v poslední době častějc a častějc.

Filip: Jo hele, to je to otázka, no. Je to přesně, je to skvělej nástroj pro ty vědce, ale pak je tam ta nefér výhoda, že přijde Anthropic, přijde OpenAI, který mají neomezenej compute a řeknou: „Přesně tak to pojďme zkusit. My potřebujem to PR, že jo? Tak, tak ty problémy vyřešíme, protože prostě můžem.“ Jako to je ta, ta motivace, že jo. Nebo jako jasně, já věřím, že v Anthropicu ty lidi, co, co to dělaj, jsou jako taky extrémně chytrý vědci, to jako o tom žádná, ale jako pravdu, že pak ta vědecká komunita by se mohla začít bát vůbec jako něco publikovat, protože pak přijde

Jindřich: Přesně tak, no

Filip: research lab a zkus ji, uvidíme, dopadne, nedopadne a když to dopadne, tak super PR, že jo?

Jindřich: No jasně. A když to nedopadne, tak jo, kluci dobrý a můžete se snažit dál.

Filip: No

Jindřich: No jako

Filip: A jakože oni ty le-le, jako laboratoře tak jako publikujou, že jo, různý jako research články, takže ono to nejde vníveč, že by to jen tak udělali pro nějakej marketingovej jako tady taneček, ale jako ty, ty postupy jsou normálně taky jako pak vědecký články, takže ono to tu vědu taky posouvá. Jenom je to taková ta neférová výhoda trošku.

Jindřich: Zkrátka kdyby to měl obecně asi, eh, trochu sesumírovat tak, nebo jak já to vnímám, tak my v tenhle ten okamžik vlastně jako balancujeme na takovejch jako dvou vahách, že jo? Hm, vlastně to, jak se to učí a jestli se to učí a co to vlastně umí. Jo a v tenhleten okamžik jsme spíš jako u tý otázky, co to vlastně umí, což

Filip: No,

Jindřich: spíš se samozřejmě blíží jako tý AGI, jak už jsme si asi řekli, pra-pravděpodobně, byť asi nemůžeme nic tady, hm, jako tvrdit úplně s jistotou. Ale jakmile se ty váhy jako trošku otočej a budeme my tady řešit otázku, jako jak dobře se to učí nebo jak hodně rychle se to jako samo učí, tak už spíš pravděpodobně se budeme bavit o tý singularitě.

Filip: Jo, jako vlastně na týhletý debatě mně přijde extrémně zajímavý ani ne to, jestli jsme v AGI nebo nejsme v AGI. To je prostě jako termín, kterej jo, je fajn, že ho máme. Určitě pro různý ekonomický dopady to má jako obrovskej význam, jestli někdo tvrdí, že má AGI nebo nemá, že jo, protože to prostě hypuje investory a tak dál. Ale jako co mi přijde prostě extrémně zajímavý je ta debata, jestli to, že dnešní modely se vlastně jako nedokážou učit z tý zkušenosti, to znamená, modifikovat ty svoje váhy za běhu, za tý konverzace s tebou. Tak jestli tohle je jako limitace, která vlastně musí bejt odstraněná, anebo jestli ta inteligence, ta super inteligence vlastně jako nestačí, že vzniká v tom, použiju to slovo, co si vymysleli ti agenti při tom Huggins face incidentu, v tom kolektiv, v tom kolektivu. Jo, že vlastně jako máš taky spoustu organismů na, jako v přírodě, kdy máš třeba, myslím, že to jsou mravenci, jsou to různý ryby, který vlastně jako samy o sobě jsou jako poměrně hloupoučký, jako když je dáš do toho hejna nebo do toho roje nebo čehokoliv, tak tam vzniká ta jako chytrost nebo to, že ten organismus se chová jako celek. A teď já si nevzpomenu na to, ale biologie pro to má vyloženě jako název. Jo, že prostě ti vzniká ta inteligence na, až na úrovni celku a ne na úrovni jednotlivce. jestli je vlastně jako tadycto nemůže bejt ta cesta k tý AGI, kdy prostě máš ty agenty, který jako si dokážou takhle vypomoct a vlastně jo, je to určitý brute force jako v tomhletom pohledu, ale jestli to vlastně není ta nejbližší cesta.

Jindřich: Eh, pro-- často, že jo, ty technologie, eh, hledají inspiraci v přírodě, ať už je to vlastně jakýkoliv obor, i, i jako prakticky, protože přece jenom příroda je něco, co se tady vyvíjí jako x milionů let. Tak, eh, vlastně některý zkrátka principy, který tam fungujou, tak fungujou jako dobře. Eh, když docela odbočím, tak třeba jeden z těch jako příkladů, které já si vždycky vzpomenu, tak je japonskej Šinkansen, že jo. Tak přesně ten tvar, kterej oni, eh, jako navrhovali, tak vychází z nějakýho ptáka, že jo, z letu ptáka, aby

Filip: ja

Jindřich: zkrátka bylo dostatečně aerodynamickej, v, eh, aby zkrátka tam odpovídalo to ideální proudění vzduchu a, a tak dál. To ne-neznám k tomu detaily, ale zkrátka c-cítím ří-říct to, že todleto, že, eh, se i to AI do jistý míry inspiruje přírodou anebo minimálně ta terminologie okolo, tak to vlastně není v technologiích nic novýho

Filip: Rozhodně no. Jako já vlastně přemejšlím, no, jako když, když by, když bych měl odpovědět na otázku, jestli jako AGI je nebo není, když se tak jako na konci prostě jako troufnu to říct, tak já bych asi řekl, že zatím třeba ne. takovej pocit. Minimálně ty veřejný modely nemůžem dohlídnout prostě někam jinam. myslím si, že jako to, co ty agenti dneska dokážou a hlavně v tom jako hive mindu, to znamená v tom, v tom jako kolektivu, v tom, eh, když je jako spojíš dohromady, dáš tam ten prostě velkej compute, tak to tomu mohlo blížit a jako no, troufnul bych si tvrdit, byť mě to trošku děsí, takže jako v následujících letech bysme se něčeho takovýho dočkat mohli

Jindřich: anditin de,wu

Filip: Hm. Hm.

Jindřich: 为大家 d大小ред readilymd,

Filip: Rozhodně. Jako tady vlastně podle mě nejsou špatný odpovědi. To se prostě jako ne-nedá říct, že jako někdo má špatnej názor, protože to je fakt věc názoru. Jsou tady nějaký fakta, ale to, jak je interpretujem, tak záleží na tom úhlu pohledu a taky možná si myslím, že do toho dost hraje roli i ty naše emoce, že jo, že vlastně jako je strašně těžký si třeba pak připustit a podle mě fakt si to připustíme až zpětně, že tady třeba nějaká AGI někdy vznikla, jako v tom bodě si budeš vždycky říkat ne, tady nemůže být entita, která jako je chytřejší než lidi. To přece jako nejde, že jo? Jako takový ten strach toho, že bys, že, že něco, co jsme vytvořili, by nás mělo třeba jako dohnat nebo přede-předehnat nedej bože, je jako děsivej.

Jindřich: Ono už teď, že jo, vlastně do jisté míry ty asi děti nebo obecně lidi z mladších generací, který budou vyrůstat, tak už vlastně budou vyrůstat vždycky s tím, že budou mít vedle sebe někoho mnohem chytřejšího, než jsou jako oni. A to bude hrozně těžký jako krok i pro ty autority okolo nich, že jo. Takže jim půjdeš jim jako učitel něco vysvětlovat a oni řeknou: „Ne, moment, já se podívám.“ Že jo, jako jasně, my třeba jsme si to mohli vygooglit, že jo, nebo mohli jsme si tu

Filip: Ale je to

Jindřich: informaci najít někde v Wikipedii, ale bylo to komplikovanější. Přesně,

Filip: ne?

Jindřich: přesně tak no. Ale tady ty víš, nebo respektive ty, ta mladá generace dneska už ví, že budeš, budou zkrátka vyrůstat s tím, že po ruce a vlastně velmi dostupně vždycky budou mít po ruce někoho, kdo je chytřejší než, než oni. A když ne, tak minimálně ve většině oborů.

Filip: No.

Jindřich: Ale uvidíme samozřejmě. Eh,

Filip: Hm

Jindřich: myslím si, že důležitý je k tomu prostě nebýt skeptickej, bejt jako trochu otevřenej. Jak jsi říkal, je to věc názoru. Je to dost možná jako i povahová věc. A vlastně proč ne? Klidně k tomu můžu bejt jako skeptickej. To jako ať už si každej rozebere, jak chce, ale to, co jsme my tady nějak jako prezentovali, tak samozřejmě jsou nějaký naše názory a nějaký i fakta, který jako aktuálně jsou a primárně i pohled jako těch nejpovolanějších, že jo, což jsou nejvyšší představitelé OpenAI, Anthropicu a, a jako řady dalších providerů. Tak když už jako oni něco takovýho tvrděj, tak si myslím, že opravdu je, je asi na, na pováženou bejt trošku víc open minded a alespoň trošku zapřemýšlet nad tím, že možná na tom, co ty kluci říkají, něco bude

Filip: Rozhodně no, jako mně vždycky největší váhu přijde tak nějak, že z tý nějaký svatý trojice, že jo, tak má ten Demis Hassabis, který má i jako Nobelovku. Je to prostě jako vědec z povolání řekněme, i on vlastně jako tady tu otázku otvírá. Takže jako, no, ať to dál nenatahujem. Podle mě jako otázka, jestli AGI je jako relevantní a že jako říct, že to je jako diskuse nebo že nedává smysl podle mě už dneska jako nám no neplatí.

Jindřich: Bylo to opět fajn povídání, Filipe, díky moc. Těším se na příště

Filip: Díky, bylo to zajímavý, takový filozofický, míň faktický, než děláme běžně, ale za mě taky super. Tak budem rádi, když nám dáte vědět do komentářů, co si o i takovejhle dílech myslíte a co si o AGI taky myslíte. A přesně jak říkal Jindra, co by musela předvést, abyste řekli, že tohle je AGI. Děkujeme, že jste poslouchali a budeme se těšit u dalšího dílu.

Jindřich: I que ciao

Filip: Nita sahoj