I když poznáš, že to není reálné, Deepfake stejně uškodí.

Jindřich: Každej skutečně může být obětí podvodu.

Filip: Jako představ si holku na střední škole, kdy tohle spolužáci si rozešlo mezi sebou. A to je úplně jedno, že je to fejky, ale prostě to je jako venku a pro ní to bude jako obrovská újma.

Jindřich: Dřív přece jenom oni museli zvednout telefon, volat tady jednomu člověku. Půl hodiny se s ním bavili, bohužel nedopadlo to. No a teď tyhle ty deep fakes, oni rozešlou během minuty deseti tisíců, možná stát tisíců lidí jako po celém světě.

Filip: Ta největší problém za mě je ta škálovatohnost. Že prostě dřív, když jsem byl ten podvodník, tak jsem byl jako limitovaný svým časem.

Jindřich: Právě posloucháte Deep Link Show. Filipe, vítám tě historicky u druhého dílu podcastu DeepLink Show. V tom prvním jsme si povídali o wipecodingu. Probrali jsme ho zleva z prava, povídali jsme si o jeho silných stránkách, slabých stránkách, různých use case poušití a tak dále. No a teď se samozřejmě nabízí i další témata, o kterých se tady dříve nebo později chceme bavit. Máme v nich celou řadu. Ale dneska tady společně rozebereme etiku, etiku umělý inteligence primárně a z toho úhlu pohledu, jako o tom v dnešní době píšou média.

Filip: To je, si myslím, že skvělá volba, protože my jsme ten vibe coding tak nějak probrali a je to takovýto krásný téma, protože všichni si rádi povídáme o tom, jak nám umělá inteligence něco se efektivní přinese, ty její benefity, ale nesmíme zapomínat na to, že je to technologie, jako každá jiná zkrátka, a přináší sebou i tady ty rizika. A ty jsi nám vybral tady deset článků, který jsou takovým průřezem všema možnýma tématama nebo respektivem těma etickýma problémama, který vlastně s tou umělou inteligencí, kterou my dneska známe, která vlastně jako přichází, tak vlastně jako nastávají. Tak pojďme asi na to.

Jindřich: Pojďme si ten náš koncept připravit, respektive představit. Máme tady 10 článků. Jsou z různých žurnalistických servrů, veď už to jsou Novinky.cz, Seznam zprávy a podobně. Všechny se právě týkají etiky umělí inteligence. My se budeme postupně představovat. Každý z těchto článků nějakým způsobem prodiskutujeme, probereme a potom si to ohodnotíme. Máme tady čtyři kategorie hodnocení s tím, Závažnost, neetičnosti, rozsah případně toho společenského dopadu, jako rizika do budoucna a řešitelnost konkrétního etického problému s tím, že každý ten článek reflektuje nějakou kategorii toho, řekněme, etického problému. Jedno ty parametry budeme hodnotit od jedničky do desítky s tím, že 10 je vždycky to nejvíce daného parametru. No a na konci nám z toho vznikne nějakej průměr a potom se nám spočítá i pořadí od vlastně toho tématu nebo respektive konkrétního článku, který společně považujeme za ten největší etický problém. Tak můžeme se na to pustit?

Filip: Zhodně, pojďme na to. Fajn,

Jindřich: tak tím pádem, první článek, tak to nám pojednává umělci vs uměla inteligence, bitva o autorská práva začína na servu Novinky.cz a je to prakticky už dva roky starý článek, ale když tady možná jenom v rychlosti jako proběhnu ten a úvod tady je, tak ten říká, že umělci, kteří bojí proti umělé inteligenci, generují obsah s využitím jejich děl, se začaly bránit podáním prvních žalob. Bitwa tu bude těžká, píše agentura AFP. Legislativa v Evropě a v Severní Americe je sice teď nakloněna ve prospěch umělé inteligence, podle právních expertů, ale může přijít obrat. Jiným slovy, ten článek pojednává o problémech s autorskýma právama. Jak to vnímáš? Ale

Filip: je to vlastně strašně složitej problém, protože já už jsem nad tím přemýšlel jako nespočetně krát, jak jsi sám říkal, tohle je článek před pár lety, takže ono už tohleto téma tady vlastně máme na stole nějakou dobu a podle mě jako vlastně nedošlo k nějakýmu jako zásadnímu rozhodnutí, jak to teda vlastně je a celý to je podle mě jako na tom, že to není jednoznačný, protože I když vlastně lidský umělec tak něco tvoří, tak vlastně sbírá tu vlastně inspiraci od těch ostatních a pak do toho přidává vlastně nějakou svojí vlastnost nebo nějaký svůj přístup a tím tvoří nějaký dílo. Mně vždycky jako v hlavě se rozsvítí knížka Krat jako umělec a to vlastně pojednává přesně o tomhletom. Tím nechci říct, že jako všichni umělci jako kradou nebo tak, to ne, ale zkrátka jakože inspirace, vzájemná inspirace a to, že vlastně jako vidíš různý díla a bereš si z toho něco, co tě zaujme a to použiješ, tak je vlastně jako standardní přístup. Jenomže přišla uměla inteligence, A teď jako tady to, kdy jsi byl ten umělec a tak nějak si slechce vyzobával nějaký ty díla a inspiroval se a překlápil to do toho svýho, tak najednou je v obrovském měřítku, protože to, jak to funguje, je, že ty prostě naleješ do té neuronové sítě v obrovském množství těch dat, ať už to jsou grafické díla, hudba, cokoliv, a na základě toho si to vytvoří vlastně tu neuronovou síť a ty jsi pak jako ten uživatel schopnej ty díla generovat. No a to znamená, že ty jako dneska můžeš přijít a říct chci dílo ve stylu tady Picasso nebo nějakýho jinýho umělce nebo písničku ve stylu Taylor Swift a vlastně jí jako dostaneš a teď je vlastně to jako otázka jestli teda ta neuronová síť jako ukradla tomu umělci ten styl nebo ne, protože Ty pokud si uměl hrát na nějaký nástroj nebo složit tu písničku tak jako teoreticky ses mohl inspirovat a něco podobným žánru jako vytvořit takže jako můj pohled na to je a neříkám že jako jedinej ten uhel se mi jako. Čas od času jako různě mění protože jak říkám je to jako složitý téma. tak je to spíš o tom, jak to ten člověk využije a jakým způsobem vlastně to pak jako publikuje. Takže ty, pokud si složíš písničku stejnou jako Taylor Swift, publikuješ ji a budeš na ní vlastně jako vydělávat, tak ale je to podle mě tvoje odpovědnost jako toho uživatele a ne toho nástroje, protože stejně tak jako nedáváš odpovědnost jako houslím nebo jako Spotify za to, že někdo se mohl inspirovat a vytvořit tu jako hudbu. Jsi to schrnul,

Jindřich: myslím si, skvěle. A přesně jak jsi dělal. Myslím si, že je hodně důležitý říct, že se nejedná jenom o tu vizuální tvorbu, ale zkušujeme celou škálu ty audiovisuální tvorby. Já osobně v tom měním mám asi dva přístupy. Jeden je ten, když já osobně třeba přijdu s nějakým četovacím asistentem nebo za nějakým softverem, který mi dokáže přesně tuto audiovisuální tvorbu vygenerovat. a řeknu mu vygeneruju mi písničku ve stylu Taylor Swift kohokoliv takovou a takovou a pak ji budu vlastně vydávat za nějaké svoje dílo a chtěl bych ji potenciálně monetizovat. Problematická část, jenomže existuje tady i ten vlastně druhej způsob a to je ten, že já to udělám nedopatřením. Já mu řeknu hele chci tady popovou písničku s tímhle textem, aby zněla těchto tonech a podobně a vlastně z tohohle toho jako promtu tak ten výsledek vypadne, který může být opravdu velmi, velmi podobný ty Taylor Swift. No a kde teď ta jako hranice je? Je to jako skutečně teda problém? Je, pořád vlastně je, ale kde ta hranice je, to si dovolím tvrdit, v téhle ten okamžik nevíme a být nejsem právní, tak se dovolím tvrdit, že i právo je v téhle ten okamžik na

Filip: to krátký. Jo, já se ohlasím, jako tím, že je to prostě tak jako nechci říct abstraktní, ale jako do jistý míry, jo, jako problém, který vlastně jako nejseš schopnej jako jednoduše uchopit, tak já si myslím, že to prostě bude podobně jako je to u spousty takovýhle jako právních věcí, zase tak jako nejsem právník, ale zkrátka je to pak o tom, o té interpretaci toho jako soudu, jak se k tomu jako postaví, o nějakých jako precedencech a nevím, no, jako můj názor je, že asi jako nějakej styl jako omezovat tady to, aby vlastně jako ty firmy třeba jako nemohly používat ty díla, byť si třeba je někde jako koupí, tak podle mě jako není už v dnešní době jako dosažitelný, protože zkrátka jako, jak jako s oblbou říkám, damage has been done, už se to jako stalo a už se jako nestane, že teďka jako si řekneme, dobře, nebudeme moc používat tyhle díla na trénování těch AI, to už ale vlastně nic nezmění, protože často se používají ty už existující modely k trénování těch novéch a tam už ty data prostě jako zakořeněný, řekněme, jsou. A kdybychom tohle chtěli udělat, tak prostě ten progres, který máme, musíme zastavit. Ač nerad, tak jsem toho názoru, že tenhle problém už bohužel vznikl, už tady je a my bysme spíš měli řešit to, jak do budoucna zajistit nějaké možnosti autorských práv, ať už vytvořených, novéch věcí, nebo třeba i těch vygenerovaných. Zkrátka podle mě ten pohled na to autorské právo se bude muset do jisté míry modifikovat. Když se podíváme ve skutečnosti

Jindřich: trochu do historie, tak ten problém už je tady s náma ve skutečnosti velmi, velmi dlouho. Protože přece jenom, když se podíváme i trochu do světa například rapový hudby, tak tam historicky všaké beaty, které vznikaly, tak taky vznikaly samplováním už, pokud samozřejmě nebyly elektronické, tak vznikaly samplováním z různých LPček a desek opravdu umělců před x desítkami let například. Takže já ten problém relativně vidím, že je velmi podobný, ale samozřejmě v tohle ten okamžik, jak je to generování těch audiovisuálních obsahů jako na tolik jednoduchý a skutečně dostupný pro každého z nás, tak nám to ten problém akorát zná sobě. –

Filip: Souhlasím, no. Já ještě jenom možná jeden pohled bych k tomu přidal a to je ten, Často a teď jako nemluvím o tom umění jako celku, protože každý jako to odvětví má svoje jako strašný specifika, ale třeba typická ta hudba, tak podle mě jako dneska už není ani o tom, že máš tu jako nejlepší písničku nebo ten nejlepší jako styl, ale je to vlastně o celý tý show a celý tom jako kolosu, který kolem toho vlastně jako stavíš a to budování toho jména, takže jako když někdo přijde a udělá písničku podobnou jako Taylor Swift, tak si jako troufnu tvrdit, že se jako nestane stejným hitem jako je Taylor Swift. A to znamená, že pořád ten umělec má určitou jako moc, jak tu svoji tvorbu jako využít k tomu svýmu jako živobytí, řekněme, protože to ty lidi živí a to je to hlavní, proč je to vlastně jako štve a vadí jim to, protože jim to samozřejmě jako ubírá ty zisky, což je jako pochopitelný. Takže jenom tím chci říct, že podle mě vlastně to, že jsi schopnej vytvořit dílo v nějakém stylu, tak ještě jako neznamená, že vlastně teďka budeš stejně úspěšný jako ten umělec. To bez

Jindřich: zesporu, ale se přepokládá, že, jak se skvěle zmínil, damage has been done. Takže může se skutečně stát, že do budoucna, pokud takových písniček bude víc a víc, tak když si to, pak v tom nejhorším případě začne i Spotify, jako přidává, nebo začne autoplay, dostaneš tyhle písničky, nemusíš to sám ani poznat, můžeš být spokojený, že posloucháš něco jako Taylor Swift. No, každopádně, jak bys to byl hodnotil?

Filip: Jak bych to ohodnotil? To je složitý, jakože závažnost, já... Jako je to strašně těžký říct, jakože já jsem nejsem umělec, takže jako pro mě ta závažnost není jako tak velká a ne, že by to nebylo důležitý, ale spíš já se na to fakt snažím koukat tím pragmatickým pohledem jako, že už se to jako stalo, takže vlastně jako už prostě ta závažnost není tak velká z pohledu toho, jestli ty jazykový modely nebo neuronový sítí, jakýkoliv AI se bude na těch datách učit, ale spíš jako ta závažnost je z toho pohledu, jakým způsobem do budoucna zajistit a modifikovat autorský práva, Já bych za sebe tomu dal třeba nějakou trojku, možná spíš pětku na pomezí, ať jsme. Dobře, pojďme tomu dát

Jindřich: pětku. Myslím si, že bude dobré zároveň zmínit, ve spoustě tématech, kterými se tady bavíme, ať už se to jedná, příklad nějaký právo, nebo ať už se jedná právě tu hodbu, tak my v tom jako nejsme experti, takže to hodnocení, které tady padá, nějaká naše subjektivní doměnka a spíše to do jistý míry řekně obhácení tohoto konceptu, kdy se tady o té etice povídáme. Ještě bych možná doplnil jednu informaci a to pojďme určitě hodně tím způsobem, že zhruba tušíme, jaký témata tam budou, nebo zhruba tušíme, jaký etický problémy v dnešní době inteligence vykazuje. Takže na této škále zhruba víme, že nás budou čekat asi lepší zprávy, budou nás čekat horší zprávy, respektive horší témata, tak i na této škále toto pojďme mít na paměti při tom hodnocení. Tak, rozsah dopadu analogicky. Hele, já bych

Filip: řekl, že se to týká prostě všech, takže já bych dal jako klidně devět nebo něco podobného, protože zkrátka to ovlivní

Jindřich: všechny. Ok, a bude to v budoucnu větší problém, nebo naopak se to bude zmírnit?

Filip: Já si myslím, že bude určitý jako pořád ještě halo kolem toho, ale myslím si, že za nějakou dobu se to jako usadí a že my prostě jako přepracujeme ten koncept těch autorských práv a jak k tomu jako přistupujeme, takže já si myslím, že to jako budoucí riziko vlastně z tohodle úhlu pohledu až takový jako není, takže bych se

Jindřich: držel třeba trojky. jsi pozitivní vůči právu a vůči právním rámcům, které na to

Filip: budou zníkat. Spíš ohledně nějakého jako společenského koncenzu, co autorský právo vlastně jako v budoucnu bude znamenat.

Jindřich: A stejně tak, možná jsem na to už částečně odpověděl, ale co se týče řešitelnosti, myslíš, že to bude snadné nebo naopak to bude hrozný problém?

Filip: Já jsem zkrátka toho názoru, že si jako lidstvo na to zvykneme. A jak jsem už několikrát zmínil, že se přístup k autorským právům zmíní. Myslím, že to bude do budoucna menší problém. Tím pádem, že to je řešitelné, ač ne tím stylem, že si dáme jasné zákony, ale spíš tím, že ta společnost se přizpůsobí. Takže tři taky? Na škále

Jindřich: od 1 do 10? Dobře. Pojďme se možná podívat na další téma. Tak, zboží přišlo poškozené. Podvodníci využívají AI k vrácení peněz. Rozsáhla je problém poslední doby. Sám jsem si tohle fenoménu všimnul ještě na sociálních sítích, ještě právě předtím, než vůbec novinky o tom zašli psát. Je to jako relativně nová zpráva. Je vidět, že z počátku ledna 2026, prakticky před 14. ani ne. Možnost reklamat boží, které přišlo zákazníkovi poškozené je dnes celé běžná věc. Nově se doboje o vrácení peněz a za zboží vkládá i umílá inteligence. Se jí pomocí peněz chtíví lidé generují obrázky ukazující poškozené zboží, které ve skutečnosti žádnou vadu nemá. Jiným slovím, něco si koupím, chci za to vrátit peníze, vyfotím to, že to má vadu, dostanu vrácené peníze, bez zasporu takové etické problémy. Jak je

Filip: na to tvůj pohled? Podle mě tady ten článek nebo přesně tady ten příklad je jako krásná věc, kdy se s tím jako vlastně stotožní, že si to vlastně každej dokáže jako jednoduše představit, ale je to podle mě jako ta špička toho ledovce, která otevírá jako celý to téma toho vlastně, že fotka do posud byla do jistý mír jako důkazný materiál, na který jsme se jako mohli spolehnout a jasně tady to máme jako z pohledu nějakých jídel nebo řekněme jako nějaké oblečení a tak dál, takže to je řekněme Je to problém, ale není takového rozsahu, ale když to interpolujeme a přeneseme do nějakého soudnictví, tak najednou ty se předstáváš, nebo nemůžeš tak dobře spolehnout na to, jestli ta fotka nebo nějaké video, audio, jakýkoliv záznam, tak jestli je reálný a jestli ho můžeš použít jako důkazní materiál. A to si myslím, že je obrovský závažný a je potřeba se na to zaměřit, jak tady to vyřešit.

Jindřich: To vnímám, že možná odchází to trochu jako závažnějšího problému. Minima je tohle ten, o čem asi ten článek pojedává taky spíš právě ještě v rovině těch jako reklamací a přesně že to oblečení, nebo například ty pecky, kde jim vždycky stačila fotka, tak když jsi měl nějaký problém s nějakou službou, která ti dovezla jídlo. Takže jo, to jídlo je špatý, nevím. Okej, pošlete mi fotku, no tady fotka, jasně, vracíme peníze. No takže tohle to asi jsou jedny z těch typických příkladů, o čem povědá tenhle článek těch, nebo jeden z těch typických problémů. Nicméně asi shodeme na tom, že to není v pořádku, ale zároveň to asi není eticky problém

Filip: takovýho rozsahu. Jo jakože ten samotný problém to o čem ten článek pojedává tak jako není asi jako velborovský etický problém já se trošku jako bojím že to třeba do nějaký dohledný budoucnosti, může třeba jako snížit tu kvalitu ty uživatelský zkušenosti, kdy prostě ty firmy jako, co je nejjednodušší, že jo, tak jako přestaneš tak jednoduše přijímat reklamace a budeš od těch lidí vyžadovat nějaké jako delší důkazy, což pro tebe jako zákazníka je vlastně jako zhoršení té zkušenosti, takže toho se jako bojím, ale samozřejmě Věřím, že přijde řešení tady toho problému. V tuhle chvíli nevím, jaký, ale samozřejmě různé generátory mají různý ID, které vkládají do těch obrázků a jsou verifikovatelné. Takže když dnes vygeneruješ obrázek přes Gemini, typicky nanobanana, je skvělé, že je editace fotek, takže vyfotíš jídlo, řekni, udělej ho, že vypadá hrozně, je rozblemcané něco, tak pokud ta firma si jednoduše zaintegruje nějakou verifikaci, tak je schopná poznat, že to bylo vygenerované přes AI. Zase ty jako užívatele to můžeš obejít, ale takhle jako odfiltruješ nějakou většinu těch jako lidí, co to tak nějak zkusí, protože to trvá pět vteřin, tak co bych to jako neskusil, že jo. Takže jako myslím si, že ten problém tam je a spíš jako mě na tom fakt děsí to, co to jako znamená v tom velkým měřítku, jak jsem jako zmiňoval, ale jak říkáš, neudíkejme od tématu článku.

Jindřich: Řešení problému je taky to standardní, že máš problém s tím zboží, tak nám ho pošli. My se to zkontrolujeme sami. Jasně nepošle šídlo, ale když je to oblečení jakýkoliv podobnej kus zboží, tak tam si myslím, že už to řešitelné je. Pojďme se možná teda vrátit k tabulce. Závažnost.

Filip: Pokud se budeme trošku čistě toho článku, tak já bych řekl, že ta závažnost je třeba jako 3, protože jsme schopní to vyřešit jednoduchým procesem. Jenom říkám, nebavíme se o tom, co jsem zmiňoval na začátku, ten přesah

Jindřich: jako dál. Ten rozsah dopadů, možná velkej taky. Na druhou stranu, ne asi tak rozsáhlej jako potenciální autorská i právě. Tu mňouváme se, že takový škody subjektivně napáchat nezpěvně

Filip: nenapáchá. Souhlasím, jo, taky bych se držel níž třeba sedm. Zkrátka, máme mechanizmy, jak to

Jindřich: řešit jinak. Budoucí Rizoko za mě taky minimální, dost možná ještě menší, než to předchozí téma, neboť přesně ty možnosti řešení jsme už zmínili a dost možná i do budoucna bude víc. Souhlasím. Analogicky ta řešitelnost. Takže dva. Tak jo. Budouce

Filip: i řešitelnost dva.

Jindřich: Tak jo, pojďme na téma číslo tři. Student obhájel diplomu práci, kterou napsala umělá inteligence. A mimochodem všimni si, že tohle je opět článek z roku 2023, takže už před těma dvěma lety to začalo být potíž, teď už TPL mi pravděpodobně potíž ještě mnohem větší. Na druhou stranu už existuje celá řada vysokých škol, která odpouští od takového konceptu těch závěrečných prací. Skutečně by to bylo vypracováno spousta textů a podobně. Jdou spíš cestou praktických projektů a v neposlední řadě začíná pracovat právě i s tím precedentem, že můžeš tím jistým způsobem používat umělu inteligence pro to, aby se dostal k tomu výsledku a například udělal právě tu magisterskou práci, ten magisterskej spíš projekt řekněme, a ne tu závěřenou práci v tom slova smyslu toho textu těch 70-80 znánek. V rychlosti to proběhnu. Student v Rusku úspěšně obahal diplomou práci, kterou napsal za den s pomocí chatbota chat.gpt, zadaného umělou inteligencí od americké organizace OpenAI. Student o tom informoval na sociálních sítích. Uvedl také, že někteří vyučující ho dokonce poprosili, aby je do používání umělé inteligence zasvětil. Což to možná i reflektuje to, že je to dva roky starý článek.

Filip: Já vlastně chápu, proč se o tom píše, že je to vlastně jako problém, ale můj pohled na to je takovej, že bude hodně jako subjektivní jo takže určitě určitě jako každej se na to dívá jinak ale za mě jako ty záběrečný práce tak to že něco jako přeneseš na papír a vlastně dáš nějakou jako ucelený výsledek, tak podle mě je jenom ten jako výsledek abys to mohla jako prezentovat ale že to jako důležitý co ty máš jako vlastně jako vytvořit, tak by mělo být přesně nějaký ten jako praktický projekt. Zkrátka, jakože vemeš ty svoje znalosti a uplatníš je do praxe a za použití jako vlastně veškerých nástrojů, které ti ten jako svět dneska dává, tak jako doručíš ten výsledek. A takhle to podle mě funguje jako v podnikání, funguje to jako v práci a podle mě ta škola by to měla jako reflektovat. Takže jako ve chvíli, kdy jsou tady technologie, které tě jako umožňují vlastně jako napsat tu diplomku za tebe, tak už bysme neměli hledět na to, jestli máš správně tady jako formátování a dodržel si tady citační normu atd. Teď nemyslím jako necitovat, ale jako citační normu, čistě jako tu formalitu jako v té práci a jako jaký to má rozsah atd. ale že by jsme se být prostě měli zaměřovat na ten jako reálnej přínos a výsledek co si vlastně jako zkoumal a za mě prostě zkrátka jako v dnešní době díky AI tak vlastně to přenesení do tý písemný formy jako vytvoření tý odborný publikace, tak už je jenom jako malinkatá část a my se fakt musíme jako zaměřit na to, co děláš, to, co vlastně jako zkoumáš nebo to, co jsi jako vytvořil a tohle brát jenom jako, tohle je vlastně taková dokumentace. Jako když píšeme kod, tak píšeme dokumentaci, ale vlastně jako nikdo tě nehodnotí za to, jak jsi napsal dokumentaci, protože to je takový to jako, co potřebuješ k tomu dodat, aby si to někdo jiný mohl jako skonzumovat.

Jindřich: Za mě to jsou možná trošku dvě roviny. Tím možná, že my oba máme IT vzdělání, tak trošku spíš inklinujeme přesně k tomu, co ty říkáš. Dodat například ten softwarový projekt, že je významně důležitější než ta samotná práce. Důležité je taky zmínit, že ty závěreční práce na vysokých školách jsou i z toho důvodu, aby ty si prokázal schopnost práce s relevantníma zdrojema, s objektivníma, s vědeckýma zdrojema, aby si dokázal citovat, aby si dokázal ty informace, které ty zjistíš nebo se kterýma pracuješ, aby si dokázal skutečně validovat například ty z nějakých jiných zdrojů. A tyhle zjištěný informace, aby jsi dokázal dát do toho celku a vytvořit tu nějakou novou hodnotu, byť nenutně, vždy musí být nějaký externí projekt, ale pořád ta hodnota může být v rámci toho zpracovaného textu. Ale možná ještě v rychlosti mám tady ještě jeden takový záložní článek, abych měl jenom Abych jenom doplnil, ono vlastně to není problém, který by se týkal jenom těch odborných prací nebo těch závěšených prací na vysokých školách, ale samozřejmě se to ve velmi úzce už týká i domácích úkolů na základních školách, to asi nezapomeňme. A tehle ten článek už je, byť rok starý, tak čerstvější než

Filip: ten předchozí. Jo, jako ano, ten dopad je nejen u těchto velkých prací, ale jak říkáš, u toho každodenního využití. A samozřejmě máš tam toto spektrum od toho, kdy to někdo použije, že se mu to fakt nechce dělat, tak to hodíš četu GPT, on ti vygeneruje výsledek, ty ho pošleš a vůbec nad tím nepřemýšlíš. A pak máš tu druhou část toho spektra, kdy si tím pomůžeš, aby si to pochopil, aby ti to zpracovalo, ty zdroje připravilo a ty si nad tím uděláš tu… řekně to kritický zamyšlení a ověření těch zdrojů a tak dál, ale jako pomůžeš si tou AI a jako tato škála tady za mě byla jako vždycky, samozřejmě uměla inteligence těm, co to chtějí flákat, tak tohle jako značně jako zjednodušuje, ale zkrátka jako zase jako dost podobně jako u těch autorských práv, tak já si myslím prostě ta technologie tady je, umí to, lidi to budou využívat a cíle nebo jako řešením není říct, nemůžeme používat AI k psaní závěrečných prací. Spíš bychom se měli zamyslet, jakým stylem přehodnotit ten výstup vzdělávání, aby smohl tu AI zapojit naplno, ale pořád to vypovídalo o tom, že umíš pracovat s těmi zdrojmi, umíš z nějakých zdrojů vytvořit nějakou svoji myšlenku nebo nějaký vlastní projekt. A to je samozřejmě téma samoosoby, o kterém bychom mohli udělat celý díl.

Jindřich: Souhlasím s tím určitě, v tomto případě si myslím, že to nebude úplně jako řešení toho samotného problému, ale spíš to bude jako adaptabilita těch nových technologií do toho vzdělávacího systému. Což možná i Tento okamžik u nás se reflektuje na řešitelnost a tam za mě, pokud dovolíš minimální proudu, věřím tomu, že adaptabilita je tam silná. Na druhou stranu, pokud adaptabilita tam nebude, tak to riziko může být vyšší za mě než předchozí témata.

Filip: Zároveň, když se budeme bavit o tom rozsahu dopadů, tak tam bych byl, že se to týká všech co studiu, což je v dnešní populace většina, takže bych klidně dal osmičku. A u té závažnosti... V současném školním systému to závažné pochopitelně je, ale já si nemyslím, že je to ten směr, kterým by se ten školní systém měl ubírat. Takže za mě to vlastně závažné až tolik není, jenom nám to ukazuje určitý, nechci říct nedostatky, ale určitej směr, kterým se ten vzdělávací systém bude muset ubírat, takže já bych byl klidně taky někde dole

Jindřich: za dvojku. Dobře, pojďme se podívat opět na čtvrtý téma. Halucinace AI nejsou v právních podáních ničím výjimečným. Článek z konce měho roku, zhruba dva měsíce starej. Správnými podáními, na kterých se negativně podepsala halucinující umělá inteligence, se setkal nejen ústavní soud, ale také nejvyšší správní soud a spolek na podporu nezávislé justice Šalamou. Forma byla bezvadná, ovšem citace vedou k neexistujícím rozsudkům nebo se argumentace míjí s podstatou sporu. Spolek kvůli tomu vyzval advokáty, aby ej nepoužívali k automatickému psaní ústavních stížností a jiných zásadních podání. Za mě je tady důležitý, nebo respektive já tady vidím takový dvě témata. Jedno jsou vlastně ty halucinace, umělý inteligence a to druhé je taková taková slepá důvěra, to že skutečně ti to dá nějaká řekněme fakta, který ty si nedokážeš ověřit nebo neověříš, nějakým způsobem s tím naložíš a pracuješ s tím a ještě u takhle důležitých věcí jako je jako soudnictví nebo soudnictví jako právní spory. Co já možná navrhuju, tak pojďme se v rámci tohoto tématu spíš přiklonit k té straně toho jako využití těch jako nepodložených tvrzení a skutečně něco se vygeneruju a nakládám s tím, jak kdyby to byl fakt. Tu halucinaci umělý inteligence nechme trochu stranou, velmi praviděpodobně přijdou díly, kdy to budeme řešit dál.

Filip: Jo jo, souhlasím. To samotné jako využití a ono se to podle mě vlastně jako trošku prolíná s tím předchozím tématem, jako tím školstvím, že vlastně jako my jsme tady dostali nějaký jako strašně mocnej nástroj, ne všichni jako si tak nějak uvědomujou, jak ten nástroj vlastně jako funguje, což je jako vlastně, že může halucinovat a že to není, že ten nástroj se rozhodl ti lhat, ale prostě zkrátka jako zpovahy věcí, jak funguje, tak může dělat takovýhle chyby. A my jsme teďka podle mě jako v době, kdy lidi si na této novou technologii zkratka jako zvykají a přesně jak jsi říkal, mají tu jako slepou důvěru. Ono to vypadá totiž strašně důvěry, hodně všechny ty citace a všechny ty paragrafy, co ti to dá, precedenci a všechno možný. Ty tomu začneš dověřovat. A podle mě ten přístup by měl být takový, že když někdo něco takového udělá, tak by měl být za to nějakým způsobem penalizovaný. Ať už ten právník, advokát, kdokoliv. A tím pádem vlastně ta profese, nebo to není jen o advokátech, je to všude, tak si lidi zvyknou, že ty nástroje nejsou dokonalé a že ty věci musí ověřovat a že oni zodpovídají za ten výsledek. A je to zkrátka jenom nástroj v současné době. který vlastně jako pomáhá udělat tu rešerš, jedoručí to, ale je na nich, aby si to ověřili, stejně tak jako právník prostě nedá precedence na základě toho, že mu nějaký jinej kolega řek, jo tamhle se něco jako stalo a takhle rozhodli a on to tam bezmyšlenkově ti napíše a neověří si to. tak prostě zkrátka stejně musí přistupovat k tý AI. Ten problém je to množství těch dat, který ta AI je schopná vygenerovat, ať už pro ty právníky pro to ověření, tak i pak pro ty vlastně soudce, který se tím samy musí prokousat vlastně jako znova, že. Mě tady

Jindřich: teď zrovna napadla jedna situace, já jsem měl možnost prakticky jako podobní téma říct nebo diskutovat právě s jednou právníčkou a byť to ne úplně přesně souvisí s tím, co my tady řešíme. Ona mi říkala, že se vlastně setkávají s tím problémem, že někdo si poradí nějaký právní problém právě jako s chat GPD nebo s jakýmkoliv chatovacím nástrojem a potom jako to právní oddělení přijde přesvědčovat o něčem, že je to takhle, když ve skutečnosti je to z právního úhlu pohledu nesmysl. Jasně, je to odlišný téma, ale asi s tím tak dost už se souvisí a myslím si, že je důležitý, nebo je objektivní se na to podívat z tohoto trochu druhého uhlu pohledu.

Filip: A ve výsledku to podle mě jde celý ke kritickýmu myšlení a zamýšlení se nad tím, protože když odběhnu od těch právních věcí, tak často se potkáš s tím, že ti kamarád něco říká a tvrdí, jak je to pravda, a pak se zeptáš, kde to četl, nebo kde se to dozvědal. Říkal, kamarád to říkal a taky si to neověřil. Takže celý to podle mě jde k tomu, že musíš kriticky nad těmi věcmi přemýšlet, ověřovat si to a ne všechno, se doslechneš, přečteš a teď už i ti vygeneruje AI, tak musí být prostě pravda. A

Jindřich: to bych nerad, aby to vyznilo tak, že se to týká jenom právních problémů. Jako určitě ne. Jako samozřejmě se to týká všech odvětví a doufám se tvrdit, že z podobného situací se setká vlastně každý expert. Pokud je ten člověk jako odborník nebo expert v nějaký doméně, tak určitě někdo jiný už se ho někdy snažil přesvědčit o nějakým opaku nebo o nějakých nepravdě, kterou si získal tedy z četovacího asistenta. No, každopádně

Filip: pojďme k číslům. Já bych závažnost hodnotil vlastně jako velkou. Nevím, na škále jedna až deset, tak třeba osm, protože podle mě se to týká jako všech, má to dopad na jako spoustu věcí a jako v nějakých situacích to může být jako nevinný, ale v nějakých pak důležitéch případech, tak to může být jako obrovský problém, takže já jsem za vysoké číslo.

Jindřich: Já bych asi nebyl za tak vysoký. Osobně souhlasím s tím, že je to problém. Na drouhou stranu, domnívám se, že ta závažnost není až tak vysoká, jako například u ostatních témat. Byť jsem trochu zaujatej, že vím, jaký tématy nás ještě čekají. Tak pojďme dát sedmičku.

Filip: Souhlasím.

Jindřich: Tak, rozsah dopadu.

Filip: Já bych tady dal klidně 10. To se týká všech, protože dřív nebo později se budeme pracovat všichni. Na tohle si musíme být vědomí a pracovat s tím zodpovědně.

Jindřich: To určitě. A to riziko teda do budoucna?

Filip: Já si myslím, že to bude lepší a lepší. Stejně tak, když přišel internet, tak najednou si na Facebooku a v řetězových e-mailech taky mohl přečíst vše, co a ty tu populace edukuješ o tom, jak to funguje, že to nemusí být pravda atd. Takže já si myslím, že to budoucí riziko vlastně nemusí být až tak velký, ale pořád tam určitý vidím. Takže třeba čtyři.

Jindřich: Ok, to možná je ta samá řešitelnost. Z mýho úhlou pohledu pravděpodobně to bude asi větší problém než ty předchozí témata, který jsme tady měli. Na druhou stranu je to nová technologie, je to novej nástroj a ta edukace zatím bude lepší a lepší a další generace uživatelů umělí inteligence se dovolím tvrdit, že se budou o tomhle faktu jako učit. Dost možná i ta halucinace jako taková bude jako menší do budoucna. Proto možná navrhu třeba pětku? Jo, souhlasím. Dobře. Téma číslo pět. Deepfake útočí na investory. Internetoví podvodníci neužívají známé tváře. Tak, co nás to čeká. Za nabídkou lákavých zisků s investovaním peněz se stále častěji skrývá jen snaha je z vás vylákat, nejenom s zaručeným nerealně vysokým ziskem, ale i s neúžitím identity celebrit. Zkušenosti bankéřů potvrzují, že se s podobnými nabídkami setkal téměř každý jejich klient. Důkladně si proto každou takovou nabídku prověřte a nenechte se přesvědčit k unáhleným a nevratným krokům, doporučuji. Tohle dost možná není úplně nový téma. Podvody, který útočili na potenciální investory, už jsou tady velmi dlouho a je jich celá řada. Co si myslím ale, že ten obrovský problém tady je, tak je právě využití deepfakes. Skutečně, že oni vkládají do úst slova známejím a důvědohodným celebritám nebo osobám, kteří nikdy nic takového neřekli. tyhle ty osoby tě vlastně nutí do ty potenciální investice, byť to nikdy sami neřekli, tak a samozřejmě neposlední řadě, že ty deepfakes jsou jako lepší a lepší, tak ta rozeznatelnost je tam s tím jako horší a horší.

Filip: Souhlasím. Já vím taky, který nás témata čekají, takže nebudu odbíhat od tady toho zaměření, protože deepfake jsou za mě takový obrovský problém. Nicméně tady v tomhle zaměření na té investiční platformě, tak zase je to podle mě o tom kritické myšlení a edukaci, protože zkrátka I přes to, že tam máš duvěrihodnou tvář, i přes to, že tam máš fotku, která vypadá jako ten člověk, dokážeš mu díky AI vložit do ústo, co nikdy neřekl, tak pořád máš záchytný body, kterých se ty můžeš držet. Zkrátka, když ti někdo tady slibuje obrovské výdělky bez práce, bez rizika, tak to nikdy nebude pravda. Každá investice přináší určité riziko a ty podle mě Ne na tom videu, že bys jako nepoznal, že třeba to je ten člověk nikdy neřekl, protože jako troufnu si tvrdíš, že za pár let už to fakt jako nerozeznáme, ale zkrátka jako můžeš se chytat tady těch jiných dalších jako ukazatelů, kde ti má vyskočit takovej ten jako vykřičník, ten poplach v té hlavě, jako hele, tohle prostě něčím jako smrdí. Takže já si myslím, že deepfake budou obrovský problém, ale Tady to už je s náma prostě jako dlouho a myslím si, že tohle se nám zrovna jako u těch investic a různých jako fakeovejch reklam jako podaří vyřešit.

Jindřich: Za mě problém je, že vždycky všechny tyhle podvody měly nějaké red flagy. Určitě byly nějakým způsobem dříve nebo později rozeznatelné, ale velmi obtížně a dovolím si tvrdit, že každej skutečně může být obětí podvodu. A mě to dost jako připomíná takovou tu jako paralelu, jak se vždycky říká, že kriminalita je okrok napřed tím právem. Stejně tak dá se to jako předvonat v 90 letech přišly mobilní telefony, kdo je měl první, jasně jako kriminálníci, že jo, policie měla vysílačky. pak oni měli zbraně, následně policie začaly městit zbraně a tak dále, tak dále. Takhle by se to skutečně dalo stupňovat. Takže byť my sice budeme mít i ty nástroje na odhalování těchto potenciálních podvodů, tak samozřejmě ty technologie budou mít ty, co se nás budou chtít nějakým způsobem okrázt. A to já považuji jako osobně jako za velmi nebezpečný a podle mě s tím dokážeme dobrousně něco dělat, ale ještě dlouhou dobu oni budou o krok napřed. neposadí ředě, tam obrovský problém bude to měřítko. Dřív přece museli zvednout telefon, volat tady jednomu člověku, půl hodiny se s ním bavili, bohužel nedopadlo to. Teď tyhle deepfakes rozešly během minuty 10 tisíců, možná 100 tisíců lidí po celém světě a zároveň už to bude dubované do konkrétního jazyka. Tím pádem tenhle problém a toto nebezpečí je mnohem víc škálovatelný než

Filip: bylo do posud. Já s tím souhlasím, já vlastně jsem se chtěl jako poctivě držet toho tématu těch jako investičních podvodů, tak proto jsem to vlastně možná jako do jistý mír jako zlehčoval, ale když si teda jako dovolím odběhnout, tak jako ty deepfakey přesně, když se zaměříme třeba i na ten jako hlas jenom a podobně, nebo třeba to, že jsi schopnej Ono to jako není úplně defect, ale že jsi schopný jako vyzvořit repliku nějaký stránky, dosadit tam ty jako věrohodný lidi, ono to vlastně jako vypadá jako ten reálnej produkt, nebo reálná stránka, která si mě lít, tak tady ty podvody, tady tím stylem, to je jako riziko obrovský, protože dneska ti prostě přijde důvěryhodný email, ty se proklikneš, vidíš tam video s nějakou jako slavnou osobností, teď to vypadá všechno dobře, teď tady jakože ti má přijít třeba balíček přes PPL, tak ty se proklikneš, ta stránka vypadá úplně stejně, že jo, skoro stejně se i jako jmenuje, tak ty tam dáš tu kartu a najednou prostě útočníci mají jako dvojí kartu, takže to největší riziko je, když se budeme bavit o podvodech teda, ne o ukradení nějaký identity a jako nějakého poškození jména, to je podle mě taky samostatný téma, tak je primárně v té kombinaci, že ty toho člověka dokážeš jednoduše odbalamutit a těch red flagů, když to je podvod a není to vyložený slip nějaký, jako tady bohu líbí investice, tak tam si, jak říkáš, může naletět opravdu každej. Já jsem mezičasem

Jindřich: tady ještě nazdílal další článek, který s tímhle velmi úzce souvisí. je to analogie toho, o čem se tady v tomhle tématu bavíme. A tady je vidět, že ten článek pojednavá i o tom, že ty útoční si použili Petra Pavela, prezidente České republiky, aby vytvořili ten de-fake a aby on, že ta důvěryhodná autorita, tak nějakým způsobem manipuloval potenciální oběti k investici. Tak, jak bychom to hodnotili, Filipe? No.

Filip: Podle mě to má dvě rominy. Pokud bychom se drželi čistě jako investičních podvodů, o čem mluvil ten článek, tak myslím si, že je to závažný, ale zároveň myslím si, že pořád máš red flagy a vodítka, kterých se můžeš chytit, takže tam bych se držel níž, ale pokud bychom to brali spíš z toho celku, jako obecně, defeku a podvodů s ní spojenýma, tak to je podle mě obrovský závažný a tam bych klidně se nebal dát třeba 9.

Jindřich: Buďme rádi vědět. Já dost možná v obou tématech, které se teď momentálně zmínily, pokud bys to tak jako rozdělil, tak já osobně upěl to asi, protože to opravdu jako obrovský problém je a podle mě ještě do budoucna bude. I z těch důvodů, který už jsem tady zmiňoval. Logicky i ten jako rozsah dopadů. Já se totiž domnívám, že opravdu tohle je problém, který může kopostinu každého z nás a každej z nás může na ten potenciální kopodvod skutečně naletět. Za mě stejně tak dál bych klidně devítku. Pokud

Filip: se bavíme o podvodech obecně, tak rozhodně. Klidně i deset bych se možná nebavil dát.

Jindřich: Dobře, dáme desítku. Tak a budouc... Riziko do budoucna. Jinými slovy zajímá mě, jestli to třeba vidíš, že se to bude zhoršovat, anebo jestli díš si to

Filip: na konci tunelu. No, já nechci být pesimista, ale já se jako opravdu bojím, že to jako bude horší a horší. A hlavně kvůli tomu, že se prostě zkrátka zjednodušuje ten přístup k tvorbě takových věcí. Takže zase bych se klidně nebál dát 9, 10.

Jindřich: Tak a jaká je řešitelnost tohleto samotného problému? Ty už jsi to nastíněl. Jaká jiná je řešitelnost než edukace? No, já vlastně

Filip: jako nevím, ty, ty, ty, jak to jsem chtěl říct, že ty už jste jako nastínil tím, že je to taková hra na kočku a myš a prostě ty jako zloději nebo prostě obecně ty podvodníci budou jako okrotné napřed a budou vždycky kreativníma způsobama vymýšlet, jak to jako zneužít. Takže podle mě efektivnější cesta než je edukace tam moc není. Samozřejmě pak můžeš řešit přesně nějaké eliminace těch videí, co se vygenerujou, tak aby byly nějak dohledatelné, že jsou vygenerované a tak dál. Ale zkrátka bude to jako… Za mě to bude obrovsky komplikované a podle mě to nikdy nevyřešíme úplně.

Jindřich: Jeho uhel pohledu? Osm? Souhlasím. Tak jo, dobře, tím pádem čeká nás tady šestka. Romantické podvědy a vydírání. Uměla i deligence a otevřela cestu k ohopným útokům. Uměla inteligence mění zažitá pravidla v online seznamování a to používal i v tom negativním smyslu. Kyberzločince totiž objevují její obrovský potenciál pro novou vlnu online podvodů. Za narůstem tzv. romance-schemů, tedy romantických podvodů, stojí stále dokonalejší AI-četbojti a generátory falešních identit. Dnes mnohem přesvědčivější a nebezpečnější než kdy dříve. Abych to možná trochu schrnul, tak všichni asi známe, jaký je ten typický podvod toho amerického vojáka. Že americký voják začne psát na různých seznamkách, že nám začne manipulovat postupně a říkat potom hezký věci a jak se ní zemiloval a podobně. až se to v jeden okamžik vzlomí a chce po nich peníze s různým oduvodnění až se z toho vyklube jako podvod. No a když dejí dle tohoto samotného problému zapojíme tu k umělou inteligenci, tak hnedka ta manipulace je na mnohem lepší úrovni, ty slovní obraty jsou lepší a obecně ten psaný projev je významně rychlejší. A to je ta podstata tohoto problému, že opět je to nějaký podvod, který se pro útočníky stává díky umělý inteligence mnohem dostupnějším.

Filip: Jo, a je to vlastně stejný jako u toho předchozího bodu. Ta největší problém za mě je ta škálovatelnost. Že prostě dřív, když jsi byl ten podvodník, tak jsi byl jako limitovaný svým časem a řekněme svojím jako uměním, jak to jako řekněme, jako jak to provízt, ale hlavně ten čas, ty jsi prostě jako nemohl si psát jako tady se tisícemi, v tomhle případě ženami, ale třeba i jako muži nebo prostě těma jako romantickýma partnerama prostě naráz. Ale dneska, pokud seš finančně schopnej zaplatit na těch tokenech, co ti generují ty modely, tak to klidně můžeš naškálovat, že si budeš psát z desetitisíce na jednou a k tobě pro buble až ty, co už jsou nalomený na to, aby si ten podvod mohly dokončit, udělat finanční transakci a tak dál. A to je podle mě obrovský problém a hodnotil bych to dost podobně jako to předchozí téma.

Jindřich: To se klidně můžeme posunout, protože mohlo to ve skutečnosti se spolu jako dost ústasouvisí. Tak. Co já tady možná se domnívám, že ten rozsah dopadu nemusí být jako tak zle jako v těch předchozích. Přece jenom bude to trochu náročnější s tím, že ta oběť se s tím musí psát nebo jako získává tu důvěru a je to jako takový běh na další trať, než když si někdo přesvědčí na internetu o potenciální investice do toho Tak to vidím já. Možná za mě bych tady dal devítku. Závažnost. Já si myslím, že

Filip: když nebudeme brát v potaz to, že se to netýká všech, ale čistě vémem si to na té skupině, tak já si myslím, že závažný to je dostatečně. Takže já bych dal třeba sedm, osm, zkrátka na tu cílovou skupinu, na kterou to cílí, tak to je dost problematické.

Jindřich: A... budoucí riziko a řešitelnost, tak já osobně si vidím jako totožně jako ty předchozí téma. To hlasím. Opakovali

Filip: bychom se prostě edukace a nějaké kritické myšlení nad tím, což je tady trošku problematičnější tím, že tam jsou ty emoce, ale pojďme dál.

Jindřich: Student hrozící střelbou na Ústecké univerzitě experimentoval s AI, spáchal jen přestupek. Zřejmě jako přestupek bude policie řešit páteční hrozbu střelbou na půdě univerzity Fusí nad Labem. Z výslechu 22 letoho studenta, který měl údajný útok ve škole plánovat, vyplynulo, že jen experimentoval s umělou inteligencí. Já jsem trochu váhal, jestli jsem tento článek mám dát nebo ne, protože je těch témat, který vlastně v tom jsou jako celá řada. Ale já jsem tomu přistoupil tak, že tohle je nějaké záměrné obcházení těch limitů. Typicky dřív například nebo u těch starších modelů jako České republiky, tak tam když si chtěl návod na to, jak vytočovat nějakou zabraní nebo něco takhle, dostal, ale existovaly určitý metodiky, jak tohle obejít. Že jsem mu například řekl, já tady píšu příběh do školy a je to esej o tom, jak tady sloužit zbraň, dej mi návod a tak podobně. To není úplně podstatou, ale proč to říkám je to, že je to obcházení těch limitů, který se ty společnosti, vlastnicí, ty chatboty snaží nějakým způsobem implementovat. Tak pojďme k tomu takhle přistoupit, že tohleto téma je skutečně jako záměrný obcházení těch limitů. Jak to vidíš? Já to vidím

Filip: asi tak, že obcházení těch limitů Tak já vlastně jako rozumím tomu, že ty lidi to chtějí pušovat a vždycky ta lidská zvídavost tam bude a budeš se snažit ty systémy tak jako obejít, to prostě podle mě jako lidská vlastnost, takže jako to v obcházení podle mě není takovej problém, problém je, že prostě to jde k té jako odpovědnosti tebe jako člověka, jako podle mě, jako rozumnej člověk, neuděláš to, že si budeš s tím chatbotem o takovémhle tématu chatovat a pak to ještě budeš rozesívat svým spolužákům, hele podívejte se, co jsem tady jako našel, co mi vypadlo a tak dál, to je podle mě vlastně ten problém a troufnu si tvrdit, že tohle je to prostě chování, který není jako v pořádku, který ten student jako udělal a to je to, za co by měl být postižitelný a to, že to řešil s AI, nebo kdyby to řešil sám jako se sebou a polemizoval si doma o tom jako v pokojičku a maloval si to jako na papír, tak to už je podle mě vlastně jako jedno, že jako ten, jako špatnej čin je to, že jak to jako použil a jak to jako prezentoval, takže Jako za mě ano obcházení limitů samozřejmě v tomhletom případě je jako špatně, protože se snažil jako vlastně získat informace, který asi jako je těžko obhajitelný, že jako jsem to chtěl jen tak zkusit, jakože podle mě normálního, jako člověka to jen tak jako nenapadne takový věci dělat, ale zkrátka to, co se snažím říct je, že Obcházení limitů jako takový podle mě není ten problém v tom globálním měřítku, ale zkrátka je to o té osobní odpovědnosti těch lidí a ty lidi by za to měli bejt odpovědný a neměl by bejt argumenty. Já jsem zkoušel tady limity AI a pak jsem to posílal jako spolužákom. To je prostě podle mě jako trošku mimo.

Jindřich: Teď se asi sluší říct, dobrý sluhař, spadnej pán. Jako určitě, samozřejmě přece na mě, na nás, jako jak s tím pracujeme. Já asi nechci, jako aby tady To vyznělo, že se snažíme nějakým způsobem moralizovat nebo říkat, co je správně, jak by se kdo měl zachovat. My samozřejmě nevíme, jak to konkrétně bylo. Diskutujeme na základě tady pár věd v tom šlánku. Na druhou stranu, byť ne v tomto případě, tak každý z nás se to vyzkoušel. Jak my to dokážeme, tuto limitace obejít.

Filip: Skrátka to, co jsem se snažil říct, je, že když si zkoušíš obejít ty limity, tak budíš, zkoušej si je obejít, jak jen chceš, ale přemýšlel nad těma důsledkama a asi to teda nebudu svířit veřejně, nebo si vymyslím nějakou analogii a ukážu to obejití limitu na něčem, co nevyvolá nějakou paniku v lidech.

Jindřich: Jo, přesně tak, těch cest je samozřejmě spoustu a je to… Prakticky ta tvoje digitální stopa je nesmazatelná, stejně tak, jako děláš cokoliv na internetu v dnešní době. Takže takšonak určitě, ať to každej používá, jakkoliv je kousná, závodný, tak určitě furt by měl mít na paměti ty potenciální důsledky, které to může přiníst. Tak. Co na to ostatně naše tabulka? Tak. Tak. Obcházení limitů, nemorální četování, jsem si to tady nazval. Tak. Závažnost. Asi se shodneme, že to nemusí být až tak závažný. Ano,

Filip: já jenom chci podotknout, že se bavíme o obcházení limitů, ne o tom činu,

Jindřich: o kterém povedá článek. Jasný, jasný, přesně tak. To obcházení limitů samozřejmě může být v jakémkoliv kontextu. Se čtyřkou

Filip: souhlasím.

Jindřich: Tak. Tak. Jak bys hodnotil rozsah?

Filip: Na rozsah. Jako podle mě ten rozsah je velkej, protože se to bude týkat tak nějak jako všech, kdo pracují s AI a můžou jí vlastně jako nějakým způsobem zneužít. A ono to není jenom o obcházení těch limitů, jako co nastavují ty společnosti, ale viem si, že i lokální modely se zlepšujou a zlepšujou a ty prostě jako tam už to jako nejsi schopnej uhlídat, protože ty si jednou stáhneš tu, ten black box, tu černou krabičku, která ti dává ty odpovědi. a už ten jako vlastně tvůrce není schopnej tady toho vlivnit. Jako když ty najdeš nějakou díru, jak už si ji prostě našelo, není schopnej to jako zazáplatovat. Takže zkrátka jako ten rozsah si myslím, že je jako velkej, takže bych dal třeba sedm v kontextu těch ostatních témat. Dobře, a co se

Jindřich: týče teda... budoucího rizika, potažku tý řešitelnosti, ty jsou teď sám jako zmínil. Z mýho úhlu pohledu určitě ty komerční modely, který budou cloudový, co zná každej, jako či GPT, Cloud a podobně, co se jako platíme, tak tam se domnívám, že to riziko bude menší a menší, neboť ta limitace nechci říct lepší a lepší, aby jsme se nedostali do nějakých příliš silných cenzory, ale minimálně bude jako kvalitnější, že bude lépe vyřešená. Na druhou stranu, stejně tak, ty si můžeš stáhnout přesně ten model, který jsi zmínil, rozlicit se lokálně, kde už potenciálně tyhle limity být nemusí. Tak či onak musíme to nějak sprůměrovat? Pojďme tomu dát nějaké číslo, co třeba 6. Sembrou. Tak jo. Tak a řešitelnost tohoto problému, já si myslím, že to s tím souvisí a není úplně asi pro každýho, že si dokážeš rozjet lokální model, neinstallovat. Na druhou stranu, či GPD dokáže udělat každej, dokáže půjčat každej. Já

Filip: si myslím, že ta řešitelnost bude problém, protože podle mě To, že dnes je složitější si rozjet lokální model, tak v budoucnu nebude platit. Podle mě ten edge computing, ta edge AI, která běží u tebe na tom zařízení, tak se bude víc a víc rozmáhat. Takže já bych si troufnul tvrdit, že ta řešitelnost bude složitější, že bych se třeba držel čísla sedm.

Jindřich: Hej. Já to spíš vnímal tak, Je tam jistá míra bariéry, musíš mít zase nějakou domenovou znalost, jak si ten lokální model rozjet. A to zcela určitě už odfiltruje dost uživatelů, kteří mají například 3GP jako jenom v telefonu. například. Všichni jsou zajití. To je to,

Filip: co se snažím říct, že já si myslím, že ta bariéra toho, abys musel být zkušený a rozděl se lokální model, tak se bude snižovat. V současné chvíli to zase tak hrozný není s těmi lokálními modelami, ale do budoucna si myslím, že to bude jednoduchý rozdělit sebe lokální model a v tu chvíli ten problém se zná sobě.

Jindřich: Jo. Teď si myslím, že tam bariéra pro spoustu uživatelů bude. Pojďme se posunout. Už se pomalu blížme do konce, ale máme tady osmý téma. Nahota všude. Robot už dokáže sléknout každou ženu. Obrana neexistuje. Článek z konce roku 2023. Žádné znalosti nebo dokonce aplikace nejsou třeba. Nové služby generují realisticky vypadající nahé snímky. Jsou snadno dostupné, snačím poslat fotku. Někoho to asi potěší, celkově to povede k závažným problémům. Jo, já si myslím, že asi není nutné, abych to tady nějak rekapituloval. Tohle velmi praviděpodobně bude extrémní problém. A jak už to vypadá, tak je to úplně extrémně pokročilý a opět jako už, když tady uvidíme ty ilustrační fotky a pořád se vracím k tomu, že je to článek z roku 2023. Filipe. Já

Filip: bych to vlastně schrnul jako do pár vět, jako podle mě je to obrovský problém a ten největší problém není to, že ty seš schopnej nějak poznat. My jsme se bavili u těch podvodů, že máš různý prvky, jak to poznat, jak zjistit, že to byl regenerovaný AI, nějaký vodoznak nebo něco takového a to tady jako bude fungovat, ale tady ten rozsah je podle mě horší v tom, že jakmile se taková fotka dostane ven, tak to, že damage has been done prostě, to, že to je fake a ty prokáže, že je to fake, tak to ale neznamená, že to neudělá ten problém. Představ si prostě nějakou holku na střední škole nebo na základní škole, kdy tohle spolužáci si rozešlo mezi sebou a to je úplně jedno, že je to fake, ale prostě už to je venku a pro ní to bude obrovská ujma. Takže jako tady podle mě je to horší v tom, že se nedají aplikovat ty obecný poučky. Hele, tak se podívejte, dítě je to fake, protože tohle tohle, tam podle mě už to jako nehraje takovou roli, takže za mě je tohle jako fakt závažný problém.

Jindřich: Co k tomu? Asi nemá smysl moc chodit do větší míry detailů. Tady asi není úplně obrovský problém. To je ta dostupnost v dnešní době obrovská a jak proti tomu bojovat, to bude možná ještě větší problém. Pojďme k tabulce. Tak. Závažnost. Tak asi první desítka, co si myslíš, Filipe?

Filip: Já si myslím, že určitě jako z pohledu toho, že se fakt proti tomu není jednoduchý bránit a důkaz, že to je AI, nepomůže, tak 10. A rozsah taky 10 bych dal. Bude

Jindřich: to větší problém ještě v budoucnu nebo naopak se to bude dařit řešit, limitovat?

Filip: Mě osobně jako nenapadají způsoby, jak tady to jednoduše jako řešit. Podle mě spíš se na to jako společnost jako taková bude třeba začít dívat jinak, ale já fakt jako nevím. Mě nenapadá, jak tohle to jako jednoduše v budoucnu řešit, aby ta psychická újma tam zatím zkratka jako nevznikla, takže já bych se fakt jako nebal tady dát klidně jako 9-10.

Jindřich: Jako jediný asi co mě napadá, tak ten jako samotný provider přes kterou jako platformu to jde, tak ten to třeba nějakým způsobem může limitovat. Ale tam se dostáváš

Filip: zase do toho problému těch lokálních modelů. Já vím, že je to zase pokročilé, ale ten, kdo chce, jak si tu cestu najde, je to znatelně jednodušší, než to i photoshopovat. Podle mě to problém je, jediné řešení je důsledný a velký postihování těch činů, že to někdo vytvoří a publikuje. A zkrátka stavět to na té odpovědnosti toho jedince, který to udělal, a ne na tom omezování těch technologií, protože to má zase jiný side efekty někde jinde, který třeba nechcem.

Jindřich: Jo, určitě. Tohle byl můj druhý bod. Přesně tak. Vysoké postihy za to, pokud toto někdo bude jakýmkoliv způsobem praktikovat. Ale ten bod ještě předchozí, který mě napadl, tak jako limitace typicky. Kdyby existovala taková mobilní aplikace, tak si ji velmi obtížně neinstalleješ, protože ti neschválí Apple Store nebo App Store. Neschválí i Google Play. Je to proti jejím pravidlům. Tak. To samé samozřejmě, existují různé nástroje nebo existují způsoby, jak lze bojovat proti webovým aplikacím tohoto typu. A tak, jak fungují ty aplikace tady, tak fungují přes Telegram. Může ty si doběješ nějakou crypto penženku, zaplatíš nějakou kryptoměnu. Takže tyto platformy, jako je Telegram Byt, Vím nebo chápu tu podstatu věci, jak ten Telegram funguje, že by to nebylo snadné, ale přesně tyhle ty mezi dílky, mezi tou řekně jako potenciální objednávkou a tím potenciálním výsledkem, tak jedině tyhle právě platformy mezi tím, tak ty by nějakým způsobem začaly pracovat, začaly bojovat. Teď chápu, že to není jednoduché, ale může to být nějaká potenciální cesta. Já jako souhlasím,

Filip: jenom já se tam prostě jako vždycky bojím toho, že jako ve chvíli, kdy prostě třeba platformy jako Telegram, kdy máš end-to-end šifrování, co znamená, že ani ten Telegram není schopný jako rozšifrovat prostě, co jsi spsal, tak vlastně by chtěli tomuhle bránit, tak to znamená, že musí tu svoji bezpečnost jako omezit a v tu chvíli zase jako s mou toho problému, jako že prostě nabouráváš tu jako bezpečnost a tak dál, takže za mě jako Ač to říkám nerad, tak myslím, že to jediné řešení je ta vysoká postižitelnost těch věcí z pohledu zákona toho, kdo to udělal. A odradit ty lidi, aby si řekli, to mi za

Jindřich: to nestojí. Myslím, že jsi mi asi odpověděl i na to poslední téma. A to, že ta řešitelnost je tak velmi špatná. Tím pádem devět. Souhlasím. Řešitelnost velmi těžká, nemožná. Tak ok, pojďme tady na 9. Stěná stránka umělé inteligence, z které pomáhají kyberzločincům. Mimochodem, já jsem se tady ještě poznamenal, že tohle ten článek je z roku 2018. Takže už tehda jsme dostali varování. Mezinárodní experti bývají na poplach před možností zneužití umělé inteligence ze strany kriminálníků, teroristů či zločineckých států. Z toztránkovou zprávu napsalo 26 odborníků na umělou inteligenci, kyberzločiny a robotiku, včetně expertů z univerzit Cambridge, Oxford, Yale, Stanford a z neziskového sektoru, společnosti jako OpenAI, Středí skupnou americkou bezpečnost či Electronics Frontier Foundation. Díny slovy už tady jako v roce 2018 tak vznikla tady od takhle renomovaných v univerzit nějakého varování řekla mě nebo zpráva, že s rozmachem umělý inteligence tak může narůstat i počet různých kyberzločinů.

Filip: Určitě, jako umělá inteligence je to prostě nástroj, který ti zase jako efektivňuje nás, co pracujeme, tak se efektivňuje hackery, pochopitelně zefektivňuje i ty antivirový nebo prostě etický hackery, jako prostě ty společnosti, který se zkrátka jako zabývají tou jako obranou, takže jako Podle mě se to zná sobou skrátka jako na obou stranách, problém je že samozřejmě jako pak bude jednodušší útočit na takový ty malý weby, který prostě třeba nemají ty finance a ani jako to know-how vlastně investovat do té obrany, protože dneska jako máš na internetu jako neuvěřitelný množství nezabezpečených webů, aplikací a tak dál. ale nikomu se nevyplatí to prostě napadnout, protože tě to stojí spoustu času a nic z toho jako nemáš, ale zase ta škálovatelnost AI, když najednou jsi schopný jako paralelně napadnout těch webů jako 100 tisíce, tak je jako větší. Samozřejmě oni hackři tohle tu škálovatelnost používali do posud, jako prostě když Když jsme studovali počítačové sítě, tak si ukazovali, kolik pokusů UU to každý den… Jenom tvůj server, který je vystavený do internetu, proběhne. Jak si oťukávají, co je otevřené, jak se tam dostat. Takže ta automatizace se děje už dneska. Jenom prostě díky nebo bohužel díky je sofistikovanější. Ale myslím, že to bude ten klasický boj mezi těma dvouma stranama.

Jindřich: Tyhle přesně to je jako kyberútoky, nebo taky kyberzločiny, to je asi taková jedna kategorie. Ale jako ta zpráva jako taková, tak ta právě pojednávala například o potenciálním zneužití robotů, robotiky a podobně. Specificky právě přesně třeba tady, tak ty vlastně píšou, že nějaký tvůj uklidový robot by se mohl dostat mezi jiný roboty, které připravují jídlo, nebo by mohl manipulovat s výbušninama a podobně. A to už se asi dostává jako filozofické debaty. Ale přesně teď my poslední měsíce vidíme, jak ta robotika je extrémně na vzestupu. Ty roboti jsou lepší a lepší a budou lepší a lepší. A už v roce 2018 nás tady vlastně někdo varoval, že to může být jako zneužitelný, tak očivně to problém je. Byť si myslím, že možná ještě není tak velký, jak v budoucnu potenciálně být

Filip: může. Já se souhlasím jako pokud se do toho zahrne mi tu robotiku tak jako současný době to zase takový problém není jako nemáš doma humanoidní roboty ale pak budeš mít pravě tyhle ty jako roboty co ti pomáhají nebo i třeba samoředitelný auta že jo tak jako ve výsledku když bys naboural tu sítě samoředitelných aut a už jenom je dokázal vyřadit z provozu tak to bude obrovský problém a teď nemluvím o tom že bys je nechal jako splašit nebo něco takového takže. Ač to třeba v současné době nemusí být tak velký problém, tak do budoucna, až ta AI a robotizace bude zasahovat do těch našich životů tím fyzickým i způsobem, tak si myslím, že to bude velký téma.

Jindřich: Mě hodí odpočít. Je vidět hezky, jak se shapeuje ten... trh na plé IT. Před 10 lety jsme měli největší poptávku o vebových vývářích, protože hodně frčili ty PVI, vebové aplikace a podobně. A teď pokud se ta umělá inteligence bude shiftovat tou robotikou, tak si myslím, že jak cyber security, tak to bude jedno z obvětví, které bude hodně žádané na trhu práce. Ale to samozřejmě hodně jsem teď odbočil. Pojďme se podívat na závažnost.

Filip: Když se díváme i do té budoucnosti, tak já bych se fakt tomu nebal dát klidně i tu devítku. Prostě je to za mě obrovský téma. Klidně i desítku možná. Záleží z jakého uhlu pohledu se na to díváš.

Jindřich: Je to tak, jako tady si myslím, opravdu, že na to koukáme zatím jako dost hypotetické, dost filozofické. Může to být problém, nemusí to být takový problém. Co se týče toho rozsahu, možná asi taky devítka stále, ten rozsah opravdu, jsme tady hodně obrávci filozofické debaty, může to být problém, nemusí. Budoucí riziko, Já bych se nebal klidně

Filip: tý desítky, protože to, jak jsme se bavili o tý rok robotizace a bude se to prostě jako zvyšovat, až to dneska jako necítíme tolik, tak to pravděpodobně bude větší a větší problém.

Jindřich: OK, a jak teda vidíš tu řešitelnost potenciální? Tam

Filip: bych zase tak pesimistický nebyl, já si myslím, že to jako problém bude, ale když si dneska vezmeš tak spoustu věcí, už máš hodně rizikovejch a napojených do internetu a může se stát, máš útoky na nemocnice, které vyřadějí zběhu celou nemocnici, ale máš procesy, který umožňují si s tím nějakým způsobem poradit, takže když vynecháme ty úplně apokaliptistické scénáře, kdy vyřadíš půlku světa, Tak já bych třeba tomu dal jako nějakou šestku nebo pětku. Já si fakt myslím, že je to tak závažný téma a tak velký téma, že se na to bude soustředit hodně energie a finančních prostředků, že prostě se s tím bude dařit bojovat. Jako přesně, jak

Jindřich: říkáš, my se tady můžeme bavit o potenciálním zneužití chytrého teploměru, ale zároveň se tady můžeme bavit o zneužití válečných dronů, takže ta škala je opravdu dost široká. Pojďme se tady podívat na poslední téma. Česko na Prahu nejuhlanějších voleb. Takový zrovna celkem ostry název, titulek. Noší se falešná videa a čet GPT je zahalcený propagandou Scramblu. Na co se připravit? Já tady možná ještě s dovolením přeskočím i tady jako na další článek. K tomuto tématu jsem se tady připravil dva. Experti varují, uměla inteligence mění pravidla v politice a manipuluje volby. Oba dva jsou z roku 2025. Experti na uměru inteligenci společně s evropskými zakonodárci varují před narůstajícím rizikem zneužití nástrojů uměle inteligence v politice. Manipulace demokratických voleb se už stala smutnou realitou, lidstvo zažívá éru digitálního feudalismu. Jako jinými slovy, to poslední téma, který my tady pro dnešek máme, respektive v rámci naší tabulky, říká jako potenciální zneužití umělý inteligence pro manipulaci veřejního mínění a tudíž pro potenciální manipulaci výsledku voleb. Je to pravděpodobně téma, který může, nemusí hrát velkou roli, asi nechce fabulovat, co to takové skutečnosti má, ale ten problém může být potenciálně opravdu velký, protože může být celosvětový.

Filip: No zhodně, může být celosvětový a zároveň za mě jako vlastně to největší riziko je v tom, že je to podobné jako se sociálníma sítima, že to se vlastně jako strašně řešilo, že sociální síti pomáhá budovat tzv. bublinu, sociální bublinu, že ty vlastně jako najednou konzumuješ informace, který jako chceš slyšet, neuvěřuješ si je, protože vlastně podporují ten tvůj světonázor. No a ty ve chvíli, kdy jsi schopnej najednou jako generovat takovýhle jako fejky a podvody pomocí AI, tak vlastně jako ty cílíš na lidi, který ty nechceš je přesvědčit, aby změnili svůj názor nebo udělali nějakou akci, ale ty jenom chceš jako podporovat vlastně to, co už si myslí a v tu chvíli jako většina lidí vlastně jako a včetně mě, já to jako děláme to podle mě jako všichni, že jako v tu chvíli jako vypínáš trošku to své kritické myšlení a tak nějak si řekneš, jo, to mě ani nepřekvapuje, že to tenhle člově něco takovýho, ale on to třeba vůbec jako neřek, že jo, protože ten deepfake je tak věrohodnej, ty se na to jen tak podíváš, podporuje to tvůj světonázor, podporuje to ten tvůj názor na toho člověka, tak vlastně se jenom víc a víc jako utvrzoješ ty svý pravdě, takže podle mě je to spíš jako o tom oblivňování a jako radicalizaci těch lidí, jako který už mají ten názor a podporovat ho, než že by si jako udělal fejkový videa a najednou někomu jako změnil ten názor o 180 stupňů.

Jindřich: No přesně tak, to si myslím, že je dost důležité změnit, že jako z pravidla asi ta uměla indlingece v tomto kontextu nebude sloužit pro to, aby tě o něčem přesvědčila, ale bude sloužit pro to, aby utvrdila přesně toho tvýho kamaráda, aby ten kamarád se stal tím nástorem toho, aby on přesvědčil tebe. Takže tohle to dost možná může být i ten uhel pohledu, jak na to třeba leze naglížet. A toho témata je dost široký, nebo respektive to využití umělý inteligence v tomto tématu je hodně široký. Můžou to být různé jako deepfakes, nebo přesně ty jako novinky, jiný nebo může to být jakákoliv jiná zkrátka forma digitální manipulace. Takhle možná k tomu asi i pojďme přistoupit. Pojďme si tady udělat poslední hodnocení dnešního dne.

Filip: Já si myslím, že to je velmi závažný téma a či je trošku do jistý míry abstraktní, protože ten problém se neprojeví hnedka. To, že ovlivňuješ názory nějakých lidí a utvrzuješ je třeba nebo je radikalizuješ, tak to není, že dneska to vyjde to video a najednou polovina České republiky jsou radikální. ale ten problém je v tom, že jako postupně se to jako zvyšuje a pak jako můžeš dojít do podu, kdy najednou se k moci dostane nějaký autoritárský režim nebo něco jako podobného, takže jako za mě ta závažnost je vlastně obrovská a klidně bych dal desítku a není ta závažnost jako i hned, ale je to z toho dlouhodobýho pohledu.

Jindřich: Jo, jako souhlasím s tím, ono i pokud bychom to měli spojit teď například s nějakou prezidentskou volbou, tak tam mnohdy rozhodou procenta. A když obrovská digitální kampaň dokáže těch pár procent lidí zmanipulovat, tak tím způsobem oni i mohou potenciálně dokázat ovlivnit výsledky těch voleb. Což si myslím, že s tím velmi úzce souvisí i ten rozsah dopadu, který bude taky obrovský, protože pokud by se teoreticky dostal nějaký autoritárský režim, jak jsi zmiňoval, tak to samozřejmě může ovlédnit miliony, deset miliony, sta miliony lidí. Teoreticky celý svět

Filip: výsledku, když ten autoritárský režim pak vyvolá nějaký konflikt, takže já bych se přesně nebal klidně jako desítky zase.

Jindřich: Už myslím, že to máme standardní otázka. Jseš dobrou snavbou v tom jako spíš optimistický nebo spíš pesimistický? Já

Filip: ti nevím. Jako v dohledný budoucnosti jsem k tomu spíš jako pesimistický. Myslím si, že to jako bude problém. v tý daleký budoucnosti, jako myslím si, že prostě zkrátka jako lidi, tak se bude muset adaptovat na tady tu realitu, že tyhle ty věci tady jako jsou, takhle jako fungujou. Na druhou stranu, jako i u těch sociálních sítí, tak jako pořád je tady jako velká skupina lidí, který si třeba jako neuvědomují tady efekty, které můžou mít, anebo si je uvědomuješ, ale prostě stejně to na tebe ten vliv má, já to jako vidím i prostě jako u sebe. Takže já si myslím, že to budoucí riziko je pořád obrovský a klidně bych dal devět.

Jindřich: Dobře, tak dáme devítku. A co ta řešitelnost? Tak konec. No, já už

Filip: se budu opakovat asi jako po desátý, já to říkám všude, ale podle mě jako ta edukace a to, že ty lidi si, nebo my se na to všichni jako zvykneme a budem vlastně jako mít v hlavě tu kontrolku toho, hele něco nemusí být pravda, nebo hele uzavírám se do nějaký bubliny, bylo by fajn třeba vykouknout někam ven a oťukat si ten svůj názor, tak prostě bude hrát jako obrovskou roli, protože tohle podle mě není něco, co jako zakážeš, nebo jasně jako můžeš postihovat tvůrce deepfakeu, ale jako reálně, jak je to jako jednoduše vymahatelný, dohledatelný a když jich bude vznikat obrovské množství díky AI, tak jako ten soudní systém na to podle mě jako nebude úplně jako dostačovat. Takže jako řešitelnost podle mě bude poměrně složitá, no. A core i z pohledu, že je to jako citlivý téma, že jo, politický názory a obecně jako nějaké názory lidí. Takže já bych řekl třeba 8.

Jindřich: OK. Svůl jsem. Co se mi takhle napěvní dobrou líbí nebo co mě zaujalo, že řešitelnost neměla ani jednou desítku. Což znamená, že OK, možná v nějakých případech jsme trochu pesimisticky byli, ale ten společnej jmenovatel tam byl takový, že ta řešitelnost nějaká potenciální je. Byť u znační části témat, to je jenom ta edukace, nebo minimálně to, co jsme zvládli, vymyslet. Pojďme se možná podívat na výsledky, jak jsme teda dopadli. Co považujeme Filipe za nejhorší? Samozřejmě tím, že jednička je vždy nejvyšší průměr, takže to považujeme za nejhorší, až po desítku, kterou považujeme za ten nejmenší problém z těch, které jsme dnes probrali. Možná jen v rychlosti. Co považujeme za největší problém na základě průměru parametrů, které jsme tady měli, jsou deepfakes, které se týkají nahoty. A za ten nejmenší, nechci říkat jako nejmenší, ale za ten problém, který získal, tak nejnižší kubodový odhodnocení jsou potenciální fotomontáže. A v tomto případě jsme je diskutovali v kontextu reklamací, například u dovážkových služeb jídla a tak dále. No, takže tak. Ten společný jmenovatel, jako která tady opravdu vidím v těch tématech, tak jsou asi ty deepfakey. To je dost možná. Co zůstalo, co končilo na druhém místě, je oblivňování voleb a to bylo jen o 0,25 bodů. A na třetím místě o dalších 0,25 bodů byly ty potenciální fališní investice. Já si

Filip: myslím, že to je jako do jistý mír je prostě daný tím, samozřejmě je to nějaké jako náš subjektivní tady jako hodnocení a samozřejmě, když bychom tady na to mohli mít debatu jako hodiny a hodiny, tak bychom určitě ty naše jako hodnocení upravovali a protože na každej problém se dá dívat jako úzce z různýho úhlu pohledu, z toho ptačího pohledu, jako co to znamená jako ve většině řídku a tak dál, takže je to spíš taková jako nějaký myšlenkový pochod, nějaké zamyšlení, ale za mě ty deepfakey jsou problém v tom, že jsou prostě hůř kontrolovatelný a ovlivňovatelný, protože to jako vlastně tvoří běžný lidi, když to ty kyberbezpečnosti třeba, která vlastně jako se neumístila ani na těch prvních třech příčkách, tak si někdo může říkat, jo, ale to je jako největší problém, když nejednou nám napadnou tu síť a prostě třeba jako tady ovlivní roboty, aby prostě udělali vzpouru nebo něco jako takového. tak za mě ale ten jako důvod, proč jsme to třeba hodnotili mírně, je ten, že zkrátka jako to je tak závažný problém, že si toho tak všichni vědomí, že se do toho investuje obrovské množství peněz, finančních prostředků, času, výzkumu a všeho, aby se tomu jako zamezilo a je to prostě líp uchopitelný, než jako manipulace voleb, která je taková jako kreativní a jako křehká činnost a strašně blbě se vlastně jako proti ní brání a reguluje. Takže to je můj pohled na ten výsledek vlastně.

Jindřich: Dost možná jako podobný pohled se dá aplikovat i na to naše hodnocení, jsou tady věci, které se snadno chcou chopit a pak jsou věci, které jsou do jistý míry abstraktní. Zároveň přesně, jak jsi zmínil, to si myslím, že ještě jednou dost důležité doplnit. Je to naše subjektní hodnocení. Určitě by se v čase měnilo. Měnilo by se i na základě toho, jak byste si zjišťovali další a další informace. Hodně bychom ho změnili, pokud by tady s náma byli jako experti na cyberkriminalitu, experti na deepfake a podobně. Což důležité je zmínit, že samozřejmě my nejsme, ale akorát jsme se zkrátka o tom chtěli popovídat. No a možná úplně ještě nakonec, tak já jsem se tady dal ještě takový bonus. Je to vlastně článek z roku 2024 a ten, nebudu to tak jako číst, ale jako pojednává o potenciální regulaci ze strany Evropské unie hlavně jako umílí inteligence. Ta regulace samozřejmě má celou řadu potenciálních kladných stránek, tak stejně tak může mít i ty negativa. A v kontextu toho, jak my jsme se tady o tom bavili, tak dost možná by regulace třeba některým tématům pomohla. Pokud by ta regulace tady byla, tak bychom třeba někde ho hodnotili jinak. Nicméně, jak ty to vnímáš, Filip, snadná otázka. Nemusíš nudně chodit do detailů, protože určitě nás čeká jeden z dalších tím o tohle téma, ale regulace umělejch inteligence, ano nebo ne?

Filip: Takhle si musím vybrat, ano nebo ne. Neočekávám, že si vybereš. Chápu. Hele, jako spíš ne, ale obrovský ale zatím. A teď jako, prostě jak jsi to jako zmínil, jo, nějaký regulace dávají obrovský smysl a jsou jako jednoduše aplikovatelný a nemají nějaký velký jako side efekty, ale jako nějaký regulace jsou zase jako takový abstraktní a strašně blbě se vymáha, jo. Například, když bych řekl, že by se zavedla regulace na to, že ten poskytovatel, jako je třeba úplně já, jeho či GPT, tak je vlastně jako odpovědnej třeba za ten obsah, co to jako vygeneruje nebo něco podobného, tak jako chápeš ten myšlenkový pochod, ale vlastně jako to není to řešení, protože to zpomalí ten vývoj a já se jako obávám, že prostě ať chcem nebo ne, tak Amerika a Čína a podobné jako státy tak vlastně jako nebudou v těch regulacích tak jako řekněme jako pevný jako Evropa a fakt si jako bojím toho, že jako nějaká nadměrná regulace naopak jako uškodí tomu vývoji tady a jako negativně a už dneska si trofnu tvrdí, že ty regulace jako ovlivňují ten jako technologický pokrok tý Evropy, tak že to prostě bude mít ten negativní dopad. A zkrátka, pokud ta regulace neplatí plošně pro všechny na celém světě, tak se v tomhle směru obávám, že to prostě bude mít ten negativní dopad.

Jindřich: Každá regulace už vždycky spomluje technologický pokrok, tako to víme. A zároveň asi nedá se úplně očekávat, že by se celý svět zítra shodnul, že je teda OK, tak budeme tloutou cestou. Ale asi nechoďme do detailů. Dost pravděpodobně to bude jedno z témat, které tady budeme řešit. Díky moc, Filipe, bylo to skvělý, bylo to obohacující a doufám, že to naše posluchače

Filip: bude bavit. Taky díky, Jindro. Za mě extrémně zajímavá téma. A mě z toho vyšla jedna věc. Prostě je to na nás, jak těm věcem budeme přistupovat. A musíme se s tou AI naučit pracovat. Je to nová věc. A je tady, bude tady. A

Jindřich: musíme se s ní zžít. Jak zní jedno starý kliše, nevěřte všemu, co vidíte na internetu. Díky, chlebe. Měj se, vidíme se u dalšího dílu. Čau, čau. Čau, čau.