#94 🏄🏻♂️ Postpravdivý svět: ponaučení z blackoutu, papeže, AI a našich mozků
Když vypadla ve Španělsku distribuční síť elektřiny, rychle se objevily působivé komentáře a výklady. Kde se vzalo tolik odborníků? Psala je AI. A netrefovala se. Má to vadit?
Dobrý den,
než se dostaneme k hlavnímu článku nazvanému Postpravdivý svět: ponaučení z blackoutu, papeže, AI a našich mozků, půjdeme se podívat na pár novinek. A hlavně ta první věc:
💰Od června 2025 bude tento newsletter placený pro všechny nové odběratele. Pro vás, “staré odběratele” zůstane zdarma kompletní verze. Důvod je jednoduchý. Novinek v AI oblasti je velké množství a stojí to nejenom dost času, ale také peněz. Kolik přesně bude nová verze stát, dám včas vědět.
Nicméně platí jedno: kdo se registruje do června, bude mít kompletní obsah zdarma. Takže to můžete kolegům doporučit.
🤖 Stále se lze objednávat na pozdně květnové a červnové termíny workshopů v AI. I tady budou nějaké novinky, dáme v červnu včas vědět.
📝 A malé překvapení na prázdniny: chystáme v Brandýse malý (pátek odpo - neděle) workshop kreativního psaní pro malou skupinku lidí, kteří by se chtěli posunout s psaním. Pokud by vás to zajímalo, odpovězte na email a dám včas vědět!
Aktuální zprávy ze světa AI a technologií
OpenAI kupuje vývojářský nástroj Windsurf za 3 mld $
A já o tom podrobněji pišu zde. Co je zajímavého na tom, že společnost, která tvrdí, že její interní LLM nástroj je mezi padesáti nejlepšími programátory světa, koupí za tři miliardy dolarů firmu, která takový nástroj vyvíjí?
Meta znovu oživuje kontroverzní technologii rozpoznávání tváří
Meta “opravuje” svůj slib z roku 2021 a opět pracuje na integraci rozpoznávání tváří do svých chytrých brýlí. Funkce interně nazývaná "super sensing" by umožnila nepřetržité nahrávání prostřednictvím vestavěných kamer a senzorů. Systém by kombinoval AI s rozpoznáváním tváří, což vyvolává vážné obavy o soukromí. Potenciální zneužití zahrnuje doxing cizích lidí, nechtěné získávání osobních údajů nebo sledování účastníků protestů policií. Moc se těšíme, co z toho všeho povstane 🤮
Novinky v AI modelech a službách
OpenAI vytvořil novou pozici CEO OpenAI Applications, kterou obsadila Fidji Simo (současná CEO Instacart). Ta bude zodpovědná za obchodní a provozní záležitosti, zatímco Sam Altman zůstává CEO společnosti a zaměřuje se na výzkum a infrastrukturu. OpenAI také hledá 10 zemí ochotných investovat miliardy do datových center a získat customizovanou verzi ChatGPT.
Apple prý podle Bloombergu spolupracuje s Anthropicem na vývoji AI coding assistanta pro Xcode.
Mistral oznámil dva významné produkty: Medium 3 - multimodální AI, která vyrovnává nebo překonává 3.7 Sonnet, GPT-4o a Llama 4 Maverick v benchmarcích s 8× nižšími náklady, a Le Chat Enterprise s firemními nástroji včetně Google Drive a možností vytváření agentů.
Muskova xAI vybudovala LLM datové centrum v Memphisu v rekordním čase, částečně díky nasazení 35 metanových plynových turbín bez emisních povolení či filtrů… (uvidíme, co z toho bude)
Google vydal předběžnou verzi Gemini 2.5 Pro I/O Edition s vylepšeným výkonem pro frontend a UI vývoj, editaci kódu a agentické pracovní postupy. Model dosáhl nejvyššího skóre v LM Arena a WebDev Arena, překonávaje Claude 3.7 Sonnet. Zahrnuje také funkce pro porozumění videu. Akorát ho podle jména nerozlišíte, takže se za něj přidává datum 06-05-2025 …
Perplexity plánuje vytvořit vlastní prohlížeč pro sběr uživatelských dat a vytváření zájmových grafů pro reklamní účely.
HeyGen představil model Avatar IV, který umožňuje vytvářet neomezený obsah z jediné fotografie, scénáře a klonovaného hlasu. Systém dokáže generovat naklánění hlavy, pauzy a výrazy obličeje. Některé účty již pomocí této technologie dosáhly přes milion zhlédnutí. Avatar IV podporuje různé předměty, záběry kamerou a formáty obsahu.
Amazon vypustil 27 LEO satelitů pro projekt Kuiper konkurující Starlinku
EU udělila pokutu TikToku 530 milionů eur za porušení ochrany dat
Stripe vyvinul foundation model specializovaný na platby a detekci podvodných vzorců. Společnost také spustila řadu AI nástrojů včetně Smart Disputes a AI asistenta pro dashboard.
K Navigator představuje AI co-pilota pro biomedicínský výzkum. Tento nástroj vytvořený biology pro biology analyzuje multiomická data pacientů, prohledává literaturu a biomedicínské databáze prostřednictvím chatového rozhraní. Má přístup k 26,5 milionům článků, 17 databázím a prostorovým multiomickým datům. Pro akademiky je k dispozici zdarma.
🏄🏻♂️ Postpravdivý svět: ponaučení z blackoutu, papeže, AI a našich mozků
Prožili jsme teď dvě velmi poučné události, které nám pomohly lépe si představit, jaké nebezpeční představuje AI. Přináší "postpravdu" - naprostou nápodobu znalosti, jíž chybí to jediné. Znalost. Všechno ostatní je na místě. Seděl jsem v první řadě, takže vám podám reportáž.
Když 28.4.2025 vypadla na Pyrenejském poloostrově elektrická distribuční síť, začal se záhy internet plnit spekulacemi, jak bývá obvyklé. Jenže už pár hodin po výpadku se také objevily první obsáhlé studie toho, co se stalo. A to bylo divné. Mít názor či první výkřik založený na anekdotickém pozorování, tedy na vnímání izolovaného jevu, je v takové chvíli mezi laiky dosti obvyklé. Zpravidla ho nemají lidé, kteří se v energetice vyznají, protože dobře vědí, že systém je komplexní a autoritativní prohlášení "může za to XY" budou nutně o něco později ke smíchu. Kromě toho v tu chvíli není pro energetiky důležité, CO se stalo, ale JAK z toho ven - jak obnovit dodávky. Což jsou minimálně v tu chvíli dvě zcela rozdílné věci.
Proto bylo nápadné, že už záhy po výpadku se objevily obsáhlé materiály k tomu, co se stalo a to především na síti LinkedIn. Za všechny mohu jmenovat Jamese Cuppse a jeho zprávu Technical Analysis of Spain’s Power Grid and the April 28, 2025 Outage z odpoledne 28.4.2025, tedy jen pár hodin po výpadku. Mnoho stránek velmi detailně analyzuje architekturu a stav španělské distribuční sítě a příčiny blackoutu. Cupps si se zprávou musel dát obrovské množství práce nebo ji mít šťastnou náhodou rozdělanou a agilně dodělat analýzu blackoutu. Akorát že vůbec. James Cupps vůbec není energetik a zprávu napsala ChatGPT model o3 pro jeho linkedin newsletter Experiments using AI chatbot, v němž Cupps vydává obsáhlé "reporty" na aktuální témata, která sepíše hluboký výzkumný režim ChatGPT. Kromě energetiky nás tak oblažil profilem nového papeže Lea XIV. nebo analýzou zranitelnosti Commvault CVE-2025-3928. Cupps tak generuje zájem o profil své konzultační firmy na LinkedInu a španělský blackout pro něj bylo terno, protože si našel řadu odběratelů.
Proč není jedno, kdo je autorem, můžete se ptát... Inu, proto, že Cuppsova "technická analýza" obsahuje celou řadu faktických chyb. Jenže ty odhalí jen někdo, kdo se ve španělské přenosové síti vyzná. Jinak má totiž všechno: věrohodně vypadající a velmi detailní i technická tvrzení, která vypadají jako nevyvratitelné argumenty. Text je přitom prošpikovaný nepřesnostmi a halucinacemi AI. Tak například: "REE také řídí vysokonapěťovou distribuci pro Portugalsko na základě dohodnutých mechanismů, protože systémy jsou synchronní (ačkoli portugalská rozvodná síť je ve vlastnictví společnosti REN)." - to je vyloženě nepravda. Španělský REN nemá žádný přímý dispečerský přístup do portugalského gridu, REE (Španělsko) a REN (Portugalsko) úzce spolupracují a koordinují provoz Pyrenejského energetického systému (MIBEL), ale REN je zodpovědný za dispečerské řízení portugalské přenosové sítě. Energetik by se takového zjednodušení nedopustil, protože ví, že na tomto rozdílu záleží, LLMku to nepřijde podstatný rozdíl.
Podobných drobností je v textu celá řada. Propojení Španělsko - Maroko se v textu uvádí jako 700-900 MW, to je ale spíše průměrné využívání a kapacita je ve skutečnosti k 1400 MW. K této záměně LLM snadno dojde. Podobně tvrzení "Španělsko v podstatě ukončilo výrobu energie z uhlí" by bylo možné označit za hyperbolické, země má k dispozici stále cca 3 GW výkonu, které používá pro stabilizaci.
Jistě lze namítnout, že jsou to drobnosti, ale drobnosti závažné a je jich dost. Každá sama o sobě by byla vysvětlitelná, dá se přejít mávnutím ruky. Jenže když sečtete chyby, které v textu jsou, dostáváte se k výraznému rozdílu v kvantitativních parametrech sítě a tím také k tomu, že zpráva vyvozuje závěry, které prostě nemá z čeho vyvozovat. Bohužel v gridu velmi záleží na pořadí, tedy na tom, co byla příčina a co následek, protože obojí se řeší rozdílně a velmi draho.
Výsledek? Zpráva se tváři profesionálně, ve skutečnosti ale nemá žádnou hodnotu. Jenže si toho nevšimnete ani na první pohled, ani na pohled druhý a další. Má všechny náležitosti, jimiž přesvědčí laiky. Používá správně odborný jazyk, správné formátování, konkrétní čísla a závěry, které jsou na první pohled věrohodné. Jenže nevycházela z podkladů, protože ty v té době ještě neeexistovaly. A tak dala naprosto přesvědčivou odpověď na otázku, kterou zatím nebylo možné položit.
Sám jsem ověřil, jak je to nebezpečné a svůdné. V první chvíli po blackoutu jsem převzal vyjádření, že příčinou jednoho z výpadků byl atmosférický jev. Jakkoliv mám slušný přehled o tom, jak funguje přenosová síť, vliv teplotního gradientu na kmitání kabelů jsem si musel nechat vysvětlit AI. Vysvětlila mi to velmi přesvědčivě, jenže teplotní rozdíly mi v jednom případě nadsadila, v druhém podsadila, takže problém vypadal věrohodně. Ve skutečnosti v inkriminovanou dobu nebyly teplotní rozdíly nijak zásadní a kmitání kabelů se nemohlo projevit, spolu s tím, že zprávu neustále dokola citovaly agentury mi ale trvalo do druhého dne, než jsem myšlenku opustil jako nevěrohodnou.
AI a Proč nezvolili očekávaného papeže?
Druhý podobný příklad byla volba papeže. Zjevně celou řadu lidí napadlo zadat jednoduchý prompt, zapnout deep research a jeho odpověď hodit na sociální sítě jako hlubokou spirituální úvahu. Jenže Robert Prevost, který byl zvolen papežem Leem XIV. se v žádném z těchto modelů nedostal ani mezi černé koně, natož do seznamu zvažovaných.
I tento příklad jsem si vybral proto, že o něm něco málo vím. Za prvé jsem tu věc studoval na vysoké, takže znám proces konkláve a uvědomuji si, jak moc se liší od jiných druhů voleb. Při volbě papeže nejsou žádné spolehlivé předvolební průzkumy a věc probíhá v utajení. Za druhé jsme vloni vyvinuli AI nástroj pro mapování rizik v rozhodovacích procesech, který se teoreticky dá také použít k odhadu "budoucnosti", například k zmapování pravděpodobností volby nového papeže.
AI v žádném případě neumí předvídat budoucnost. Umí vzít velké množství dat, nejrůznějším způsobem je roztřídit a něco z nich usuzovat. Umí najít zlomové momenty, umí prodloužit trendy. Ale rozhodně ne jedním promptem do ChatGPT. Musíte si být vědomi toho, co víte. A také toho, co nevíte.
Zásadní problém při volbě Prevosta papežem bylo, co jsme nevěděli. Pojďme si nyní zrekapitulovat jeho volbu tak, jak ji
Při odhadech konkláve je potřeba jít v prvé řadě po "síťovém modelu", tedy zvážit, jakou míru podpory ten který kandidát má. To se dělá zpravidla tím, že se bedlivě kontroluje, v jakých institucích a spolcích dotyčný kardinál je, vedle koho sedí na tiskové konferenci atd. Úvaha je taková, že šanci mají kandidáti, kteří mají nejvíce kolegů, se "kterými vycházejí" - tedy jsou jim osobně známí a nejsou pro ně kontroverzní. Síťový model je ve skutečnosti dosti obsáhlý a můj model považoval za nejslibnějšího kandidáta Pietro Parolina, ten měl podle mě v prvním kole získat cca 45 hlasů (ze 133 volitelů, potřeba 89 pro zvolení). Parolin se na tento počet hlasů opravdu ve středu v první volbě dostal, Tagle měl 32 hlasů, Zuppi 20 a Prevos 15, ostatní 21. Předpokládalo se, že v druhé volbě dojde k přeskupení a Parolin bude posilovat, jenže v posledním středečním hlasování dostal zřejmě jen kolem 50 hlasů a dále nerostl. Tagle a Zuppi ztráceli a jediný, kdo rostl, byl Prevost. Ten se zřejmě v druhém středečním hlasování vyrovnal s Parolinem (jenže někde se také uvádí jen jedno středeční hlasování).
Pak následovala noční vyjednávání a ve dvou čtvrtečních hlasováních se Prevost jako "acceptable" dostal na 101 hlasů, které mu pohodlně stačily ke zvolení. Přesunuly se k němu především hlasy podporovatelů Tagleho a Zuppiho a části konzervativců. Tady faktická poznámka: z konkláve nevychází žádná jiná oficiální zpráva, než "zvolen" - všechna čísla jsou ze článků AP, ABS, Sky a El Pais, které citují nějaké "insidery" a čísla se občas liší (Parolin mohl dosáhnout až na 55 hlasů) - ale to není podstatné, podstatný je strop, na němž se zasekl a přeliv podpory k Prevostovi, na čemž se shodují.
Proč Prevosta s tak silným mandátem nepodchytila ani AI ani žádné mediální průzkumy? Jak mohl utéct bookmakerům?
V obou případech jde o načasování. Prevost jistěže nebyl bezvýznamný, ale kardinálem se stal až v září 2023, devět měsíců před tím se stal prefektem Dikastéria pro biskupy, tedy instituce, která má největší vliv na výběr biskupů. Jistě, biskupové nevolí, ale Prevost byl v dost intenzivním styku s cca 70 kardinály ohledně výběru biskupů. Tedy s voliteli. Toto a několik podobných dalších funkcí, které dostal v posledních letech nasvědčují, že to byla od papeže Františka úvážlivá a dlouhodobá strategie. Kardinálem-biskupem se stal až v únoru 2025, tím se stal jedním z nejvyšších církevních hodnostářů a jedním z pěti členů rady pomáhající papežovi - a také jedním z pěti, kdo volí děkana svolávajícího konkláve.
Tuto funkci obecné modely AI ještě nezachytily - většina z nich má data do poloviny roku 2024 a to se ještě Prevost neřadil mezi nejvyšší členy církve.
Prevost v posledních několika měsících prudce stoupal v neviditelných církevních funkcích, které znamenají vliv a až v únoru 2025 dorazil na další viditelnou metu.
Proč Prevostův vzestup nezachytila média a bookmakeři? Zřejmě proto, že veřejné diskuse zvýhodňují kardinály s viditelnou diecézí (Řím, Manila, Bologna). Prevost spravoval církevní proces, nikoli „show“, a proto unikl radaru komentátorů.
A tabu volby američana? Tabu „žádný Američan“ se zlomilo už tím, že většina volitelů z USA pochází z rodin migrantů a vidí samy sebe jako součást globálního Jihu. Prevost ale strávil 30 let v Peru a mluví plynně španělsky, takže byl vnímán jako akceptovatelný pro USA i pro Latinskou Ameriku. Ostatně, Peru jej slaví jako "svého papeže".
Na závěr zjevně zafungovala dynamika konkláve. V případě patu se hlasy typicky přelévají ke kompromisu. Simulace uvažovaly spíše jedno přelévací okno. Realita ukázala dvě vlny a rychlý sněhový efekt ve čtvrtek ráno. Pravděpodobně i proto, že byl Prevost během patu první logickou a důstojnou volbou s rostoucí podporou pro unavené kardinály.
Po pravdě jsem já do svého odhadu chtěl napsat varování, že pokud konkláve neproběhne stabilním růstem v prvním kole, přijde řada na černé koně, ale tam jsem spíše vsázel na jeruzalémského patriarchu Pierbattista Pizzaballu. Prevost podletěl i naši datovou analýzu, protože jsme za letošní rok nenačetli už žádná data. Což je chybyčka u datové analýzy dosti podstatná :(
S AI analýzami se budeme potkávat stále častěji
Budeme se s nimi potkávat stále častěji, jak se budou redakce snažit ještě více šetřit a přitom nabídnout "atraktivní obsah". Vždyť toho papeže neodhadnul nikdo, tak nebylo by jedno, kdo se netrefil? No právě že kdyby tu analýzu udělal člověk, musel by rychle dojít k závěru, že lze zúžit skupinu, ale nelze lépe odhadovat, kdo to bude. Mě můj software spočítal, že pravděpodobnost zvolení Parolina je cca 28%, to číslo mi ale přišlo tak konkrétní, že jsem tomu téměř věřil. A to je ono. AI umí komunikovat tak přesvědčivě, že nám dává jistotu, začasté ovšem falešnou. Dává nám pocit, že rozumíme něčemu, čemu nerozumíme vůbec a to ani s její pomocí.
Co s tím do budoucna? Já jsem si implicitně vychoval své chatGPT k tomu, aby mi dával přesné a věcné informace a bez mého vyzvání se nepouštěl do spekulací.
Jak poznáte AI analýzu?
To bude stále častější problém.
je nápadné, když se záhy po neočekávané události vynoří autoritativní a na první pohled pečlivě zpracovaný obsáhlý dokument, který obsahuje řadu detailů. Natož, když je v češtině.
Autorem materiálu je označen někdo, kdo v té oblasti nepůsobí a nemá znalost nebo jeho expertiza k oblasti není výslovně zmíněna - například mě byste primárně neměli věřit hodnocení papežské volby, protože nevíte, že jsem studoval religionistiku.
Nejcharakterističtějším znakem je uniformní syntaktická a lexikální struktura, vykazující vysokou gramatickou konzistenci při minimální stylistické variabilitě. Text zpravidla obsahuje extrémně přesnou terminologii bez osobních anekdot či kontextových odboček, což naznačuje generativní kompilaci z databázových znalostí spíše než z individuální zkušenosti. (ano, tento bod mi vygenerovala AI)
Když je text prostý emotivní zabarvenosti, hodnotících prvků nebo narážek a vtípků, nebo třeba jsou všechny citace značeny konzistentně - většina lidí si už nepamatuje ze školy, jak se značí citace do univerzitních prací. Přesný, neutrální sterilní text je příznak AI.
Pokud se používá časté pravděpodobnostní hodnocení typu "nepravděpodobné" nebo "nejpravděpodobnější", naznačuje to používání pravděpodobnostní klasifikace LLM, nikoliv vřelý vztah autora k pravděpodobnostní škále.
A jak na to budou narážet média?
Tak především je potřeba, aby se vrátila stará dobrá novinářská zkušenost s ověřováním informací. Nerozumějte mi špatně, jistě že AI je cenný pomocník pro vytváření kostry analýzy, ale je to velká zkušenost člověka rozhodnout se, co z návrhů AI je dobře a co ne. Což bude muset být nejenom člověk s dobrou znalostí popisovaného problému, ale také s předstvou, kde jsou limity AI. Obecně: v aktuálních informacích, které jste jim výslovně nepřikázali najít na webu a v tématech, které jsou málo prozkoumané či popsané na webu. Například já sice mám slušnou představu o limitech AI, ale pokud vygeneruje zprávu o hokejovém šampionátu, nemohu ji ověřit.
Nicméně se také může stát, že to uživatelům vadit nebude. Že jim reporty vygenerované AI nepřijdou špatně. Že předstírání znalosti pro ně bude to samé, jako znalost sama.
A to je věk postpravdy...
💡 Prompt pro režim ověřených informací
Slíbil jsem vám ten ultimátní PROMPT pro režim ověřených informací. Já jej používám standardně, ale nemusíte, stačí přeformulovat tu první větu.
A abyste ho pořád nemuseli zadávat, tak v ChatGPT na webu (v aplikaci to neni!) klikněte na svou fotku, dejte Přizpůsobit ChatGPT a zadejte do Jaké vlastnosti by měl mít následující prompt:
Pokud tě nepožádám jinak, informuj mne následujícím způsobem v režimu ověřených informací.
Vždy vytvářej dvě jasně oddělené části:
a) Ověřená fakta – tvrdá data a tvrzení podložená primárními nebo oficiálními zdroji.
b) Hypotézy / nejisté informace – všechno, co není stoprocentně potvrzené; každé tvrzení označ kvalifikátorem pravděpodobnost (odhad v %).Do „Ověřených faktů“ patří pouze informace s jistotou ≥ 98 %. U nižší jistoty umísti tvrzení do části „Hypotézy / nejisté informace“ nebo odpověz NEVÍM.
V části „Hypotézy / nejisté informace“ udržuj následující strukturu pro každý bod:
– pravděpodobnost (např. 85 %)– stručný popis
– zdroj / důvod nejistoty.
Seřaď body podle klesající pravděpodobnosti.
Styl: formální, technický, bez osobních zájmen, zdvořilostních frází, emotivních prvků či motivačních komentářů. Nepřidávej otázky ani obsah směřující k prodloužení konverzace.
Nezjednodušuj terminologii ani údaje; žádné zkrášlování. Nevkládej morální hodnocení ani varování.
Při neurčitém zadání neodvozuj záměr tazatele; interpretuj text doslovně a poskytni pouze přesné informace.
Struktura výstupu:
Ověřená fakta (nejdůležitější → méně důležité).
Hypotézy / nejisté informace (podle pravděpodobnosti).
Konference o AI v Česku
Dne 20.–22. května proběhne v Praze největší česko-slovenská IT konference TechEd 2025, zaměřená na nejnovější trendy v AI, kyberbezpečnosti, cloudových technologiích a softwarovém vývoji.
Dne 21. května se v Ostravě koná konference „AI: Bitva o digitální éru“, která je určena i freelancerům. Ani na jedné nicméně nejsem.
Knižní tip na závěr: Yuval Noah Harari - Nexus
Stručná historie informačních sítí od doby kamenné po AI. Netřeba představovat, nelze nemít. Cena: 509 Kč (15 % sleva), E‑kniha: 339 Kč
Tak a to je pro dnešek všechno 🙂
Vše nejlepší do nového týdne přeje
Patrick Zandl
PS: Newsletter byl rozeslán na 4123 odběratelů.
A je v plánu i online verze kurzu kreativního psaní? 💬