#84 👽 Vliv mimozemšťanů na AI
#84 👽 Vliv mimozemšťanů na AI
Má technologický pokrok svůj limit, za který nejde jít? Je to důvod, proč se nám neozývají mimozemšťani? A jaký to má vliv na AI? Co Muskův CyberCab?
Dobrý den,
vítejte u dalšího newsletteru. Teď jsem věnoval několik dní meditování, toulání po horách a přírodě a to následkem životních událostí jako jsou padesáté narozeniny. Mělo to zajímavé následky / výsledky (mimo jiné jsem napsal za tři dny rukou do sešitu celou novou knihu), zastavím se u toho snad příště, protože je tu několik věcí, které bych také doporučil si projít.
Témat z techniky je pro tentokráte poměrně hodně, takže některé věci proletíme telegraficky, zejména novinky u Apple i u AI modelů.
Postupy a návody k využití AI ode mne:
AI pro rodiče školáků je zdarma ebook, který přináší řadu postupů a rad, jak používat AI ve vzdělávání s dětmi.
AI už pomůže s psaním beletrie - jak použít AI pro psaní knih a příběhů
Jak pomocí umělé inteligence nastudovat téma a napsat lepší článek do novin
kompletní rubrika AI představující to, jak AI funguje a co umí.
Vyjdou Technoelity - Když příliš málo určuje příliš mnoho
V minulém newsletteru jsem představil novou "single knihu" Technoelity o všemocných a trošku divných šéfech technologických gigantů. Nabídka byla jasná: když si 80 lidí ebook koupí, dopíšu jej - s tím, že má cca poloviční rozsah oproti běžné knize. Nakonec se těch osmdesát lidí našlo za čtyři dny, takže knihu dopsat budu muset. A vy, kdo jste nechtěli čekat, jestli to klapne nebo neklapne, si můžete jít v klidu ten single ebook koupit. Už ho skutečně koncem listopadu vydám...
No a kdo neznáte službu IFDEAL - je to nový český startup. Umožňuje udělat nabídku typu "pokud - potom" - čili pokud si 80 lidí knihu předplatí, já ji napíšu. Pokud se najde 20 lidí, udělám přednášku. Atd. Služba zajišťuje výběr a přerozdělení peněz podle toho, co se stane (tj. vrací, když se událost nestane). Naopak nezajišťuje propagaci, to je na vás si celou věc zpropagovat, dokonce tam nenajdete ani jiné nabídky. Občas dostávám dotazy, zda nechci udělat veřejné školení věcí kolem AI, tak si říkám, že to přes IFDEAL taky jednou zkusím.
Vánoční tip: ještě je Husákův děda k objednání
A ještě jedna věc: ARGO mě upozornilo, že se našlo pár beden mé knihy Husákův děda, které jsou k dostání na Kosmasu. Je to hezký vánoční dárek pro rodiče a prarodiče odchované v socialismu, taková kniha, kterou nezarmoutíte a pobavíte. Objednávejte zde.
Z minulého newsletteru, kam pečlivě shromažďuji linky na to nejzajímavější a nejdůležitější ze světa, měl největší odklikovost na link na web kamarádky terapeutky. Inu, podpultová informace o tom, že velmi zkušená terapeutka přijímá klienty. Tak abych přinesl další podpultovku a ověřený odkaz: Vlasta se zaměřuje na masáže. Když máte bolavá a rozbitá záda nebo nohy (můj příběh z běhání), tak vás dá do kupy. S termínama je to u ní napnutější, ale sehnat dneska fyzio je menší zázrak, tak vám nezbude pár dní počkat...
Odkazy z Marigolda:
a mám novou rubriku Obrazy, kam píšu o obrazech, které mám rád. Taková moje oddechovka.
A teď už pojďme na to, co je nového ve světě techniky.
Nobelova cena za neuronové sítě
Letošní Nobelovu cenu za fyziku získali 91letý Američan John Hopfield (vlevo) a 76letý Brit Geoffrey Hinton (vpravo), který dlouhá léta vyučoval na Torontské univerzitě. Cenu obdrželi "za převratné objevy a vynálezy, které umožňují strojové učení pomocí umělých neuronových sítí", tedy za základy moderní umělé inteligence (AI). Je fascinující, že Nobelovu cenu za fyziku získají lidé, kteří fakticky převrátili svět umělé inteligence...
O Nobelově ceně za ekonomii detailně píše nový český newsletter Makroskop.
👽🤖 O vlivu mimozemšťanů na umělou inteligenci
Právě prožíváme podzimní záchvat ve vydávání nových verzí modelů umělých inteligencí. Ale ten vztah s mimozemšťany si budeme muset za chvilku vysvětlit.
Smršť spustil Anthropic s Novým modelem Claude 3.5 Sonnet na začátku října. Nový model je samozřejmě lepší - akorát že se jenom jmenuje "Claude 3.5 Sonnet New". To situaci nezpřehledňuje.
Google hodlá uvést svůj další hlavní model Gemini 2.0 v prosinci. I když model prý nevykazuje takový nárůst výkonu, v jaký odborníci doufali, bude mít pravděpodobně stále některé zajímavé nové schopnosti.
Také OpenAI se chystá během nejbližších týdnů přijít s novou verzí. Možná vás to překvapí, novou verzí byla přeci o1 - jenže to je ve skutečnosti nová generace, která spojuje výhody dosavadních GPT modelů a systémy hlubokého posilovacího učení, jakými je třeba Alphas společnosti DeepMind. A která je ve zkušebním provozu. To je ve skutečnosti obrovská změna, která přichází po pěti letech od nástupu samotných GPT modelů, jenže její výhody se začnou projevovat postupně. Za prvé je tedy pravděpodobné, že OpenAI představí novou verzi GPT, ať již to bude GPT-4.5 nebo GPT-5, nezáleží na tom, jak ji firma pojmenuje. Sam Altman ji již "teasuje" na Xku a využije ji k tomu, aby zastínil Claude i Gemini. Samozřejmě bude lepší, to jinak nepůjde, ale ty změny už nejsou tak znatelné. Není tam to Wow.
Pořádný Wow efekt by měl přijít právě s rozvojem učících se modelů typu o1. A tedy s rozvojem systémů využívajících posilující učení. Zjednodušeně řečeno, o1 než něco "plácne" provede prověření formou hlubokého posilovacího učení, tedy pomocí určité zpětnovazebné smyčky, jíž ověří, zda to, k čemu došla, je možný správný závěr. V o1 tedy probíhá "uvažování" - které za prvé může odstraňovat halucinace a za druhé díky potlačení halucinací umožňuje předkládat i jinak překvapivá řešení, která by ale starší modely GPT neuměly odlišit od halucinací a raději by je pomocí ořezu "ulítlých" návrhů zavrhly a nepředložily. To je potenciálně velká změna, která by mohla přinést novou krev do AI, díky níž by se AI dostala z režimu generativní AI na vyšší - druhou a třetí úroveň v klasifikaci OpenAI.
Co je podstatné? Příklad OpenAI o1 ukazuje, že AI modely se cenově rozdělí na ty drahé a ty levnější. Model o1 sežere mnohem více energie na provoz, takže jeho provoz musí nutně být dražší, což odpovídá lepším výsledkům. Někdo si to bude moci dovolit, jiný ne. Rozdíl je výraznější, než u předchozích Mini a standardních modelů.
Skleněný strop, Fermiho paradox a budoucnost...
Již dlouho se ale mluví o tom, že rozvoj AI naráží na určitý "skleněný strop". Jistě, LLM nás hodně posunulo, GPT a transformátory jsou úžasné průlomy, ale do Univerzální umělé inteligence mají systémy jimi vybavené daleko. Zatímco se OpenAI za prvních pár let posunula do verze GPT-4 a Antrhopic do Claude 3.5, další pokroky už tak impresivní nejsou a nestojí za samostatné verze. Své roční snažení jak OpenAI tak Antropic vydávají jako minoritní verzi. S určitou výjimkou o1.
A tím se dostáváme k mimozemšťanům a takzvanému Fermiho paradoxu. Fermi se údajně jednoho dne zeptal, proč je ve vesmíru takový klid, kde jsou všichni? A to je dobrá otázka. Dá se totiž předpokládat, že pokud je vesmír starý 13 miliard let a jen naše galaxie obsahuje 400 miliard světů, najde se dostatek světů, kde se mohl vyvinout život, který nás v evoluci předstihl třeba o 10 000 let. Tedy dost na to, aby taková civilizace uměla komunikovat a cestovat vesmírem. Proč jsme ale nikdy na známky takové civilizace nenarazili?
Antoniao Gelis-Filho ve své stati "Existuje univerzální hranice technologického rozvoje? Důkazy z astrobiologie" konstatuje, že důvodem může být existence "univerzální hranice technologického rozvoje" (ULTD) a tato hranice je hluboko pod schopností civilizace kolonizovat celou galaxii. Gelis-Filho se opírá o skutečnost, že náklady na rozšiřování našeho poznání jsou stále vyšší.
Projekty jako Velký hadronový urychlovač v CERN (4,75 miliard dolarů na výstavbu a 286 milionů dolarů ročně), Mezinárodní vesmírná stanice (3 miliardy dolarů ročně), a mezinárodní úsilí o dosažení jaderné fúze v ITER (odhadovaná částka 18 až 20 miliard dolarů na výstavbu) ukazují, že lidské úsilí o prozkoumání našich vědeckých obzorů vyžaduje stále více energie a zdrojů.
"Pokud budeme upřímní, je fakt, že poslední zásadní pokroky ve vědě o vesmíru (makro- a mikrosvěty, kosmologie a kvantová mechanika) jsou staré téměř sto let," píše Gelis-Filho. "Stačí porovnat vědecký vývoj od roku 1830 (žádná evoluční teorie, žádná teorie elektromagnetismu) do roku 1930 (postulována relativita a kvantová mechanika) a od roku 1930 do roku 2024 (stále neexistuje sjednocující teorie), abychom vnímali, že se tempo pokroku přinejmenším zpomaluje," uvádí Gelis-Filho. "Nízko visící ovoce již bylo sklizeno. Ty zbývající jako by visely na nemožně vysokých větvích." A civilizace si takové výdaje neodůvodní.
Hypotéza ULTD tvrdí, že i kdyby se nějaká civilizace rozhodla postavit megastroj, aby rozšířila hranice svého poznání, zjistila by, že množství energie a náklady potřebné k provádění experimentů, které by umožnily skok ve vědeckém poznání, se nezvyšuje lineárně. Dosáhli by bodu, kdy by jim jejich současná technologie neumožnila překonat propast mezi jednou a druhou úrovní. A protože fyzikální zákony jsou v celém vesmíru stejné, každá civilizace se nakonec střetne s touto nepřekročitelnou propastí. Proč? Protože společnost nevygeneruje dost prostředků na rozšiřování svých znalostí. Složitá společnost se rozšiřuje se přidáváním vrstev společenské složitosti, aby produkovaly více "energie" pro další růst. Po dosažení určitého bodu se však složitost "nevyplatí", neboť návratnost takové změny není dostatečná nebo dokonce může být záporná. Je tedy možné, že mnoho mimozemských společností se zhroutilo kvůli klesající návratnosti společenské složitosti, a to ještě předtím, než se střetly s limity danými energetickými požadavky na testování vědeckých teorií.
Univerzální limit technologického rozvoje (ULTD) je dán klesající technologickou návratností společenské složitosti, rostoucími náklady na údržbu stávajících technologií, případnou neověřitelností vědeckých teorií v důsledku vysokých nákladů a nedosažitelných úrovní energie potřebných k jejich testování a katastrofami poškozujícími civilizaci.
Gelis-Filho ve své hypotéze uvažuje jako hranici ULTD schopnost civilizace vystavět tzv. Dysonovu sféru, tedy konstrukci umožňující zachycovat veškerou energii hvězdy a mimo jiné způsobující, že taková civilizace je skryta před vnějšími zraky uvnitř této sféry. Podrobnější článek česky zde. Svou logiku to má - taková výstavba umožní maximální využití energie v planetární soustavě. Úvaha založená na Kardašově škále ovšem neuvažuje o možnosti získávat energii jiným způsobem, například z antihmoty. Což nicméně pro nás není tak podstatné.
Malá odbočka: tím se dostáváme k Silurské hypotéze - bylo by možné, že v geologické minulosti země existovaly vyspělé průmyslové civilizace, které zanikly před miliony let? A pokud ano, jak bychom to zjistili? To není planná teorie, připomeňme nález 3,3 milionu let starých kamených nástrojů v lokalitě Lomekwi 3 v Keni.
Princip průměrnosti, jak jej popisuje D. Whitmire také naznačuje, že typický technologický druh vymírá brzy po dosažení moderní technologie a že tato událost má za následek vymření globální biosféry planety a tedy "reset" celoplanetárního ekosystému. Proč k tomu dochází?
Na základě principu průměrnosti tedy také astrobiologové dovozují, že hranice ULTD není o mnoho vyšší než naše současná úroveň technologického rozvoje. Rozvoj technologií tedy nebude například schopen poskytnout lidstvu další domov, až si Zemi zničíme.
A tím se obloukem dostáváme zpět k umělé inteligenci, kde se jako u každého vědeckotechnického rozvoje projevuje jak skokovost rozvoje, tak zvyšující se náklady na pokrok. Tedy situace, kdy pro další pokrok v oblasti musí dojít k zásadním posunům v několika dalších oblastech, včetně průlomů v algoritmech, výkonu a zřejmě i v dostupnosti energií, neboť spotřeba elektrické energie pro AI rapidně roste.
Zatím nejsme schopni kvalifikovaně rozhodnout, zda AI dosahuje momentálních hranic možností a dokonce ani toho, zda je univerzální umělá inteligence za stávajících možností dosažitelná. Určitá zpomalení napovídají, že dosavadní koncepty jsou na hranici toho, co mohly přinést a je potřeba dalších průlomů. AI se nyní rozlézá do šířky, snaží se přizpůsobovat lépe jednotlivým typům úloh se schopnostmi a možnostmi, jež dnes má.
🚕 Muskův autonomní taxík Cybercab
Elon Musk představil Cybercab - plně autonomní taxi. Stát má kolem 30 000 $, přivoláte si jej aplikací, nasednete do dvojmístného vozidla s futuristickým otevíráním dveří, bez volantu a pedálů - a frčíte. Tedy, teoreticky. V praxi Musk slibuje, že vůz se na trh dostane v roce 2026, možná o něco později, neboť vyžaduje povolení regulátora. A regulátoři dali povolení zatím jen autonomním taxi Waymo, které jsou nadupané senzory včetně Lidaru, zatímco Cybercab má v souladu s Tesla strategií jen pár kamer.
A to je ten podstatný rozdíl. CNBC nedávno uvedla, že zatímco Waymo vozidla ujedou v průměru přes 17000 mil, než je potřeba u nich provést kritický zásah, u FSD Tesly jde o pouhých 170 mil. Kritickým zásahem se rozumí především to, že vůz se zastaví a vyčkává na zásah lidského operátora. Data o bezpečnosti tedy jsou zatím výrazně na straně Waymo, ačkoliv fanouškové Tesly nesouhlasí.
A co je na tom podstatné? K provozu autonomní robotaxi je potřeba licence. A tu Tesla nemá a s ohledem na to, jak dlouho byla vyjednávána s Waymo, není jisté, že se k ní dostane nějak brzy. Asi proto ty odhady dodávek Cybercabu na rok 2026 nebo 2027. Tady by Muskovi pomohla vstřícnost úřadů. A jak si ji získat? Překvapivým tahem: podporou Donalda Trumpa, o čemž si povíme za chvíli.
Dovolte mi k tomu několik podotků:
obchodní model, kdy investujete peníze do nákupu autonomního taxíku, instalujete mu indukční nabíječku a on sám bezobslužně vozí lidi a vám to generuje pasivní příjem - to je geniální. Pokud to bude fungovat!
Musk má v oboru samořiditelných vozů dlouhý trackrecord nesplněných slibů. Firemní samořiditelný systém FSD se neustále odkládá, jeho poslední verze 12.5 je na druhém stupni autonomie, tedy drobné řízení a akcelerace, ale nic složitějšího. Řidič stále musí být přítomen a schopen převzít řízení. To, co vyžaduje Cybercab je minimálně čtvrtá úroveň, kterou Tesla slibovala na rok 2018. Detaily rozebírají například zde. Třináctá verze by měla vycházet právě nyní, bude jistě lepší, měla by dobře parkovat a radikálně snížit počty intervencí, uvidíme... Mimochodem, doptat se, jak to s tou autonomií bude, není možné, protože Tesla zrušila PR oddělení...
Evropa měla dříve přísnější regulaci, než USA a FSD nebylo možné používat. To se mění díky takzvané UNECE DCAS - to je regulační rámec přijatý letos v březnu, který právě vstupuje v platnost. Mimo jiné stanovuje postup testování systémů Level 2 jako je FSD tak, aby mohly být provozovány v EU na veřejných silnicích. Systémy úrovně 4 a 5 ale dořešené stále nemáme a bylo by zajímavé, kdybychom je v Česku povolili v omezených oblastech a přitáhli sem vývojáře a firmy.
🧢 Elon Musk podporuje Donalda Trumpa
Elon Musk se rozhodl podpořit Donalda Trumpa v jeho kandidatuře na prezidenta USA. Je to považováno za jedno z jeho nejriskantnějších rozhodnutí. Pojďme se podívat na to, jaké jsou jeho kroky a zájmy v prezidentských volbách:
Finanční podpora: Musk daroval minimálně 75 milionů dolarů pro-Trumpovské skupině America Pac, která již utratila více než 118 milionů dolarů na podporu Trumpovy kampaně.
Důvody podpory: Musk tvrdí, že hlavním důvodem jeho podpory Trumpa je potřeba “rozumných regulací”, které by mohly urychlit procesy, jako je licencování pro SpaceX.
Obchodní zájmy: Muskova podpora Trumpa by mohla přinést výhody pro jeho společnosti, jako je SpaceX a Tesla, zejména v oblasti vládních kontraktů a regulací.
Politické změny: Musk, který dříve podporoval demokraty, se nyní přiklonil k Trumpovi a přijal některé z jeho kontroverzních názorů.
Rizika pro Teslu: Podpora Trumpa může odradit některé zákazníky Tesly, zejména ty, kteří jsou politicky nakloněni demokratům.
Dlouhodobé cíle: Musk se zaměřuje na autonomní řízení a robotiku, což jsou oblasti, které čelí významným regulačním výzvám. Je pravděpodobné, že samotnou výrobu automobilů nevidí dlouhodobě jako zdroj zisku, protože tady bude Čína velmi silná.
Tesla je hodnocena na základě optimismu investorů ohledně neprokázaných technologií, což tvoří velkou část její tržní hodnoty, která je odhadována mezi 70 miliardami a 100 miliardami dolarů pro automobilový byznys, zatímco zbytek hodnoty je založen na očekáváních ohledně budoucích technologií, jako jsou příležitosti v samořiditelnosti a v robotice.
Analytici z Morgan Stanley předpovídají, že příjmy SpaceX by mohly do roku 2030 vzrůst na 63 miliard dolarů, což je trojnásobek současných příjmů.
SpaceX plánuje zvýšit počet svých satelitů z povolených 7,500 na 29,988.
SpaceX a vládní kontrakty: SpaceX by mohl těžit z blízkého vztahu s prezidentem USA, zejména v oblasti satelitního internetu Starlink a dalších vesmírných projektů.
Regulační spory: Musk a jeho společnosti mají dlouhodobé spory s různými federálními a státními úřady, které obviňuje z brzdění inovací.
Politická angažovanost: Musk tvrdí, že jeho politická aktivita je motivována obavami o budoucnost Ameriky a civilizace.
🧑💻 Apple má týden novinek
Apple vydává každý den tohoto týdne nějakou novinku. Nově představuje počítače iMac vybavené procesorem M4 a především výrazně firma zatraktivnila Mac Mini, rovněž vybavený M4 nebo M4 Pro procesorem, přičemž rozměrově opouští půdorys dávno zavrženého CDčka a nabízí výrazně redukovaný rozměr.
Další zajímavou novinkou je Macbook Pro s procesorem M4 Pro nebo M4 Max. Detaily ke všem počítačům jsou zde.
Klávesnice, myš i trackpad mají nově USB-C port, myš ovšem stále pitomě na zádech.
A poslední důležité: uvolněny byly verze iOS 18.1 i iPadOS 18.1 s podporou umělé inteligence, ovšem zatím jen pro americký trh. Pro evropský trh bude podpora AI v angličtině dostupná v dubnu 2025, Apple to ještě nemá dodělané a odladěné. Detaily zde.
Apple Intelligence bohužel není nijak zvláště dobrá, snad se bude firma rychle zlepšovat, zatím to vypadá, jako by byla dva roky za OpenAI, ačkoliv z jejích modelů vychází.
Stroje láskyplné milosti
Šéf Anthropicu Dario Amodei si taky udělal blog a dal na něj velmi dlouhou esej nazvanou Machines of Loving Grace. Je to optimistický traktát o AI od top insidera, za pozornost jistě stojí.
Vyberu pár myšlenek:
Optimistický pohled na AI: I když Dario Amodei často mluví o rizicích spojených s vývojem AI, věří, že AI má obrovský pozitivní potenciál a lidé jej často podceňují.
Nejslibnější oblasti, kde AI může mít pozitivní dopad: Biologie a zdraví, neurovědy a duševní zdraví, ekonomický rozvoj a chudoba, mír a správa, práce a smysl života.
AI jako “datové centrum géniů”: AI budoucnosti může být „chytřejší než laureáti Nobelovy ceny“ a řešit složité problémy rychleji než lidé. Mohla by dokázat řešit matematické problémy, psát knihy, kódovat programy, řídit experimenty nebo zlepšit efektivitu robotických systémů.
Limity inteligence: Inteligence má své limity, jako je rychlost světa, potřeba dat a fyzikální zákony. Tyto faktory mohou zpomalit pokrok i v případě superinteligentní AI.
Pokrok v biologii a medicíně: S pomocí AI bychom mohli dosáhnout 50–100 let pokroku během 5–10 let. AI by mohla urychlit vývoj vakcín, terapie rakoviny a léčbu genetických nemocí.
Rozšíření lidského života: AI by mohla pomoci zdvojnásobit lidský život, zlepšit prevenci stárnutí a nabídnout větší biologickou svobodu, což by umožnilo lidem ovládat více aspektů svého těla a zdraví.
Duševní zdraví: AI by mohla pomoci při léčbě psychických nemocí, jako jsou deprese, schizofrenie nebo PTSD, a také vylepšit každodenní fungování mozku.
Nerovnost a chudoba: AI může přinést zdravotní a technologické pokroky i do chudších částí světa, ale vyžaduje to globální snahu zajistit, aby rozvojové země nezůstaly pozadu. To bude velmi těžké - víme, že na rozvojové země se dost kašle.
Mír a demokracie: AI může být nástrojem jak pro demokracie, tak pro autokracie. Demokratické státy musí spolupracovat, aby zůstaly v technologickém čele a zabránily AI být zneužita pro propagandu a sledování.
Zdroj: https://darioamodei.com/machines-of-loving-grace
A to je pro tentokráte vše.
Vše nejlepší do počínajícího listopadu přeje
Patrick Zandl