Patrickův newsletter #63 🤖 Naděje roku: procesory RISC-V a hromada AI novinek

Dneska prosvištíme dvě témata: mají procesory RISC-V šanci? A jaké novinky v umělé inteligenci na nás kdo chystá...

Dobrý den,

vítejte u únorového dílu Patrickova newsletteru.

O čem bude dneska řeč?

• moje první audiokniha Mýty a naděje digitálního světa

• Umělá inteligence Google Bard má konkurovat ChatGPT - a taky Bing

• Praktická ukázka AI: dcera, univerzita a ChatGPT

• Naděje roku: procesory RISC-V

• Kniha měsíce? Steven Pinker: The Better Angels of Our Nature

• Přehled nových zajímavých AI aplikací

• Slovec na konec: Wi-Fi 7 nabídne rychlosti 20 Gb/s

To je myslím pořádná porce informací do tohoto týdne! No a komu by to nestačilo, tak si ještě můžete objednat jako newsletter moje politické Místostarosti věnované komunální politice!

---

📖Moje první audiokniha: Mýty a naděje digitálního světa

Moje kniha je momentálně na žebříčku nejprodávanějších knih Melvilu, to je ta dobrá zpráva. A ta ještě lepší? Máme i audioknihu. Kompletně namluvené Mýty a naděje jsou načteny hercem Ondřejem Halámkem a já mu ten důstojný hlas závidím! Ukázka 45 minut je zde na Youtube. A chcete nákupní tip? Samotná audiokniha stojí 429 Kč, ale když si ji koupíte spolu s elektronickou knihou, dostanete na celý balík slevu 50 % a tím se dostanete na 365 Kč. To už se vyplatí, můžete poslouchat v autě i číst ...🙂

Takže mám radost, těším se na odezvy, rozhodně mi dejte vědět, jak se načtené Mýty líbí! Kdybyste mi chtěli dát odezvu na knihu veřejně, tak nejlépe recenzí na Goodreads nebo na Databázi Knih, kde si můžete přečíst i ostatní recenze.

Objednávejte zde.

---

🗣️Umělá inteligence Google Bard má konkurovat ChatGPT

Google do nového roku v oblasti umělé inteligence nevykročil nejlépe. Jistě, v poslední době na sebe pozornost strhává chatGPT od OpenAI. Nový chatbot s umělou inteligencí od Googlu nazvaný Bard měl být důstojnou odpovědí. Jenže jeho jeho první ukázka skončila faktickou chybou. Bot byl oznámen v pondělí jako konkurent ChatGPT společnosti OpenAI a měl být "v příštích týdnech více dostupný veřejnosti". V ukázce byl Bard dotázán na nové objevy vesmírného teleskopu Jamese Webba a odpověděl třemi odrážkami, včetně tvrzení, že teleskop "pořídil vůbec první snímky planety mimo naši sluneční soustavu". Toto tvrzení však bylo nesprávné.  Jenže astronomové rychle upozornili, že první snímek exoplanety byl pořízen v roce 2004 a nebyl pořízen James Webb Space Telescope.

A další malér. Na pódiu před malým osobním publikem v Paříži měla viceprezidentka vyhledávače Google Liz Reidová předvést produkty, mezi něž patřilo "multisearch", funkce vizuálního vyhledávání Google Lens s umělou inteligencí, která umožňuje uživatelům vyhledávat tak, že pořídí obrázek a popíší, co by chtěli najít nebo funkce "Immersive View" v Mapách Google, která umožňuje 3D průlet velkými městy, a nová verze Překladače Google. Jenže při živé ukázce nemohla Reidová telefon najít a funkce předvést, takže se muselo pokračovat (referuje ArsTechnica). To byl k dispozici jediný telefon s těmito funkcemi? To neměla v kapce vlastní telefon, kde betaverze produktu také běží? To vypadá, že se akce šila hodně rychlou jehlou a rychle se doplňovaly trumfy vůči Microsoftu.

Akcie Google poklesly o 9% ...

Naopak slušně se daří Microsoftu. Ten představil vyhledávací desktop aplikaci Bing kombinovanou právě s chatGPT, která funguje, jak byste čekali: dává odpovědi na vaše otázky. Microsoft pro jistotu do OpenAI posílá desetimiliardovou investici. A tlačí AI všude: od Teamsů, přes Office balíky, až po další zlepšování Github Copilota nebo Edge prohlížeče. Nově se v Edge můžete podívat na web stránku a nechat si například udělat její shrnutí.

V dlouhém rozhovoru pro The Verge vysvětluje šéf Microsoftu Satya Nadella, proč si myslí, že s AI vůči Google uspějí. Nadella připomíná, že pro ně (Microsoft a OpenAI) je klíčová bezpečnost modelu, tedy způsoby klasifikace, zkreslení, škodlivý obsah. OpenAI vybudovala obrovský tým ručního třídění dat tak, aby do modelu pronikala jen správná data (jistě, za chvíli se tomu začne taky říkat cenzura).

Svůj chat AI modul ukázala i společnost, u které bychom to tak nečekali, ale která má překvapivě dobře našlápnuto: Quora. To je server, kde můžete klást otázky a dostávat odpovědi od živých lidí. Není to diskusní server, je to otázkový server, kde najdete odpovědi vlastně na všechno. Firma data zřejmě použila k tomu, aby doplnila jazykový model. Quora Poe je mobilní aplikace, která používá dvě technologie pro tři různé chatboty v sobě obsažené. Za prvé chatGPT od OpenAI a za druhé u nás méně známý model od Anthropic. Musím říct, že v češtině dávala překvapivě mizerné výsledky na těch pár dotazech, co jsem zkoušel, pak mě to přestalo bavit.

Na praktické ukázky nově oznámených technologií si ještě počkejme.

🎓Praktická ukázka AI: dcera, univerzita a ChatGPT

Máme teď několik víkendů s dcerou takové přemýšlení o tom, kam by mohla jít studovat, až za dva roky odmaturuje. Sofie chce jít dělat eurounijní právo, ideálně na zahraniční školu, s ohledem na to, že umí několik jazyků, asi může studovat kdekoliv. Jenže jak zjistit patřičné informace? Já netuším, která univerzita je na EU právo dobrá a která špatná. Nejprve jsme se poptali po mých kamarádech a známých, dali jsme do kupy slušný přehled univerzit, které by stály za to. Jenže co s tím dál? Jaké jsou jejich silné a slabé stránky? Pak přišel dvanáctiletý syn Vojta s naprosto samozřejmou otázkou: proč to nenacpete do ChatGPT a nenecháte umělou inteligenci to projít s vámi? A tak jsme učinili. Sofie seděla u počítače a bavila se s ChatGPT o tom, jak se liší vzdělávací programy na jednotlivých univerzitách, jaké tam mají jídlo či slavné studenty. Nikdy by mě třeba nenapadlo, že univerzita v Leidenu může být dobrá, po pravdě jsem ani neuměl její jméno napsat.  Tohle je silná stránka konverzační AI: nevyhledáváte, ptáte se a dostáváte odpovědi. Pokud se technologie posune tak, že mi nebude dávat nesmyslné, byť ultimátně znějící odpovědi, bude to fajn. Na tu univerzitu v Leidenu jsem se radši přeptal i živých lidí.

🧑‍💻Naděje roku: procesory RISC-V

V minulém vydání jsme si řekli, že technologií roku 2023 bude umělá inteligence, AI. A pokud jste četli moji knihu Mýty a naděje, tak jste jistě postřehli, že za klíčovou technologii pro AI a svět obecně považuji i procesory. AI se bez procesorů neobejde, jenže svět je nyní tak zvláštně rozdělen. Velkým vládcem procesorového světa je rodina ARM. Může se to nějak změnit? Může něco převzít roli ARM procesorů podobně, jako to tyto procesory udělaly Intelu? Nebojte se, pokusím se o tom napsat pár informací, které vás zaujmou i v případě, že jsou vám procesory šumák. Protože to bude business, vliv a politika.

Několik mandatorních informací. Co jsou to procesory RISC-V? Jsou to procesory založené na otevřené architektuře instrukční sady (ISA). Vznikly v roce 2010 na kalifornské univerzitě v Berkeley, dnes ji kontroluje mezinárodní sdružení RISC-V International, v jejíž prospěch se původní autoři vzdali všech práv. Sdružení dnes řídí jeho členové a základní myšlenkou i hnacím motorem je "komunismus" - tedy sdílení architektury. A to i přes to, že si můžete koupit komerčně licencovaná jádra procesorů RISC-V. Paradox? Kdeže.

Procesory RISC-V jsou otevřenou alternativou k procesorům ARM. Otevřená architektura  instrukční sady (ISA) znamená základ, tedy společné návrhy jednotlivých důležitých částí procesorů, které ovšem nevytvářejí dostatečné možnosti obchodního odlišení. Návrh a údržba těchto částí vyžaduje spoustu času a to je důvod, proč si firmy navrhující procesory volí jednu z existujících platforem, dnes nejčastěji ARM - mají k dispozici technický podvozek a také jistotu široké softwarové podpory, na to si nalepí to svoje, čím prodává: vzhled, chování, výkon a samozřejmě logo ...🙂 Právě otevřenost RISC-V znamená možnost si všechno snadno přizpůsobit, využít existujících základů a pohybovat se v rozsáhlém ekosystému. Zjednodušeně řečeno lze RISC-V považovat za Linux světa procesorů.

Existuje nějaká šance, že by do světa procesorů na místo ARM pronikla další rodina procesorů? No, je to velmi obtížné a zdlouhavé; stejně jako jsme řekli v roce 1995 o platformě Wintel – bylo to nemyslitelné.

RISC-V má především jednu podstatnou nevýhodu, která u ARMu nepřichází v úvahu a která je podstatou jeho otevřenosti. Jednotlivé procesory RISC-V totiž mezi sebou nemusí být vzájemně kompatibilní, neboť návrháři mohou změnit vlastně všechno. Proto se sdružení RISC-V International rozhodlo ratifikovat a zmrazit ISA na minimu, které musí všechny procesory označené RISC-V splnit. Ve skutečnosti ale neexistuje žádný donucovací mechanismus, který by rozdílným implementacím ISA bránil. Ano, přední návrháři procesorů RISC-V jako jsou Andes, SiFive nebo CodaSIP ratifikované ISA dodržují, jenže s větším či menším důrazem na detaily, které pálí zrovna je. Ve výsledku zdaleka ne všechen kód bude mezi jednotlivými procesory různých výrobců přenositelný bez úprav. A kdo ty úpravy bude dělat?

Ještě před pár lety by to byla stopka. Kdopak by asi donutil Microsoft, aby překompiloval svá Windows na nové modely RISC-V? Nikdo! Jenže už ho taky nikdo nenutí. Velká část reálně běžícího software je více závislá na cloudech a internetu, pokud si s nimi procesor poradí, má vyhráno. To také znamená, že význam operačního systému se radikálně snížil, vlastně stačí portovat nějaké vhodné Linuxové distribuce či dokonce embedded systémy podporující napojení na internet a je vyhráno. Však také řada RISC-V procesorů se používá v Internetu věcí (IoT) či průmyslu pro nejrůznější sběry dat - a tam Windows na nic opravdu nepotřebujete.

Je sice pravda, že se objevilo několik návrhů operačního systému Internetu věcí, ale jejich využitelnost byla malá. Šlo o (z pohledu IoT) těžkotonážní systémy, které toho podporovaly zbytečně moc. Zatímco senzorům sluší jen odesílání dat třeba přes MQTT, hraničním zařízení zase potřebují příjem a lehké zpracování dat, než je posunou směrem do centra či spíše do cloudu. Přizpůsobení jednoúčelových systémů se zde bere jako samozřejmost.  

Tady je silná parketa RISC-V procesorů. Jsou efektivní, variabilní a především mají nyní lepší tah na branku i obchodně. ARM totiž silně škobrtnul: v hýčkající náruči Softbanku ztratil motivaci získávat nové klienty, neboť jeho licenční politika nové klinty znevýhodňovala.  A pro některé staré klienty se v době uvažované akvizice společností Nvidia stal neatraktivním, ba potenciálním konkurentem. A tak se po dlouhé době začaly objevovat vážně míněné procesorové startupy založené právě na RISC-V a směřované především do světa Internetu věcí, průmyslu a zpracování dat. Tam se dalo čekat, že zákazníci sáhnou raději po nezávislé platformě, než po majetku Nvidia, která ve zpracování dat konkuruje kdekomu. A fakt, že o nyní, o skoro dva roky později je transakce pro nesouhlas regulátorů odpískána, na tom již mnoho nezmění. Škoda byla nadělána. A bokem si ponechme situaci v Číně. Ta se snaží zaujmout vedoucí roli na poli procesorů, přičemž nadělat potíže ARMu a mít vlastní platformu, na kterou mají vliv, by se Číně hodilo. Jenže to vůbec nemusí být RISC-V, ozývají se hlasy, že Čína vytváří vlastní ISA, jakkoliv těžké to je. Právě pro účely automotive, sběru dat a IoT.

Považuji za nepravděpodobné, že by velké procesorové společnosti jako třeba Qualcomm nebo Marvell hromadně přecházely od ARMu k RISC-V. Už jen portace vývojových a testovacích nástrojů by byla nesmírně nákladná a dlouhotrvající. Je ale jisté, že i tyto firmy budou vytvářet rodiny RISC-V procesorů ve své nabídce jak pro vedlejší projekty, tak pro zákazníky, kteří si budou přát vyhnout se ARMu.  

Na trhu se toho s RISC-V děje hodně. Koncem loňského roku se potvrdilo, že Google má Android portovaný na RISC-V a také Apple začal tuto architekturu používat pro některé doplňkové funkce. Koncem roku 2022 bylo prodáno více jak deset miliard procesorových jader RISC-V, což není málo (ale taky to není moc).

Existují také vážně míněné pokusy dostat RISC-V procesory do datacenter a udělat z nich moderní serverové procesory. To je ještě jiná liga, než vytvořit procesor posouvající nasbíraná data někam do cloudu. Zatím nejvážnějšími uchazeči jsou společnosti Ventana Micro Systems, Tenstorrent, Rivos a Akeana. Nejsou to ořezávátka, i když jejich jména asi znát nebudete, pokud nejste fajnšmekři: ale například Ventana má za sebou návrh prvního 64bitové jádro ARM. Ventana Veyron VT1 je ve vysokých konfiguracích zcela srovnatelná například s AMD Genoa a poráží Intel Ice Lake i Sapphire Rapids. Něco z toho se dá už i objednávat pro domácí experimenty, jako jsou desky HiFive Unmatched, ale tyhle desky jsou založené na levných verzích RISC-V procesorů.

Vývoj na poli procesorů bude nesmírně zajímavé sledovat. Mimochodem, společnost Codasip má kořeny (a vývojové centrum) v Česku a jeho šéf Karel Masařík je také členem technického řídícího výrobu organizace RISC-V International (článek v E15).

📒Kniha měsíce? Steven Pinker: The Better Angels of Our Nature

Pro mě je to objev měsíce, i když je to kniha stará deset let. Napsal ji kanadský experimentální psycholog a kognitivní vědec Steven Pinker, jmenuje se Lepší andělé naší povahy: Proč násilí klesá. A vypráví přesně o tom, o čem je název - o důvodech a příčinách, proč násilí ve společnosti dlouhodobě klesá. Bohužel zatím nevyšla česky, i když ji zřejmě chystá vydat Academia. Pinker tvrdí, že násilí, včetně kmenových válek, vražd, krutých trestů, týrání dětí, krutosti vůči zvířatům, domácího násilí, lynčování, pogromů a mezinárodních a občanských válek, se v různých časových měřítcích a v různém rozsahu snížilo. Pinker považuje za nepravděpodobné, že by se změnila lidská povaha. Podle něj je pravděpodobnější, že lidská přirozenost zahrnuje sklony k násilí a také protitendence, které jim čelí, "lepší anděly naší přirozenosti". Samozřejmě dostal od mnohých naloženo. Archeolog David Wengrow shrnul Pinkerův přístup k archeologické vědě jako "moderního psychologa, který si vymýšlí za pochodu"... V každém případě za přečtení to stojí. V češtině vyšla Pinkerova navazující kniha Osvícenství tady a teď. Jenže Academia ani v roce 2022 není schopna vydat ji v elektronické podobě. Hamba jim😞

Nakonec jsem si koupil anglické verze a nechal si je přeložit Deeplem ...

🤖Pár nových AI aplikací

Svět generativního AI se intenzivně rozvíjí a každý týden se objevují nové zajímavé služby. Tady jich pár je.

• Stockimg.ai - potřebujete vygenerovat logo, obálku knihy či další užitné grafiky? Tady.

• Usechannel - je datově analytická bomba. Napojíte svoji databázi a ptáte se anglicky na to, co z ní potřebujete vydestilovat. SQL k tomu nepotřebujete...

• Papercup - snadno a rychle nadabujete video pomocí AI.

• Booth.ai je určený hlavně pro eshopy a firmy, které potřebují fotky svých produktů v nejrůznějších podmínkách. Nahrajete svůj produkt a řeknete, jak má být zobrazený, už žádné focení...

• Clickable.so vygeneruje hezké internetové reklamy podle zadání

• Browse.ai umí vyextrahovat informace z webových služeb a to tak, že mu řeknete, co byste potřebovali. Nebo použijete něco z předpřipravených modelů.

• Youtube Summary Plugin pro Chrome - často mi někdo napíše, že se mám podívat na nějaké video, ale já na to nemám čas. Tenhle plugin pro prohlížeč Chrome mi pomocí ChatGPT udělá souhrn toho, o co ve videu jde. Dobrý je to samozřejmě hlavně na dlouhý výukový videa, na pejsky a vtípky to smysl nemá🙂

• Rationale - mobilní aplikace po podporu rozhodování s pomocí umělé inteligence. Zajímavé, ale ještě jsem to nevyzkoušel v praxi.

• Magician for Figma - pro Figma uživatele povinnost vyzkoušet, je to designerské a copywriterské rozšíření pro nástroj Figma.

🕸️Slovec na konec: Wi-Fi 7 nabídne rychlosti 20 Gb/s

Na trh se dostávají čipy pro  Wi-Fi 7, které umožňují konstruovat routery nabízející rychlosti až 20 Gb/s, teoreticky pak ještě více, až 46 Gb/s. Toho se dociluje vysokou šířkou pásma, 320 MHz (oproti 160 MHz u Wi-Fi 6E). Wi-Fi 7 také podporuje funkci Multi-Link Operation (MLO), která umožňuje připojit schopná zařízení ke dvěma spektrům současně (například 5GHz a 6GHz). Wi-Fi 7 je obchodní označení standardu IEEE 802.11BE.

Tak a to je pro tuto chvíli všechno.

Vše nejlepší do nového týdne přeje

Patrick Zandl

PS: Tento newsletter byl rozeslán na 2788 odběratelů.