Patrickův newsletter #67: Kdo jde kdo v AI?

Dobrý den,

vítejte u dalšího Patrickova Newsletteru. Překvapí někoho, že v této době není zase o ničem jiném, než o umělé inteligenci? Ostatně, o tom, jak jsme zkoušeli umělou inteligenci na městském úřadě, byla zmínka i v reportáži Českého rozhlasu.

My se dnes dozvíme několik novinek z oblasti AI a pak se podíváme na to, kdo je kdo v umělé inteligenci.

ChatGPT Enterprise bude umělá inteligence pro vaši firmu

A příjem pro OpenAI. OpenAI představila firemní verzi ChatGPT s přidanými funkcemi a ochranou soukromí, což je zatím nejvýznamnější snaha přilákat širokou škálu firemních zákazníků a zvýšit příjmy. Kolik se za službu umělé inteligence pro firmy bude platit, zatím není známo. Prý se lze dohodnout - zatím to ale vypadá na službu pro větší firmy.

Stejně jako u spotřebitelských verzí chatbota společnosti s umělou inteligencí mohou uživatelé zadat dotaz a obdržet písemnou odpověď od ChatGPT Enterprise. Součástí nového nástroje je neomezené používání nejvýkonnějšího generativního modelu umělé inteligence OpenAI, GPT-4, a také šifrování dat a záruka, že startup nepoužije data zákazníků k vývoji své technologie. Nabízí také možnost zadávat mnohem delší vstupy. Snížena má být také náchylnost AI k halucinování.

Ostatní detaily zatím nevíme. Není jasné, zda budou fungovat třeba pluginy, u kterých mám dojem, že by bylo složité ochránit soukromí dat. Na druhou stranu by bylo velmi zajímavé, kdyby OpenAI nabídla v Enterprise režimu schopnost nasávat a do modelu zahrnovat firemní data, protože to se mi v poslední době jeví jako velmi atraktivní věc. Na Twitteru se zmínky o funkcích integrace s cloudovými úložišti objevily, tak uvidíme.  Takové AI se můžete zeptat na cokoliv, například na to, zda někdo ve firmě nepracuje na nějakém specifickém projektu, nechat si analyzovat data atd.

OpenAI vydala příručku pro učitele

Českem rezonuje nadhozené téma AI a vzdělávání. Česká tendence AI ve školství vypadá zatím velmi restriktivně: zakázat, identifikovat, zadupat, ať se žáci snaží sami, memorují a sami přemýšlejí. OpenAI jako lídr v oblasti umělé inteligence vydal článek a další materiály o použití umělé inteligence ve vzdělávání.

Podle mě je to extrémně špatný přístup. AI je zde a přináší konkurenční výhodu, které je nesmysl se vzdát. Samozřejmě, že část znalostí se musí namemorovat pro případ, že se vrátí doba kamenná, jste na pustém ostrově či je potřebujete jako vstup pro vlastní kreativitu. Jenže pokud AI přinese výhodu v dalším životě, je naopak vhodné se naučit, jak ji do něj zapojit, jak výhody využívat a nevýhody identifikovat či eliminovat. Učitelé by naopak měli povzbuzovat žáky k používání AI - sám vnímám, jak mým dětem prospívá, když AI používají jako někoho, kdo jim látku vysvětluje, na koho se mohou obrátit a zároveň o jehož tvrzení se vždy pochybuje. Vojta si dotyčný problém nechá od AI vysvětlit, ukázat různými postupy, aby se přesvědčil, že nejde o halucinační odpověď - a tím si věc hezky procvičí.

Co příručka probírá?

OpenAI vyžaduje, aby uživatelé ChatGPT byli starší 13 let, a uživatelé ve věku 13 až 18 let musí mít k používání chatbota svolení rodičů nebo opatrovníků. Aby se zabránilo používání umělé inteligence v testech, doporučuje OpenAI, aby si pedagogové udělali vlastní průzkum různých přístupů a formulovali své zásady používání umělé inteligence na základě toho, co jim nejlépe vyhovuje.

Příručka také doporučuje, aby se pedagogové nespoléhali na detektory AI, které jsou dostupné na trhu. U žádného z těchto detektorů umělé inteligence nebylo prokázáno, že by spolehlivě rozlišoval mezi obsahem vytvořeným umělou inteligencí a obsahem vytvořeným člověkem. Ve skutečnosti vlastní detektor AI společnosti OpenAI označil lidmi psaný text, jako je Shakespeare a Deklarace nezávislosti, jako text vytvořený umělou inteligencí. Proto jej také OpenAI stáhla.

K řešení problému, kdy studenti prezentují obsah vytvořený umělou inteligencí jako svůj vlastní, navrhuje společnost OpenAI, aby učitelé povzbuzovali studenty ke sdílení konkrétních konverzací z ChatGPT. To totiž pomůže pedagogům ověřit, zda studenti s nástrojem pracují zodpovědně a smysluplně, a ne pouze kopírují odpovědi.

Tématem se česky zabírá také David Navrátil.

AI a vzdělávání? Služba StudyPlannr umožňuje vytvořit vzdělávací plány pro žáky i rodiče k dosažení správného vzdělávacího cíle.  Zatím spíše pro americký trh.

Drobky

• Tesla představila facelift modelu 3 - objednávat lze i v Evropě. Podrobný článek zde.

• Britské území Anguilla (v Karibiku) prý získá do rozpočtu navíc kolem 30 milionů dolarů. Tolik mu vynese zvýšený zájem o registraci domén v TLD .AI, které obhospodařuje …🙂

• AI se dostává i do výuky jazyků. Objevují se první služby, kde vyučujícím je chatbot umělé inteligence. Zkuste Langley, je dobrý, akorát není pro češtinu,  no…

• Cestujete? AI pomáhá plánovat a navrhovat cesty. Třeba Tripbot - tomu řeknete, kam jedete, co zhruba byste chtěli vidět, jak dlouho tam budete a on vám navrhne, co tam vidět, kde spát a jíst.

• A ještě jedno zajímavé použití AI: Savey Meal Bot je služba, které řeknete, co vám zbývá v lednici a ona vám vygeneruje recept, jak to spotřebovat a dobře se najíst… Přiznám se, že jsem to zatím nezkoušel …

• Baidu vydalo svého prvního AI bota, jmenuje se Ernie. Čekal na schválení čínským regulátorem, jak stanový nový Čínský zákon. Podle čínské legislativy totiž AI podléhá regulaci. Asi si moc nepokecáte, je zaměřený nepřekvapivě na čínštinu…

---

Kdo je kdo v AI

Tyhle seznamy já mám i nemám rád, protože síla autora i čtenářů je jen na několik jmen, ale zase je dobré mít přehled. Dnes si vezmeme tři jména, jedno podle významnosti, druhé podle vlivu, třetí jako alternativu k prvnímu.

Sam Altman (CEO OpenAI)

Kdo se mnou putujete mým technologickým životem, si musíte Sama Altmana pamatovat. V roce 2005 přišel s tehdy obtížně uskutečnitelným nápadem na sociální síť založenou na lokalizaci polohy. Jmenovala se Loopt a byl to průlom spíš myšlenkový, než obchodní. Firmu v roce 2012 acquihirovala společnost Green Dot Corporation, která se zabývá nudným korporátním vývojem platebních systémů. Trvalo řadu dalších let, než se sdílení polohy stalo běžnou součástí mobilních sítí. Ovšem neúnavný evangelizátor Sam Altman se vryl do podvědomí lidí a pamatuju si, že sám jsem byl zvědavý, kde skončí. V roce 2014 byl jmenován prezidentem prestižního startupového akcelerátoru Y Combinator, který vedl dlouhých pět let. Velmi úspěšně. Později v roce 2019 vyšuměl z každodenní operativy do pozice předsedy představenstva a od dalšího roku už do provozu Y Combinatoru vůbec nezasahoval. Našel si novou životní roli, stal se výkonným ředitelem OpenAI. Jak se k tomu dostal? Firma OpenAI byla v roce 2015 spoluzaložená YC Research, tehdy napojenou na Y Combinator a Sam Altman byl jedním z lidí, kteří se významně zasloužili o zajištění financování společnosti ve výši jedné miliardy dolarů. Tehdy ještě věřil v OpenAI jako ve striktně neziskovou společnost. Nebo to alespoň říkal. A když bylo firmu potřeba v roce 2020 posunout na vyšší úroveň, byl logickou volbou. OpenAI je dneska nejžhavější polínko v oblasti umělé inteligence a firmou, která se snaží vyvinout obecnou umělou inteligenci AGI. K tomu jí má pomoci i desetimiliardová investice, kterou Sam Altman dohodl s Microsoftem.

Jako každý úspěšný šéf si i Sam Altman dovoluje rozptylující vedlejší projekt. V jeho případě jde o Worldcoin a jeho World ID. To Altman popisuje jako "digitální pas", jenž má prokázat, že jeho držitel je skutečný člověk, nikoliv bot s umělou inteligencí. Pro získání průkazu World ID se zákazník zaregistruje a provede osobní sken oční duhovky pomocí "koule" Worldcoin, stříbrné koule o velikosti přibližně bowlingové koule. Jakmile sken oční duhovky na kouli ověří, že se jedná o skutečného člověka, vytvoří World ID. World ID mají být nezbytné v době generativních chatbotů s umělou inteligencí, jako je ChatGPT, kteří vytvářejí díla podobná lidským. World ID by se mohly používat k rozlišení skutečných lidí od botů s umělou inteligencí na internetu a podle Altmana může být základem budoucí infrastruktury umožňující například i UBI, Univerzální základní příjem, jenž podle Altmana souvisí s univerzální umělou inteligencí.

Sam Altman narozený v roce 1985 studoval jeden ročník počítače na Stanfordu, ze školy ale odešel bez titulu, je vegetarián, gay a prepper. Magazín Forbes jej nejnověji zařadil na seznam stovky nejvlivnějších lidí světa. Firma OpenAI má hodnotu kolem 27 miliard dolarů.

Andrew Ng (výzkumník)

Andrew Ng je proti Altmanovi spíše akademický činovník, ale v oblasti umělé inteligence ten pravděpodobně nejvlivnější. Ale není jen školometský akademik, to vůbec ne. V roce 1998 promoval na MIT, o čtyři roky později PhD v Berkeley, od téhož roku odborným asitentem na Stanfordu, od roku 2009 docentem tamtéž. Tolik stručně akademické prostředí. Čím v něm uspěl? Svými pracemi o umělé inteligenci a hlubokém učení. Je také spoluzakladatelem online vzdělávací platformy Coursera, která celosvětově zdemokratizovala přístup ke kvalitnímu vzdělávání. Ngova angažovanost v oblasti online vzdělávání změnila způsob, jakým se lidé učí, prolomila geografické bariéry a umožnila flexibilní a personalizované vzdělávání. Dnes je platforma Coursera s několika miliony absolventů jednou z největších online vzdělávacích platforem na světě.

V roce 2011 Ng založil ve společnosti Google projekt Google Brain, který vyvíjel rozsáhlé umělé neuronové sítě s využitím distribuované výpočetní infrastruktury společnosti Google. Mezi jeho významné výsledky patří neuronová síť vycvičená pomocí algoritmů hlubokého učení na 16 000 procesorových jádrech, která se naučila rozpoznávat kočky pouze po zhlédnutí videí na YouTube, aniž by jí někdo řekl, co je to "kočka". To už je dneska klasika, ale tehdy naučil učící algoritmy se skutečně učit.

Následně působil Ng od roku 2014 jako předseda skupiny Baidu AI Group, kde stál v čele kritických projektů v oblasti umělé inteligence. Jeho vedení v této funkci významně přispělo k tomu, že se společnost Baidu stala globálním lídrem v oblasti umělé inteligence. Pro společnost také vyvinul platformu umělé inteligence nazvanou DuerOS a další technologie, které Baidu posunuly před Google v diskurzu a vývoji umělé inteligence.

Mezi Ngovy přínosy se počítají četné, dnes již klasické a samozřejmé inovace. Byl například jednim z prvních, kdo pro AI výpočty začal používat grafické procesory. Dnes propaguje přechod na platformu HPC. Publikoval či je spoluautorem více jak 200 vědeckých článků o AI, ML a robotice.

Andrew Ng se narodil v roce 1976 ve Velké Británii, jeho manželkou je Carol Reiley, významná výzkumnice v oblasti autonomní robotiky, podnikatelka a dnes šéfka medicínského AI starutpu. Má s ní dvě děti.

Daniela Amodei (prezidentka Anthropic)

První žena na tomto seznamu. Spoluzakladatelka společnosti Anthropic, kterou založila v roce 2020 se svým bratrem Dariem po odchodu z OpenAI. Před spoluzaložením společnosti Anthropic pracovala jako manažerka rizik ve společnosti Stripe. Později se stala viceprezidentkou pro bezpečnost a politiku ve společnosti Open AI, kde hrála klíčovou roli při zajišťování bezpečnosti a etického používání technologií AI. V roce 2020 se spojila se skupinou podobně smýšlejících lidí a založila společnost Anthropic, která se zabývá bezpečností a výzkumem AI a posouvá hranice možností umělé inteligence. Jejich viditelným produktem je chatbot Claude.

Daniela Amodei je známá svým úzkým poutem s bratrem Dariem Amadeiem. Jejich pouto se přeneslo i do profesního života. Dario Amadei je spoluzakladatelem a generálním ředitelem společnosti Anthropic, vystudoval fyziku na Stanfordu, získal doktorát z biofyziky na Princetonu a má bohaté zkušenosti v oblasti výzkumu a umělé inteligence. V OpenAI Dario pracoval v letech 2016-2020 a dohlížel na vytvoření jazykových modelů GPT-2 a GPT-3 společnosti.

Sourozenci Amodeiovi se zabývají právě tím, že modely umělé inteligence zůstávají navzdory svému obrovskému potenciálu do značné míry nepřehledné a obtížně pochopitelné. Proto se rozhodli pracovat na zlepšení našeho porozumění těmto systémům umělé inteligence. Chatbot společnosti s názvem Claude je podobný ChatGPT společnosti OpenAI, ale je vycvičen technikou označovanou jako "ústavní AI", která stanovuje zásady, jako je výběr odpovědí, které jsou podle společnosti "nejméně rasistické a sexistické" a podporují život a svobodu.

Kromě vývoje "algoritmu nové generace" pro svého chatbota Claude Anthropic usilovně pracuje na získávání kapitálu. Nedávno získala 450 milionů dolarů od sponzorů včetně společností Google, Salesforce a Zoom Ventures. Nicméně je třeba poznamenat, že dřívější kolo financování ve výši 580 milionů dolarů, které Anthropic získal, vedla společnost Alameda Research Ventures padlého krypto-podnikatele podvodníka Sama Bankmana-Frieda.

Daniela Amodeiová získala bakalářský titul na Kalifornské univerzitě v Santa Cruz v oboru anglická literatura, politika a hudba. Paradoxní je, že její rok narození se mi nepodařilo dohledat...

Emad Mostaque (CEO Stability AI)

Mostaque se narodil roku 1983 v Jordánsku, ale vyrůstal v Bangladéši a ve Velké Británii, kde v roce 2005 získal bakalářský titul z informatiky na Oxfordské univerzitě. Před založením společnosti Stability AI v roce 2020 strávil podle New York Times více než deset let prací v hedgeových fondech. Zdá se, že působení ve finančnictví mu poskytlo příjemný polštář pro založení společnosti Stability AI, kterou údajně financoval sám a později s pomocí prostředků od investorů včetně společností Coatue a Lightspeed Venture Partners.

Společnost se podílela na vytvoření AI modelu Stable Diffusion pro převod textu na obrázek. Pro Mostaquea je prioritou udržet model s otevřeným zdrojovým kódem a bez zábran, které by omezovaly, jaký obsah může model generovat. Později, ve snaze učinit umělou inteligenci Stability komerčně atraktivnější trénoval verzi Stable Diffusion na souboru dat, který byl filtrován tak, aby z něj byly odstraněny pornografické obrázky.

Tento postoj vyvolal odpor dalších členů komunity umělé inteligence, veřejných činitelů a firem, jako je Getty Images, která v únoru zažalovala Stability AI za porušení autorských práv a tvrdila, že společnost zkopírovala 12 milionů obrázků pro trénink svého modelu umělé inteligence.

Přesto se nástroje společnosti Stability AI staly jedněmi z nejoblíbenějších a nejznámějších zástupců v oblasti generativní umělé inteligence. Čtyřicetiletý Mostaque bydlí v Londýně a vymyká se snadnému zaškatulkování. V březnu 2023 patřil ke skupině, která podepsala otevřený dopis vyzývající k pozastavení vývoje umělé inteligence pro cokoli pokročilejšího než GPT-4, chatbota umělé inteligence od OpenAI. Zdá se, že jeho pohled na pokrok A.I. se pohybuje ve dvou extrémech vzhledem k jeho nedávným komentářům, že by v nejhorším případě mohla ovládat lidstvo, zatímco při jiné příležitosti prohlásil, že AI se nebude zajímat o lidi. Mezi další zvláštnosti patří, že mu bylo diagnostikováno ADHD a Aspergerův syndrom. Naposledy se do novin pořádně pod palbu dostal v červnu 2023, kdy se ukázalo, že lhal ohledně rozsahu svého zapojení do vývoje Stable Diffusion a že mystifikoval veřejnost o svém vzdělání. V každém případě ale hodnota jeho společnosti Stability AI dosahuje 4 miliard dolarů a přes svoji velkou hubu patří Emad Mostaque mezi nejvlivnější osoby v oblasti AI.

Tak a to je protentokráte vše.

Štastný start do nového týdne přeje

Patrick Zandl

PS: Tento newsletter byl rozeslán na 2987 adres. Potřeboval bych 14 odběratelů, abych se dostal nad tři tisíce. K ničemu to nebude, jen nebudu sledovat, kdy se přes ty tři tisíce dostanu…