Patrickův newsletter #66: Potíže s průlomovými změnami prostřednictvím AI

Dobrý den,

vítejte u dalšího Patrikova newsletteru. Dnes mám dobrou zprávu, podcast jsem namlouval svým hlasem, chtěl jsem vyzkoušet nový software od Rode a tak se tomu chvilku mohu věnovat. Podcast si můžete přehrát zde.

Potíže s průlomovými změnami prostřednictvím AI

Dnes bude řeč hlavně o umělé inteligence a to poněkud teoreticky. Nakolik je reálné, aby způsobila průlomové změny ve společnosti a masivní transformaci ekonomiky?

Že umělá inteligence způsobí průlomové změny, o tom jsme si již mnohé říkali a slyšeli jsme řadu argumentů, proč by tomu tak mělo být. Umělá inteligence by opravdu mohla naprosto nevýdaným způsobem nastartovat technologickou transformaci i ekonomiku. Jak? Pokud AI nebude limitována, bude moct růst sama o sobě. Stane se univerzálním prostředkem růstu, který bude “všechno vynalézat, vyrábět a zlepšovat, včetně sama sebe”. V tom spočítá ona transformace: znamenalo by to násobné zvýšení produktivity práce, ale zároveň také naprostou změnu všech pracovních i sociálních zvyklostí. Obrovská společensko-ekonomická proměna, přičemž promýšlení jejích důsledků si nechme na jindy.  Najednou by za nás mohla umělá inteligence všechno dělat, všechno vymyslet, vyrobit a my bychom mohli jen spotřebovávat.

Inovační i produkční cykly by se radikálně zkrátily, zefektivnily a rozvoj ekonomiky i společnosti by najednou nečekal na pomalé lidstvo, ale byl hnán kupředu stále rostoucím výkonem křemíku. Každému podle jeho potřeb a práci strojům. Jak dokonalé! Tedy, tahle dokonalost se párkrát v minulosti zvrhla.  Pro někoho je to naděje na záchranu země, pro jiné scifi, pro další noční můra, to teď nechme stranou. Kdo jste četli moji knihu Mýty a naděje digitálního světa máte už za prokázané, že technologie, která může být použita ke zvýšení produktivity, také použita bude. Pokud takto bude možné umělou inteligenci použít, tak bude použita. My se zastavme u toho, zda umělá inteligence k takovéto transformaci posloužit může a jaké jsou praktické nástrahy na této cestě?

Především se musíme zastavit hned u domněnky, že na dosah je Obecná umělá inteligence (AGI), která se bude umět vypořádat s veškerým typem úloh a nebude jednoúčelová, jako jsou dnešní AI. Nebo, přinejmenším, že bude umělá inteligence obecně uplatnitelná pro všechny typy činností. Ani jeden z těchto předpokladů dnes neplatí, zejména ne ten první. AGI stále nemáme, ale ani neumíme uplatnit tu dnešní základní umělou inteligenci na široké spektrum úloh. Umělá inteligence je zatím pro různé typy úloh různě vhodná. Zatímco běžné texty připraví snadno, s právními je potíž. Dobře rozpoznává radiologické snímky v nemocničním prostředí, ale napíchnout fyziologický roztok pacientovi ležícímu v téže nemocnice jí vůbec nejde.

Jaké jsou výzvy, s nimiž se umělá inteligence bude muset potýkat a jsou to limty, přes něž nejde jít?

Problém úzkých hrdel

Zásadním problémem umělé inteligence je fakt, že dnes není schopna nahrazovat celou škálu lidských činností nutných pro vývoj, výrobu a distribuci nějakého produktu. Zatímco někde lze umělou inteligenci použít ke škálování, tedy zvýšení výkonu a tím i produktivity, jinde ji tak použít neumíme. Už ten příklad z nemocnice: umělá inteligence již dnes umí přesvědčivě posoudit snímky z nejrůznějších lékařských snímkovacích zařízení, od rentgenu, přes magnetickou rezonanci. Umí dokonce vyrozumět pacienta a již dnes je myslitelné vyvinout pracoviště, kde je pacient osnímkován a diagnostikován, aniž by přišel do styku s člověkem, ponechme stranou, nakolik je to dnes žádoucí. Jenže píchnutí injekce či zavedení fyziologického roztoku, nebo chcete-li vulgárněji, utření zadku v téže nemocnici umělá inteligence dnes schopná udělat není. Ba dokonce není ani na dohled, že by mohla nahradit péči sestřiček, zatímco vzdělání doktorů by již záhy nahradit mohla.

Problematiku úzkých hrdel můžeme rozdělit do dvou podoblastí. Úzká hrdla na vstupu a úzká hrdla na výstupu.

Tak například píchání injekcí či utírání zadků je úzké hrdlo na výstupu požadované služby a může být vyřešeno pokrokem v jemné motorice. Jenže v jemné motorice robotika nepostoupila řadu let, paže robotů stále nejvíce závisí na servomotorech, táhlech a ozubených kolech, k efektivitě, jemnosti a přesnosti svaloviny mají laboratoře skoro stejně daleko, jako před čtvrtstoletím. Nechat si píchnout injekci od robota je možné, ale zatím stále velmi stresující, zlepšení jsou za ta léta marginální. Druhou variantou minimálně dočasného řešení je outsourcování takové činnosti na člověka, tedy ponechat tuto činnost na sestřičkách.

Nevýhodou úzkého hrdla na výstupu je skutečnost, že dodání služby pomocí AI neškáluje, nelze uspokojit tolik zájemců, kolik umožní cena elektřiny, protože část výstupu dělá nelineárně škálující systém, typicky tedy člověk. Zjednodušeně řečeno: komunismus se odkládá. Stranou ponechme potvrzení Leninovy teze, že komunismus rovná se elektřina.

Závažnějším omezením je úzké hrdlo na vstupu. V tom případě totiž neškáluje ani rozvoj samotné umělé inteligence. Ta pro svůj boom potřebuje data, data je třeba získávat experimenty a experimenty se zhusta provádějí postupy, které jsou fakticky dnes pro umělou inteligenci těžko dosažitelné, například v petriho miskách, s nimiž umělá inteligence mechanicky manipulovat zatím neumí podobně, jako neumí píchnout injekci. Opět máme dvě možnosti překonání: outsourcing na lidi nebo simulaci pokusu.

Úzká hrdla mají svůj dopad na produktivitu systému: zjednodušeně řečeno systém má takovou produktivitu, jako jeho nejužší hrdlo. Ačkoliv umělou inteligenci vybavíme dostatkem křemíku a elektřiny, pokud nevyřešíme omezení na vstupu, nelze očekávat zásadní transormaci, pouze nahrazení části lidské práce prací počítače. Úzká místa brání explozivnímu růstu produktivity, jaký se AGI přisuzuje.

Problematika nerovnoměrných inovací

Tohle je jen vztáhnutí problému úzkého hrdla do makroekonomiky. Zjednodušeně řečeno je potřeba, aby inovace probíhaly rovnoměrně. Nemělo by význam vynalézt spalovací motor, když dejme tomu nemáte vynalezené palivo nebo třeba technologii zpracování kovů, ze kterých je motor  sestaven. Tohle se v běžné životě stává: použitelný mobilní internet přišel na trh v roce 2007 s prvním iPhonem, ačkoliv internet i mobily byly v té době dávno známé, jen bylo potřeba dodělat některé technologie tak, aby byly masově vyrobitelné a použitelné.

Růst produktivity je také v tomto případě omezen mírou inovací v nejslabším potřebném odvětví. Může se stát, že umělá inteligence masivně produkuje, ale produktivita ekonomiky jako celku se prakticky nemění, pouze dochází k dílčím substitucím. To je ostatně stav, který je vždy na počátku implementace nové technologie a ve kterém o tržním uplatnění technologie rozhodne to, zda se podaří držet v tempu rozvoj inovací v celém segmentu potřebném pro danou technologii. Dobrým příkladem jsou baterie pro elektromobily. O uplatnění elektromobilů rozhoduje, zda se podaří dostatečně zlevnit, zkapacitnit a učinit rychle dobíjitelnými baterie v porovnání s cenou jiných paliv. Podobné je to u AGI, jenže v jejím případě je potřebný záběr inovací podstatně širší. A nemylme se. Elektroautomobilům také trvalo sto let, než se etablovaly.

Ne všechna data jsou dostupná

V Česku tolik vysmívané společenské vědy jsou jedním z hnacích motorů rozvoje AI do AGI. Velká část informací totiž není nikde zapsaná, dostupná, jsou to kulturní a společenské zvyklosti sdílené v komunitě, nebo pracovní postupy, které se předávají v rámci komunity, řemesla. V pracovním prostředí jsme zvyklí uplatňování těchto informací nazývat intuice nebo zkušenost, často jsou to tak velké detaily nebo neobjektivizovatelné názory a postřehy, že nejsou zaznamenávány a jsou předávány jen v rámci lidské výuky. Například tehdy, když se při atestaci lékař učí rozpoznávat choroby od zkušenějšího lékaře, nebo když starší právník poučuje nováčka, jak si má všímat nálady soudců. Je věcí sociologů a kulturologů přijít s tím, jak tyto informace zprostředkovat AGI. 

Tento problém je známý všem zkušeným projektovým manažerům, protože určuje způsob, jakým se staví řešitelský tým. Pokud postavíte tým z jednoho kulturního prostředí, zmenšíte režii potřebnou na výměnu informací, na druhou stranu tím také omezíte inovační potenciál. Jak naučit vnímat AGI tuto neobjektivizovanou a nezapsanou zkušenost a jak pracovní týmy obohatit o AGI?

Jak tento handicap ve výuce postihnout? Částečnou pomocí může být reverzní inženýrství. Již dnes je umělá inteligence schopna si zpětně odvodit postup, když zná výsledek. Pokud do ní nahrnete dostatek snímků onkologických pacientů a informací o jejich chorobě, umí najít “vzor”, podle něhož může diagnostikovat další snímky. Tento postup ale není vždycky možný zcela jednoduše. Předpokládám, že dalším řešením bude rozšíření škály senzorů, jimiž bude AGI disponovat tak, aby měla dostatečný přísun dat. Představte si mobilní telefon, který trvale vnímá vše kolem vás a v centrálním cloudu se snaží to interpretovat ne proto, aby vás špicloval, ale aby vydestiloval tyto rozptýlené znalosti. Že si to nikdy dobrovolně neaktivujete? Inu, každá doba má svá očička, která strašně legračně sledují pohyb kurzoru na obrazovce (narážka na SW z přelomu tisíciletí, který ve skutečnosti zjišťoval, co s počítačem děláte a jaké weby navštěvujete). Bude se AGI účastnit výuky na prestižních univerzitách a budou proti tomu univerzity protestovat?

Ve skutečnosti jen málo rozumíme podstatě lidské inteligence, vědomí, morálky a lidskosti a tam, kde víme, to příliš málo akceptujeme sami, natož, abychom to promítali do digitálních systémů. Syntéza společenských věd s technologiemi je pro další rozvoj AGI nezbytná a ani jsme s ní nezačali. Tři Assimovy zákony robotiky nestačí - a jen tak mimochodem, jsou mýtem.

Socioekonomické a regulatorní překážky

I tohle je těžko uchopitelná část, ale ve skutečnosti o prosazení se transformativních technologií ve společnosti rozhodovalo konkrétní nastavení společnosti. Ne bez důvodu vznikla průmyslová revoluce v Británii a ne jinde v Evropě, ačkoliv doba v Evropě byla “těhotná” myšlenkou průmyslové revoluce, industrializace a parního stroje. Jenže socioekonomické podmínky byly příznivé právě tam, v Británii, která se tím stala Velikou.

Dnes je přitom velmi těžké říct, které socioekonomické a jiné podmínky jsou stěžejní a přispějí pozitivně či negativně. Zdá se například, že otevřená společnost je teď vhodnější pro růst inovací, ale bude  tomu tak dlouhodobě? Je otevřenost euroamerické civilizace dostatečnou výhodou, jsou některá omezení čínské společnosti fatální pro tok inovací, nebo to v dlouhodobém pohledu není podstatné, či dokonce je to výhodné? Je nápadné, že ve způsobu stimulu rozvoje se obě civilizace významně přibližují.

Na prostup umělé inteligence a případně AGI do podnikatelského prostředí se v zásadních úlohách bude dlouho hledět skrze prsty a regulace bude rozhodující. Například již dnes tušíme, že pro soudní procesy by umělá inteligence byla vhodnější, než lidský soudce, ale předpokládám, že ještě dlouho bude přetížený a chybující lidský soudce jedinou používanou variantou. Pro příklady restriktivního chování, pro které nebyl technologický důvod nemusíme chodit k AGI. Tak například u výtahů trvalo více jak padesát let, než bylo upuštěno od lidského operátora, ačkoliv již na konci devatenáctého století byla dostupná plná automatizace jízdy výtahem. Podobná omezení se již dnes vyskytují v případě různých forem umělé inteligence. Omezení nemusí být jen legislativní, může se ukázat, že vznikne rozšířený odpor k umělé inteligenci, například k akceptaci děl, jejichž autorem bude umělá inteligence. Podobný osud již měla třeba jaderná energie, která byla v padesátých letech vychvalována jako zdroj levné a čisté energie, ale postupem doby se ukázalo, že v případě problémů jsou škody rozsáhlé, potenciálně obrovsky devastující a řada států od používání jaderné energie upouští z důvodů, které lze objektivně považovat za dobré.

Je tedy dokonce možné, že některé státy či společenství od použití umělé inteligence upustí a to pravděpodobně pod argumentací, že mezní škody, které může defekt při použití umělé inteligence způsobit, jsou devastující a při stávající míře selhání způsobují příliš vysoký náklad na užití takové technologie. Nebylo by to poprvé, kdy by technologii nejlépe užil až její druhý uživatel, nikoliv ten první. 

AI nemusí produktivitu jen zvýšit, ale i snížit

A tím se dostáváme k dalšímu podstatnému problému. Obecně se předpokládá, že umělá inteligence povede téměř automaticky ke zvýšení produktivity, přičemž označení “téměř automaticky” zahrnuje především implementační rizika a náklady. Tedy náklady na to, dosavadní proces automatizovat. Mohlo by se ale stát, že umělá inteligence produktivitu naopak sníží? Když odmyslíme vysloveně chybnou implementaci, tak známe i skutečné případy snížení produktivity. Například umělointeligenční (či nomenklaturně přísně vzato algoritmy strojového učení) pro doporučování témat na sociálních sítích lidskou produktivitu vysloveně snižují. Tady je to věc metriky. V tomto případě jde provozovateli sociální sítě o to, aby návštěvníka udržel co nejdéle v sociální síti, jenže lidskou produktivitu to ve skutečnosti snižuje. Pravda je, že součástí automatizace je snížení potřebných lidských vstupů, jenže nemůže nastat řada dalších, dnes těžko představitelných případů, kdy AI ve skutečnosti celkovou produktivitu sníží? Vezměme si třeba jedno z často zmiňovaných schémat užití AI, kdy umělé inteligence dvou stran společně bez lidského zásahu vykomunikují například nějakou obchodní dohodu, k čemuž budou potřebovat spoustu strojového času a energie. Jak takový systém bude fungovat, když se do něj následně promítne lidská libovůle, neochota takovou dohodu akceptovat kvůli nesdělitelným podmínkám, jako jsou osobní antipatie?

Automatizace zbytného

V takovém případě dosáhneme zbytečné automatizace, při níž vyplýtváme náklady, přínosy ale nebudou podstatné. Nebo zautomatizujeme něco, co se dlouhodobě neukáže být pro produktivitu podstatné. Tak například se dnes velmi často používá AI  pro optimalizaci textů při copywrittingu nebo k návrhům kampaní na sociálních sítích. Jak moc se zvýšení produktivity v copywrittingu promítne do produktivity v celém odvětví, nejde jen o restrukturalizaci v rámci odvětví, která na jeho celkovou produktivitu nebude mít vliv? Jak často se nám stane, že za značného úsilí pomocí umělé inteligence zautomatizujeme úlohy, které ke zvýšení samotné produktivity odvětví nepovedou?

Komplexní řešení, komplexní výzvy

Když se na seznam problémů stojících před transformativním pojetím AI podíváme, nutně vidíme jeho obsáhlost. A nelze nevidět nutnost celkového posunu, ve všech parametrech. Vyřešení jedné skupiny problémů nemusí a pravděpodobně ani nebude stačit. Jenže vyřešit všechny tyto problémy je náročné a bude to nepochybně i zdlouhavé. V řadě případů se může vývoj na dlouho zaseknout, nezapomínejme na to, že technologický rozvoj má tendenci pohybovat se ve skocích a ty skoky nemusí být rovnoměrné mezi jednotlivými odvětvími a zdánlivě neproduktivní periody mohou být deprimující.

Proto se domnívám, že dosažení transformativního pokroku hnaného obecnou umělou inteligencí je ještě na dlouhou dobu vzdáleno. A tím myslím čtvrtstoletí. Umělá inteligence teď absorbcí velkých jazykových modelů udělala velký skok, jenže další skoky nejsou úplně nadohled. To neznamená, že nemohou přijít a statistika nám ani příliš nepomůže. Až přijdou, tak přijdou a zpětně viděno bude jasné, že se k nim schylovalo. Ale také ekonomika a společnost potřebuje absorbovat relokaci zisků: bývá zvykem, že nástup nové technologie se zpomalí poté, co se trh přerozdělí, jako se tomu stalo ve všech třech fázích internetu. To v době, kdy noví vítězové si budou chtít vyzdvihnout a především užít své zisky.

Zabýváme-li se tedy riziky umělé inteligence, můžeme se právem domnívat, že v nejbližších letech nenarazíme na onu existenční hrozbu, kterou do ní promítá scifi literatura a její kritikové. Je možné že samořiditelný automobil chybou v algoritmu přejede svého pána, bude hacknut, nebo že UI v dronu postřílí vlastní vojáky, ale tyto scénáře jsou na úplně jiné koleji, než obecná vzpoura strojů vůči lidem. Nejpalčivější škody AI blízké budoucnosti jsou její snadné zneužití pro nekalé účely a její předpojatost.

Pro sledování rozvoje AGI je nutné sledovat a vyhodnocovat pokrok a rizika v široké škále odvětví, od samotných samoučících algoritmů, přes propojení sociálních věd s AI, až třeba po jemnou servo- a především biomechaniku.

Výzvy obecné umělé inteligence jsou dnes mnohem širší, než se zdá.

Alespoň máme nad čím přemýšlet.

Vše nejlepší do nového týdne přeje

Patrick Zandl