Patrickův newsletter #71: Za tajemstvím rozkladu světa prostřednictvím Qstar
Vyhození Sama Altmana z OpenAI je už za námi, jenže víme opravdu, co se stalo? Mohl za to projekt Q* a rizika, která plynou z umělé inteligence?
Dobrý den,
vítejte u nového dílu Patrickova newsletteru. Dnes bude sice na první pohled řeč o situaci ve společnosti OpenAI, ale to jen opravdu na první pohled. Ve skutečnosti nás bude zajímat, jaké změny přináší umělá inteligence do naší společnosti a ta otázka, zda to nemohl být důvod Altmanova vyhazovu, zůstane jen jako hypotetická, na závěr, spíše pro formu našeho povídání.
Poslechněte si tento článek jako podcast…
A nevíte, co koupit k vánocům? Moje kniha Mýty a naděje digitálního světa má i audioverzi a je dobrým průvodcem všech změn, které nám technická doba přináší do našeho světa… Koupit ji můžete zde nebo v knihkupectvích.
O odvolání Sama Altmana z postu šéfa vedoucí umělointeligenční společnosti Open AI už bylo řečeno mnoho. Pokořujcíí vyhazov na minutu, zděšená komunita i investoři, povstání zaměstnanců, návrat během týdne. O tom se budou točit filmy, říká se, pokud ovšem svět nenakráčí do pekla ještě nějakou jinou a dramatičtější cestou. A o tom bude dnešní zastavení.
Proč opravdu skončil Sam Altman?
Ve skutečnosti se totiž o důvodech překotného Altmanova odvolání nevysvětlilo mnoho. Různě hluboko zainteresovaní novináři přišli s minimálně čtyřmi verzemi. Od palácového převratu z obav před dopadem oné univerzální umělé inteligence, přes dosti pofidérní podezření, že jedna ze členek správní rady byla komunistka, až po střet zájmů Adama D'Angela, člena představenstva OpenAI a zároveň člověka šéfujícího službě Quora, jejíž existence měla být umělou inteligencí ohrožena. Jenže je tu ještě čtvrtá teorie. Co když oficiální vyjádření Open AI o tom, že se obává Altmanovy upřímnosti, bylo pravdivé? Ano, jistě, většina lidí oficiální vyjádření zavrhla jako neupřímnou výmluvu o pochybné upřímnosti, jenže se objevuje řada náznaků, že důvody k pochybnostem byly tehdy oprávněné. Nebo jsou oprávněné nyní.
Tak především vyšlo najevo, že společnost Open AI pod Altmanovým vedením souhlasila s nákupem čipů v hodnotě více jak 1 miliardy Kč od společnosti, v níž měl Altman podíl. To těžko je náhoda, protože zakázkové čipy používané pro učení AI by takový odběratel, jakým je Open AI, získala i jinde. Fakt, že by zakázku zadala neznámé společnosti, by tuto společnost zviditelnil.
Důležitý fakt souvisí s tím, že Open AI byla založena jako nezisková organizace, která tehdy získala daňové výhody výměnou za příslib vybudování bezpečné technologie umělé inteligence a jejích co nejšiřších a nejrovnoměrnějších přínosů, které prospějí lidstvu jako celku. To jsou formulace z původní charty společnosti a tento statut se dosud bere velmi vážně. Celá řada výzkumníků ve společnosti pracuje právě kvůli jejímu vznešenému poslání, ve skutečnosti by si mohli najít práci za lepších podmínek v jiné technologické firmě.
A tím se dostáváme ke Q*, čtěte kjůstár
Jen den před svým odvoláním z čela OpenAI prohodil Sam Altman na firemní developerské konferenci, že je společnost na prahu přelomového produktu. Co jím mělo být, se tehdy nevědělo a vlastně dosud najisto neví. Produkt označovaný jako Q* ale prý podle zvěstí má být rozsáhlým jazykovým modelem, který se sám umí adaptovat na jiné úlohy, než na jaké byl natrénován. Tedy že je umělou inteligencí, která se sama umí učit. Která umí spustit řetězovou reakci rychlého pronikání AI do dalších oborů, jež se sama naučí. A právě tohle je jeden z velkých problémů.
Umělá inteligence totiž vytlačuje celou řadu středně vzdělaných pracovníků. Genereativní umělá inteligence umí již dnes nahrazovat juniorní grafiky či novináře a copywritery či novináře. Umí vygenerovat velmi rychle obrázek či text, umí jej podle připomínek rychle a kvalitně měnit. A její schopnosti se rychle posouvají. Ještě před dvěma lety nic takového neexistovalo, dnes jsou každý měsíc dramatické posuny. Umělá inteligence umí nahrazovat životbytí herců, kterým bere dubbing a postupně umožňuje vytvářet i videoscény. Jistě, hvězdy oboru nenahrazuje. Alespoň prozatím si všichni přijdou raději poslechnout koncert hudební hvězdy, přečtou knihu světoznámého spisovatele nebo podívají na kompozici skvělého umělce. Jenže pro ty méně dobré a především začínající se prostor zužuje.
Situace připomíná tkalce na přelomu osmnáctého století. Jsou dochována jména legend, které uměly tkát zvláště jemnou látku či nápadité vzory, jenže pak jejich práci převzaly stroje a během pár desetiletí pozice špičkového tkalce zmizela z pracovního trhu. Nikdo ji nepotřeboval, protože stroje dělaly dostatečně srovnatelný produkt.
Blahobyt druhé poloviny dvacátého století byl založení na schopnosti společnosti zaměstnat a dobře zaplatit průměrného zaměstnance, tedy muže s vyšším středoškolským vzděláním, který pracoval v továrně a výrobou pokročilého strojírenského produktu zajistil sebe a svou rodinu. Trhliny v tomto společenském uspořádání přišly v osmdesátých letech minulého století, kdy se značná část takové výroby přesunula do Asie a zbývající pracovní pozice vyžadovaly vyšší vzdělání i specializaci, protože pokud se práce začala do USA a Evropy vracet, tak prostřednictvím automatizace. V USA a západní Evropě od sedmdesátých let reálné příjmy této skupiny obyvatelstva stagnují.
Je zajímavé sledovat, jak se s tímto problémem demokratická společnosto potýká. Od doby, kdy je problém ekonomicky i společensky zřetelný, se ukazuje, jak malá je ve skutečnosti politická reprezentace dělnictva. V USA původně Demokratická strana byla stranou dělnictva, dnes ale reprezentuje spíše jeho špičky, rozhodně ne řadového dělníka. V Česku po ústupu ČSSD došlo k vymizení dělnických stran a podobně jako v USA o desetiletí dříve k vymizení dělnické a nižší středostavovské politické reprezentace. Dělnické elity přestala reprezentovat ODS a TOP09 se jejich pravicovým zastáncem nikdy nestala, takže politické vakuum rychle převzalo babišovo ANO a protisystémové strany.
Když si umělá inteligence přijde pro ty, kdo mají politickou moc…
V západní společnosti jev popisuje Thomas Piketty a Amory Gethin, pařížská ekonomická škola, když dokladují postupné vymizení politické reprezentace zájmů dělnické a nižší středostavovské třídy, které je v příkrém protikladu vůči počtu členů této třídy ve společnosti. Piketty s Gethinem dokazují, že tato třída je příliš snadno nahraditelná, neorganizovaná, málo majetná a tudíž pro politiky zbytečná. Navíc touhou této společenské třídy je, aby “to bylo, jako dříve”, kdy jejich pozice byly společensky respektované a dobře placené, což se za prvé vpravděpodobně nevrátí a za druhé politicky i ekonomicky program návratu a zatuchlosti není něco, z čeho by se dalo aktivně společensky či politicky těžit. Proto se těchto výzev chytají jen protisystémové síly, které konzervaci stavu neváhají nabídnout a nezatěžují se tím, že to již dnes není možné.
Jenže s příchodem umělé inteligence se situace mění. Nově ohrožují změny na trhu práce i ty nejvzdělanější, lidi s vysokoškolským vzděláním, kteří měli být proti tržním změnám imunní. Pokud umělá inteligence nahradí grafiky, spisovatele, analytiky a třeba doktory-diagnostiky, vezme práci lidem, kteří věnovali značnou část života sebezvdělávání, kteří jsou na pracovním trhu kratší dobu, než běžný dělník, kteří mohou být zatíženi skutečnými (studentské půjčky) či morálními dluhy (vůči rodičům) a kteří měli značnou naději nadstandardního příjmu. Ta se ovšem začíná vytrácet. Brzy přestane stačit být dobře vystudovaným grafikem a pravděpodobně i průměrným lékařským diagnostikem nebo dobrým právníkem.
Přitom právě tato povolání jsou dnes tahounem politiky. V USA je absolutorium právnické fakulty nejlepším odrazovým můstkem k nadstandardnímu příjmu nebo k politické kariéře. V Česku je právnický titul spolu s pozicí lékařskou a poněkud netradičně i s učitelským působením dobrým startem pro politickou kariéru. A také tři (z devíti) poválečných německých kancléřů mělo právnické vzdělání, další tři vystudovali politické vědy a tradici se vymikala především Angela Merkelová (fyzička). Také polovina německých prezidentů byla právníky. Podobná situace je i ve Francii, kde post premiéra obsazovali především právníci nebo absolventi politologického institutu SciencesPo či ENA. Také čtyři ze čtrnácti polských porevolučních premiérů bylo právníky.
Co se stane, až umělá inteligence začne vytěsňovat pracovní pozice, které mají dnes silnou politickou reprezentaci? Proběhne likvidace těchto pracovních pozic stejně snadno, jako když globalizace outsourcovala dělnická pracovní místa do Asie? Opravdu budete potřebovat právníka na sepsání smlouvy, když ji stejně dobře sepíše umělá inteligence a navíc ji ve většině případů bude uzavírat s umělou inteligencí protistrany? A opravdu budete ochotni za lidskou obsluhu zásadně připlatit?
Podle analýzy Goldman Sachs téměř polovina právních činností v USA může být přebrána umělou inteligencí. V USA se tak ještě rozšíří příjmové nůžky mezi právníky, kdy skvělí právníci berou v průměru trojnásobek příjmu běžných právníků. Pracovní pozice vůči umělé inteligenci uhájí jen ti nejlepší. Ale co s těmi ostatními?
V dlouhodobém horizontu se umělá inteligence jistě stane přínosem, jakým se staly třeba automatické tkalcovské stroje. Krátkodobě má ale potenciál destabilizovat politické i společenské struktury a tím významně změnit směřování lidské civilizace. Věnoval jsem tomuto tématu velkou část své knihy Mýty a naděje digitálního světa a o rok později vnímám tento problém jako stále aktuálnější a naléhavější.
Mohla tahle úvaha být důvodem, proč se někdo rozhodl zdvihnout ruku pro odvolání Sama Altmana z pozice šéfa OpenAI a pokus vrátit firmu na méně kolizní společenskou trajektorii? Prý možná. Nevíme.
A to je jedno ze špatných ponaučení z dění kolem OpenAI: upřímný zřejmě nebyl jen Sam Altman, ale celé vedení OpenAI. Minimálně o důvodech, které k Altmanově odvolání vedly. A to není právě uklidňující se vší tou nejistotou, která kolem dopadu AI na společnost panuje. Nezdá se, že ti, kdo to mají v rukou, jsou upřímnými a/nebo těmi zodpovědnými a chytrými…
Vše nejlepší do nového týdne přeje
Patrick Zandl
Plne souhlasim se zaverem, malokdy nekdo rika plnou pravdu a toto je ocividne ten pripad, kde lzou vsichni. Pisu jenom kvuli poslednim odstavci, ktery je nesrozumitelny:
> upřímný zřejmě nebyl jen Sam Altman, ale celé vedení OpenAI. Minimálně o důvodech, které k Altmanově odvolání vedly.
melo byt - neuprimny nebyl jen SA, ale i cele vedeni.... nebo - uprimny nebyl ani SA, ani cele vedeni.
Jinak diky za pocteni.
Hezky shrnuté. Spíš je otázka, co s tím dělat? Sedíme na okraji civilizace, díváme se do zapadajícího slunce a ....? Připadá mi, že je cestou větší specializace a prohloubení znalostí, případně více oborovost, kdy budou ceněni více "vykladači" světa či překladatelé toho, co se děje a jak vlastně svět chápat. Ale to určitě není role pro každého, kdo bude "nahrazen" AI. Za mne to bude ještě velké špatné (pro někoho), ale lidstvo se z toho vzpamatuje (jako ze všeho).