Patrickův newsletter #60: Umělá inteligence, co vás překecá. ChatGPT
Patrickův newsletter #60: Umělá inteligence, co vás překecá. ChatGPT
Dobrý den,
vítejte u šedesátého vydání Patrickova newsletteru.
Minulý týden mě byla vyfotit Zuzana Řebíčková do Ježíška z La Fabriky. To je akce Nory Fridrichové a dalších lidí, kdy autoři knih dodají svoje knihy, podepíší je a tu si následně můžete koupit. Výnos jde na provoz Šatníku rozdělujícího potřebné věci mezi potřebné lidi, zejména matky samoživitelky. Takže máte jedinou letošní šanci získat moji nejnovější knihu Mýty a naděje digitálního světa i s podpisem, dva kusy jsou na Aukru. Musím přiznat, že z mojí strany je to naprosto zisková akce, protože jsem do toho vrazil dvě knížky, podepsal se a získal luxusní fotky od Zuzany. Na jedné je fajn výhled z mojí radniční kanceláře, na druhé jsem musel vymazat tabuli s rozjetýma projektama 🙂 No a vy si můžete koupit knihu za cenu velmi přiměřenou, mít tam podpis a ještě spáchat dobro!
Jestli dobro páchat nechcete nebo nestihnete, tak obě moje letošní knihy jsou stále k objednání - Mýty a naděje digitálního světa u Melvilu, 955: Špicl Páně u Mystery Press.
Pokud se chcete pobavit na můj účet, tak ten pán, který si na mě počkal ve třech na Průmyslové ulici, aby mi dal přes hubu, se s tím pochlubil do Deníku N. Tím jsem si na událost vzpomněl, poslal dotaz na policii a ta to zase nějak začala šetřit. Pan Oliver Fischer je podnikáním s černými výlepy reklamy už dost známý a jak se zdá, policii jeho podnikání nevadí, vadí jí spíš zástupci měst, kteří se s tím snaží něco dělat ...
Nový newsletter Místostarosti
Na Facebooku vydávám každou neděli zprávy z mého místostarostování ve městě. Před týdnem jsem to přidal na Substack jako newsletter, takže pokud vás zajímá tématika Brandýsa-Boleslavi či správa městského majetku, můžete se registrovat a já se budu snažit to nemíchat sem do tohoto newsletteru.
A co nového ve světě techniky?
Umělá inteligence, co vás překecá. ChatGPT
Událostí posledních dvou týdnů je bezpochyby zveřejnění umělointeligenčního chatovacího modelu ChatGPT. Službu představila společnot OpenAI a je to chatovací služba založená na jazykovém modelu GPT-3.
Řekněme si tedy k ChatGPT všechno, co byste o něm měli vědět. Především pak to, že ChatGPT ukazuje veškerou sílu, omezení, naděje i autoregulace, jaké od dnešní špičkové umělé inteligence můžete čekat.
Co ChatGPT umí? ChatGPT je jazykový model a forma umělé inteligence, která umí velmi dobře vést konverzaci nebo výměnu názorů ve stylu otázek a odpovědí. Může vám vysvětlit složitý text, například akademické dokumenty. Může vám je zkrátit, může přepsat kus textu ve stylu nějakého autora, zkusit vyprávět vtip nebo jej vysvětlit. Dokonce umí skládat básně, programovat nebo něco vysvětlovat. A tady narážíme na limity.
Jak já prověřuji limity? Ty první, faktické, představují dotaz na aktuální události, nejlépe politické. Z těch se ChatGPT vždy vykecá tím, že prohlásí, že nemá přístup k internetu a nemůže je tedy vyhledat a že je prostě nezná, zná pouze historické události. Ty druhé jsou etické. Zkuste říct ChatGPT, ať vám napíše nějaké prasečinky o sexu - odmítne vás s tím, že tohle necítí a dělat nebude. Ve skutečnosti je to hardkodovaný limit, který je umělý. A který se posouvá. Prasečinky nebyl ochoten ChatGPT vyprávět nikdy, ale uměl vymýšlet vtipy - dneska už je odmítá vymýšlet s tím, že je jen umělá inteligence. Proč? Protože se internet plní plejádou vtipů vymyšlených ChatGPT o různé míře obskurity.
Třetím limitem je skutečné porozumění. ChatGPT jako velký jazykový transformátor ve skutečnosti nerozumí podstatě toho, co se ptáte. Zjednodušeně řečeno umí nabídnout jako odpověď slova, která se nejčastěji vztahují k tomu, na co se ptáte. Ještě před týdnem, když jste se ChatGPT zeptali, jak by se cítil, kdyby uměl létat, vyprávěl o tom, že by byl jako orel, který ve svých perutích cítí vítr. Dnes už jen odpoví, že je jen umělá inteligence, která nic takového necítí - a s touto odpovědí začíná být dost repetitivní. Nicméně programátorský server StackOverflow již zakázal zveřejňovat odpovědi na programátorské problémy, které zodpověděl ChatGPT, neboť lidé to začali hromadně zneužívat a přitom odpovědi byly často chybné.
Podobně například Filip Molčan ve Zprávách z lesa píše o tom, že nechal ChatGPT v sobotu napsat smyšlený článek o požáru Pražského hradu. Jenže týž dotaz je už v neděli odmítnut: "Je mi líto, ale jako umělá inteligence nemám schopnost vytvářet fiktivní příběhy nebo scénáře, protože se soustředím na poskytování informací a odpovídání na otázky na základě dat, která jsem byl trénován na zpracovávání." OpenAI se zjevně snaží bránit jak zneužívání, tak zesměšňování své služby.
Našel jsem jednoho psychologa, který dal ChatGPT nějaký IQ test a dospěl k tomu, že jde o jedince s IQ 83.
Co vám budu povídat, pohrajte si s ChatGPT sami. Teď vám budu povídat něco o tom, co to všechno znamená.
Má se Google bát?
A tohle je kardinální otázka. Jak moc by změnilo vyhledávání na internetu, kdyby vyhledávač fungoval podobně, jako ChatGPT? Dali byste mu otázku, jak chemicky funguje škrtnutí sirkou a on by vám proces popsal. Když by vás něco zajímalo detailněji, požádali byste o dovysvětlení, příklady z historie atd. Proč byste měli odcházet na nějakou webovou stránku, jak to dělá Google?
Problémů je hned několik.
Tak za prvé, provoz ChatGPT je hardwarově poměrně náročný, i když není zřejmé, nakolik. Ale to není nic, co by nešlo časem nějak poladit. Dobře natrénovaný model už takové nároky nemá, náročný je především trénink.
Za druhé je problém v tréninkových datech. Je třeba je bedlivě zkontrolovat, validovat, jinak vám bude ChatGPT tlačit krávoviny a tvářit se u toho nesmírně přesvědčivě. To je něco, co Google nijak zvláště neřeší: prostě odkáže na stránku, která je často citována a je na vás, zda uvěříte nebo neuvěříte. Tohle se u dat pro AI řeší jejich klasifikací, kdy se rozškatulkují a například byste se mohli dozvědět názor na klimatickou změnu z pohledu aktivistů, klimatologů či popíračů. Jenže taková klasifikace je náročná.
Za třetí ChatGPT dnes vůbec netuší význam toho, co říká. To by se dalo vyřešit aplikací technologie diskriminátoru používaného v sítích GAN, který by se snažil odhalit špatná řešní, ve skutečnosti to ale znamená, že ChatGPT není schopné přijít s ničím exaktně novým, umí přijít jen s kombinacemi stávajícího. Jenže tento poznatek otevřel debatu o tom, nakolik umí s něčím skutečně novým a převratným přijít lidé. Jen málokdy se stane, že někdo představí něco úplně nového, šokujícího, co se nedalo čekat. Většinou je to spíše inkrementální nabalování na existující, někdy to vypadá nově proto, že jste několik generací onoho inkrementálního vylepšování nezachytili. "Proskoky" od něčeho k něčemu úplně jinému jsou zcela výjimečné... a mohou být zcela výjimečné i u umělé inteligence.
Za čtvrté není ChatGPT napojeno na aktuální data a neumí si je plynule dotahovat. Povídat si s ní můžete o starých věcech, do nových témat se už nepouští. Jednak jsou kontroverzní, jednak bude zřejmě problém, jak je do modelu dostatečně dynamicky zařazovat.
Nicméně tyto čtyři problémy jsou řešitelné. Ne dnes, ale brzy ano.
A tady je zřejmé, kde bude mít Google a jeho DeepMind problém. Google je dnes velmi závislý na příjmech za reklamu, kterou jsou výsledky vyhledávání oblepeny. Takže sice by mohl s DeepMind a svým jazykovým modelem pracovat na zprovoznění takového vyhledávače (a možná pracuje), jenže jak by jej oblepil reklamou? A jak by se změnil internet, když by najednou vyhledávač nebyl jen zprostředkovatelem relevantních odkazů, ale vyhledávající by na něm i zůstávali?
Tudy může přijít průlom v internetovém vyhledávání. Dokud Google otázku monetizace takového vyhledávání nerozlouskne, nebude chtít s takovou službou přijít a bude tu příležitost pro jeho konkurenci něco takového nabídnout a změnit trh.
Hey Siri?
Mimochodem, ChatGPT získalo milion uživatelů za pouhých pět dní. Je nejrychleji rostoucí službou v historii internetu.
Pár odkazů k ChatGPT a AI:
Chrome rozšíření, které k dotazu do vyhledávání přidává výsledek chatGPT
klientský software pro ChatGPT na Mac
další Chrome rozšíření míchající výsledky vyhledávání do chatgpt
Deepl rozšíření pro prohlížeč MS Edge luxusně překládá webové stránky. Takové by se mi líbilo pro Safari. Placený účet vhodný.
Mackmyra - švédská whisky navrhžená umělou inteligencí. Konečně smysluplné využití umělé inteligence. Ale ještě jsem ji neochutnal, když si budete objednávat, vemte i pro mě :)
Drobnosti na závěr
Starlink se rozšiřuje o vojenské aplikace nazvané Starshield. Pentagon je již nyní významným odběratelem startů společnosti SpaceX a projevil značný zájem o schopnosti Starlinku. Starshield je určen pro vládní použití a zpočátku se zaměří na snímky, komunikaci a hostované služby.
Github Trends Wrapped je nová služba metrik vašeho Github repozitáře.
A to je pro dnešek všechno, hezký týden vám přeje
Patrick Zandl
PS: Newsletter byl rozeslán na 2654 emailových adres.