Pandořina skřínka jménem AI otevřena: nejsme připraveni na tak rychlé tempo

Předně musím říci, že nemám rád označení AI či „umělá inteligence“ (ale budu se ho z úsporných důvodů dnes držet). Nic takového podle mě zatím neexistuje, jde o tu více, tu méně pokročilé systémy neuronových sítí, které umí imitovat stále lépe a lépe určité lidské činnosti, ale nejsou si vědomy vlastní existence a toho, co dělají.

Pokud „AI systém“ umí vzít 100 let starý černobílý film a udělat z něj barevné 4K video se 60 snímky, pak to sice je sympatický nástroj, ale on prostě tupě aplikuje nějaký naučený vzor a vlastně neví, co dělá, proč to dělá a jaké to může mít důsledky. To vše navzdory tomu, zdali takový systém je či bude schopen projít Turingovým testem, ať už v jakékoli modifikaci reagující na argument čínského pokoje a podobně.

Čili to vše, co v těchto dnech hýbe světem, tedy Google AI, ChatGPT či nový Microsoft Bing/Edge, nejsou systémy umělé inteligence, ale samoučící se systémy kopírující svým modelem lidské učení. Ale do titulku článku jsem AI dal, neb kdyby nic jiného, AI v názvu dnes zvyšuje čtenost zhruba stejně jako COVID-19 před dvěma roky či Anna Kurnikovová před dvěma dekádami. AI prostě frčí.

Michal Rybka se na PCTuningu tématu před pár dny věnoval z širší vnější perspektivy a mimo jiné konstatoval smutný fakt: …vše, co se dá zneužít, bude zneužito… a pro AI to platí jednoznačně…. Nelze než plně souhlasit.

Dnešní impozantní schopnosti ChatGPT budeme v porovnání se schopnostmi ChatGPT v roce 2025 považovat za primitivní. Co prezentoval Microsoft, je snad ještě impozantnější právě díky propojenosti do celého ekosystému produktů a služeb Microsoftu. A to jsme na začátku cesty.

Knihovna 20. let 21. století

Dovolte mi zahrát si dnes na moderního ludditu. Když jsem byl malý capart, existovaly pouze tištěné knihy a knihovna na sídlišti. Jiné zdroje informací jsem k dispozici neměl. Dodnes si pamatuji, kterak Knižní klub vydal v roce 1993 Encyklopedický slovník, tehdy za poměrně krvavých 250 Kč (pro členy klubu 195 Kč). Já s ním vydržel skrze celou střední školu. Mohl jsem se v něm dočíst, že třeba Isaac Asimov byl americký biochemik a spisovatel, autor románů o robotech a série Nadace (píši to z hlavy, takto to ve mě je uloženo i po 30 letech). Toť vše, nic víc. Toto byla moje středoškolská Wikipedie.

Ano, mohl jsem řekněme v 80. letech teoreticky jít do modelové knihovny s jejím kartičkovým rejstříkem, vyhledat vhodně znějící titul a listováním stovek stránek se dobrat k nějaké konkrétní informaci. Ale to byl proces náročný fyzicky, časově i všelijak jinak.

Pak přišel Internet a Altavista (či Seznam). Kdo chtěl najít instalatéra v Benešově, musel spoléhat na to, že se instalatér do tupého rejstříku Altavisty (či Seznamu) ručně přidal. Jinak se o něm člověk z internetu nedozvěděl. Zase tu ale byly Zlaté stránky, fenomenální zdroj miliónů dílčích porušení GDPR – vzpomínáte?

Tou dobou ale Sergej a Larry už na Stanfordu kutili svůj projekt. Pak se zrodil Google a otřásl celým světem, který se okamžitě proměnil. Generace dnešních náctiletých už výše popsaný svět minulosti nezažila, podobně jako já jsem nezažil, jaké to bylo nosit vodu z obecní studny, abych se večer umyl, či dolévat petrolej do lampy, abych si mohl číst.

V poklidném líném světě Googlu trávíme posledních více než 20 let. Natolik nám všem zalezl pod nehty, že dnes bez nějakého použití Googlu nežije v tomto státě nikdo. I kdybychom se chtěli Googlu stoprocentně vyhnout, tak se nám to nepodaří, protože někde v hlubinách státní správy budou jeho systémy používány. Pokud to není právě Google, bude to platit třeba pro Microsoft.

Google naprosto změnil lidskou civilizaci. Některá povolání kvůli němu zanikla, jiná díky němu vznikla – například specialisté na SEO. Ale jak ukazuje ChatGPT a dema Microsoftu, zrovna povolání takového člověka nejspíš bude mít poměrně jepičí život: vzniklo řekněme po roce 2005 a je otázka jestli vydrží alespoň do roku 2025. O roku 2035 bych si dovolit s téměř absolutní jistotou pochybovat. Proto se také Google pokusil den po Microsoftu o damage control, což byla velká mediální katastrofa, která srazila hodnotu akcií Alphabetu znatelně dolů.

Michal Rybka psal o zneužívání AI převážně v kontextu toho, jak ji na nás vrhnou korporace. Úskalí ChatGPT, případně systému Microsoftu protkaného do vyhledávače, prohlížeče Edge a v budoucnu jistě i Office 365 / Teams je ale též na osobní uživatelské úrovni: tam, kde student před 30 lety musel fyzicky do knihovny a sám se dopracovat k příslušným informacím, je mu Google schopen je dnes poměrně slušně předhodit do výsledků vyhledávaného dotazu i s typickým informačním boxíkem vpravo. Ale musí se jimi probrat sám, články pročíst a nějakou analýzu a syntézu informací provést pěkně postaru vlastními šedými buňkami. To je to, co ChatGPT a jemu podobní změní.

Typický dnešní student, pokud je příslušně líný (jako jsem byl na střední škole já) a nechce se mu probírat ručně výsledky z Googlu, může stejný problém předhodit ChatGPT či Bingu a dostane radikálně sofistikovanější odpověď. Nové systémy jsou schopny mu informace přechroustat, setřídit i rovnou vygenerovat nový text s novými závěry. Že je něco takového v České republice sci-fi? Nikoli, už se tak děje.

Začalo se tak dít asi tak druhý den poté, co se informace o ChatGPT rozšířila českým internetem. Mladí lidé jsou extrémně rychlí a flexibilní v adaptování nových technologií do života. Generace před nimi jako první začlenila do svého života Google, iPhone i Myspace, půlgenerace po nich ve zlomku okamžiku migrovala na Facebook, Instagram a Whatsapp a o chviličku později začala trávit nekonečně hodiny na TikToku. Kdo si myslí, že ChatGPT ještě nepoužívají, je zhruba stejně naivní jako český stát s přístupu k regulaci nikotinových sáčků.

Manfred Spitzer opět na scéně

Hvězda německého psychologa a psychiatra prof. Manfreda Spitzera vyšla s jeho knihou Digitální demence (celým názvem Digitální demence. Jak připravujeme sami sebe a naše děti o rozum) a pár let se udržela. Zhruba do tohoto časového období se datuje též známý přelomový text Nicholase Carra nazvaný Is Google Making Us Stupid?, na který autor později navázal neméně zajímavými knihami jako Nebezpečná mělčina. Proč zde tyto pány uvádím: jako správný neoluddita totiž reprezentuji jejich díla jako protipól k obecnému nadšení z nových digitálních technologií. Tam, kde svět oslavoval Facebook, jsme se o pár let dozvěděli o jeho drasticky špatném a vědomém přístupu k psychické pohodě zejména mladých lidí.

Steve Jobs dal světu iPhone, ale jeho děti jej nesměly používat. Chodily do školy, kde nebyl jediný počítač. Chamath Palihapitiya byl vysoce postaveným zaměstnancem Facebooku, ale svým dětem jej zakázal. Dnes už víme, že tyto nové technologie mají velmi negativní dopad na psychický rozvoj jedince i sociální vazby celé společnosti. Neméně negativní dopad má i Google a jeho všudypřítomné servírování relevantních informací uživateli, jak psal už před 15 lety Nicholas Carr.

Zde se vrací na scénu Manfred Spizer se svou analýzou fenoménu digitální demence. Vzpomeňme třeba pasáž z jeho knihy, kdy popisoval úžasné schopnosti eskymáků i za sněžné bouře, kdy běžný západní civilizovaný člověk nevidí nic, než bílo, trefit do kilometry vzdáleného iglú – i to se velice rychle stalo minulostí, píše Spitzer: jakmile si první eskymák pořídil první sněžný skútr s GPS, během jediné generace se tato historicky děděná schopnost vytratila.

Všimli jste si někdy jedné zajímavosti? Tak jako moderní eskymák neumí trefit do svého iglú či tak jako já už dnes neumím rozdělat oheň třením dvou kousků dřeva, neumí současný školák zjistit čas pohledem na ručičkové hodiny a nedokáže získat potřebnou informaci, pokud její hledání vyžaduje úsilí delší než pár sekund. Neplatí to samozřejmě pro všechny, ale množství těch, kteří prostě po pár sekundách ztrácí motivaci hledat výsledek složitěji než dotazem na Googlu, s každým dalším populačním ročníkem roste.

Lenivíme a hloupneme

Vezmeme-li za platná a prokázaná zjištění jihokorejských lékařů z doby před téměř 20 lety, která propagoval prof. Spitzer a spol. a vezmeme-li zavděk dalšími poznatky o vlivu Googlu, GPS navigací a myriády dalších vylepšovátek na reálné schopnosti lidí, pak bychom se měli bát. To proto, že AI systémy mají potenciál tuto degradaci lidského umu a schopností ještě více akcelerovat. Již několik let Martin Stránský tvrdí, že IQ lidí se snižuje, poprvé máme na světě generaci, která je hloupější než ta předchozí – sice stejným dechem dodává, že zatím nevíme, zdali je to vlivem technologií, nebo prostě homo sapiens narazil na svůj strop, nicméně tomu tak je a korelace je jasná (ano, korelace není kauzalita, vím).

Lze vyslovit, pokud ne přímo závěr, tak alespoň předpoklad, že postupně technologiemi lenivíme a v důsledku toho hloupneme. Navíc nás tytéž technologie přesycují informacemi, často nepodstatnými a zcela přetěžují náš rozhodovací a analytický aparát. Průměrný teenager neudrží pozornost déle než osm sekund, což je doba, po kterou udrží pozornost akvarijní rybička, říká internetem kolující poznatek.

Neplatí to samozřejmě pro všechny, ale rostoucí důraz na téma digitálního wellbeingu a snahy o digitální minimalismus či „dopaminový detox“ jasně naznačují, že toto opravdu je velkým problémem, se kterým je nutné něco udělat. Škarohlídsky dodejme: pokud není pozdě. Evoluce je totiž mrcha a trvá to zhruba pouhých pět generací, než zvyk přejde do dědičné genetické informace, což dokazují třeba afričtí sloni bez klů, kterým evoluce pomohla, aby nebyli právě pro ty kly loveni.

V tomto kontextu je nutné se vrátit ještě na chvíli k Chamathu Palihapitiyovi. Pokud dnes máme na světě děti, které hůře rozumí sami sobě, hůře fungují v sociálních vztazích, hůře řeší problémy jinak než googlím dotazem na řešení, pak jak na tom budou jejich děti? Jak na tom budou děti jejich dětí? Volně a snad nepříliš nepřesně parafrázuji Františka Koukolíka v tom, že jakmile je někdo deprivant, těžko může ze svých dětí vychovat něco jiného než deprivanta.

Pokud má modelový jedinec, kterému byl v devíti měsících věku dán do ruky tablet a už na prvním stupni ZŠ se vrhl do sociálních sítí, narušený psychický vývoj, ale není si toho s ohledem na obezličky od Googlu, Facebooku, ChatGPT, Microsoftu a cojávímkohoještě vědom, co z něj vyroste a co vychová ze svých dětí, bude-li nějaké mít? Jak pravil Chamath Palihapitiya, Facebook je síť, která umí zcela roztrhat sociální vazby ve společnosti, doslova zničit lidskou společnost jako takovou. Tuto síť víceméně nikdo nijak nereguluje, neřeší tento kritický problém a do toho vznikají další a další sítě, které jdou ve schopnostech ničení lidských duší ještě dále (a jistě to není jen TikTok).

Rozbíjejme AI stroje, než nás v práci nahradí

Jedna věc je už nyní jasná. Jednoho dne budou tyto samoučící systémy natolik dobré, že dokáží nahradit lidskou práci a um. Programátoři si vlastně podřezávají větev, na které sedí. Proč by třeba Topaz potřeboval vývojáře foto softwaru, pokud ti mu v posledních letech vyvinuli všemožné AI systémy a už nyní za ně může natrénovaný systém řešit upscaling fotek, kolorování černobílých snímků, či u video nástrojů dopočítávání chybějících – to je třeba ono generování 60fps videí z 10fps zdrojů.

Ale s příkladem nemusíme jít až do takových extrémů, vezměme si třeba rok 1972 a slavný film Pink Floyd: Live at Pompeii. Točilo se v dobově odpovídající kvalitě, tedy kamerami Mitchell na 35mm barevný negativ. Většina lidí tento snímek viděla spíše z VHS kazet, tedy se zhruba 240 řádky obrazu. Dnes je možné jej spatřit na YouTube ve 4k/60p. Zadarmo.

Dobře tedy, kdo všechno přijde o práci? Těžko předjímat, ale pokud AirBnB bere kšefty hotelům a Über zase taxikářům, pak jsme zpátky u ludditů: jednoho dne byli ve své továrně nahrazeni strojem. Kdo se přeškolil, stroj se naučil obsluhovat, měl práci dál a třeba i lépe placenou. Kdo ne, upadl v zapomnění.

Dnes je fajn, když je v hotelu recepční, za 10 let tam místo ní ale může stát android, který bude 24 hodin denně odpočatý, milý na všechny zákazníky, bez předsudků a vždy schopen pomoci. Totéž platí pro prodavačky v obchodech, významnou část dělníků v továrnách, pracovníků v zemědělství, burzovních analytiků a třeba také učitelů.

Bude to opravdu platit i pro profese, kde tradičně je benefitem přímý lidský kontakt? Už dnes víme, že dobře natrénovaná neuronová síť může vyhodnocovat rentgenové snímky lépe než odborníci s desítkami let zkušeností. Víme, co pravil Isaac Asimov už dobře před půl stoletím: Každý učitel nahraditelný počítačem by jím také měl být nahrazen. (nebo to pravil A.C.Clarke?). A také toto: Jsem přesvědčen, že sebevzdělávání je jediným možným druhem vzdělávání. (1975).

Asimov samozřejmě myslel vzdělávání v jistých oblastech. Nerad bych mu nyní do úst vložil nevyslovenou domněnku, že se podle něj dá porozumět i etice, morálce, filosofii jen samostudiem. To je zcela nemožné.

Jde to bez lidského kontaktu?

Jednoho dne každopádně asi dojdeme do světa Star Treku, kdy na jakoukoli nemoc bude jednoduchá léčba. Člověk si vleze do schránky kde jej super-neuronový doktor zanalyzuje a provede potřebné úkony. Ale kde bude lidský kontakt? Jakmile z lidského života vyjmeme kontakty s jinými lidmi, stvoříme deprivanta. Čím více vyjmeme, tím větší deprivace. Dokázáno zavrženíhodným způsobem v rumunských dětských domovech za Nicolae Ceaușesca. Tomuto se také musíme vyhnout.

Nechci dnešním dětem křivdit. Narodily se do zcela jiného světa než generace před nimi, která se narodila do zcela jiného světa než generace před ní. Mají jinak pospojovaný mozek než jejich rodiče, a i ti mají jinak pospojovaný mozek, než jejich rodiče. Ale civilizace jde zjevně dál, lidstvo se nehroutí pod vlastní tíhou.

Mezi současnými mladými je velké množství skvělých lidí, kterým já v jejich věku nesahal po kotníky. Roste ale podíl těch, kteří jsou na tom prachbídně, a to v důsledku narušených sociálních vazeb v jejich bublinách, v důsledku nadužívání technologií, v důsledku za krajní meze sahající komplexnosti současného života v moderní společnosti. Do toho se nám vrhá AI, která rozbije i poslední zbytky.

Nejde o to, že by zlikvidovala svou dostupností a všudypřítomnou pomocnou ruku všechny, ale bude likvidovat větší procentuální podíl v dané generaci a bude jej likvidovat více, než to zvládal Google či Facebook, kteří likvidovali více než před nimi třeba MTV a VHS.

To je aspekt AI systémů, které nám minulý měsíc naplno vstoupily do života. Pandořina skřínka byla otevřena a do světa se opět rozlétly nemoci, bída a strasti, tentokrát ještě silnější než kdy předtím. Jsem zjevně už starý, ale nadšení pro protkání AI do počítačových systémů lidmi používaných nesdílím. Stejně jako televizor, počítač, internet, vyhledávač či sociální síť může být AI systém dobrý sluha, ale špatný pán.

AI systémy tvoří programátoři, kteří tak jistě povětšinou činí s těmi nejlepšími úmysly. Přesně těmi, kterými je dlážděna cesta do pekla. Systémy jsou vytvořeny, ale lidská společnost nedozrála do fáze, aby je uměla správně používat, stejně jako tomu je se sociálními sítěmi. I nadále platí Asimovův smutný povzdech: Nejsmutnějším aspektem současného života je, že věda shromažďuje poznatky rychleji než společnost moudrost.

Černé labutě a konec civilizace

To jsme se mimochodem ještě vůbec nedostali k těm zpropadeným černým labutím, které často zasáhnou a změní chod světa naprosto nepredikovatelným způsobem. Ponechme dnes stranou válku na Ukrajině, navzdory všemu hroznému a šíři i hloubce souvislostí nejde o celosvětový fenomén, na rozdíl od pandemie COVID-19. Příchod AI samozřejmě není černou labutí, je očekáván už desítky let. Jen je tu tak nějak dřív, ve větší kvalitě a razanci a tím rychleji se protká do našich životů.

S oblibou používám příměr o dobrém sluhovi a špatném pánovi. Platí pro alkohol (byť dnes už bych s ohledem na Andrewa Hubermana pochyboval o roli alkoholi jako dobrého sluhy), platí to pro televizor, platí to pro počítač, internet, sociální sítě, smartphony, instantní kecálky a platí to tisícinásobně i pro AI.

Jak tuhle řekl pro mnohé woke aktivisty nepřítel číslo 1, jistý Jordan Peterson, čím větší je hračka, tím chytřejší bys měl být pokud ji používáš. Jak jsem psal už výše a narážel třeba na Chamatha Palihapitiyu nebo Martina Stránského, jsme jako lidský druh – myšleno západní civilizace – chronicky neschopní včas odhalit, že „tomuhle“ bude lépe se vyhnout. Nepodchytili jsme dobře internet, už vůbec ne sociální sítě. Z dobrého nástroje pro pokrok se staly z 99 % pouze nástroje pro výplachovou zábavu (včetně třeba extrémně pohodlného Netflixu) a, za následující slovo mě budou všichni nenávidět: dekadenci (viz všemožné pornografické stránky).

Hned mě nelynčujte, problém s pornografií zásadní nemám, je logickým průvodním jevem živočišného druhu, jehož jediným důvodem existence je posouvání vlastních genů o generaci dál. Problém s ní mám ve chvíli, kdy je extrémně explicitní materiál v počtu miliónů, možná miliard videí, zcela volně dostupný komukoli s přístupem k internetu, bez ohledu na věk. Takže i dětem na prvním stupni základních škol například. A to je špatně, špatně špatně. Je to špatně už čtvrt století a nijak to není reálně řešeno. Podobně jako přístup k sociálním sítím, který spoléhá na to, že osmiletý kluk bude poctivý a neodklikne při vytváření účtu, že potvrzuje, že je mu 13 a více let. Právně je facebook z obliga, morálně je v tomto tak pokrytecký, jak hlubokou morální žumpou ve skutečnosti je, v čele se svým zakladatelem.

AI bude v mnoha ohledem dostatečně horší, aby konečně překročila jistou mezní hranici. Tu, ve které rodič z úkolů nepozná, že se jeho dítě fláká. Učitel nepozná, že známkuje AI, nikoli studenta. Šéf v práci nepozná, že posílá výplatu flákači, který jen přehazuje úkoly někam do hlubin cizí AI. Opět se vracím k Rybkově myšlence: nehledejme na AI jen ty úžasné možnosti, které nám otevírá. Spatřujme v ní naopak všechna ta negativa, která na 100 % přijdou. A nepřijdou někdy v budoucnosti, ona už přicházejí, jsou tady. Právě teď nám vyrůstají generace dětí, které se nebudou na řešení problémů ptát někoho staršího zkušenějšího, nebudou se ptát na nápovědy Googlu, budou se ptát rovnou po hotovém výsledku AI. Ano, už se opakuji, ale to proto, že jde o dle mého názoru nejdůležitější riziko AI. Sama sice není černou labutí, ale je líhní, která v nadcházejících letech a desetiletích dá zrodu řadě černých labutí, o kterých v tuto chvíli můžeme pouze spekulovat. O práci se může bát téměř kdokoli.

Ve chvíli, kdy svěříme budoucnost našich dětí a celého lidsta samoučícím se neuronovým sítím, bude to počátek konce. Protože, a opět se vracím k Asimovovi, pokud se technologie rozvíjí tisíckrát rychleji než jde evoluce lidstva, pak přestáváme být tím, kdo určije chod světa a stáváme se tím, komu je chod určován. Třeba pak vzpomeneme Knuta Faldbakkena, protože nás nejspíš čekají opravdu bídné roky. Ne kvůli COVIDu, ne kvůli válkám, ne kvůli neomarxismu. Já, neoluddita, mám jasno: mějme se před AI na pozoru.

Na druhou stranu nepropadejme nihilismu. Kam by to vedlo, psal Nietzsche už snad před 150 lety.