Vlákno názorů k článku Umělá inteligence a koncentrace bohatství od Lukáš Kotek - "Pravděpodobně za pomocí umělé inteligence, která jednomu redaktorovi...

"Pravděpodobně za pomocí umělé inteligence, která jednomu redaktorovi pomůže vygenerovat násobně více obsahu.
Když pomineme problém kvality a budeme předpokládat, že takto vytvořený obsah bude podobně dobrý (což pravděpodobně nebude),"

On třeba nebude dobrý, ale bude dobře (a hlavně věrohodně) znějící. LLM dovedou přesvědčivě prezentovat i naprostý nesmysl. Tohle je moment, ze kterého mám obavu já. V okamžiku, kdy se použití LLM stane v redakcích běžnou praxí a souběžně se začne kvůli tlaku na úspory šetřit i na editorech, kteří by chyby včas podchytili, bude nám tu vznikat množství špičkově vypadajícího, ale fakticky chybného, braku. Braku, který ale už bude v daný moment posvěcený autoritou toho kterého média. Braku, který se postupem času posune do pozice zdroje s velkým "Z". Zdroje, ze kterého mohou a budou čerpat další a odkazovat se na něj maje v zádech autoritu daného média. A to se nebavím o nějakém cíleném klamání, ale o nepochopeních, nepřesnostech, mýlkách. Nastaví to úplně jinou informační realitu. Dočkáme se u článků v budoucnu patičky ve stylu "při přípravě textu nebyla použita AI"? A bude vůbec realistické něco takového tvrdit?

Před lety jsem narazil na jednom serveru u článku na chybnou grafiku (tuším nějaké schéma lodi, grafika patřila stejnojmenné lodi, ale o pár desítek let starší). Nahlásil jsem tu chybu a příčina byla banální. Fotobanka, ze které čerpali (a i zdroj ze kterého právě ona čerpala), použila chybný popis. Představuji se podobný typ omylů s nástupem LLM v mnohem masovějším měřítku a není to něco, co by mě těšilo.

17. 1. 2024, 12:01 editováno autorem komentáře

Příklad z nedávna: https://www.diyaudio.com/community/threads/four-asus-essence-stxii-one-clock.407724/#post-7566487 + pár dalších odpovědí

V okamžiku, kdy se použití LLM stane v redakcích běžnou praxí a souběžně se začne kvůli tlaku na úspory šetřit i na editorech, kteří by chyby včas podchytili, bude nám tu vznikat množství špičkově vypadajícího, ale fakticky chybného, braku.

Tohle už nastalo a není to vůbec věcí LLM. Spousta redakcí a novinářů jede přesně v tomto módu.

To je sice pravda, ale tohle je potenciálně ještě o krok dál. Novináři občas zcela zjevně nerozumí problematice a interpretují správná fakta chybným způsobem. LLM nerozumí problematice také a tak kombinují jakákoliv fakta, která ze šumu vypadla do zcela důvěryhodně vypadajích nesmyslů.

Souhlasím, samo o sobě ne, takových příkladů by bylo bohužel víc. Ale stále je to ve stylu: tu a tam se objeví špatný článek. (Jasně je otázka, kolik takových dokážu rozpoznat, pakliže to je mimo obory, ve kterých se cítím alespoň trochu jistý.) LLM tomu může dát úplně jiný kvantitativní rozměr.

Ale to vůbec není tu a tam. A je to věc, která se tady řeší 15 let. Spousta českých IT webů přišla s modelem dva články denně, za půl roku zjistila, že došla témata a potom se jelo jen na vycpávky. Tím se to celé degradovalo. Ale pořád se jelo dva články denně, i když není co psát (ani kdo). Pokud tohle někdo objeví až s nástupem LLM, ..., budíček, dobré ráno, kde jste byli posledních 15 let?

Obecné noviny, stačí odebírat ČTK, případně zahraniční agentury. Tím víte všechny zprávy. Všechny. To, co zbývá jsou názorové články.

A já mám vůbec rád tyhle společenské paniky. Lidé se diví, jak někdo může číst, používat apod. tyhle "náhražky". No třeba proto, že jsou ve skutečnosti lepší, než ten "skutečný" produkt. Nebo nejsou lepší, ale jsou v podstatě stejně kvalitní a levnější. Ale ono to velmi málokdy bylo tak, že před tím ten "skutečný" produkt byl nějak výjimečně dobrý. Ne, byl špatný a když přišla umělá levnější náhražka, tak má lepší poměr cena výkon.

Je vidět, že zjevně neodebíráte žádné kvalitní periodikum. Třeba co se týká (nejen) války na Ukrajině, například Deník N dělá velice kvalitní práci. A to novinářskou práci. Kterou v žádné ČTK (a zhusta ani u zahraničních agentur) opravdu nenajdete. To je ostatně to, co by měli novináři dělat skutečně.

Myslím, že teď už se bavíme o dvou trochu jiných věcech. Má obava je, že kvůli LLM se nepřesnosti a chybně interpretovaná — ale špičkově prezentovaná — data (na počátku) stanou při masovém použití těchto nástrojů v médiích postupem času etablovanými zdroji a "fakty". A masovost takovéhoto typu informací může ve výsledku prakticky zamezit nějaké rozumné možnosti validace předkládaných faktů. Nebavím se o kvalitě médií obecně.

Že obchodní model některých médií je založený (nebo se změnil) na chrlení většího množství banálních článků, nijak nerozporuji, ale to ještě nezbytně neznamená, že jsou chybné. U médií, která pravidelně čtu (a která mi stojí za to, abych za ně platil) v posledních 15-20 letech, nemám dojem, že bych docházelo k nějakým až tak výrazným změnám v kvalitě (byť i jim se nějaké chyby, omyly a nepřesnosti nevyhnuly). I když třeba Root.cz není placený (a těch skoro dvacet let ho čtu rád) a laťku si drží :-) Ale to už jsme opravdu u jiného tématu.