Názory k článku Umělá inteligence a koncentrace bohatství

Koncetrace bohatstvi a moci tady byla, je a bude. V minulosti kdo mel statek byl bohatej, pak kdo mel spravnej kadrovej profil byl bohatej a ted je to ten kdo ovlada technologii o kterou je zajem. Internet (obecne) vytvoril spoustu prilezitosti ke zbohatnuti a miliony pracovnych mist. Obecne receno mame vice moznosti protoze jsme bohatsi (od cestovani k moznosti koupit si kvalitni potraviny). Nuzky mezi chudobou a superbohatymi (at jednotlivci nebo firmy) se rozeviraji ale nevidel bych to tak pesimisticky. Ve finale jsou to jenom jednicky a nuly a po vsech valkach ktere prijdou bude bohatstvi zase jenom o pude a vode (a mozna vzduchu).

tyhle centra bohatnou a prinaseji uzivatelsky dostupne informace, ale zaroven se ty informace stavaji mene a mene dulezite, zajimave, vybocujici z obecnych trendu. takze pro majoritu to bude jako krmna silaz, ale stale budou lidi kteri se s tim nespokoji. takze furt je tu misto pro decentralizovane systemy, socialni site, alternativu, ale je pravda, ze to je a bude diy a nebude v tom moc penez.

Decntralizovane socialne siete sa nepresadili a asi ani nepresadia, lebo pre bezneho pouzivatela maju plno nevyhod voci tym centralizovanym.

Časem se zruší hranice a vznikne jeden velký celosvětový Googlestan.

Cory Doctorow to poslední dobou taky dost řeší :)
https://youtu.be/rimtaSgGz_4

https://www.versobooks.com/en-gb/products/3035-the-internet-con

Moc děkuju za tenhle článek . Je to neotřelý pohled na věc a podle mne velmi dobře vystihuje podstatu problému. Není to moc optimistická vize, protože velká koncentrace bohatství a moci vede k monopolní diktatuře, společenskému tlaku, ten vytváří frustraci a většinou pak nějaký průšvih.

Já bych to tak tragicky zase neviděl, pokud se podíváme do historie, tak bych to přirovnal ke kyvadlu. Prostě je teď vychýlené z rovnováhy, ale začne se zase vracet. Na realitě je krásné, že nic není na pořád, ať mluvíme o politickém uspořádání, svobodě, koncentraci majetku, životu nebo čemkoliv jiném. Může to být na dlouho, ale nikoliv napořád.

17. 1. 2024, 11:34 editováno autorem komentáře

S temi danemi to je pekne hloupy konstrukt :-) Mezi trzbami a odvedenou dani z prijmu zadna prima umera pochopitelne neexistuje. Vzdycky zalezi i na tom, jake jsou vedle toho vykazane naklady. Jinymi slovy danovy zaklad pro dan z prijmu muze byt klidne blizko nuly.

No a pak je tak trosku chucpe snaha o kritiku volneho trhu jako takoveho. Kazdemu se libi, ze si muze volne nakupovat po EU a nemusi u toho resit nejake celniky na hranicich. Ano, ale ten volny trh mimo jine take znamena, ze dan z prijmu skonci v jinem state uvnitr EU - aneb s tim se proste smir. Irsko je samozrejme soucasti toho volneho trhu. A globalni firmy si sva sidla uvnitr EU vybiraji mimo jine podle celkovych podminek pro podnikani. Aneb nemuzeme nadavat, ze k nam se ty firmy nehrnou - kdyz soucasne tu mnohe zakony (co si sami vytvarime) podnikani komplikuji. A neco z toho k nam pritece pres EU (porad z ni vice cerpame, nez do ni davame) - ale to se take videt zda se nechce. Ale zdrojem penez v EU jsou odvadene dane zrovnatak, ze? A cerpame z ni vic nez to Irsko (to tam naopak spise penize odvadi a nas "sponzoruje").

Je proste naprosta ptakovina to pomerovat jen skrze dan odvedenou nejakou firmou zrovna v Cesku.

Danny, nejde o to, jestli něco "skončí v jiném státě EU". Jde obecně o to, že ta technologie má ve srovnání s kdečím jiným doslova obrovský potenciál k vytváření koncentrace věcné i finanční moci. Ne, že by neexistovaly ani jiné takové technologie, ale zrovna tahle z toho vyčnívá velmi velice do té míry, že je to zcela relevantní problém k řešení.

Ale ano, je to o tom :-) O prachy jde az na prvnim miste. Ve skutecnosti se jen breci, ze ty penize od gigantu typu Google, Meta, Apple, Amazon nebo Microsoft skonci primarne v Irsku a ne u nas. Akorat uz si nikdo neprizna, ze podnikat u nas je proste stale vetsi a vetsi opruz - i diky tomu, ze nase mistni zakony vznikaji zpusobem, jako kdyz pejsek s kocickou vari dort. A treba transpozice evropskych smernic se vyuzivaji jako prilezitost pro to, aby se tam strcilo neco navic. Misto aby se ti globalni hraci sem lakali je akorat odpuzujeme. A delame si to tu sami - prostrednictvim volenych zastupcu, ze? ;-)

Ten problém je mnohem větší než jen daňový. Schopnost danit podnikatelské subjekty tam, kde skutečně podnikají, by ten problém řešila jen částečně.

Co má ČR udělat? Může zlepšit zákonné a daňové prostředí pro korporace, jak to udělalo Irsko, což obnáší sražení daně z příjmu pro firmy na minimum (což dnes už ani nemůže, protože se zavázala k minimální sazbě 15 %). To ale ten globální problém nerovnosti nevyřeší. Jen se ČR stane prostředkem, jak ty peníze dostat z ostatních zemí a něco málo na tom vydělá. Než ji daňovou sazbou podsekne jiná země. Tahle daňová konkurence zemí je závod ke dnu, což už si všichni včetně Irska uvědomili, a proto se domluvili na té minimální sazbě 15 %. Mimochodem ono z těch zisků moc nevidí ani USA, kde ty firmy sídlí. Jak ty peníze protečou zeměmi jako Irsko, většinou leží na účtech v daňových rájích, kde čekají, až USA zase udělají daňové prázdniny.

Další možností ČR je přitáhnout datacentra, ty služby musí pořád někde běžet. Ale IMHO datacentra jsou logistická centra 21. století: celkem náročná na infrastrukturu, ale generující relativně málo kvalifikovaných pracovních míst a přidanou hodnotu.

Další možností je sem přitáhnout vývojová centra. To je asi nejlepší z oněch možností. Aspoň to vytváří kvalifikovaná a dobře placená místa, rozpustí to peníze v ekonomice, pomůže důchodovému systému, ale opět: přidaná hodnota tu nezůstává. Vývojové centrum je vyloženě nákladové centrum: místní pobočka dostane od matky zaplaceno jen lehce nad náklady a vygeneruje minimální zisk, přidaná hodnota odfrčí pryč.

Vývojových IT center tu máme dost. Ale jak píšete, zisk je jen na daních za (na české poměry dobře placené) zaměstnance. To už by vydělalo víc to datacentrum, ale to jsme nezvládli (Microsoft nakonec odešel jinam, nejde o daně, ale vše ostatní - dlouhodobý problém všech našich vlád).

Vytvorit pracovni mista je jedna vec, ale mit je kym obsadit vec druha. A ze by tu staly zastupy kvalifikovane pracovni sily rict take nemuzeme. Zmenit by se musela spousta veci.

Než v ČR vyběháte všechna povolení na stavbu datového centra, v zahraničí máte povoleno, postaveno a minimálně rok v ostrém provozu.

Vidím to velice podobně. Natrénovat obecnou AI vyžaduje obrovské množství dat, které má jen pár nějvětších hráčů. Ostatní si mohou pořídit potřebný výpočetní výkon, ale k těm trénovacím datům se stejně nedostanou.

Až AI postupně začně nahrazovat v lokálních firmách pracovní pozice (což už se začíná dít, i když jen na částečné činnosti), pak peníze, které zůstávaly lokálně ve mzdách, potečou opět jen těm pár velkým. MS a Google a možná ještě hrstka dalších bude firmám outsourcovat milióny "virtuálních pracovníků", takové globální personální agentury. Napojí se na to spoustu "customizátorů", ale opět to bude centralizované online bez lokálního přesahu.

S tým veľkým množstvom tréningových dát to je trochu zaujímavejšie. Vygooglite si "data poisoning".

Ja ako stary Hayekovec a v podstate anarchokapitalista je mi uplne uprdele kto je ako bohaty, ake a kde plati dane. A uz vobec nie jeho prinos pre "ludstvo" ako take. Spolocnost sa ma riadit slobodnou volou jednotlivca ak sa ludom paci takato spolocnost je to v poriadku. Je uplne legitimne ze sa ludia rozhodnu pre koniec civilizacie ako ju pozname aj ked si to priamo neuvedomuju a robia to vsetko v "dobrom umysle". Ako sa hovori "Spaste svet od ludi co ho chcu spasit".

P.S. Slobodna vola je to uplne najviac co clovek ma, len si to neuvedomuje. Ziadne navody ako spravne zit neexistuju...

Ono dost těžko tu svobodu ale provozovat, když je počet zdrojů omezený a většina těch podstatných je v držení pár oligopolů.

I v případě, že by se to nelíbilo většině, tak prakticky nemá šanci dosáhnout jakékoli změny. Oni v podstatě nemají ani způsob, jak se dozvědět, že jsou ve většině...

Většina ty (místní) oligharchy volí.

Ano, žádné návody jak správně žít neexistují. A právě proto taky existují pravidla omezující tu svobodnou vůli, aby se lidi navzájem nepozabíjeli. Což je přesně to, co obecně jakýmkoliv anarchistům (kteří se v principu moc neliší od různých jiných propagátorů dokonalých společností) nedochází, že lidé nejsou dokonalí a ta pravidla existují právě kvůli jejich nedokonalosti jako celku.

Je prostředí monopolu nebo oligopolu opravdu o svobodné vůli?

Jasně, na začátku si ten monopol lidi svobodně vybrali, ale co potom? To je asi jako tvrdit, že když jsme si ve 46 (částečně) svobodně vybrali komunisty, tak to, že jsou u moci v 70. letech je svobodné rozhodnutí jedinců. Ve 46 ale ta nejmladší generace ještě ani nežila. Stejně jako dnes mladý člověk nikdy neměl svobodnou volbu si vybrat operační systém na mobilu, ale musí si vybrat Android nebo iOS. Jasně, pořád má svobodu používat tlačítkový telefon nebo žádný, ale to jsou volby jako noha. Asi jako říct tomu mladému člověku v 70. letech, že má svobodu vzít kleště a jít se prostříhat elektrickým drátem.

Já měl Hayeka hrozně rád, žral jsem jeho knížky. Má to dobrou vnitřní logiku, ale čím víc si toho člověk odžije, tím víc zjišťuje, že realita je tak složitá, že ji žádná ekonomická nebo filozofická teorie nedokáže spolehlivě zachytit.

17. 1. 2024, 09:44 editováno autorem komentáře

Tak ja mam Hayeka cim som starsi tym viac rad :-) Inak slobodna vola boli a to dokonca aj fyzicky. Ja si napriklad viac vazim ludi co sa zbavili alkoholizmu alebo zavislosti od drog ako ludi co to nikdy nevyskusali a moralizuju. Clovek by si mal niekolko krat za zivot siahnut na dno a potom vystupat hore, len tak sa z neho stane fenix...

Problém je, že zbavit se jakékoliv závislosti jde pořádně ve chvíli, kdy člověk nemá další problémy. V systému bez veřejné sociální sítě, pravém ancap snu, je šance člověka na rehabilitaci mizivá. Koukat se na to pohledem osobní zodpovědnosti je neúčinné a podstatně dražší pro celou společnost. Ono se stačí podívat na účinnost housing-first strategie Finska proti stavu třeba v USA.

Prave ze ja tvrdim ze clovek sa ma sam rozhodnut ci drogy zoberie ale nie. Alebo ich zoberie a potom najde silu to zmenit (respekt) pripadne zoberie drogu a zivot takto ukonci. Kazde toto riesenie je na jeho posudeni, nesnazme sa kazdeho spasit. A ze system sa to snazi riesit a stoji to peniaze je len problem systemu, nie toho co sa rozhodol pre takyto zivot.

To, co su za bludy s tym siahanim na dno a fenixom?
Co ma slobodna vola spolocne so zavislostami?
Vsetko si zazit nemusis, je to blbost. Staci byt vnimavy/emapticky.
Rovnako ako sa hovori mudry clovek sa uci na chybach druhych.

No, len problem je ze komu verit ked ti zrazu spoluziaci zacnu vraviet, ze drogy su super a vsetci nam klamu!

Nerad bych vám kazil optimismus, ale jeden ze základních důvodů úspěšnosti lidstva jako druhu je, že se naučilo velmi efektivně sdílet zkušenosti a informace mezi jedinci.

S tym musim suhlasit. Problem su socialne siete kde sa nezdielaju informacie ale emocie a to k efektivnosti nepomaha. Teraz mam pocit ze cely nas svet len o emociach a nie raciu a to nic dobre k zivotu neprinasa.

Cize je jedno kto kde plati dane ale SPOLOCNOST ma nieco robit. Uz len taka drobnost, aby SPOLOCNOST mohla nieco robit potrebuje tie dane.

Anarchokapitalismus je vždycky při střetu s realitou hrozný oxymoron. Jaká existuje svoboda jednotlivce, pokud se veškerá moc soustředí v několika firmách? Je pro velkou část populace minimální mzda opravdu svobodnou volbou a svobodnoým rozhodnutím, pokud na tom závisí jejich přežití?

Jaký je rozdíl mezi mocí a prostředky soustředěnými v několika nadnárodních korporátech a feudalismem? Kde je anarchie v systému, kde je z principu moc soustředěná v korporátní hierarchii?

Myslím, že to poměrně přesně vystihla věta "Svoboda volby z mnoha možností, které člověk nemá".

Myslím, že krásná ukázna anarchokapitalismu je vytunelovaná Paralení Polis :)

"Zdráhám se sice velké jazykové modely označit za umělou inteligenci, ale pro zjednodušení to budu v tomto článku dělat."

Dovzdelajte sa, je to umelá inteligencia. Na root.cz, najviac o AI rozpráva bulvárny novinár a potom menežér redhatu. Myslím že ak ste v Brne, Masarykova univerzita vám s radosťou dovolí prihlásiť sa na predmet v rámci celoživotného vzdelávania.

"Umělá inteligence" v současné podobě je pouze marketingový pojem.

Nie je to marketingový pojem, je to cca 70 rokov starý multidisciplinárny vedný odbor, ktorého cieľom je simulovať rôzne formy inteligentného správania pomocou počítača.

... a to je právě to. Už jen tem pojem "inteligence" má mnoho různých významů a nuancí podle kontextu. Ty spojení "umělá inteligence" pouze dědí.

Děkuji za nabídku dovzdělání. Myslím, že článek není primárně o tom, co je umělá inteligence, takže to, co si pod ní představuji já, tu myšlenkou, kterou jsem chtěl článkem sdělit, zásadněji nepoškozuje.

Z logiky věci, když si nějaký vědní obor definuje pojem umělá inteligence tak, že pod ní patří i jednoduché neuronky, tak pod ní budou spadat i jednoduché neuronky. Já tohle plně respektuji, ale zároveň si osobně dovoluji mít na pojem umělá inteligence trochu přísnější požadavky. Nakonec nepíšu vědeckou práci, ale blogpost a ani ne primárně o umělé inteligenci, ale o trendu, který prohlubuje.

17. 1. 2024, 10:22 editováno autorem komentáře

Len je to pre mňa vec, kedy prestávam čítať. Toto nerobia ani na živě, tam napodiv v tejto problematike sa celkom orientujú, aj keď sú bulvárny server a rozoberajú ju z populárne náučnéo hladiska.

To je ako by som tvrdil, že RHEL nie je linux, lebo je za peniaze, alebo niečo podobné.

Ok, to je len moje pindanie, veľa zdaru inak :)

V pořádku, měj si svoje definice.

Jenom se nediv, že tvoje definice neodpovídají běžným definicím.

A aktuální ChatGPT doopravdy nesplňuje běžně uznávané rámce AI, přestože to tak na bulvárních webech nazývají.

[citation needed]

Vaše tvrdenie je veľmi zaujímavé.

Jasně, chápu. Pokusím se to příště formulovat líp, aby to bylo srozumitelné laikovi a zároveň aby se u toho nekroutily palce na nohou někomu z oboru.

Ďakujem :)

O tom, co je to "uměla inteligence" debatuje velmi mnoho lidí včetně lidí, kteří se uměou inteligencí zabývají a žádný jednoznačný (a patřičně černobílý, což byste zjevně rád) závěr neexistuje.

Ostatně nejbulvárněji obvykle působí hlavně komentáře podobné tomu vašemu.

Hmm, myslím že ale LLM zrovna do tej umelej inteligencie patria. Je to state of art umelá inteligencia.

Mysli si to.

Taky si můžeš myslet, že kolečko patří do kategorie jízdních kol, vždyť má kolo, pneumatiku a řidítka.

Trochu zle rozumiete tomu, ako fungujú pojmy konkretizácie a generalizácie.

Na Vašich slamených panákov už nebudem reagovať.

Tak směle do toho, jak to definujete vy?

Jedna věc je název vědního oboru, druhá pak jak to vidí zbytek světa. Pokud laikovi řeknu že je ChatGPT „Umělá inteligence“, bude mít mnohem větší předpoklady o schopnostech daného systému. Bude od něj třeba předpokládat nějakou vnitřní racionalizaci a zhodnocení výstupních dat, které by čekal od skutečné inteligence. Rozhodně nebude čekat automat, který poskládá slova v nějakém statistickém modelu do tvaru jak by „mohla vypadat věrohodně znějící odpověď na daný prompt“, což může být klidně i naprostý nesmysl, hlavně když to vypadá jako odpověď.

Propagace LLM jako umělé inteligence už páchá reálné škody.

Díky, přesně takhle nad tím přemýšlím i já, jen jsem to nebyl schopný to tak dobře vyjádřit. :)

Myslím že sa tu zamieňaju pojmy Umelá inteligencia a Všeobecná umelá inteligencia. To je asi problém napríklad pre pána Eischmanna.

LLM fungujú na neurónových sieťach, ktoré sú dobré v identifikácii vzorov podobne ako ľudský mozog. V tomto ohľade je aj človek ten automat, ktorý skladá vierohodne znejúce odpovede. V skutočnosti človek nie je schopný vymyslieť nič úplne nové, iba tvorí variácie na to, čo už vo svojej hlave má.

Ak sa LLM prezentujú ako AI, nejak mi to nevadí. Ale mal by sa dávať dôraz na to, že AI nie sú len LLM. To je môj názor.

Ano, zaměňují, a to je ta pointa.

Marketing se snaží LLM prezentovat jako AI o schopnostech, které se blíží všeobecné AI, a drtivá většina lidí nemá vzdělání v oboru, které jim umožní rozlišit to. A to i mezi lidmi z IT. Už jsem viděla spoustu programátorů, kteří LLM asistentům v IDE přikládali mnohem větší schopnosti než reálně můžou jako jazykový model mít. Tohle je reálně nebezpečná věc.

> V skutočnosti človek nie je schopný vymyslieť nič úplne nové, iba tvorí variácie na to, čo už vo svojej hlave má.

Umí zároveň samostatně zkoumat do té doby neznámé koncepty, pojmenovat je a racionalizovat výsledek svých myšlenkových pochodů.

Pokud člověk něco neví, řekne že to neví, pokud tazatele záměrně nechce podvést a předstírat znalost něčeho čemu nerozumí. Dovede zároveň vysvětlit jak k dané informaci došel, co jsou zdroje, případně na základě čeho a proč daný výstup odvodil. LLM tohle nedovede.

Pokud programuju, můj myšlenkový postup není „Jak by asi statisticky vypadalo poskládání příkazů na základě všech programů které jsem za život viděla“. Tak možná vypadají některé dílčí bloky, boilerplate kód který opakuju pořád. Tam se LLM může hodit a hodí.

Btw, co se týká názvosloví, opravdu se mi v tom líbilo rozlišení VI (Virtuální inteligence, která inteligenci předstírá) a AI (Pravá, všeobecná umělá inteligence) použité třeba v sérii her Mass Effect. GPT je momentální top tier VI.

17. 1. 2024, 11:10 editováno autorem komentáře

"Umí zároveň samostatně zkoumat do té doby neznámé koncepty, pojmenovat je a racionalizovat výsledek svých myšlenkových pochodů."

To súhlasím. LLM nemá na to vybavenie, je to kvázi statický snapshot "mozgu". Teda, zatiaľ.

"Pokud člověk něco neví, řekne že to neví,"

Tu by som si dovolil oponovať. Človek musí vedieť, že nevie. Ľudia sú schopní suverénne tvrdiť rôzne bláboly. A to dokonca aj univerzitní profesori, ktorí sú inak veľmi múdri a sú kapacitou vo svojom obore. Už sa mi stalo, že aj LLM mi povedali, že proste nevedia. Asi tú info o tom, že nevedia dostali, prípadne si ju domysleli.

"Pokud programuju, můj myšlenkový postup není „Jak by asi statisticky vypadalo poskládání příkazů na základě všech programů které jsem za život viděla“."

Tak nejak fungujú prepojenia v mozgu. Často opakujúce vzory sa posiľňujú a zafungujú lepšie, než tie menej často opakujúce sa.

> než reálně můžou jako jazykový model mít

Ono se ví, jaké jsou limity schopností, které jazykový model může mít?

> Marketing se snaží LLM prezentovat jako AI

AI je devalvovaný termín už desítky let a označovalo se tím cokoli od šachového automatu po 10 let staré neuronky na rozpoznávání obrázků. Současné LLM jsou alespoň lepší než uvedené :). Můžeš proti tomu bojovat, budiž, ale nesnaž se prezentovat že to tak není.

> člověk ... Dovede zároveň vysvětlit jak k dané informaci došel, co jsou zdroje, případně na základě čeho a proč daný výstup odvodil. LLM tohle nedovede.

To zvládne i AI. Např. perplexity.ai uvádí zdroje.

Rozdil mezi chatgpt a clovekem je v tom, ze kdyz ti clovek bude chodit kolem a vykladat "ja guljaju v parke" ... tak si (alespon prepokladas ze by mel) uvedomuje, ze mele pantem jen proto, aby mlel. Zatimco to gpt ti presne takovou odpoved predklada, jako konecnou pravdu.

A je cielom aby umela inteligencia zhodnocovala a davala iba spravne vysledky?

Nijak netvrdím že je to cíl. Ale rozdíl mezi LLM a general AI je v tom, že General AI bude umět svůj výstup racionalizovat a odpovědět na otázku „Jak jsi k takovému výsledku došla“ a umí říct „Nevím“. GPT už v mnoha případech vytvořila neexistující lidi, citovala neexistující přednášky a skripta, při jednom z velkých průšvihů citovala neexistující soudní rozsudky ve chvíli kdy právník hodil prompt ve stylu „Najdi mi podobné případy které skončily ve prospěch obžalovaného“.

Ale hladat fakty tak ze sa opytam niekoho kto je plateny za to aby mi vyhovel 'akymkolvek' sposobom nie je spravny postup.
Ste si isty ze rovnakym sposobom nepracuje aj prirodzena inteligencia? Naozaj ste si niekedy sam nevyfabuloval ale nepamatal veci ktore tak nie su alebo sa tak nestali? Ja si myslim ze je to dokonca velmi verny obsah toho ako pracuje nasa prirodzena inteligencia.

Ja bych ten LLM nepodcenoval, kdovi co bude 20 let. A LLM nema Alzheimra nebo deprese a uzkosti.

Na druhej strane, rovnako škodlivá je "prirodzená blbosť", resp. to, že človek aj od druhého človeka očakáva ako-tak racionálne myslenie a konanie, ale niekedy ho to veľmi nepríjemne prekvapí.

A myslím, že z toho výrazu "umelá" je obvykle jasné, že nejaké rozdiely voči ľudskému uvažovaniu tam sú. Podobne, ako "umelá hmota" má do veľkej miery iné vlastnosti než "prirodzená hmota", čo ja viem drevo.

Súhlasím, sami projektujeme svoje myšlienkové pochody do druhých ľudí. Prípadne od nich očakávame, že nie sú bezchybní a budú mať na 100% pravdu.

LLM nám aspoň ukazujú, ako vierohodne môže znieť blábol. Raz to mojej mame vymyslelo báseň "Mandragora" od Františka Hrubína a hladali sme ju v jednom surrealistickom českom časopise, už si nepamätám meno. To moja mama názorne pochopila, čo je to tá ľudovo nazývaná "Halucinácia". Potrebovala zistiť zdroj anglických veršov a ChatGPT jej takto "poradil" :)

> Rozhodně nebude čekat automat, který poskládá slova v nějakém statistickém modelu do tvaru jak by „mohla vypadat věrohodně znějící odpověď na daný prompt“, což může být klidně i naprostý nesmysl, hlavně když to vypadá jako odpověď.

Tohle tvrzení má dva problémy:

1) Hrozí, že až zjistíme, jak funguje lidský mozek, bude to něco podobně triviálně znějícího.

2) Nic z něj nevyplývá, ba je dokonce přímo zavádějící. Kdybych ti před několika lety ukázal třeba Sparks a zeptal se, jestli popisované věci dokáže 'automat, který poskládá slova v nějakém statistickém modelu do tvaru jak by „mohla vypadat věrohodně znějící odpověď na daný prompt“', tak bys řekla 'ne'.

Hrozí, že až zjistíme, jak funguje lidský mozek, bude to něco podobně triviálně znějícího.

Jo. Minule se mi nepovedlo tady rozjet diskusi o tom, co lidé a proč označují jako AI a směřoval jsem přesně k tomuto. Za ty roky lidi označovali za inteligenci rozpoznávání značek v obraze. No tam víme, jak to funguje, takže už to není tak inteligentní. A tímto stylem se šlo postupně dál, dál lidé další a další věci označovali za inteligenci a tohle jde tak daleko, že o lidech se dá říct, že vlastně žádnou výjimečnou inteligenci nemají. Což je třeba můj názor. Já si jednak nemyslím, že ty AI systémy jsou kdoví jaké, ale na stejné straně současně si myslím, že ani lidé jako živočišný druh nějak extra inteligencí také nepřekypuje.

> o lidech se dá říct, že vlastně žádnou výjimečnou inteligenci nemají

AI nepotřebuje nahradit ty nejchytřejší. Stačí dolních 50-60 % (ty, které popisujete).

ja si myslim, ze lidsky mozek ma zatim jen vyhodu mnoha neuronu a mnoha jejich spoju a to je vse, zadna duse, proste cisty materialismus.
a az se udela pocitac se stejnym poctem neuronu a spoju, tak to bude "plechovy" opravdovy clovek.

Člověk má mimo jiné vize, emoce, empatii... říká se tomu třeba sociální inteligence, emořní inteligence, vizionářství. Ono se to nezdá, ale to je také součástí inteligence. A to dost podstatnou. Vychází z toho obrovské množství věcí.

I když ano, mnoho lidí jsou jen lepší jazykové modely. S tím lze souhlasit.

Taky si myslím. Podobně jako ta svobodná vůle - mám názor, že není, jen nás formuje takové množství vnějších podnětů, že chování neumíme spočítat a chápeme je jako svobodné/náhodné. Z čehož nás možná tyto systémy jednou vyvedou, až nás “spočítají”. Což je jedno z rizik, které mi v článku chybí.

P.S. Svobodná vůle má protiargument založený na kvantových jevech, to si ještě musím dostudovat. Těším se na to. :-)

23. 1. 2024, 23:25 editováno autorem komentáře

Celkom vtipne je precitat si presny opak toho co si clovek mysli.

Ked prislo ChatGPT, bola moja prva myslienka: aka skvela vec, ktora este viac posilni moznosti jednotlivca voci spolocnosti.

Tak strucne: osobne si myslim, ze uvadzane prepocty cez peniaze su bud zavadzajuce alebo mozno uplne zle. (necitim potrebu robit akademicky vyskum, ktory by porovaval majetok egyptskych faraonov voci Egyptu, ... , BigTech voci svetu)
Ked sa clovek pozrie na to, ako si zije bezny "clovek milion" voci najbohatsim ludom a porovna to s minulostou, priam bije do oci, ze byt na spici spolocnosti bolo v minulosti prudko vyhodnejsie.

Je uplne jedno, ze vyvinut LLM model stoji raketu. Ja mozem prevadzkovat ich vysledok za zhruba nic v lokalnej instancii. Presne tak isto ako povedme filmy, revolver, ci solarny panel.
To, ze pravnici venuju nezanedbatelnu energiu snahe tento trend sabotovat, je zjavne len zdrzovacia taktika.

Ja mozem prevadzkovat ich vysledok za zhruba nic v lokalnej instancii.

To jen za předpokladu, že vám ten model někdo dá. Což hádám, že ty korporace asi nebudou dělat rády, když ho místo toho mohou provozovat jako službu a vydělávat na tom víc peněz a ještě k tomu šmírovat uživatele.

preto je tam ta veta o pravnikoch :).

curat proti vetru mozte len do istej miery.

"Pravděpodobně za pomocí umělé inteligence, která jednomu redaktorovi pomůže vygenerovat násobně více obsahu.
Když pomineme problém kvality a budeme předpokládat, že takto vytvořený obsah bude podobně dobrý (což pravděpodobně nebude),"

On třeba nebude dobrý, ale bude dobře (a hlavně věrohodně) znějící. LLM dovedou přesvědčivě prezentovat i naprostý nesmysl. Tohle je moment, ze kterého mám obavu já. V okamžiku, kdy se použití LLM stane v redakcích běžnou praxí a souběžně se začne kvůli tlaku na úspory šetřit i na editorech, kteří by chyby včas podchytili, bude nám tu vznikat množství špičkově vypadajícího, ale fakticky chybného, braku. Braku, který ale už bude v daný moment posvěcený autoritou toho kterého média. Braku, který se postupem času posune do pozice zdroje s velkým "Z". Zdroje, ze kterého mohou a budou čerpat další a odkazovat se na něj maje v zádech autoritu daného média. A to se nebavím o nějakém cíleném klamání, ale o nepochopeních, nepřesnostech, mýlkách. Nastaví to úplně jinou informační realitu. Dočkáme se u článků v budoucnu patičky ve stylu "při přípravě textu nebyla použita AI"? A bude vůbec realistické něco takového tvrdit?

Před lety jsem narazil na jednom serveru u článku na chybnou grafiku (tuším nějaké schéma lodi, grafika patřila stejnojmenné lodi, ale o pár desítek let starší). Nahlásil jsem tu chybu a příčina byla banální. Fotobanka, ze které čerpali (a i zdroj ze kterého právě ona čerpala), použila chybný popis. Představuji se podobný typ omylů s nástupem LLM v mnohem masovějším měřítku a není to něco, co by mě těšilo.

17. 1. 2024, 12:01 editováno autorem komentáře

Příklad z nedávna: https://www.diyaudio.com/community/threads/four-asus-essence-stxii-one-clock.407724/#post-7566487 + pár dalších odpovědí

V okamžiku, kdy se použití LLM stane v redakcích běžnou praxí a souběžně se začne kvůli tlaku na úspory šetřit i na editorech, kteří by chyby včas podchytili, bude nám tu vznikat množství špičkově vypadajícího, ale fakticky chybného, braku.

Tohle už nastalo a není to vůbec věcí LLM. Spousta redakcí a novinářů jede přesně v tomto módu.

To je sice pravda, ale tohle je potenciálně ještě o krok dál. Novináři občas zcela zjevně nerozumí problematice a interpretují správná fakta chybným způsobem. LLM nerozumí problematice také a tak kombinují jakákoliv fakta, která ze šumu vypadla do zcela důvěryhodně vypadajích nesmyslů.

Souhlasím, samo o sobě ne, takových příkladů by bylo bohužel víc. Ale stále je to ve stylu: tu a tam se objeví špatný článek. (Jasně je otázka, kolik takových dokážu rozpoznat, pakliže to je mimo obory, ve kterých se cítím alespoň trochu jistý.) LLM tomu může dát úplně jiný kvantitativní rozměr.

Ale to vůbec není tu a tam. A je to věc, která se tady řeší 15 let. Spousta českých IT webů přišla s modelem dva články denně, za půl roku zjistila, že došla témata a potom se jelo jen na vycpávky. Tím se to celé degradovalo. Ale pořád se jelo dva články denně, i když není co psát (ani kdo). Pokud tohle někdo objeví až s nástupem LLM, ..., budíček, dobré ráno, kde jste byli posledních 15 let?

Obecné noviny, stačí odebírat ČTK, případně zahraniční agentury. Tím víte všechny zprávy. Všechny. To, co zbývá jsou názorové články.

A já mám vůbec rád tyhle společenské paniky. Lidé se diví, jak někdo může číst, používat apod. tyhle "náhražky". No třeba proto, že jsou ve skutečnosti lepší, než ten "skutečný" produkt. Nebo nejsou lepší, ale jsou v podstatě stejně kvalitní a levnější. Ale ono to velmi málokdy bylo tak, že před tím ten "skutečný" produkt byl nějak výjimečně dobrý. Ne, byl špatný a když přišla umělá levnější náhražka, tak má lepší poměr cena výkon.

Je vidět, že zjevně neodebíráte žádné kvalitní periodikum. Třeba co se týká (nejen) války na Ukrajině, například Deník N dělá velice kvalitní práci. A to novinářskou práci. Kterou v žádné ČTK (a zhusta ani u zahraničních agentur) opravdu nenajdete. To je ostatně to, co by měli novináři dělat skutečně.

Myslím, že teď už se bavíme o dvou trochu jiných věcech. Má obava je, že kvůli LLM se nepřesnosti a chybně interpretovaná — ale špičkově prezentovaná — data (na počátku) stanou při masovém použití těchto nástrojů v médiích postupem času etablovanými zdroji a "fakty". A masovost takovéhoto typu informací může ve výsledku prakticky zamezit nějaké rozumné možnosti validace předkládaných faktů. Nebavím se o kvalitě médií obecně.

Že obchodní model některých médií je založený (nebo se změnil) na chrlení většího množství banálních článků, nijak nerozporuji, ale to ještě nezbytně neznamená, že jsou chybné. U médií, která pravidelně čtu (a která mi stojí za to, abych za ně platil) v posledních 15-20 letech, nemám dojem, že bych docházelo k nějakým až tak výrazným změnám v kvalitě (byť i jim se nějaké chyby, omyly a nepřesnosti nevyhnuly). I když třeba Root.cz není placený (a těch skoro dvacet let ho čtu rád) a laťku si drží :-) Ale to už jsme opravdu u jiného tématu.

Diky za clanek. No jo, umela inteligence nam umozni X krat zvysit produktivitu. Coz zni skvele, ale bohuzel to neznamena, ze budeme moct X krat mene pracovat. Pracovat budeme zhruba stejne a velka cast zisku spojeneho s narustem produktivity pujde na zaplaceni te AI (tj. nakladu spojenych s provozem AI a zisku spolecnosti prodavajici tu AI). To znamena, ze abychom se uzivili, budeme toho muset X krat vic pracovat. Coz by nemuselo znit tak spatne, kdyz by to mohla byt nejaka bohuliba prace, ktera neni vazana na zadnou produkci. Ale tu bohulibou praci by musel nekdo zaplatit a bohatstvi odteklo na provoz AI, takze spolecnost / stat si to nebude moct dovolit... Takze budeme muset spis X krat vic produkovat, coz vzhledem k tomu, kolik zbytecnych veci uz ted produkujeme a jaky to ma vliv (napr. na zivotni prostredi) nevypada moc dobre...

Jake jsou moznosti, abychom tohle zastavili?

Samozrejme tohle neni nic noveho (viz prumyslova revoluce, coz v tomhle ohledu zase nebylo kvalitativne nic noveho, jen kvantitativne). Jenom se mi tak nejak zda, ze uz to je nejak moc :)

"S nástupem umělé inteligence se také může stát, že žádná adekvátní lokální alternativa ani nebude existovat." Myslím si, že právě naopak. Google teď zaspal a velmi dobře to ví. OpenAI sice je bratr MS, ale pořád je to další separátní firma, která tu dříve nebyla. LLM se rozrostly jako houby po dešti a každá společnost si bude moci integrovat řešení do svého portfolia. Troufám si říct, že jsme na prahu nové éry.

LLM je jenom začátek a AI bude následovat. Informace, nové technologie (zejména energetické) jsou teď pro nás klíčová, abychom přežili, protože ať chceme nebo nechceme, hrozí válka a na druhé straně totální změna klimatu. AI v tomto bude hrát klíčovou roli.

Lokální alternativy již teď existují a naopak do toho začalo velmi silně mluvit open source řešení.

Zrovna nové energetické technologie moc na obzoru v životaschopné podobě nejsou. Tedy kromě těch, co jsou "na obzoru" už asi padesát let.

Ale teď už jsou blíž ;-)

Změny klimatu tady byly, jsou a budou. Jako lidstvo jsme je přežili bez AI, nevidím důvod, proč by to bez ní najednou nešlo. Co se potenciálních válek týká, tam to bude spíš úplně naopak.

Mě vůbec nevadí, že tu Google nenechá více peněz na daních. Proč by taky měl. Tahle posedlost daněmi vyvěrá z toho, jak přebujelá společnost jsme. Stát dělá hafo věci, místo toho, aby je nechal na trhu a nemusel vymýšlet komu vezme peníze na jejich provoz.

Pokud vám vadí, že nějaké firmy vydělávají a nevrací nic zpět, tak udělejte to nejjednodušší co můžete. Staňte se jejich akcionáři a těžte ze zisku těch firem. Stát by se tedy místo snahy odrbat tyto firmy na daních měl snažit maximálně zjednodušit danění akcionářů, aby i Pepa od vedle, co denně ulomí 5 Bráníků mohl investovat do těchto "zlých" firem (které nám neuvěřitelně zkvalitňují život) a přitom se nemusel bát kriminálu.

>Mě vůbec nevadí, že tu Google nenechá více peněz na daních. Proč by taky měl.

Pretoze tu vykonava podnikatelsku cinnost- co by samo o sebe malo stacit. No este dodam, ze tu vyuzivaju infrastrukturu a situaciu (napriklad bezpecnost a pravny system) na to aby zarobili.

To není posedlost daněmi. Pokud musí platit daně každý zaměstnanec, živnostník a malá firma, rozhodně není v našem zájmu šetřit zrovna velké korporace. Klidně mějme daně co nejnižší, ale to je úplně oddělený problém.

19. 1. 2024, 16:30 editováno autorem komentáře