Vlákno názorů k článku Umělá inteligence a koncentrace bohatství od balkovic - "Zdráhám se sice velké jazykové modely označit za...
-
"Zdráhám se sice velké jazykové modely označit za umělou inteligenci, ale pro zjednodušení to budu v tomto článku dělat."
Dovzdelajte sa, je to umelá inteligencia. Na root.cz, najviac o AI rozpráva bulvárny novinár a potom menežér redhatu. Myslím že ak ste v Brne, Masarykova univerzita vám s radosťou dovolí prihlásiť sa na predmet v rámci celoživotného vzdelávania.
-
Děkuji za nabídku dovzdělání. Myslím, že článek není primárně o tom, co je umělá inteligence, takže to, co si pod ní představuji já, tu myšlenkou, kterou jsem chtěl článkem sdělit, zásadněji nepoškozuje.
Z logiky věci, když si nějaký vědní obor definuje pojem umělá inteligence tak, že pod ní patří i jednoduché neuronky, tak pod ní budou spadat i jednoduché neuronky. Já tohle plně respektuji, ale zároveň si osobně dovoluji mít na pojem umělá inteligence trochu přísnější požadavky. Nakonec nepíšu vědeckou práci, ale blogpost a ani ne primárně o umělé inteligenci, ale o trendu, který prohlubuje.
17. 1. 2024, 10:22 editováno autorem komentáře
-
Len je to pre mňa vec, kedy prestávam čítať. Toto nerobia ani na živě, tam napodiv v tejto problematike sa celkom orientujú, aj keď sú bulvárny server a rozoberajú ju z populárne náučnéo hladiska.
To je ako by som tvrdil, že RHEL nie je linux, lebo je za peniaze, alebo niečo podobné.
Ok, to je len moje pindanie, veľa zdaru inak :)
-
KateStříbrný podporovatel
Jedna věc je název vědního oboru, druhá pak jak to vidí zbytek světa. Pokud laikovi řeknu že je ChatGPT „Umělá inteligence“, bude mít mnohem větší předpoklady o schopnostech daného systému. Bude od něj třeba předpokládat nějakou vnitřní racionalizaci a zhodnocení výstupních dat, které by čekal od skutečné inteligence. Rozhodně nebude čekat automat, který poskládá slova v nějakém statistickém modelu do tvaru jak by „mohla vypadat věrohodně znějící odpověď na daný prompt“, což může být klidně i naprostý nesmysl, hlavně když to vypadá jako odpověď.
Propagace LLM jako umělé inteligence už páchá reálné škody.
-
Myslím že sa tu zamieňaju pojmy Umelá inteligencia a Všeobecná umelá inteligencia. To je asi problém napríklad pre pána Eischmanna.
LLM fungujú na neurónových sieťach, ktoré sú dobré v identifikácii vzorov podobne ako ľudský mozog. V tomto ohľade je aj človek ten automat, ktorý skladá vierohodne znejúce odpovede. V skutočnosti človek nie je schopný vymyslieť nič úplne nové, iba tvorí variácie na to, čo už vo svojej hlave má.
Ak sa LLM prezentujú ako AI, nejak mi to nevadí. Ale mal by sa dávať dôraz na to, že AI nie sú len LLM. To je môj názor.
-
KateStříbrný podporovatel
Ano, zaměňují, a to je ta pointa.
Marketing se snaží LLM prezentovat jako AI o schopnostech, které se blíží všeobecné AI, a drtivá většina lidí nemá vzdělání v oboru, které jim umožní rozlišit to. A to i mezi lidmi z IT. Už jsem viděla spoustu programátorů, kteří LLM asistentům v IDE přikládali mnohem větší schopnosti než reálně můžou jako jazykový model mít. Tohle je reálně nebezpečná věc.
> V skutočnosti človek nie je schopný vymyslieť nič úplne nové, iba tvorí variácie na to, čo už vo svojej hlave má.
Umí zároveň samostatně zkoumat do té doby neznámé koncepty, pojmenovat je a racionalizovat výsledek svých myšlenkových pochodů.
Pokud člověk něco neví, řekne že to neví, pokud tazatele záměrně nechce podvést a předstírat znalost něčeho čemu nerozumí. Dovede zároveň vysvětlit jak k dané informaci došel, co jsou zdroje, případně na základě čeho a proč daný výstup odvodil. LLM tohle nedovede.
Pokud programuju, můj myšlenkový postup není „Jak by asi statisticky vypadalo poskládání příkazů na základě všech programů které jsem za život viděla“. Tak možná vypadají některé dílčí bloky, boilerplate kód který opakuju pořád. Tam se LLM může hodit a hodí.
Btw, co se týká názvosloví, opravdu se mi v tom líbilo rozlišení VI (Virtuální inteligence, která inteligenci předstírá) a AI (Pravá, všeobecná umělá inteligence) použité třeba v sérii her Mass Effect. GPT je momentální top tier VI.
17. 1. 2024, 11:10 editováno autorem komentáře
-
"Umí zároveň samostatně zkoumat do té doby neznámé koncepty, pojmenovat je a racionalizovat výsledek svých myšlenkových pochodů."
To súhlasím. LLM nemá na to vybavenie, je to kvázi statický snapshot "mozgu". Teda, zatiaľ.
"Pokud člověk něco neví, řekne že to neví,"
Tu by som si dovolil oponovať. Človek musí vedieť, že nevie. Ľudia sú schopní suverénne tvrdiť rôzne bláboly. A to dokonca aj univerzitní profesori, ktorí sú inak veľmi múdri a sú kapacitou vo svojom obore. Už sa mi stalo, že aj LLM mi povedali, že proste nevedia. Asi tú info o tom, že nevedia dostali, prípadne si ju domysleli.
"Pokud programuju, můj myšlenkový postup není „Jak by asi statisticky vypadalo poskládání příkazů na základě všech programů které jsem za život viděla“."
Tak nejak fungujú prepojenia v mozgu. Často opakujúce vzory sa posiľňujú a zafungujú lepšie, než tie menej často opakujúce sa.
-
Máme zaručeno, že víme, že stroj ví, že neví? Má subjekt zaručeno, že ví, že neví? (Klasický paradox subjektu). Ale to jen na odlehčenou(i když ano, ani toto není v podstatě legrace). V této chvíli nemáme jinou možnost, než pomocí experimentů s nebo bez MR zkoumat, jak určité oblasti mozku fungují a jak reagují na chemii těla nebo na základě jakých podnětů se v těle vytváří specifická chemie, jaké jsou pak nebo před tím fyzikálně chemické reakce atd. Víme toho hodně, ale ne dost. Je to vidět už na tak zdánlivě samozřejmém stavu, jako je spánek, a na tom, že jeho poruchy nedokážeme skutečně léčit. A to je téma, které, ač je to k nevíře, s inteligencí, kognitivními funkcemi a mnoha dalšími úzce souvisí. Stále nejsme úplně pod povrchem mnoha mnoha jevů těla. Například tušíme, jakým způsobem a v určité velké toleranci také kde v těle nejspíš dochází k řešení problémů, ale ... jak vypadá funkce, která to řídí? Jak by vypadala matematická funkce nebo soustava funkcí, které by dokázaly najít řešení problému, který subjekt nemá v databázi(paměti) a který by odolával řešení i při použití podobných postupů známých z minulosti? Pokud se nad tím zamyslíme, už jen toto je tak komplexní problém, a je možné, že nikoli jen subjektu, že myslet si, že to, co se prezentuje jako výstup AI je opravdu výstupem algoritmů vedoucích k inteligentním projevům, je asi hodně odvážné. Můžeme říct, že je to jen začátek. Kéž by. Proto věta o "statistickém poskládání příkazů" je i není na místě, stejně jako ta vaše o opakujících se vzorcích. Je to téma na celou sérii článků a skutečně bych si moc přál, kdyby se toho na root někdo ujal (pokud se tak už nestalo).
-
Jan HrachStříbrný podporovatel> než reálně můžou jako jazykový model mít
Ono se ví, jaké jsou limity schopností, které jazykový model může mít?
> Marketing se snaží LLM prezentovat jako AI
AI je devalvovaný termín už desítky let a označovalo se tím cokoli od šachového automatu po 10 let staré neuronky na rozpoznávání obrázků. Současné LLM jsou alespoň lepší než uvedené :). Můžeš proti tomu bojovat, budiž, ale nesnaž se prezentovat že to tak není.
-
"AI je devalvovaný termín už desítky let a označovalo se tím cokoli od šachového automatu po 10 let staré neuronky na rozpoznávání obrázků."
Prehľadávanie stavového priestoru v tom šachovom automate a rozpoznávanie vzorov v obrázkoch sú relevantné oblasti umelej inteligencie. Ten termín nie je v tomto zmysle devalvovaný, ten termín to skrátka zahŕňa :)
AI sa devalvuje skôr vecami, ako AI pero, AI kávovar, AI Telefón (Lebo smartfón nie je pre Samsung dostatočne smart). O chvíľu budú aj žuvačky s AI.
-
"Ono se ví, jaké jsou limity schopností, které jazykový model může mít?"
Ono se predevsim vi, jak to funguje. Tudiz se vi, ze to nevyhledava zadna fakta, protoze jednoduse nerozumi tomu na co se ptas. Jen hleda statisticky prijatelnou odpoved na dotaz, ktery polozis. A ta odpoved muze byt za nejakych okolnosti i spravne, ale ve skutecnosti je to nahoda.
Funguje to uplne stejne, jako kdybych se te zeptal cojavim co je to koule, ty bys mel pred sebou 5 ucebnic, jednu vylosujes, najdes prvni stranku na ktere se vyskytuje slovo koule a prectes odstavec kolem.
Navic se staci podivat na ty "AI" preklady, co je propaguje ten pitomec z "paransky raj" ... vzdyt to nedokaze prelozit ani he/she ... nedokaze to byt konzistetni v prekladu tehoz slova ani v ramci jedne vety ...
-
> člověk ... Dovede zároveň vysvětlit jak k dané informaci došel, co jsou zdroje, případně na základě čeho a proč daný výstup odvodil. LLM tohle nedovede.
To zvládne i AI. Např. perplexity.ai uvádí zdroje.
-
KateStříbrný podporovatel
Nijak netvrdím že je to cíl. Ale rozdíl mezi LLM a general AI je v tom, že General AI bude umět svůj výstup racionalizovat a odpovědět na otázku „Jak jsi k takovému výsledku došla“ a umí říct „Nevím“. GPT už v mnoha případech vytvořila neexistující lidi, citovala neexistující přednášky a skripta, při jednom z velkých průšvihů citovala neexistující soudní rozsudky ve chvíli kdy právník hodil prompt ve stylu „Najdi mi podobné případy které skončily ve prospěch obžalovaného“.
-
Ale hladat fakty tak ze sa opytam niekoho kto je plateny za to aby mi vyhovel 'akymkolvek' sposobom nie je spravny postup.
Ste si isty ze rovnakym sposobom nepracuje aj prirodzena inteligencia? Naozaj ste si niekedy sam nevyfabuloval ale nepamatal veci ktore tak nie su alebo sa tak nestali? Ja si myslim ze je to dokonca velmi verny obsah toho ako pracuje nasa prirodzena inteligencia. -
Ste si isty ze rovnakym sposobom nepracuje aj prirodzena inteligencia? Naozaj ste si niekedy sam nevyfabuloval ale nepamatal veci ktore tak nie su alebo sa tak nestali?
Neříkal bych tomu inteligence ale sociální interakce. Na to máme říkanku: na blbou otázku, blbá odpověď.
Není to tak dávno, byl jsem členem jistého týmu a tam se mě vedoucí na cosi ptal a když jsem mu řekl, že tohle nevím a proto mu neodpovím, tak tohle prostě odmítl a chtěl odpověď. Tak jsem si něco vymyslel. A on byl spokojenej. Takže zákazníci LLM vyloženě existují a chtějí totéž (já tohle zažívám celý život) i po ostatních lidech. "Prostě mi něco řekni a nemusí to být nutně pravda."
-
Na druhej strane, rovnako škodlivá je "prirodzená blbosť", resp. to, že človek aj od druhého človeka očakáva ako-tak racionálne myslenie a konanie, ale niekedy ho to veľmi nepríjemne prekvapí.
A myslím, že z toho výrazu "umelá" je obvykle jasné, že nejaké rozdiely voči ľudskému uvažovaniu tam sú. Podobne, ako "umelá hmota" má do veľkej miery iné vlastnosti než "prirodzená hmota", čo ja viem drevo.
-
Súhlasím, sami projektujeme svoje myšlienkové pochody do druhých ľudí. Prípadne od nich očakávame, že nie sú bezchybní a budú mať na 100% pravdu.
LLM nám aspoň ukazujú, ako vierohodne môže znieť blábol. Raz to mojej mame vymyslelo báseň "Mandragora" od Františka Hrubína a hladali sme ju v jednom surrealistickom českom časopise, už si nepamätám meno. To moja mama názorne pochopila, čo je to tá ľudovo nazývaná "Halucinácia". Potrebovala zistiť zdroj anglických veršov a ChatGPT jej takto "poradil" :)
-
Jan HrachStříbrný podporovatel
> Rozhodně nebude čekat automat, který poskládá slova v nějakém statistickém modelu do tvaru jak by „mohla vypadat věrohodně znějící odpověď na daný prompt“, což může být klidně i naprostý nesmysl, hlavně když to vypadá jako odpověď.
Tohle tvrzení má dva problémy:
1) Hrozí, že až zjistíme, jak funguje lidský mozek, bude to něco podobně triviálně znějícího.
2) Nic z něj nevyplývá, ba je dokonce přímo zavádějící. Kdybych ti před několika lety ukázal třeba Sparks a zeptal se, jestli popisované věci dokáže 'automat, který poskládá slova v nějakém statistickém modelu do tvaru jak by „mohla vypadat věrohodně znějící odpověď na daný prompt“', tak bys řekla 'ne'.
-
Hrozí, že až zjistíme, jak funguje lidský mozek, bude to něco podobně triviálně znějícího.
Jo. Minule se mi nepovedlo tady rozjet diskusi o tom, co lidé a proč označují jako AI a směřoval jsem přesně k tomuto. Za ty roky lidi označovali za inteligenci rozpoznávání značek v obraze. No tam víme, jak to funguje, takže už to není tak inteligentní. A tímto stylem se šlo postupně dál, dál lidé další a další věci označovali za inteligenci a tohle jde tak daleko, že o lidech se dá říct, že vlastně žádnou výjimečnou inteligenci nemají. Což je třeba můj názor. Já si jednak nemyslím, že ty AI systémy jsou kdoví jaké, ale na stejné straně současně si myslím, že ani lidé jako živočišný druh nějak extra inteligencí také nepřekypuje.
-
Neuronka v mozku určitě. Tak jak se modelují neuronky v IT, tak nemají.
Myslím si, že AI se dá naprogramovat zcela deterministicky, jenže v nějaké fázi (určitě ve vícero), musí nastoupit nějaké posouzení různých myšlenek a z nich vymazat ty nesprávné. Ale ne nějak formálně nesprávné, ale nehodící se do kontextu daného problému.
Jo prostě: nějaký člověk má problém. AI na to zareaguje vypuštěním všech jaderných raket. Na Zemi je nula lidí, člověk nemá problém, problém vyřešen. Ano, formálně je to správné řešení, ale asi ne chtěné.
-
"AI na to zareaguje vypuštěním všech jaderných raket."
To mas ale problem, protoze toto je jediny logicky dusledek existence lidi. Pokud se budem bavit o skutecne AI, ktera se bude ridit ciste logikou, tak k jinemu zaveru proste nemuze dojit.
Lide planetu znecistuji, zpusobuji vymirani celych druhu, prilis efektivne se mnozi, tzn v zajmu zachovani podminek na Zemi je se lidi zbavit. A je vcelku jedno, jestli to bude meteorit nebo jaderne strely.
-
"a zatim jen vyhodu mnoha neuronu a mnoha jejich spoju"
Je to presne tak. Az se nekomu povede sestavit dostatecne paralelne fungujici dostatecne mnoztvi neuronu, tak proste ziska fungujici mozek. Jen bude nejspis ponekud sileny. Protoze zakladem tech prirodnich je mimo jine to, ze zapominaji, a tohle ty umele neumi.
-
Myslim, ze to je hodne nepresne. Neurony totiz spolu komunikujic pomoci elektrickych signalu a chemickych latek (neurotransmitteru), ale rychlost komunikace je uplne hlemyzdi oproti procesorum. U neuronu a synapsi jde o rychlost mensi nez 1 ms, ale porad je to tak o 6 radu pomalejsi nez u procesoru.
-
Člověk má mimo jiné vize, emoce, empatii... říká se tomu třeba sociální inteligence, emořní inteligence, vizionářství. Ono se to nezdá, ale to je také součástí inteligence. A to dost podstatnou. Vychází z toho obrovské množství věcí.
I když ano, mnoho lidí jsou jen lepší jazykové modely. S tím lze souhlasit.
-
Taky si myslím. Podobně jako ta svobodná vůle - mám názor, že není, jen nás formuje takové množství vnějších podnětů, že chování neumíme spočítat a chápeme je jako svobodné/náhodné. Z čehož nás možná tyto systémy jednou vyvedou, až nás “spočítají”. Což je jedno z rizik, které mi v článku chybí.
P.S. Svobodná vůle má protiargument založený na kvantových jevech, to si ještě musím dostudovat. Těším se na to. :-)
23. 1. 2024, 23:25 editováno autorem komentáře
