Názory k článku Chceme nediskriminující umělou inteligenci, ale sami to neumíme

Skvely clanek, diky.

Je třeba se rozhodnout, zda chceme společnost nároků nebo společnost výkonů. Z článku jsem nabyl pocit, že firmy by nadále už neměly optimalizovat procesy směrem k efektivitě, ale měly by se zabývat jakýmsi společenským zadáním. Je otázka, zda umělá inteligence takové zadání dokáže vůbec pobrat, protože obsahuje zjevný rozpor, pokud jde i o ekonomické zdraví firmy, ve které funguje. Snaha vyloučit z ekonomiky přírodní výběr a deekonomizovat ji povede nutně k totalitě, jelikož je zase neslučitelná se svobodou. Tyto snahy míří k nějaké formě utopie či dystopie, tohle je asi věc názoru.

Je otázka, jestli ta diskriminace opravdu vede k efektivitě. Zrovna v tom Amazoním příkladu to moc nevypadá.
AI je mimozemšťan, který o nás nic neví a buduje kargokult. Netuší co chceme ani proč to chceme, jen se snaží co nejvíc napodobit to, co dostal. A pokud je v trénovacích datech náhodou nějaký vzor, tak se AI natrénuje ale poleze z ní binec. My lidi ten vzor nevidíme, protože +- víme, co hledáme.

V amazoním případě nejspíš diskriminoval ženské jen proto, že v trénovacích datech měl víc mužských CVček. Důvod mohl být klidně ten, že odmítnuté kandidáty prohnali skartovačkou a nechali si jen životopisy těch perspektivních. A jako negativní vzorky pak vzali nějaká náhodná CVčka s jiným poměrem pohlaví.

Nebo je to tím, že pro některá povolání jsou vhodnější a výkonnější chlapi a pro jiná ženské a v Amazonu prostě měli práci vhodnější pro chlapy.

Stejně tak jak ty chatovací a u soudu asistenční AI, které nějak došly k tomu, že barevní jsou riziková skupina s vyšší mírou kriminality.

Nehledal bych v tom nějaké chybné algoritmy nebo sady dat pro učení. Prostě AI ještě není zdegenerovaná politickou korektností.

No predvedl jste primo ukazkovou diskriminaci

Podstata problemu neni v nejake politicke korektnosti, ale v tom, ze ty algoritmy funguji spatne, protoze se mohou naucit hodnotit podle nerelevantnich kriterii. Napr. si mohou odvodit, ze jen muzi jsou vhodni pro praci v IT nebo, ze jen cernosi mohou hrat dobre basketbal, ... Takze lidi, kteri jsou sice kompetentni, ale nesplnuji takto odvozene kriterium, jsou evidentne diskriminovani.

U lidi funguji prirozene mechanismy, ktere se dokazi vyporadat s podobnymi stereotypy. U AI nic takoveho nefunguje a problem nastava, pokud se jeji rozhodovani bere jako jedine kriterium.

Ona vysmivana politicka korektnost je pak jen snaha potlacit existujici stereotypy fungujici v nasi spolecnosti.

Kdyby šlo o efektivitu, nebylo by nutné takto explicitně řešit "diskriminaci". Prostě by se řeklo, že systém vyloučil prokazatelně lepší uchazeče. Když se řeší kvóty a "diskriminace", nikdy to není primárně ve prospěch efektivity organizace, ale ve prospěch "znevýhodněných".

Čímž nepopírám, že nastavení vah při výběru může ke špatným výsledkům dojít i proto, že se skupinová kritéria zohlední až moc nebo že v některém konkrétním případě skutečně dochází k bezdůvodnému upřednostnění nějaké skupiny. Jelikož se to ale pojímá takto emocionálně, přijde mi, že tohle není pravý důvod boje proti diskriminaci.

Motáš jedno slovo ve dvou (poodbných, ale ne stejných významech).

Jenže tohle "motání pojmů" je podstata problému...
Řekneme, že AI nemá diskriminovat, ale v dnešní politickokorektní době to vlastně znamená, že diskriminovat musí, jen jaksi "správně".
Nebere se za korektní stav, kdy se u zaměstnavatele dlouhodobě ukazuje, že osoby tmavé barvy pleti mají horší výsledky, tak se při přijímání budou bodově znevýhodňovat - tohle je prostě brané za diskriminaci a že to je přitom doloženo tvrdými daty není omluva. Nebo při výpovědi - žena s dítětem má časté absence, tak systém vyhodnotí, že její propuštění je pro firmu nejpřínosnější (a třeba ani neví, že má dítě a zjistí to čistě z dat). Jenže v dnešní době je tohle opět brané jako nevhodné... A netvrďte mi, že šířím paniku, ono v těch odkazovaných případech totiž šlo právě o zmíněné příklady, praxe je spíš ještě horší.

Malér je prostě v tom, že se píše o "nediskriminaci", ale v praxi je tím míněna povinnost filtrace či dokonce vyložené překrucování části informací, což ale jde přímo proti podstatě AI :-(

Konečně opravdu zajímavý článek, inteligentní a věcný. Arendtová předběhla totiž dobu o celých 100 let, její popis krize autority a důsledků byl naprosto přesný a dnes to tady je. Škoda, že velká část voličů ji nečte a místo toho jí koblihy...

Jak psal MartinX, AI je skutecne diskriminace. Pokud budu HR, tak ta diskriminace (rozliseni) rozdeluje soubor na 2 mnoziny: prijmout, vs neprijmout uchazece.
Teoreticky je jedno, jestli tuto cinnost (diskriminaci) provadi stroj, nebo clovek. Clovek muze udelat to same co stroj, ale pomaleji. Navic muze udelat chyby, coz v pripade HR muze znamenat prijmuti cloveka, ktery je lempl.
To co ale nekomu vadi, je ze v pripade AI nedostanou lemplove sanci, kdezto v pripade chybujiciho cloveka ano.
Cili mame tu 2 zajmy:
- stat - chce aby dostali uchazeci sanci bez ohledu na jeho minulost - nekde bude, nebude pachat trestnou cinnost, atd...
- firma - chce efektivne nabirat zamestnance, kteri po dlouhe roky budou dobre pracovat a prinaset firme zisky a nebude fluktuace.

Myslim si, ze je nefer chtit po nekom, at uz clovekovi nebo stroji, aby delal zamerne chyby. Na druhou stranu je pekne nekomu sanci dat a dat si praci s jeho rozvojem. V pripade AI k tomu nedojde.

Za prve, AI sa dopusti diskriminacie len nad takymi udajmi ake jej date. Ak jej vypis z registra trestov neponuknete tak nebude podla toho rozhodovat. Takze rovnako to bude s rasou pripadne farbou koze.
Za druhe, nikto nepovedal ze AI musi davat iba ANO/NIE. Moze davat aj odporucania na dlhsiu skusobnu dobu, castejsie kontroly vykonnosti, odporucania na kontrolu specifickeho KPI, pripadne kludne dotycneho zamestnanca aj leadovat v osobnostnom rozvoji. Fanzii v oblasti AI sa medze nekladu.

Ale da sa, ak do trenovacej vzorky vlozis aj toho z Luniku.

Budeš rozhodovat o udělení hypotéky podle hudebního vkusu?
Zkus to, a statistici a lidé okolo AI tě vezmou a vyhodí z okna.
Pokud to dřív neudělá tvůj manažer.

Rasa vs. Bydliště - viz můj příspěvek výše.

29. 7. 2019, 01:02 editováno autorem komentáře

S temi vstupnimi parametry, to je prave ten problem, protoze pouziji i to o cem nevite, co jste sam neposkytl. Dobry priklad je take poskytnuti hypoteky. Asi bychom se vsichni divili, kdyby nam banky prozradily, na zaklade ceho posuzuji. Parametry jako znacka/trida mobilu, misto bydliste.
Takze si vlastne myslim, ze ta diskuse ani neni o umele inteligenci, ale o tom jaka data pak pouziji, kde je ziskaji, apod. a jestli je to legalni.

> To co ale nekomu vadi, je ze v pripade AI nedostanou lemplove sanci, kdezto v pripade chybujiciho cloveka ano.

Problém je, že "umělá inteligence", "rozhodl počítač" je příliš lákavá výmluva, než aby se jí nepoužívalo. Kdo se s tím potom bude hádat, že? A tomu počítači je úplně jedno, jaká data dostane: když bude v trénovací množině 8× Jan, který bude 8× hodnocen jako "nevyhovující", jakou šanci bude mít Jan Marenčík?

Pod čarou: je otázkou, jestli je chování počítače skutečně inteligentní, nebo jen nápodobou inteligentního chování. Osobně si myslím, že počítač není opravdu inteligentní a hodně se mi líbí termín Imitace Inteligence, který jsem potkal v Cestě šamana (V. Mahaněnko), což je celkem pěkná fantasy o životě v herním světě, kterému vládnou různé II.

> když bude v trénovací množině 8× Jan, který bude 8× hodnocen jako "nevyhovující", jakou šanci bude mít Jan Marenčík?

Třeba opravdu existuje nějaký zvláštní proces, jehož výsledkem je, že mají lidé se jménem Jan horší výsledky na dané pozici. Pokud se to potvrdí i na rozsáhlých validačních datech, kterou možnost byste si vybral: popřít to a pak se nechat sežrat nadřízenými/ak­cionáři/státem („péče řádného hospodáře bla bla“), nebo se tím řídit a pak si poslechnout jak diskriminujete?

> Třeba opravdu existuje nějaký zvláštní proces, jehož výsledkem je, že mají lidé se jménem Jan horší výsledky na dané pozici

Ne. "Umělá inteligence" žere data a prdí jiná data. Ale počítač sám nerozhodne, která data jsou pro vyhodnocení účelná a která ne. A tak ta "inteligence" formálně "správně" rozhodne o přijetí (resp. nepřijetí), ale rozhodne tak díky datům, která - posuzovat je člověk - nemají/nemají mít vliv.

> Ale počítač sám nerozhodne, která data jsou pro vyhodnocení účelná a která ne.

Rozhodne (pokud všechno dobře funguje; bylo popsáno mnoho papíru o tom jak to dělat a jak to může selhat, ale bavíme se o hypotetické zrovna-dobře-udělané „AI“), a je to dost zásadní vlastnost mnoha metod strojového učení, protože jinak by ses na komplikovanějších datech beznadějně přeučil.

> ale rozhodne tak díky datům, která nemají vliv

Pokud premisa byla, že Janové jsou nevyhovující, a je to statisticky signifikantní (po provedení korekce na mnoho proměnných a dalších potřebných statistických zpracování), tak to prostě má vliv.

Samozřejmě pokud máte 8 z 8 příkladů u jevu, který se běžně vyskytuje, tak to nic neříká, ale současně správně udělaný (nepřeučený) model by na takovýto náhodný šum neměl brát ohled.

> posuzovat je člověk

Osobně si teda myslím, že lidský personalista to přeučení chytne taky a na rozdíl od umělého modelu se to dá mnohem hůř testovat a řešit. (příklad jednoho takového wtf)

> ale rozhodne tak díky datům, která nemají mít vliv

To je jiná, pokud něco nechcete zahrnout, můžete to na vstup modelu nedávat (což se někdy dá udělat triviálně (třeba u toho jména), jindy je to dost složité, ale IMHO furt to není horší než když to vyhodnocuje člověk)

28. 7. 2019, 22:57 editováno autorem komentáře

A já si zase myslím, že člověk není ve své podstatě víc než stroj.

"Na druhou stranu je pekne nekomu sanci dat a dat si praci s jeho rozvojem. V pripade AI k tomu nedojde."

Kolik bezdomovců propuštěných z vězení zaměstnáváš ve své firmě na vývoj webových stránek? To je pouze moralizující kec, a nějaký abstraktní ideál, kterým se nikdo neřídí. Rozvojem zaměstnanců se zaměstnavatel zabývá pouze pokud si spočítá, že se mu to vyplatí.

29. 7. 2019, 00:39 editováno autorem komentáře

Hlásat to naprosto bez problému můžete ve chvíli, kdy přestanete řešit, že se to někomu nelíbí. ČR je stále seště svobodnou zemí, kde Vás za to reálně nikdo perzekuovat nebude (naopak s Vámi bude mnoho těch, kteří se ale bojí nálepky, tiše souhlasit)..

AI je stroj. Pokud stavím stroj, stavím ho tak, aby plnil účel - tj. maximálně efektivně prováděl činnost, pro kterou byl navržen. Pokud to znamená, že např. někomu po vyhodnocení nedá hypotéku - je to jen věc zhodnocení, zda je stroj nastaven správně - tj. efekticně vybírá klienty s přijatelným rizikem. A to se dá v delším časovém okně snadno změřit. Takže ano, ať AI klidně diskriminuje, pokud to bude ku prospěchu jejího cíle. A ten cíl určuje její provozovatel typicky podle ekonomických hledisek, politická korektnost ho obvykle moc nezajímá.

Pokud stavím stroj, stavím ho tak, aby plnil účel - tj. maximálně efektivně prováděl činnost, pro kterou byl navržen.

Problem je, ze rada AI algoritmu nenajde globalni maximum, ale pouze lokalni maxima. Z pohledu ekonomickych ukazatelu mohou false negatives byt zanedbatelne, z pohledu lidi, o kterych je takto rozhodovano, je to ale zminovana diskriminace, ktera muze mit dopad na jejich skutecne zivoty.

Lokálního optima čeho?

Jak se podle tebe učí lidi z HR? Napovím: opět jen statisticky.

> Z pohledu ekonomickych ukazatelu mohou false negatives byt zanedbatelne, z pohledu lidi, o kterych je takto rozhodovano, je to ale zminovana diskriminace, ktera muze mit dopad na jejich skutecne zivoty.

Přijal bys někoho, o kom na 99% víš že je neschopný jenom proto, že by jinak neměl kde bydlet?

Lokálního optima čeho?

Kdyby sis precetl prispevek, na ktery reaguju, bylo by ti to hned jasne. Cituji: A ten cíl určuje její provozovatel typicky podle ekonomických hledisek

Přijal bys někoho, o kom na 99% víš že je neschopný jenom proto, že by jinak neměl kde bydlet?

Ale takto problem vubec nestoji.

Problem je ten, ze kdyz si umela inteligence (nebo to tvoje statisticky naucene HR) odvodi, ze treba z Bruntalu nikdy nezamestnali dobreho programatora, tak pak nezamestnaji sebelepsiho programatora, ktery pochazi z Bruntalu. Z pohledu statistiky a ekonomiky takove rozhodnoti muze byt nevyznamne, protoze misto neho najdou horsiho programatora z Budejovic a v konecnem dusledku se to ztrati. Ale takove rozhodnuti bude suboptimalni pro firmu a diskriminacni vuci tomu cloveku.

Ale já ho četl. A stále mi to není jasné. Lokálního optima čeho?

Ale jo, je to totéž. Ty víš, že 99% programátorů, kteří se k tobě hlásí z Bruntálu jsou neschopná individua. Proto máš 99% jistotu, že ten další, který se ti odtamtud přihlásí je také neschopný. (Přirozeně to nefunguje, pokud jsou tvůj vzorek populace 3 lidi, nebo pokud zapomeneš kritérium "Je z Bruntálu" očistit od vlivu dalších faktorů.) To, že je tu to jedno procento je hezké, ale nikoho ve skutečnosti nezajímá. Pro firmu se objektivně vyplatí to jedno procento ztrát ignorovat.

30. 7. 2019, 01:25 editováno autorem komentáře

Změřit se to nedá. Mohl byste to porovnávat, ale to byste musel mít dvě skupiny ve stejném prostředí, nikdo by nesměl vědět, zda za konkrétním výběrem stojí AI nebo člověk, a hlavně – musel byste to měřit správně. Pokud byste dokázal správně měřit všechny relevantní ekonomické vlivy, dostal byste Nobelovu cenu za ekonomii.

Politická korektnost je právě způsob, jak se mohou lépe rozhodovat i ti, kteří na to nepřijdou vlastním rozumem. Zaměstnávat někoho s horšími kvalifikačními předpoklady jenom proto, že je muž, není ekonomicky přínosné – ovšem spousta lidí na to nepřijde a je potřeba jim poradit politickou korektností „při přijímání zaměstnanců nerozlišujte, zda jde o muže nebo o ženu“.

"při přijímání zaměstnanců nerozlišujte, zda jde o muže nebo o ženu"

A přesně proto je v IT je spousta fast-track nebo internship programů určených výhradně pro ženy, a žádné určené výhradně pro muže. To je totiž to, co se dneska myslí rovností pohlaví.

28. 7. 2019, 23:54 editováno autorem komentáře

Ve skutečnosti je to jednodušší: Fakta a realita, anebo politická korektnost.

Jak už bylo řečeno diskriminovat znamená rozlišovat, všímat si rozdílů mezi lidmi. Jakmile to však člověk začne dělat a je intelektuálně poctivý, tak zjistí, že dnešní kulturně-marxistické pojetí rovnosti všech lidí a skupin stojí na vodě a nemá oporu v realitě.

Muži a ženy se statisticky v ničem neliší - vůbec není pravda, že muži tíhnou typicky k technickým profesím a ženy k humanitním. Vůbec není pravda, že černoši mají v průměrů nižší IQ než běloši (85 vs 100). Vůbec není pravda, že určité etnické skupiny mají mnohem větší sklony ke kriminalitě než jiné (u nás Romové, v USA černoši a Hispánci). Vůbec není pravda, že představitelé jednoho náboženství se dopouštějí terorismu více než náboženství jiných.

Poslední módní výstřelek je, že pohlaví neexistuje a je to jen sociální konstrukt - přitom každý biolog ví, že je jenom jeden větší rozdíl než mezi samcem a samicí, a to mezi organizmem živým a organizmem mrtvým. Podobných sociálních tabu jsou stovky.

Tyto toxické ideologie nepřicházejí dnes z Moskvy, ale z Bruselu a Washingtonu - z toho Washingtonu, jehož bažiny chtěl Trump vysušit, než se v nich sám utopil.

Objektivita stroje je to poslední, o co stojí bojovník za sociální spravedlnost. Ukázalo by se totiž, že svět je úplně jiný, než by podle něj měl být. A to je nesnesitelná představa, a proto to nemůže být pravda.

Jestliže AI neplní, co od ní čeká člověk, má špatné zadání. Je pak otázka, co má být tím zadáním - skutečný pracovní výkon, nebo plusové a minusové body podle rasy, pohlaví, politické nebo sexuální orientace nebo podle toho, jak je dotyčný sympatický slečně z HR.

27. 7. 2019, 19:22 editováno autorem komentáře

Neargumentujte statistikou, když jí vůbec nerozumíte. Když já sním celé kuře a vy nic, tak jsme sice statisticky každý snědli půlku kuřete, ale ve skutečnosti já jsem přejedenej a vy máte hlad. Takže když třeba přijímáte někoho do zaměstnání, nějaké statistiky vás nezajímají, protože před sebou máte konkrétního člověka, ne nějaký statistický průměr.

Problém s tím, že svět je jiný, než byste si ho představoval, máte vy. To, že ženy tíhnou k humanitním oborům a muži k technickým je dané kulturně, ne biologicky – a zbytečně tak přicházíme o mužské humanitní a ženské technické talenty, protože jim někdo na základce řekne „to není pro tebe“. To s tím IQ je nesmysl, příklad s kriminalitou špatně interpretujete, není to totiž dané etnikem, ale sociálním vyloučením. „Představitel náboženství“ je zvláštní pojem, ale když už se tak hezky opíráte do křesťanství (přestože jste si dost možná myslel, že píšete o jiném náboženství), nezapomeňte na to, že pokud někdo na „druhé straně“ bude postupovat stejně, jako vy, zařadí vás také mezi křesťany. Stejně tak se mýlíte v těch rozdílech mezi muži a ženami – biologie naopak nezná žádný jiný rozdíl mezi muži a ženami, než ten, který je daný z definice (i s tou budete mít problém, ale dejme tomu, že máte nějakou, která bude fungovat alespoň v 95 % případů). Dříve se sice mělo za to, že jsou mezi muži a ženami jiné biologické rozdíly než pohlavní orgány, ale postupně se zjistilo, že to vše byly jen chybné interpretace, protože se nepodařilo odstínit kulturní vlivy. Ono když budete třeba holkám od mala vštěpovat, že nejsou technicky zaměřené a na matematiku se nehodí, tak potom vskutku pomocí statistiky zjistíte, že je v technických oborech méně žen a méně jim jde matematika. Ale nemá to nic společného s biologií, ale jenom s tím, že to do nich od mala hustíte.

Zadáním AI by měl být skutečný pracovní výkon. Problém je, že nemáme data, na kterých AI natrénovat. Protože lidé dávají ty plusové a minusové body podle rasy, pohlaví, politické nebo sexuální orientace – někteří i vědomě a všichni nevědomě. Jsou snahy tyhle neopodstatněné plusy a mínusy korigovat, např. kvótami.

Prý mají na Slovensku takové přísloví: "Bača nebije vlka proto, že je šedý, ale protože mu krade ovce."

A když po staletí vlci kradou bačům ovce, tak se případný vlk vegetarián nesmí divit že dostane sekyrou, zatímco v záhonu žvýká mrkev ;-)

Já jsem samozřejmě pro rovnoprávnost, požaduji minimálně 40% žen v dolech a hutích!

Co se křesťanství týká, když pominu těch devět milionů upálených lidí, situaci vtipně postihuje tohle:

Šel jsem takhle jednou po mostě a na zábradlí balancoval chlápek, který se zjevně chystal ukončit svůj život skokem do údolí.
Přiběhl jsem k němu a říkám: "Hej, stůjte, nedělejte to!"
"A proč ne?"
"Je spousta věcí, kvůli kterým stojí za to žít!"
"Co třeba?"
"Třeba... jste věřící nebo ateista?"
"Věřící."
"Já taky! Jste křesťan nebo Žid?"
"Křesťan."
"Já taky! Jste katolík nebo protestant?"
"Protestant."
"Já taky! Jste episkopál nebo baptista?"
"Baptista."
"Já taky! Jste z Baptistické Církve Páně nebo z Baptistické Církve Hospodina?"
"Z Církve Páně."
"Bezva! Já taky! Jste z původní Církve Páně nebo z Reformované Církve Páně?"
"Z Reformované Církve Páně."
"Bezva! Já taky! Jste z Reformované Církve Páně reformou v roce 1879 nebo z Reformované Církve Páně reformou v roce 1915?"
"Z Reformované Církve Páně reformou v roce 1915!"
Na to jsem řekl: "Chcípni, ty kacířský bezbožníku!" a strčil ho dolů.

Ano, je to tak. Pokud o člověku nevíte víc, než že pochází z určité skupiny, logicky předpokládáte, že bude mít charakteristiky typické pro tuto skupinu. Pokud se dozvíte více informací, můžete svůj názor zpřesnit.

Představme si, že by filtrování spamu nebylo dělané strojem na základě výpočtu pravděpodobnosti, ale na základě politických pravidel. Jak to, žes zatížil negativním skóre doménu spam.com, nebo slova jako "sex" a "viagra"?! Odporný rasisto! Viagra je zcela legální a pro starší občany nezbytný preparát - proč nenávidíš staré lidi?!

Tak fungují dnes společenské systémy v našem civilizačním okruhu. Výsledkem je nástup nové totality, omezování svobody slova, nahrazováni Evropanů Araby a Afričany. Odcházíme ze scény a nahradí nás Číňané, ti na západní politickou korektnost nehrají. Snad máme ještě šanci se vzpamatovat.

Otevřel jste tolik témat, že kdybych chtěl všechny vaše body vyvrátit, musel bych napsat celou knihu.

Naprosto souhlasím, že při přijímání do zaměstnání máte před sebou konkrétního člověka a ne statistickou veličinu.

Jenže pokud se charakteristiky skupin významně statisticky liší (a ony se liší), pak zkrátka nebudete mít stejné procento skupiny x a skupiny y ve vězení, na sociálních dávkách a na Harvardu. No a pokud třeba v tom vězení není stejné procento všech ras, pak je to prý kvůli rasizmu policie, soudů, obětí, bělochů..."sys­tému". Třeba pro ilustraci, New York 2014, počet zadržených pro vraždu - běloši 2.9%, černoši 61.8%, hispánci 31.8%, asiaté (z velké části Čína, Japonsko, Korea) 2.7%. Přičemž "Given a population (page B1 of report) that was 32.8 percent white, 22.6 percent black, 28.9 percent Hispanic, and 13.0 percent Asian, a black was 31 times more likely than a white to be arrested for murder, a Hispanic was 12.4 times more likely than a white, and an Asian was twice as likely."

Zpráva "Color of crime" (https://www.amren.com/the-color-of-crime/), Americká Bureau of Justice Statistics: https://www.bjs.gov/index.cfm?ty=pbse&sid=6

Proto jsou potřeba všechny ty afirmativní akce, pozitivní diskriminace a systém kvót: aby ti lepší meritokraticky nepředběhli ty horší.

Proto zná americké pracovní právo termín "Disparate impact" a "protected class". Pokud má nějaká skupina jako celek objektivně horší výsledky a je zároveň "chráněnou třídou", pak je protizákonné přijímat podle objektivních kritérií, která neberou v potaz např. rasu, náboženství nebo pohlaví. Je potřeba postupovat ideologicky a třídně uvědoměle...
"Disparate impact in United States labor law refers to practices in employment, housing, and other areas that adversely affect one group of people of a protected characteristic more than another, even though *rules* applied by employers or landlords are formally *neutral*."
(https://en.wikipedia.org/wiki/Disparate_impact)

"To s tím IQ je nesmysl, příklad s kriminalitou špatně interpretujete, není to totiž dané etnikem, ale sociálním vyloučením."

- Za sto let IQ testování se nestalo, aby měli černoši vyšší IQ než běloši - pořadí výsledků např. v USA bývá aškenázští (evropští) židé - 110-115, asiaté - JV Asie - 102-105, běloši - 100, hispánci - 89-92, černoši - 85.

Pokud chcete mezinárodní srovnání, zkuste pro přibližnou orientaci třeba https://www.worlddata.info/iq-by-country.php. Pokud chcete vědecké pozadí, nejlepší přehled světové inteligence bývá publikován zde - https://viewoniq.org/?page_id=9

Mimochodem, IQ má významné koreláty nejen v oblasti vzdělávání a zaměstnávání, ale i v HDP na hlavu, politické a ekonomické svobodě, kriminalitě, korupci, byrokracii, porodnosti (zde je bohužel korelace negativní r = -0.85 tzn. čím hloupější člověk, tím více dětí), atd. Asi není potřeba zdůrazňovat, že v drtivé většině případů platí, čím vyšší průměrné IQ společnosti tím lépe. IQ podléhá normálnímu rozložení četnosti (obvykle udávaná směrodatná odchylka je 15), takže v (hlavně etnicky) homogenních společnostech je aritmetický průměr spolehlivým ukazatelem centrální tendence.

Spousta dalších korelátů IQ:
https://ttu.ee/public/m/mart-murdvee/EconPsy/2/Lynn_Vanhanen_2012_National_IQs_-_a_review.pdf

"biologie naopak nezná žádný jiný rozdíl mezi muži a ženami, než ten, který je daný z definice" a "Dříve se sice mělo za to, že jsou mezi muži a ženami jiné biologické rozdíly než pohlavní orgány, ale postupně se zjistilo, že to vše byly jen chybné interpretace, protože se nepodařilo odstínit kulturní vlivy."

Nezlobte se, ale to je takový blábol, že tomu snad ani sám nemůžete věřit. Takže dnes se "ví", že jediný rozdíl mezi muži a ženami jsou jen pohlavní orgány? Co výška, váha, fyzická síla, hladina testosteronu, agresivita (tah na branku), výkonost ve všem od tenisu po přírodní vědy, velikost a struktura mozku, rozdíly v osobnosti už u kojenců? Co radikální disparita v rozmnožování mezi samci, kteří mají prakticky neomezený počet pohlavních buněk - potenciálních dětí, tudíž jsou biologicky naprogramováni na kvantitu potomstva (r-selekce), zatímco ženy na kvalitu (K-selekce). To má mimochodem přímý vliv na rozdílné pojetí sexuální morálky.

(https://en.wikipedia.org/wiki/R/K_selection_theory)

Takto by šlo samozřejmě pokračovat ještě dlouho, ale utnu to zde.

> Naprosto souhlasím, že při přijímání do zaměstnání máte před sebou konkrétního člověka a ne statistickou veličinu.

Člověk JE skupina statistických veličin. To je základ většiny* psychometrie. Včetně té používané v assesment centrech. Doteď to převádění lidí na čísla nikomu nevadilo, tak proč se všichni tak brání tomu, aby posuzování lidí dělala neuronová síť? Na rozdíl od psychologa se nemůže špatně vyspat, a nemůže vás vyškrtnout jen proto, že se jí nelíbíte.

*) pokud někdo posuzuje zaměstnance na základě projektivního testu, dobře mu tak. Osobně bych nikdy neměl odvahu nepřijmout programátora jenom proto, že se psychologovi nelíbilo jaký nakreslil strom, nebo jak píše.

Ale jistě, že člověka lze statisticky popsat různými číselnými parametry.

Je ale něco jiného, když člověku dáte test na inteligenci, angličtinu, znalost nějakého IT produktu / oblasti, osobnostní test, test na přesnost a rychlost a ty výsledky potom statisticky zpracujete - to jsem třeba já podstoupil v jednom tom assessment centru a přišlo mi to užitečné a fér. A něco úplně jiného je, když o tom člověku osobně nevíte víc než že má modrou tečku na čele, a tak na něj aplikujete typické statistické charakteristiky lidí s modrou tečkou na čele, i když on osobně může mít charakteristiky jiné...

Skupinové charakteristiky můžou být užitečné jako výchozí mód, pokud nemáte možnost zjistit si víc o daném subjektu.

Člověk JE skupina statistických veličin.
Ne, není. Když máte množinu o jednom prvku, není to žádná statistika. Navíc ten problém je přesně opačný, než ho popisujete vy – někdo si vezme statistiku pro určitou skupinu, do které daný člověk náhodou spadá, a na základě té statistiky pak dělá závěry o tom jednom konkrétním člověku.

tak proč se všichni tak brání tomu, aby posuzování lidí dělala neuronová síť?
Tomu se ale nikdo nebrání. Jenom si někdo dovolil poukázat na to, že i když to posuzování dělá umělá neuronová síť, nebo jiná AI, neznamená to, že to posuzování bude objektivní. Pokud tu umělou neuronovou síť natrénujeme na datech ovlivněných předsudky, bude i ta neuronová síť vyhodnocovat s předsudky.

Dovolim si ten tvůj hezky změřený svět trochu nabourat. Zmiňuješ závislost kriminality a IQ na rase, jenže ony dost podstatně závisí na poskytnutém vzdělání. U té kriminality je to doufám jasné.

U IQ je ten efekt, že se během času v populaci "samo" zvyšuje, čili naši předci by nám vyšli jako retardovaní a je to tím, že IQ testy jsou závislé na tom, jakou míru abstraktního myšlení jedinec zažil (typicky během školní výuky). Zkrátka, není to objektivní měření nějaké nezávislé veličiny.

To znamená, že spousta těch tvých závěrů může být dána prostě tím, že jedinci dané rasy vyrůstají v sociálně chabém prostředí, chodí na mizerné školy a pak už se to s nima veze. Pokud chceš být objektivní, měl bys to zahrnout do svých závěrů.

Jen velmi málo jevů závisí pouze na jedné proměnné - faktorů bývá obyčejně celá řada a pořadí jejich důležitosti bývá různé. To znamená, že korelace mezi IQ a kriminalitou nikdy nebude 1 (naměřené IQ nikdy "nevysvětlí" kriminalitu ze 100%).

Dělaly se výzkumy rozdílnosti vývoje jednovaječných dvojčat (shodná DNA) - jedno dvojče zůstalo v původní, problémové rodině, škole a dalším prostředí, druhé bylo adoptováno středostavovským párem. Po letech se porovnávaly rozdíly a zjistilo se, že korelace sociálních výstupů mezi dvojčaty je vyšší než korelace mezi adoptovaným dvojčetem a geneticky nespřízněnými sourozenci (výchova hrála menší roli než dědičnost). Konkrétně dědičnost IQ je odhadována na 60- 80%, což je v sociálních vědách velmi mnoho (korelace mezi cca 0.7 - 0.9). = > "Nature" je důležitější než "nurture".

Jeden příklad za všechny, shrnutí 111 amerických vědeckých studií:
"Correlations of 0.86 for identical twins raised together compared to 0.76 for those raised apart and 0.47 for siblings".

Kaufman, Alan S.; Lichtenberger, Elizabeth (2006). Assessing Adolescent and Adult Intelligence (3rd ed.). Hoboken (NJ): Wiley. ISBN 978-0-471-73553-3. Lay summary (22 August 2010).

U toho IQ pozor, protože IQ je bezrozměrné číslo vyjadřující schopnost řešit testy IQ.

A s tím zvyšováním to také nebude tak horké, "peak" v západní civilizaci prý nastal v sedmdesátých letech, a od té doby tady průměrné IQ zase klesá. Což je velmi odvážná hypotéza, ale když se tak rozhlédnu po dnešní mládeži, tak mi připadá docela pravdivá. Viz třeba loňské přijímačky a příklad s traktorem :-(

Otevřel jste tolik témat, že kdybych chtěl všechny vaše body vyvrátit, musel bych napsat celou knihu.
Vidíte, a já celý váš komentář vyvrátím jednou větou. Navíc jsem o tom psal už v komentáři, na který reagujete:

Pletete si korelaci a kauzalitu.

To je celé, z vašeho komentáře tím pádem nezbývá skoro nic.

Můžete si například změřit, jak vysoko je Slunce na obloze, a co ve stejnou chvíli ukazují vaše hodiny. Když to statisticky zpracujete, zjistíte, že je tam silná korelace. V tom máte pravdu. Ale vy z toho pak děláte závěr, že pohyb Slunce po obloze je řízen vašimi hodinami. A v tom už pravdu nemáte.

A abych tedy vyřídil i ten zbytek vašeho komentáře:

Takže dnes se "ví", že jediný rozdíl mezi muži a ženami jsou jen pohlavní orgány? Co výška, váha, fyzická síla, hladina testosteronu, agresivita (tah na branku), výkonost ve všem od tenisu po přírodní vědy, velikost a struktura mozku, rozdíly v osobnosti už u kojenců? Co radikální disparita v rozmnožování mezi samci, kteří mají prakticky neomezený počet pohlavních buněk - potenciálních dětí, tudíž jsou biologicky naprogramováni na kvantitu potomstva (r-selekce), zatímco ženy na kvalitu (K-selekce). To má mimochodem přímý vliv na rozdílné pojetí sexuální morálky.
Existuje na světě alespoň jedna žena a jeden muž takoví, že ta žena je vyšší než ten muž. Čímž ten váš argument opět padá, protože ty rozdíly jsou opět jen statistické, ale nic nevypovídají o konkrétním jedinci.

"Vidíte, a já celý váš komentář vyvrátím jednou větou"
Obávám se, že jste ho vyvrátil jen sám před sebou.

Dobře vím, že korelace nedokazuje kauzalitu, ale ani ji nevylučuje. Pokud dvě proměnné klesají nebo stoupají zároveň, není to náhoda - je mezi nimi minimálně zprostředkovaný vztah.

Abych se neopakoval, tak jen stručně z jiného příspěvku - jak to, že když kultura je všechno a dědičnost nic, tak "Correlations of 0.86 for identical twins raised together compared to 0.76 for those raised apart and 0.47 for siblings"? - Korelace naměřeného IQ mezi jednovaječnými dvojčaty vychovanými dohromady je 0.86 a vychovanými odděleně 0.76. Ta souvislost je vysoká, zřejmá a není ji možně vysvětlit ničím jiným než dědičností. Nebo jaká je podle vás společná skrytá proměnná ("X factor"), která tu souvislost vysvětluje?

> Takže když třeba přijímáte někoho do zaměstnání, nějaké statistiky vás nezajímají, protože před sebou máte konkrétního člověka, ne nějaký statistický průměr.

Těch uchazečů máte desítky a nemáte prostředky na to každého z nich detailně zkoumat. Jak tuto situaci řešit?

Nemusíte je zkoumat detailně. Stačí zkoumat to, co je podstatné pro jejich práci (a neztrácet čas zkoumáním věcí, který na jejich práci nemají vliv – jako třeba pohlaví nebo rasa).

Takže budu zkoumat dosažené vzdělání, dosavadní praxi a úspěchy v manažerské pozici a vyjde mi z toho bílý muž.

"Dříve se sice mělo za to, že jsou mezi muži a ženami jiné biologické rozdíly než pohlavní orgány, ale postupně se zjistilo, že to vše byly jen chybné interpretace, protože se nepodařilo odstínit kulturní vlivy."
Tak proc se zenske vztekaji, kdyz s nimi zavodi presity chlap? Nejcerstvejsi priklad byl/a transgender osoba, ktera se cilene nechala preoperovat, aby se dostala do reprezentace v maratonu ...

Zrovna ten sport je dobrý příklad. Dříve šlo jen o talent a nějaké fyzické předpoklady. Pokud byl někdo biologicky „jiný“, asi se nehrnul do vrcholového sportu, kde by to všichni řešili. Dneska talent a fyzické předpoklady v žádném případě nestačí, sportovci si pomáhají vším možný i nemožný – a jde jenom o to, co se ještě považuje za „přirozené“ a povolí se to. Samozřejmě, že se ženy mohou dopovat mužskými hormony, může se s tím začít ještě před narozením dítěte – ale pak už nemá smysl rozlišovat mužskou a ženskou variantu sportu. A taky už se z toho pak vytrácí lidství, jsou to jen lidské stroje vyšlechtěné aby v jednom úzkém oboru podávali co nejlepší výkon. Je to to samé, jako s různými protézami – dnes už je možné vyrobit takovou protézu nohy, že je s ní běžec rychlejší, než zdravý člověk. Jenže to už pak není sport.

Tak zrovna sport:
Říkala kdysi jedna reprezentantka: "Pane doktore, z těch prášků od vás mi rostou chlupy na prsou."
"To je zajímavé, a kam to sahá?" ptá se doktor.
"Až dolů ke koulím, což je další věc o které bych s vámi chtěla mluvit!"

Sem se hodí trefná citace (není úplně přesná, lovím z hlavy) k rozdílnosti rasové (tj. také protiegalitářská):

„Bylo by naivní se domnívat, že evoluce se zastavila u barvy kůže.“ Petr Balakář, Tabu v sociálních vědách

J ouda: Aha, prokazatelně se liší podle pohlaví. Akorát jste nějak zapomněl definovat, co je to pohlaví. A jinak ono se toho liší spousta – ale jsou to statistické odlišnosti, takže nevypovídají nic o člověku, který je právě před vámi.

Jirsák, nepracují oni na některé české universitě v oboru humanitních věd se zajištěným penězovodem? Nic proti, ale jestli z takovýchto organizací mají padat podobné názory, které vezmou za své při první návštěvě Afriky nebo při sledování dospívání dětí, tak takovýto podnik ze svých daní platit nechci.

SB: To, že se vám nelíbí fakta, je váš problém.

Jakékoliv objektivní poznání světa je nemožné, protože z korelace nikdy nelze se stoprocentní jistotou vyvodit kauzalitu.

Proto bych především řešil, že nikdo nikdy nebude schopen se stoprocentní jistotou stanovit "správná" kritéria, na základě jakých posoudit schopnosti potenciálního zaměstnance. Díky tomu každý manažer/HR používá polofunkční statistický klasifikátor (svou hlavu) postavený svépomocí na pár desítkách (ne desítkách tisíc) příkladů. To, že při výběru zaměstnance krom svých zanedbatelných zkušeností použil i svou vlastní interpretaci rad, které ve svých knihách píší lidé, kteří mnohdy v jiných odvětvích a jiných typech firem viděli také pár desítek až stovek příkladů, je spíš na škodu, protože to dává iluzi jistoty.
Jistě. Manažeři mají v hlavě také "model" popisující jejich chápání toho, jak lidé fungují. Ten je však bohužel zatížen stejným fundamentálním zdrojem nejistoty - kde se vzal, a proč by to měla být pravda? A proč by vlastně všichni lidé měli být ve své podstatě stejní, a postihnutelní nějakým rozumně velkým modelem?

Osobně nevidím důvod, proč klást na machine learning vyšší nároky než na lidi.

28. 7. 2019, 23:07 editováno autorem komentáře

"Protože data, ze kterých k učení docházelo, byla taková, že mapovala často technické pozice, na které se častěji hlásili muži, došlo k tomu, že systém právě gender označil za jeden z výběrových parametrů a uchazeče, z nichž vybíral CV pro přijetí (nebo pro další kola výběrového řízení) hodnotil tak, že ženám dával záporné body. Rozlišení genderu přitom mohlo probíhat pomocí analýzy školy uchazeče, nebo pomocí ženského tvaru v některých činnostech."

Ten příklad z Amazonu se tu popisuje špatně. Nechápu, že si toho nikdo nevšiml.
Aby se statistický systém naučil tohle, musela pravděpodobnost přijetí životopisu korelovat s pohlavím žadatele! Pokud pro muže bude šance na přijetí 40% a pro ženu bude šance na přijetí také 40%, tak se algoritmus nemá důvod učit, že muži jsou perspektivnější než ženy. Ten algoritmus pouze okopíroval způsob rozhodování HR, kteří sami o sobě měli tendence méně nabírat ženy.

Kulturně nepodmíněné testování je, když na pohovoru dám všem za úkol zatloukat hřebíky, protože v práci budou mít za úkol zatloukat hřebíky. Pokud Křováci zatloukat hřebíky neumí, protože to nikdy k ničemu nepotřebovali, nebudou dobrými zaměstnanci a je správně je nepřijmout.

Jinak mi přijde nesmírně cynické, kolik řečí o rovnosti jde z USA, kde o kvalitě vzdělání dětí rozhoduje především velikost peněženky rodičů.

29. 7. 2019, 00:18 editováno autorem komentáře

Vidim dve realne moznosti
A) Odbory pouziji take AI
B) pouzije se AI ktera bude detekovat diskriminaci AI
Obe muzou bezet krasne automaticky a prikladu k uceni maji spoustu.