Je třeba se rozhodnout, zda chceme společnost nároků nebo společnost výkonů. Z článku jsem nabyl pocit, že firmy by nadále už neměly optimalizovat procesy směrem k efektivitě, ale měly by se zabývat jakýmsi společenským zadáním. Je otázka, zda umělá inteligence takové zadání dokáže vůbec pobrat, protože obsahuje zjevný rozpor, pokud jde i o ekonomické zdraví firmy, ve které funguje. Snaha vyloučit z ekonomiky přírodní výběr a deekonomizovat ji povede nutně k totalitě, jelikož je zase neslučitelná se svobodou. Tyto snahy míří k nějaké formě utopie či dystopie, tohle je asi věc názoru.
Je otázka, jestli ta diskriminace opravdu vede k efektivitě. Zrovna v tom Amazoním příkladu to moc nevypadá.
AI je mimozemšťan, který o nás nic neví a buduje kargokult. Netuší co chceme ani proč to chceme, jen se snaží co nejvíc napodobit to, co dostal. A pokud je v trénovacích datech náhodou nějaký vzor, tak se AI natrénuje ale poleze z ní binec. My lidi ten vzor nevidíme, protože +- víme, co hledáme.
V amazoním případě nejspíš diskriminoval ženské jen proto, že v trénovacích datech měl víc mužských CVček. Důvod mohl být klidně ten, že odmítnuté kandidáty prohnali skartovačkou a nechali si jen životopisy těch perspektivních. A jako negativní vzorky pak vzali nějaká náhodná CVčka s jiným poměrem pohlaví.
Nebo je to tím, že pro některá povolání jsou vhodnější a výkonnější chlapi a pro jiná ženské a v Amazonu prostě měli práci vhodnější pro chlapy.
Stejně tak jak ty chatovací a u soudu asistenční AI, které nějak došly k tomu, že barevní jsou riziková skupina s vyšší mírou kriminality.
Nehledal bych v tom nějaké chybné algoritmy nebo sady dat pro učení. Prostě AI ještě není zdegenerovaná politickou korektností.
" pro některá povolání jsou vhodnější a výkonnější chlapi"
Diskriminace (lat. discriminare = rozlišovat) je termín označující nějaké rozlišování. Nejčastěji se používá v negativním významu rozlišování lidí na základě příslušnosti k nějaké obecné skupině bez ohledu na schopnosti konkrétního jedince. Podle konkrétního kritéria diskriminace se hovoří o diskriminaci na základě rasy, náboženského přesvědčení, politického přesvědčení, pohlaví, věku apod.
@ondrama
"Nejčastěji se používá v negativním významu rozlišování lidí na základě příslušnosti k nějaké obecné skupině bez ohledu na schopnosti konkrétního jedince."
Ale na některé povolání jsou vhodnější muži, takže "bez ohledu na schopnosti konkrétního jedince." neporušil, protože pohlaví nebylo jediné kritérium. A na některé povolání jsou vhodnější ženy. Podle čeho usuzujete že obě pohlaví, které se od sebe liší psychologicky i fyzicky, mají stejné předpoklady pro všechny zaměstnání a tedy pokud je jedno z nich na nějakou pozici vhodnější musí jít o diskriminaci?
28. 7. 2019, 02:02 editováno autorem komentáře
Proč se teda v dolech, hutích a těžkých strojírenských provozech netlačí na stejné zastoupení můžu a žen, nebo spíš proč to není vyrovnané samo od sebe už dávno?
Proč bych měl jako provozovatel skladů chtít zaměstnávat ženy (mimo administrativu a kantýnu), když u nich zákon výrazně omezuje při manipulaci maximální hmotnost břemene a souhrn hmotnosti za směnu?
Sao od sebe to dávno není vyrovnané proto, že předsudky ovlivňují výběr lidí a jejich hodnocení (personalisty, nadřízenými), hodnocení ve školách, výběr povolání atd.
Je zajímavé, jak si v takovýchhle diskusích vždy někdo „náhodou“ vybere doly. Že vás nenapadly třeba manažerské pozice, politika, učitelé na základních a středních školách, zdravotní sestry… Tam všude jsou také výrazné rozdíly dle pohlaví. Manažeři podle vás také celou směnu zvedají těžká břemena?
O jakých učitelích to mluvíš? Vždyť ti už skoro neexistují, všude je to samá učitelka.
Proč ženy nepřevládly v manažerských pozicích by mě také zajímalo, asi jim nevyhovuje přímá odpovědnost, radši kují pikle někde v zákulisí a veřejně akorát kvičí o diskriminaci ;-)
Ale také se to může všechno svést na neviditelnou ruku trhu, ta přece funguje nejlépe...
No právě, moc by mne zajímaly ty biologické důvody, proč na základních a středních školách před sto lety učili téměř samí muži a dnes je tam velká převaha žen.
Ženy na manažerských pozicích nejsou z toho důvodu, že je tam společnost nechce pustit. protože spousta lidí má předsudky – jak ostatně vidíme i v této diskusi – že na takové pozice ženy nejsou vhodné.
Podstata problemu neni v nejake politicke korektnosti, ale v tom, ze ty algoritmy funguji spatne, protoze se mohou naucit hodnotit podle nerelevantnich kriterii. Napr. si mohou odvodit, ze jen muzi jsou vhodni pro praci v IT nebo, ze jen cernosi mohou hrat dobre basketbal, ... Takze lidi, kteri jsou sice kompetentni, ale nesplnuji takto odvozene kriterium, jsou evidentne diskriminovani.
U lidi funguji prirozene mechanismy, ktere se dokazi vyporadat s podobnymi stereotypy. U AI nic takoveho nefunguje a problem nastava, pokud se jeji rozhodovani bere jako jedine kriterium.
Ona vysmivana politicka korektnost je pak jen snaha potlacit existujici stereotypy fungujici v nasi spolecnosti.
Problém je, že stereotypy bývají často pravdivé. Zmínil jste basketbalisty - NBA je z 75% černá, ale nemyslím, že je to proto, že bělochy někdo předem vyřazuje (i když při dnešní společenské atmosféře v USA by to nebyl žádný div), ale prostě proto, že v *průměru* mají černoši lepší předpoklady pro vrcholový basketbal.
"Problém je naopak v tom, že stereotypy jsou často nepravdivé." - Jaké stereotypy, v jakém smyslu jsou nepravdivé? Je nějaká centrální databáze stereotypů? Kolik procent jich je nepravdivých a v jaké míře jsou nepravdivé? Kdo určuje, které jsou nepravdivé?
"Proti tomu, že v některých sportech budou vynikat lidé určité rasy nebo etnika, nikdo nic nemá a ničemu to nevadí."
Genetické predispozice se samozřejmě neprojevují jenom ve sportu, ale ve veškeré lidské aktivitě. A tyhle rozdíly vadí hodně lidem: zastáncům egalitarismu, feministkám, hnutí "Black Lives Matter", levici obecně. Všichni lidé jsou v podstatě stejní a pokud ne, tak ti barevní jsou lepší než ti bílí - to je teď v USA mainstream.
Kdyby jen ve sportech, určitá etnika vynikají i v kriminalitě, ale říct to vadí moc: https://www.idnes.cz/zpravy/zahranicni/usa-miss-rasismus-islam-trump-hidzab-cernosi.A190723_114052_zahranicni_luka
Radovan: Tohle je právě věc, kterou spousta lidí nechápe – rozdíl mezi korelací a kauzalitou. Pak v tom mají zmatek, jako vy. V případě toho sportu je ten úspěch daný fyzickými vlastnostmi, které s rasou souvisí, jsou jí geneticky podmíněné. V případě té kriminality tam ale není žádné genetická predispozice, je to čistě sociální věc. Většinová společnost zažene lidi z toho etnika na okraj společnosti, a lidé na okraji společnosti statisticky častěji páchají určitý druh kriminálních činů, které se snadno odhalují. Ale jednodušší lidé tuhle souvislost nechápou, nechápou, že na vině je majoritní společnost, a myslí si, že příčinou je to etnikum.
Zvláštní je, že když to tak moc vadí říkat, že to tvrdí kde jaký trumbera. Ale jak často jste někde četl, která skupina vyniká v kriminalitě bílých límečků?
Co si tak vzpomínám z dob, kdy mě sport ještě aspoň trochu zajímal, tak afričané vynikali v bězích na krátké trati, ale nedávali maraton. Holt geny reflektující určitý způsob života etnika, majoritu bych z toho nevinil.
Tak schválně co o okraji společnosti vyvodíš z téhle statistiky kriminality, staré 110 let:
Poláci 22 2 3 Litevci 18 4 3 Rusové 16 3 4 Židé 18 4 1 Kavkazané 12 .2 18 Arméni 14 1 18 Gruzíni a ost. 13 1 11 Němci 9 1 2
Čísla znamenají počet krádeží/podvodů/vražd na 100000 obyvatel.
Kdo se asi nejčastěji vyskytuje mezi bílými límečky? I tam geny reflektují dlouhodobý způsob života určitých etnik :-D
No vidíte a mě root.cz zcenzuroval odpověď na tento váš příspěvek, kde jsem srovnával kriminalitu Afričanů v USA a jejich domovských zemích v Africe. Korelace byla velmi vysoká, tak jsou asi všichni Afričané v Africe jinými Afričany "zahánění na okraj společnosti".
(https://en.wikipedia.org/wiki/List_of_countries_by_intentional_homicide_rate)
Uvidíme, jestli to teď projde - je smutné sledovat, jak svoboda slova jde do kytek.
Stale nechapete podstatu problemu. To, ze v NBA je 75% neni problem, je asi nejaky prirozeny stav a neni na tom nejspis asi nic spatneho. (I kdyz za "prirozeny stav" se v padesatych letech povazovalo neco jineho.)
Problem je, ze AI bude z aktualnich informaci mit tendenci odvodit chybna pravidla { cernoch => dobry v basketbalu, beloch => spatny v basketbalu }, misto toho, aby odvodila pravidla podle relevantnich kriterii, ktera napr. odpovidaji fyzickym dispozicim. Pokud se takova AI pouzije k urcovani, kdo muze nebo nemuze neco delat, povede to k diskriminaci a prohlubovani stereotypu.
U cloveka muze zafungovat samoopravny mechanismus a sam si muze rict, ze rozhodovani podle barvy kuze neni uplne relevantni a mel by zvazit jine faktory. Dale v pripade cloveka je mozne zeptat se, proc rozhodl tak, jak rozhodl, a pripadne to korigovat. To v pripade rady implementaci "AI" neni mozne.
Záleží, jaká vstupní data AI dáte, jaké parametry jí dáte a co pak uděláte s výsledky.
Z hlediska měření výkonu v zaměstnání je dobré mít nějaké jasně dané a vyčíslitelné KPIs (Key Performance Indicators), které měří kvantitu a kvalitu práce - ty byste ale měl mít tak jako tak, jinak je to jenom dojmologie nadřízeného.
Pokud jde o přijímání do zaměstnání, je nejdůležitější *prediktivní hodnota* nějakého testu. Třeba americká armáda používá už přes 50 let Armed Forces Qualification Test (AFQT), protože mají zkušeností tvrdě zaplacený poznatek, že tento (v podstatě IQ) test má nejvyšší výpovědní hodnotu pro budoucí úspěšnost v povolání.
Jinými slovy, nejspolehlivěji se podle něj pozná, jestli bude uchazeč schopen pilotovat letadlo, anebo se při první příležitosti střelí do nohy.
Kdyby šlo o efektivitu, nebylo by nutné takto explicitně řešit "diskriminaci". Prostě by se řeklo, že systém vyloučil prokazatelně lepší uchazeče. Když se řeší kvóty a "diskriminace", nikdy to není primárně ve prospěch efektivity organizace, ale ve prospěch "znevýhodněných".
Čímž nepopírám, že nastavení vah při výběru může ke špatným výsledkům dojít i proto, že se skupinová kritéria zohlední až moc nebo že v některém konkrétním případě skutečně dochází k bezdůvodnému upřednostnění nějaké skupiny. Jelikož se to ale pojímá takto emocionálně, přijde mi, že tohle není pravý důvod boje proti diskriminaci.
@Jiří Havel
Ještě jsem nezažil při nabírání zaměstnanců požadavek na pohlaví na úkor odbornosti, resp. vhodnosti. Upřímně, ani nechápu proč by to někdo dělal, nikdy jsem neviděl nějaké ekonomické pravidlo že je podstatnější pohlaví než pracovní přínos. A kdyby to bylo o mateřství, tak je mohou vyřadit zrovna a nemusí nechávat AI jich několik diskriminačně vyřadit aby se mohlo spekulovat kolik procent to vyřadilo, kolik bylo ve vzorku CVček apod. ...
Jenže tohle "motání pojmů" je podstata problému...
Řekneme, že AI nemá diskriminovat, ale v dnešní politickokorektní době to vlastně znamená, že diskriminovat musí, jen jaksi "správně".
Nebere se za korektní stav, kdy se u zaměstnavatele dlouhodobě ukazuje, že osoby tmavé barvy pleti mají horší výsledky, tak se při přijímání budou bodově znevýhodňovat - tohle je prostě brané za diskriminaci a že to je přitom doloženo tvrdými daty není omluva. Nebo při výpovědi - žena s dítětem má časté absence, tak systém vyhodnotí, že její propuštění je pro firmu nejpřínosnější (a třeba ani neví, že má dítě a zjistí to čistě z dat). Jenže v dnešní době je tohle opět brané jako nevhodné... A netvrďte mi, že šířím paniku, ono v těch odkazovaných případech totiž šlo právě o zmíněné příklady, praxe je spíš ještě horší.
Malér je prostě v tom, že se píše o "nediskriminaci", ale v praxi je tím míněna povinnost filtrace či dokonce vyložené překrucování části informací, což ale jde přímo proti podstatě AI :-(
@Tomas Hruby
Tak ono by to mělo fungovat tak, že AI to prostě vyhodnotí a když ten, kdo vyhodnocuje výsledky usoudí že nechce vyhazovat např. ženy s dětmi tak je nevyhodí, nicméně nebude nikdo fakeovat AI a budou prostě známy přesné výsledky - však ona ta AI přece nebude sama o sobě rozesílat výpovědi. To je syndrom dnešní doby, místo shromáždění faktů ať už jsou jakkoliv nepříjemná a přijmutí rozhodnutí ať už je jakkoliv těžké se pořád musí někde něco radši nalhávat a každý se chce za něco schovávat ... Prostě se zase hledá jak to udělat, aby se nemusel někdo podívat skutečnosti do očí ...
27. 7. 2019, 19:27 editováno autorem komentáře