Rezoluce Evropského parlamentu
V rezoluci Evropského parlamentu stojí, že systémy umělé inteligence, které by instituce prosazující zákon mohly používat, představují různá rizika v souvislosti s neprůhledným rozhodováním z nich plynoucím, ale i možné diskriminace, narušení soukromí a dále různé výzvy týkající se ochrany osobních dat, lidské důstojnosti a svobody vyjadřování i informační svobody.
Evropský parlament dále konstatuje, že takové systémy přinášejí zhoršující se rizika v oblasti vymáhání práva a spravedlnosti a nohou i negativně ovlivnit presumpci neviny, tedy základní právo občanů, a ve svém důsledku mít vliv na případný nezávislý soudní proces.
Vedle výše uvedeného dále rezoluce (podrobněji na webu EU) zavádí permanentní zákaz používání systémů automatických analýz dalších lidských vlastností, například chůze, otisků prstů, vzorků DNA, hlasu a dalších biometrických indikátorů a vzorců chování. Výjimkou ze zákazu by mělo být užití těchto systémů v případě kriminálních osob, které jsou podezřelé z nějakého činu, ale i tam jsou definována přísná omezení – jako příklad je uváděn systém ClearView AI, natrénovaný na miliardách fotek nezákonně postahovaných ze všech míst internetu.
Jinými slovy: rezoluce Evropského parlamentu zcela zakazuje jakékoli systémy strojového rozpoznávání identity lidí a využívání takových věcí v procesu trestního čí soudního řízení. Pokud však jásáte, své nadšení mírněte, neb jde o rezoluci evropského parlamentu, která není právně závazná.
Algoritmy stále nedokonalé
I sami tvůrci AI systémů pro rozpoznávání tváří připouštějí, že jejich algoritmy po léta trápí určitá zkreslení přesnosti. K lepšímu výsledku zatím nevedou ani snahy trénovat sítě na širších a rozmanitějších sadách vzorků, ani práce na vylepšování samotných učících algoritmů.
Evropský parlament v tomto kontextu požaduje, aby systémy byly transparentní, resp. postavené na open-source kódu detekčních algoritmů. Bulharský europoslanec Petar Vitanov dodává, že základní práva jsou bezpodmínečná a tudíž by neměla být narušena technologií, která prokazuje svoji nespolehlivost a často by vedla k falešně pozitivním identifikacím. Rezoluci pak považuje za velké vítězství pro evropské občany.
Nic z výše uvedeného neznamená, že vývoj na poli AI v EU neprobíhá, právě naopak. Sama EU zvyšuje financování takových projektů a v přípravě je i Artificial Intelligence Act (detail na webu EU).
Velký bratr aneb Problém na všech frontách
S každým dalším rokem je víc a víc fascinující, jak daleko a detailně do budoucnosti viděl nemocný a umírající Eric Arthur Blair. Ano, jeho hrdina se musel schovávat v rohu před neustále zapnutou TV a psát potají svůj deník, tam my nikdy nedojdeme. Mezitím jsme si ale domovy dobrovolně protkali hromadou kamer a mikrofonů, v našich telefonech, televizích či jiných „chytrých“ zařízeních.
Před 70 lety se Orwellovi nemohlo ani snít o technickém pokroku, který umožní instalovat miliardy levných kamerek po celé planetě, natož o systémech automatizovaných analýz v reálném čase. Vrcholem v tomto totalitárním až despotickém snažení je Čína s jejím systémem sociálního kreditu a něco takového europoslanci nechtějí ani vidět, jak naznačuje nejnovější rezoluce.
Těžko mohu závěrem napsat něco víc, než obecné známé pravdy. Kamerové systémy jako takové mají své výhody, pomáhají identifikovat hříšníky i zločince, objasňovat trestné činy. Ale to jde o kamerové záznamy, nad nimiž následně bdí oko vyšetřovatele. Něco zcela jiného jsou počítačové systémy automaticky vyhodnocující obraz a přisuzující skutky osobám, které je třeba ani nespáchaly. Nemluvě o nutnosti zajistit, aby v této oblasti nedocházelo k agregovanému sběru typu big data, bez garance toho, jak je s nimi nakládáno. Jediný možný způsob stoprocentně bezpečného nakládání s identifikačními údaji občanů EU získanými automatizovanými systémy je tento: taková data nesbírat, záznamy ad hoc neanalyzovat.
I díky brexitu lze napsat toto: Evropská unie není zemí Velkého bratra. My už jsme si to, kdy všichni věděli, že soused ze sedmého patra je udavač STB, kdy rozhodovaly pouliční výbory či domovní důvěrnice, zažili v minulosti. Ale to aspoň STB ještě neměla k dispozici dnes dostupné technické prostředky včetně jejich AI analytické výbavy. Návrat něčeho takového nesmí nastat a tato rezoluce, jakkoli právně nezávazná, je jasným signálem europoslanců, že něco takového nechtějí. Samozřejmě kromě těch, kteří nehlasovali pro tuto rezoluci.
Ponechme veškerou ztrátu soukromí, veškeré analýzy chování lidí a jejich rozpoznávání na vlastní, svobodně zvolené hlouposti uživatelů internetu, kteří vše rádi předají provozovatelům svých oblíbených internetových služeb, ale státnímu aparátu takový nástroj nikdy nesvěřme. Že dnes se tváří relativně svobodně, neznamená, že za 10 let tomu nebude jinak.
ČLÁNKY DO MAILU