K zatčení nevinného muže navedl omylný algoritmus

Robert Julian-Borchak Williams z Detroitu byl zatčen na základě chybně diagnostikované tváře policejním algoritmem a strávil třicet hodin ve vazbě, přestože byl zcela nevinný. Stalo se to v lednu tohoto roku. New York Times to zjistil a ohlásil incident o několik měsíců později.

Když byl Williams zavolán policií a dorazil na stanici, technika rozpoznávání obličeje založená na umělé inteligenci určila, že se jedná o osobu viděnou na záběrech krádeže v roce 2018. Případ je považován za první chybu AI svého druhu v historii, ale právníci se domnívají, že ve skutečnosti není první případ, ale první, který vyšel najevo.

Tento případ získal v USA širokou publicitu. Policie byla kritizována za to, že se při rozhodování o zadržení spoléhá pouze na algoritmy rozpoznávání obličeje. To se překrývalo s rasovým problémem (Williams je černý) a tvrdí, že algoritmy rozpoznávání obličeje jsou založeny na předsudcích ohledně barvy pleti.

Čtěte také