Algoritmus Facebooku si plete černochy s opicemi

Platforma Facebook se omluvila za „nepřijatelnou chybu“ způsobenou systémem umělé inteligence.

Případ vyvolává rozruch na sociálních sítích. Doporučovací algoritmus Facebooku se uživatelů ptal, zda chtějí vidět více „videí s opicemi“ pod britským bulvárním videem s černochy, odhalil v pátek deník New York Times.

„Omlouváme se všem, kteří tato urážlivá doporučení viděli,“ uvedla po odhalení mluvčí Facebooku a ujistila, že kalifornská společnost vypnula nástroj pro doporučování na toto téma „ihned, jakmile jsme se o tom dozvěděli, prošetřujeme příčiny problému, abychom zabránili opakování“.

Podívejte se na další videa o primátech
Více než rok staré video deníku Daily Mail se jmenuje „Bílý muž zavolal policii na černochy v přístavu“. Zobrazuje pouze lidi, nikoliv opice. Podle snímku obrazovky, který na Twitteru zveřejnila Darci Grovesová, bývalá designérka této Facebooku, se pod videem na obrazovkách některých uživatelů objevila otázka „zobrazit další videa o primátech?“ s možností „Ano/odmítnout“.

Naše systémy umělé inteligence nejsou dokonalé
„Přestože jsme naše systémy umělé inteligence zdokonalili, víme, že nejsou dokonalé a že máme co zlepšovat,“ uvedla mluvčí společnosti Facebook.

Případ poukazuje na limity technologie umělé inteligence, na které platforma pravidelně upozorňuje v rámci svého úsilí o vytvoření personalizovaného kanálu pro každého ze svých téměř 3 miliard uživatelů. Facebook je však stejně jako jeho konkurenti pravidelně obviňován z toho, že nedělá dost pro boj proti rasismu a dalším formám nenávisti a diskriminace. Téma je o to napjatější, že řada organizací občanské společnosti obviňuje sociální sítě a jejich algoritmy, že přispívají k rozdělení americké společnosti v souvislosti s hnutím Black Lives Matter.

Zdroj: New York Times