Víte, že existují rasističtí a sexističtí roboti? Na vině je webové školení
Sledovat v Google Zprávách
Dokonce i roboti se mohou stát rasistickými a sexistickými: ukázal to experiment provedený ve Spojených státech, kdy se robot naučil jednat podle běžných stereotypů, například spojovat černochy se zločinem a ženy s domácími pracemi, píše server Ansa.
Na vině je jeho „mozek“, široce používaný systém umělé inteligence vycvičený na základě dat získaných z webu. Studie, kterou provedla Univerzita Johnse Hopkinse společně s Georgijským technologickým institutem a Washingtonskou univerzitou, byla představena na konferenci FAccT 2022 Asociace pro výpočetní techniku (Acm) v Jižní Koreji.
„Robot se naučil nebezpečné stereotypy prostřednictvím nedokonalých modelů neuronových sítí,“ říká první autor studie Andrew Hundt.
„Riskujeme, že vytvoříme generaci rasistických a sexistických robotů,“ varuje výzkumník a zdůrazňuje, že je třeba tento problém co nejdříve řešit. Problém spočívá v tom, že vývojáři systémů umělé inteligence pro rozpoznávání osob a objektů jsou zvyklí trénovat své neuronové sítě pomocí souborů dat volně dostupných na internetu: většina obsahu je však nepřesná a zkreslená, takže hrozí, že jakýkoli algoritmus vytvořený na základě těchto informací bude chybný. Tento problém byl několikrát nastolen na základě testů a experimentů, které ukázaly nízkou účinnost některých systémů umělé inteligence, používaných například pro rozpoznávání obličejů. Dosud se však nikdo nepokusil posoudit důsledky těchto chybných algoritmů, jakmile jsou použity k řízení autonomních robotů, kteří pracují v reálném světě bez lidského dohledu.
Zdroj: Ansa.it
Nejnovější články
- Nejvyšší silnice Chorvatska: nebezpečný Roadtrip je snem každého milovníka adrenalinu
- Poprvé by podmořský tunel mohl spojit dva kontinenty. Práce mají začít už za rok a cena překročí 150 miliard
- Čína spotřebovává třetinu světové elektřiny. Více než USA, Indie, Rusko a Japonsko dohromady
- Ve Skandinávii shořelo kvůli stejné závadě už nejméně 45 vozů BMW. Problém mají auta v celé evropě
- Na odlehlém ostrově bylo ponecháno pět krav. O 130 let později se tam vědci vrátili a našli celé stádo
- Zub starý 59 000 let nabízí výjimečný pohled na to, jak neandrtálci řešili zdravotní problém
- Nepoužívané mobily neukládejte jen tak do šuplíku. I stará baterie se může vznítit
- Pro cyklisty a turisty jsou Seznam mapy mnohem užitečnější než Google Maps
- Zatímco se svět hádá o větrné a solární energii, Japonsko otevřelo elektrárnu, která nikdy nezastaví provoz
- Německo buduje nejdelší podmořský tunel na světě. Cesta na pevninu potrvá jen 10 minut
