Víte, že existují rasističtí a sexističtí roboti? Na vině je webové školení

Dokonce i roboti se mohou stát rasistickými a sexistickými: ukázal to experiment provedený ve Spojených státech, kdy se robot naučil jednat podle běžných stereotypů, například spojovat černochy se zločinem a ženy s domácími pracemi, píše server Ansa.

Na vině je jeho „mozek“, široce používaný systém umělé inteligence vycvičený na základě dat získaných z webu. Studie, kterou provedla Univerzita Johnse Hopkinse společně s Georgijským technologickým institutem a Washingtonskou univerzitou, byla představena na konferenci FAccT 2022 Asociace pro výpočetní techniku (Acm) v Jižní Koreji.

„Robot se naučil nebezpečné stereotypy prostřednictvím nedokonalých modelů neuronových sítí,“ říká první autor studie Andrew Hundt.

„Riskujeme, že vytvoříme generaci rasistických a sexistických robotů,“ varuje výzkumník a zdůrazňuje, že je třeba tento problém co nejdříve řešit. Problém spočívá v tom, že vývojáři systémů umělé inteligence pro rozpoznávání osob a objektů jsou zvyklí trénovat své neuronové sítě pomocí souborů dat volně dostupných na internetu: většina obsahu je však nepřesná a zkreslená, takže hrozí, že jakýkoli algoritmus vytvořený na základě těchto informací bude chybný. Tento problém byl několikrát nastolen na základě testů a experimentů, které ukázaly nízkou účinnost některých systémů umělé inteligence, používaných například pro rozpoznávání obličejů. Dosud se však nikdo nepokusil posoudit důsledky těchto chybných algoritmů, jakmile jsou použity k řízení autonomních robotů, kteří pracují v reálném světě bez lidského dohledu.

Zdroj: Ansa.it