Víte, že existují rasističtí a sexističtí roboti? Na vině je webové školení
Sledovat v Google Zprávách
Dokonce i roboti se mohou stát rasistickými a sexistickými: ukázal to experiment provedený ve Spojených státech, kdy se robot naučil jednat podle běžných stereotypů, například spojovat černochy se zločinem a ženy s domácími pracemi, píše server Ansa.
Na vině je jeho „mozek“, široce používaný systém umělé inteligence vycvičený na základě dat získaných z webu. Studie, kterou provedla Univerzita Johnse Hopkinse společně s Georgijským technologickým institutem a Washingtonskou univerzitou, byla představena na konferenci FAccT 2022 Asociace pro výpočetní techniku (Acm) v Jižní Koreji.
„Robot se naučil nebezpečné stereotypy prostřednictvím nedokonalých modelů neuronových sítí,“ říká první autor studie Andrew Hundt.
„Riskujeme, že vytvoříme generaci rasistických a sexistických robotů,“ varuje výzkumník a zdůrazňuje, že je třeba tento problém co nejdříve řešit. Problém spočívá v tom, že vývojáři systémů umělé inteligence pro rozpoznávání osob a objektů jsou zvyklí trénovat své neuronové sítě pomocí souborů dat volně dostupných na internetu: většina obsahu je však nepřesná a zkreslená, takže hrozí, že jakýkoli algoritmus vytvořený na základě těchto informací bude chybný. Tento problém byl několikrát nastolen na základě testů a experimentů, které ukázaly nízkou účinnost některých systémů umělé inteligence, používaných například pro rozpoznávání obličejů. Dosud se však nikdo nepokusil posoudit důsledky těchto chybných algoritmů, jakmile jsou použity k řízení autonomních robotů, kteří pracují v reálném světě bez lidského dohledu.
Zdroj: Ansa.it
Nejnovější články
- Jeden nespokojený senior může zablokovat stavbu celého satelitního městečka o několika domech
- Kalifornie testuje autobusy s rychlostí 225 km/h. Pro svou zběsilou jízdu budou mít vlastní pruh na dálnici
- Některé České restaurace trestají nedojedená jídla poplatkem. Kdo nedojí, připlatí si
- Cyklistický airbag může být rozhodujícím prvkem pro záchranu života. Objevují se hlasy pro jeho povinné zavedení
- Ukrajina tak dlouho žádala USA o zbraně dlouhého doletu, až se je naučila vyrábět sama
- Psychologie říká, že lidé, kteří dosáhnou 70 let a uvědomí si, že je jejich děti již nepotřebují, mohou pociťovat hluboký dopad na své duševní zdraví
- Zpráva evropských úřadů potvrzuje: hrozny, jahody a pomeranče jsou ovoce nejvíce kontaminovány pesticidy
- Kbelík a mop mají své dny sečteny: odborníci na úklid sdílejí stejný názor a v roce 2026 se přiklánějí k jeho vylepšené verzi
- Blíží se úplné zatmění slunce: Dočkáme se ho v létě a bude to nádherná podívaná
- Je konec: Legendární švédská automobilka po 75 letech končí prodejem posledních vyrobených aut
