Systémy umělé inteligence jsou velmi genderově předpojaté. Zaujatost AI odráží data, na kterých je vyškolena
Sledovat v Google Zprávách
Agentura OSN UNESCO vydala novou zprávu Mezinárodního výzkumného týmu pro umělou inteligenci. Ta podle webu ComputerSweden ukazuje, že výstupy generativních systémů AI jsou genderově stereotypní. Například tradičně ženská jména jsou často spojována s předpojatými ženskými genderovými rolemi a systémy AI také častěji generují negativní obsah o ženách a LGBTQ+ lidech.
Podle UNESCO se na předpojatosti systémů umělé inteligence podílejí tři faktory. Prvním faktorem je skutečnost, že AI není založena na datech ze společenských menšin. Těmi mohou být jak různá pohlaví, tak rovněž rozdílné etnicity. Často nejsou zastoupená ani data, jež rozpoznávají jakou roli tyto faktory ve společnosti hrají.
Druhým důvodem je výběr algoritmu, který může vést ke shromažďování a učení se daného bias – tedy předpojatosti, jež vznikla při vývoji dané umělé inteligence. Ta poté jako důsledek může například upřednostňovat mužské kandidáty na pozice některých zaměstnání na základě existujících genderových předsudků, které již ve společnosti existují a probíhají.
Posledním faktorem je pak samotné zavedení umělé inteligence do procesu. Často dojde k tomu, že je AI užita v jiném kontextu než pro jaký byla původně vyvinuta. To může podle výzkumníků vést k tomu, že dochází k nesprávným asociacím mezi určitými psychiatrickými termíny a specifickými etnickými skupinami a pohlavími.
Výzkumníci píší, že zkreslení v systémech umělé inteligence odráží data, na kterých jsou vyškoleny. Jelikož jsou tato data generována lidmi, odrážejí vlastní předsudky lidí a mohou vést k tomu, že systémy umělé inteligence posilují stereotypy. Je proto nutné přijmout opatření k nápravě tohoto jevu, dokud je vývoj AI v počátcích.
Zdroj: ComputerSweden
Nejnovější články
- Jeden nespokojený senior může zablokovat stavbu celého satelitního městečka o několika domech
- Kalifornie testuje autobusy s rychlostí 225 km/h. Pro svou zběsilou jízdu budou mít vlastní pruh na dálnici
- Některé České restaurace trestají nedojedená jídla poplatkem. Kdo nedojí, připlatí si
- Cyklistický airbag může být rozhodujícím prvkem pro záchranu života. Objevují se hlasy pro jeho povinné zavedení
- Ukrajina tak dlouho žádala USA o zbraně dlouhého doletu, až se je naučila vyrábět sama
- Psychologie říká, že lidé, kteří dosáhnou 70 let a uvědomí si, že je jejich děti již nepotřebují, mohou pociťovat hluboký dopad na své duševní zdraví
- Zpráva evropských úřadů potvrzuje: hrozny, jahody a pomeranče jsou ovoce nejvíce kontaminovány pesticidy
- Kbelík a mop mají své dny sečteny: odborníci na úklid sdílejí stejný názor a v roce 2026 se přiklánějí k jeho vylepšené verzi
- Blíží se úplné zatmění slunce: Dočkáme se ho v létě a bude to nádherná podívaná
- Je konec: Legendární švédská automobilka po 75 letech končí prodejem posledních vyrobených aut
