Evropská unie chce blokovat rozpoznávání obličeje umělou inteligencí

Více než tři roky práce a tady jsou – vůbec první globální předpisy o používání umělé inteligence. Evropská unie má šanci být první strukturou v historii, která reguluje pravidla, kde a jak lze mimo jiné použít algoritmy AI a rozpoznávání obličeje.

Cílem je podporovat inovace, ale zároveň bojovat za soukromí občanů EU. Proto bylo jasně řečeno, že se nejedná o úplnou blokádu umělé inteligence, ale pouze o předpisy. Evropská unie věří, že umělá inteligence a rozpoznávání obličeje jsou porušením lidského soukromí.

Jak je přesně uvedeno, Evropská unie nemá v úmyslu blokovat umělou inteligenci, pokud jde o zlepšení výroby nebo předpovídání změny klimatu. Procesy, jako je rozpoznávání obličeje, které také závisí na umělé inteligenci, mohou být na veřejných místech zakázány nebo omezeny. Celkově byly vytvořeny čtyři kategorie aplikací AI v závislosti na riziku.

Úplně dole tedy máme filtry nevyžádané pošty, které nebudou vyžadovat žádné speciální označení. O něco výšše, různé typy chatbotů, které budou muset být jasně označeny jako AI. Třetím krokem je vysoce rizikový algoritmus. Zahrnuje všechna hodnocení, na kterých může záviset osud člověka – hodnocení bonity, žádosti o sociální dávky, politický azyl, a stále častěji také jako součást hodnocení žádostí o práci nebo studia. Takové algoritmy se objevují také v medicíně.

Na samém vrcholu najdeme řešení AI, která nejsou přijatelná pro použití. Zde je uveden zajímavý příklad s interaktivními hračkami pro děti, které analyzují jejich chování a manipulují s nimi vlastním způsobem a podporují nevhodné chování. Samozřejmě mají být blokovány také algoritmy, které určují lidské slabosti. Nepřijatelný má být také bodovací systém občana EU. Do této skupiny patří také biometrické systémy, tj. rozpoznávání tváře. EU sice umožňuje výjimky, jako je boj proti trestné činnosti (s trestem odnětí svobody nejméně na 5 let) nebo pátrání po pohřešovaných osobách. V druhém případě bude nejprve muset soud udělit souhlas.

Všechny členské státy EU mají výše uvedené předpisy regulovat stejným způsobem. Společnosti, které je nedodržují a působí v EU, mohou čelit pokutám ve výši od 20 milionů EUR nebo do 4% ročního obratu.