1. srpna vstoupí v platnost první zákon EU o umělé inteligenci. Hrozí astronomické pokuty

Brzy vstoupí v platnost první zákon Evropské Unie (EU) o umělé inteligenci (AI), který upravuje její používání. Co přesně říká a která AI bude v budoucnu zakázána?

Systémy založené na umělé inteligenci se již dnes používají v mnoha oblastech. ChatGPT, Gemini a Perplexity se v každodenním životě používají stále častěji. Umělá inteligence se ale používá také při video dohledu, rozpoznávání řeči nebo vyhodnocování finančních dat. Dlouho pro to neexistovaly žádné stanovené předpisy. 1. srpna vstoupí v platnost první zákon EU o AI, který bude v budoucnu jasně regulovat nasazování a používání AI v zemích EU, píše portál t-online.

Stručně shrnuto

První zákon EU o umělé inteligenci vstupuje v platnost 1. srpna a upravuje používání umělé inteligence.

Systémy umělé inteligence, které představují nepřijatelné riziko, jsou zakázány, včetně těch, které manipulují lidské chování.

Porušení zákona o umělé inteligenci má za následek sankce až 35 milionů eur nebo sedm procent celosvětového ročního obratu.

Zákazy umělé inteligence s nepřijatelným rizikem

Podle Evropského parlamentu je zákon založen na hodnocení rizik systémů umělé inteligence. Umělá inteligence, která je považována za nepřijatelné riziko, bude v budoucnu zakázána. To zahrnuje:

Systémy umělé inteligence, které dokážou manipulovat s lidským chováním a emocemi, jako jsou například hlasem ovládané hračky, které u dětí podporují nebezpečné chování.

Systémy umělé inteligence, které rozdělují lidi do skupin na základě kritérií, jako je barva pleti, politické a náboženské názory nebo sexuální orientace.

Systémy umělé inteligence, které vytvářejí systém „sociálního kreditu“. Touto technikou, která je v Číně běžná, chce vládnoucí komunistická strana masovým sledováním „vychovat“ lidi k žádoucímu chování a politické loajalitě.

Při používání umělé inteligence nesmí být lidé znevýhodněni kvůli svému věku, zdravotnímu postižení nebo finanční situaci. To má zajistit, aby nedocházelo ke zneužívání systémů umělé inteligence a aby byla vždy zaručena ochrana základních práv.

AI ve video dohledu

Zásadně je zakázáno také používání AI při rozpoznávání obličeje. Pro účely vymáhání práva však mohou být povoleny některé výjimky. V budoucnu však budou moci policie a další bezpečnostní orgány používat rozpoznávání obličeje AI na veřejných místech pouze v případě, že na to bude soudní příkaz.

Pokud je nahrán video materiál, může být tato technologie použita k vyhledávání osob odsouzených nebo podezřelých ze závažných trestných činů. Pokud úředníci sledují video materiál v reálném čase, systémy AI mohou také vyhledávat oběti obchodování s lidmi a sexuálního násilí. Mohou také používat rozpoznávání obličeje k odvrácení „specifické a akutní teroristické hrozby“.

Systémy AI s vysokým rizikem

Kromě nepřijatelného rizika existují také vysoce rizikové systémy umělé inteligence. Tyto systémy by měly být neustále monitorovány a pro použití musí splňovat řadu požadavků.

Při využívání AI v bezpečnostních orgánech zákonodárce obecně spatřuje „vysoké riziko“ porušování základních práv. Totéž platí pro aplikace například v personální administrativě. Mezi tzv. vysoce rizikové aplikace patří i systémy, které mohou ovlivnit volby. V těchto případech by měl mít člověk nakonec kontrolu nad rozhodnutími AI. Zákon také vyžaduje technickou dokumentaci a systém řízení rizik. Dotčené osoby by měly mít možnost podat úřadům stížnost proti používání AI.

Hrozí milionové pokuty

Nový zákon by měl stanovit požadavek transparentnosti. Uměle vytvořený nebo upravený obsah, jako jsou obrázky, zvuk nebo videa, musí být v budoucnu jako takový jasně označen. Online platformy jako Facebook, Instagram nebo X a vnitrostátní orgány by to měly zkontrolovat. Odborníci se však domnívají, že kontrola je obtížná.

Porušení zákona o AI by mohlo vést k milionovým pokutám. Evropská komise může za použití zakázané technologie požadovat platby až do výše 35 milionů eur nebo sedmi procent celosvětového ročního obratu společnosti. Kdo poruší další ustanovení zákona, musí počítat se sankcemi až do výše 15 milionů eur nebo tří procent z ročního obratu.

Zákon by měl nabýt účinnosti postupně. Od 2. února 2025 budou v členských státech zakázány původně nepřijatelné technologie, jako jsou systémy „sociálních kreditů“. Od 2. srpna 2025 budou platit pravidla pro obecně použitelné systémy AI, jako je tvorba textu nebo obrázků. Od 2. srpna 2026 vstoupí v platnost všechna ostatní ustanovení zákona o AI. Již letos na podzim očekává Evropská komise od stovek společností „pakt AI“ pro dobrovolné sebemonitorování.

Zdroj: t-online