Umělá inteligence udělá pornohvězdu z kohokoli. Obavy o zneužití sílí

Portál MIT Technology Review zmiňuje webovou stránku, na kterou nebudeme odkazovat a která umožňuje nahrát obrázek obličeje známé osoby a proměnit ji v pornohvězdu.

Technika zvaná „deepfake“ založená na umělé inteligenci, která se používá ke kombinování a překrývání existujících obrázků a videí s původními videi nebo obrázky pomocí techniky strojového učení, může být použita k vytváření falešných pornografických videí celebrit.

Mechanismus pro vytváření takovýchto padělků je nyní dostupný komukoli, a to do té míry, že k vytvoření falešných snímků a videí stačí navštívit webovou stránku a nahrát na ni obličej osoby. Dokonce je navrženo tlačítko pro odeslání konečného výsledku celé řadě kontaktů.

„Prozatím,“ jak vysvětluje portál MIT Technology Review, „má dotyčná stránka jen malou uživatelskou základnu, ale ta se neustále rozrůstá, alespoň podle slov jednoho z tvůrců stránky na internetovém fóru. Výzkumníci upozorňují na nebezpečí tohoto typu stránek, které stále častěji porušují etické bariéry a zvyšují laťku tak, jak si to jiné online služby dosud nedovolily.

Z technického hlediska lze hluboké podvrhy vytvářet pomocí takzvané generativní sítě GAN (Generative Adversarial Network). GAN se skládají ze dvou konkurenčních hlubokých neuronových sítí. V přípravné fázi jsou obě sítě trénovány na reálných obrázcích; následně začíná soutěžní fáze, kdy jedna síť generuje obrázky (odtud přídavné jméno generativní ve zkratce), zatímco druhá se snaží určit, zda je obrázek pravdivý, nebo nepravdivý (druhá síť se nazývá diskriminační), přičemž generativní síť zná výsledky a učí se z nich a diskriminační síť se učí, jak zlepšit svůj vlastní výkon, přičemž v každém cyklu zlepšuje funkce.

Jestliže první videa deepfake vypadala jako nehorázně falešná, nyní dosáhla děsivé dokonalosti. Zásah do práv osob tak může být velmi značný, pokud nástroj někdo zneužije.

Zdroj: MIT Technology Review