„FEJKORÝL“ Novodobý chaos: Umělá inteligence Googlu nyní umožňuje měnit fotografie přímo v aplikaci fotoaparátu
Nejnovější nástroj Googlu pro úpravu fotografií s umělou inteligencí, nazvaný „Reimagine“, umožňuje přidávat nebo odstraňovat objekty na fotografii pomocí textové výzvy – ovšem s „podivnými“ výsledky, jak uvádí The Verge. Tato funkce, kterou společnost Google představila spolu s uvedením svého chytrého telefonu Pixel 9 na začátku tohoto měsíce, by mohla snadno neúmyslně narušit autenticitu fotografií tím, že by s nimi mohl kdokoli manipulovat přímo v aplikaci fotoaparátu. Informuje futurism.com.
Mezi příklady, které sdílel Chris Welch patří fotorealistický snímek následků srážky kola a auta, lev číhající za zamčenou bránou a „záhadná tekutina tryskající z vlaku metra North“ aj.
Že by nové „fejkování“?
Během testování se The Verge setkal s velmi malým počtem ochranných prvků nové funkce, která snadno přidávala „vraky aut, kouřící bomby na veřejných místech, prostěradla, která jako by zakrývala zkrvavené mrtvoly, a drogové příslušenství do obrázků“.
Mluvčí společnosti Google mezitím v prohlášení odkázal publikaci na její podmínky služby – v nichž je přesně popsán druh snímků, které The Verge generuje, jako zakázaný – a tvrdil, že společnost je i nadále „odhodlána neustále zlepšovat a zdokonalovat ochranná opatření, která máme k dispozici“.
V rámci samostatného testu nahrál The Verge upravený obrázek do příběhu Instagramu, aby zjistil, zda Meta použije značku, která by ostatní uživatele upozornila, že jde o podvrh, ale systém tak neučinil. To by nemělo být velkým překvapením, vzhledem k tomu, že iniciativa společnosti Meta s označením „Made with AI“ se ukázala jako falešná a byla dokonce přistižena při chybném označování skutečných fotografií jako vytvořených umělou inteligencí.
Stručně řečeno, zatímco manipulace s fotografiemi pomocí generativní umělé inteligence je známá již delší dobu, nejnovější nástroj společnosti Google pro úpravu fotografií ji zdvojnásobuje tím, že tuto technologii neuvěřitelně zpřístupňuje – a vytváří tak nebezpečný precedens pro budoucnost plnou zfalšovaných snímků.
Např. již bývalý americký prezident Donald Trump se uchýlil k použití této technologie jako zbraně, aby si vystřelil ze své soupeřky Kamaly Harrisové. (Navíc to, že tak učinil, popírá: viz: Donald Trump o obrázcích Taylor Swift.)
Položme si nyní otázku. Skutečně už Google ztratil veškeré zábrany? A kdo ještě?