AI video generátor od TikTok recitoval Hitlera a Usámu Bin Ládina

Generativní umělá inteligence je v dnešní době humbuk a může způsobit problémy. K vytvoření avatarů AI byl použit Symphony Assistant od TikToku, který recitoval problematické scénáře, jako je Hitlerův Mein Kampf a „Dopis do Ameriky“ Usámy Bin Ládina.

Společnost TikTok minulý měsíc oznámila Symphony Avatars na základě AI jako součást své „Creative AI Suite“, jejíž cílem je pomáhat vytvářet personalizovaná videa bez nutnosti najímat skutečné herce. Tato funkce byla zaváděna minulý týden na účty TikTok Ads Manager, nebo měla být omezena na tyto účty. Neexistují však žádné záruky, pokud jde o citlivý obsah.

Generativní umělá inteligence je široce používána v celém technologickém světě a TikTok není výjimkou. Platforma poprvé oznámila Symphony Avatars minulý měsíc jako součást své „Creative AI Suite“, která umožňuje firmám, značkám a tvůrcům vytvářet plně přizpůsobené reklamy pomocí generativní umělé inteligence a podobenství placených herců (avatarů), uvádí portál Phonearena.

TikTok mistakenly released a version of its AI video generator that let avatars recite Adolf Hitler’s Mein Kampf and Osama bin Laden’s “Letter to America” on command.https://t.co/O9SblEaLgx

— PetaPixel (@petapixel) June 24, 2024

Tato funkce byla poté spuštěna začátkem tohoto týdne, ale pouze pro lidi s účtem TikTok Ads Manager. Zdá se však, že toto omezení nakrátko nebylo na místě, protože reportér CNN získal přístup k jednomu z nástrojů Symphony AI pomocí svého osobního účtu. To vedlo k tomu, že reportér v tomto nástroji umělé inteligence nenašel prakticky žádné zabezpečení.

Není jasné, zda TikTok omylem zavedl „interní testovací verzi“ nástroje AI nebo jen opomněl umístit vhodné filtry a ochranné mechanismy, ale nyní je problém podle TikTok napraven.

ByteDance, společnost stojící za TikTokem, má ultimátum do konce roku prodat TikTok nebo nechat aplikaci zakázat v USA poté, co Senát odhlasoval zaslání návrhu zákona do Bílého domu a následně jej podepsal prezident USA Joe Biden. Zákonodárci ve Spojených státech se obávají, že ByteDance může být donucena Čínskou komunistickou stranou (ČKS), aby se vzdala osobních údajů uživatelů a špehovala Američany.

zdroj: phonearena