Umělá inteligence je stále chytřejší. K čemu nám je potom CAPTCHA?
Technologie umělé inteligence se stává natolik pokročilou, že vědci v novém dokumentu tvrdí, že je třeba lepší způsob, jak ověřit, zda osoba na internetu je člověk anebo robot umělé inteligence.
Výzkumníci z univerzit Ivy League a společností včetně OpenAI a Microsoftu navrhují v dosud nerecenzovaném článku systém „pověření osobnosti“ (PHC) pro ověřování člověka, který by nahradil stávající procesy, jako je CAPTCHA. Informuje Futurism.
Pro každého, kdo se obává o soukromí a masový dohled, je to však nesmírně nedokonalé řešení, které přenáší břemeno odpovědnosti na koncové uživatele – což je v Silicon Valley běžná taktika.
„Spousta těchto schémat je založena na myšlence, že společnost a jednotlivci budou muset změnit své chování na základě problémů, které přinášejí společnosti cpoucí do všeho chatboty a velké jazykové modely, místo aby se společnosti více snažily vydávat bezpečné produkty,“ řekl deníku The Washington Post výzkumník v oblasti dohledu Chris Gilliard.
K čemu slouží PHC?
V článku výzkumníci navrhli systém PHC, protože se obávají, že „škodliví aktéři“ využijí masové škálovatelnosti umělé inteligence a jejího sklonu přesvědčivě napodobovat lidské jednání online k zaplavení webu nelidským obsahem.
Mezi jejich hlavní obavy patří: schopnost umělé inteligence vypouštět „obsah podobný lidskému, který vyjadřuje zkušenosti nebo názory podobné lidským“, digitální avatary, kteří vypadají, pohybují se a znějí jako skuteční lidé, a rostoucí zručnost botů umělé inteligence v napodobování „akcí podobných lidským na internetu“, jako je „řešení CAPTCHA, když jsou vyzváni“.
Proto je myšlenka PHC tak atraktivní, tvrdí výzkumníci. Organizace, která nabízí digitální služby, například vláda, může každému lidskému koncovému uživateli vydat jedno jedinečné pověření osoby, které by ověřilo, že je člověk, a to prostřednictvím důkazů nulové znalosti, což je vypůjčená kryptografická technika, při níž člověk poskytuje konkrétní informace, aniž by prozradil podrobnosti údajů.
Koncoví uživatelé by své pověření ukládali digitálně na svých osobních zařízeních, což by podle výzkumníků pomohlo zachovat anonymitu online.
Pověřovací systém by mohl nahradit nebo rozšířit lidské ověřovací procesy na internetu, jako jsou výše zmíněné CAPTCHA a biometrické údaje, například otisky prstů.
Na papíře to vypadá jako skvělé řešení, ale výzkumníci připouštějí, že systém PHC má stále svá úskalí.
Za prvé se zdá nevyhnutelné, že mnoho lidí by prodalo svůj PHC spammerům s umělou inteligencí, což by automatickému obsahu dodalo na důvěryhodnosti a podkopalo cíle projektu.
Každá organizace, která vydává tento typ pověření, by se mohla stát příliš mocnou, přičemž celý systém může být podle dokumentu stále zranitelný vůči útokům hackerů.
„Jednou z významných výzev pro ekosystém PHC je to, jak může soustředit moc v malém počtu institucí – zejména vydavatelů PHC, ale také velkých poskytovatelů služeb, jejichž rozhodnutí týkající se používání PHC budou mít pro ekosystém velké důsledky,“ uvádí se v dokumentu.
Systém ověřování může být také zdrojem problémů pro méně zdatné uživatele internetu, jako jsou starší lidé, kteří se často stávají terčem online podvodů.
Proto výzkumníci tvrdí, že vlády by měly prozkoumat využití PHC prostřednictvím pilotního programu.
Zbavení se odpovědnosti
PHC však opomíjí zásadní problém: tento druh systému jen klade další digitální zátěž na koncové uživatele, kteří se ve svém přeplněném digitálním životě musí potýkat se spamem a dalším nešvarem. Tento problém rozpoutaly technologické společnosti, takže by ho měly řešit ony.
Jedním z kroků, které mohou podniknout, je vydávání vodoznaků na obsah, který jejich modely umělé inteligence vytvářejí, nebo vyvinutí procesu, který dokáže odhalit poznávací znaky toho, že určitá data byla vytvořena umělou inteligencí. Ani jedno není spolehlivé, ale přenášejí břemeno odpovědnosti zpět na zdroj problému AI botů.
A pokud se technologické společnosti této odpovědnosti zcela zbaví, bude to jen další černá skvrna na Silicon Valley, které si zvyklo vypouštět problémy, o které se nikdo neprosil, a zároveň zpeněžovat jejich dopady.
Je to podobné, jako když technologické společnosti pohlcují drahocennou elektřinu a vodu, aby mohly pohánět datová centra umělé inteligence, zatímco komunity – zejména v oblastech postižených suchem – tímto rozdělováním zdrojů trpí.
A PHC, ačkoli je na papíře lesklé a atraktivní, opět hází odpovědnost jinam.
Více o CAPTCHA zde.
[seznam-ads id="63251"] [seznam-ads id="63250"] [seznam-ads id="64854"] [seznam-ads id="64868"]
