Google čelí kritice kvůli odpovědím umělé inteligence

Společnost Google čelí bouřlivé kritice za podivné odpovědi svého nového nástroje AI Overview, který navrhoval uživatelům, například jak potírat pizzu lepidlem nebo jíst kameny. Kvůli těmto bizarním doporučením Google nyní horečně odstraňuje problematické AI odpovědi pro konkrétní vyhledávání, což způsobilo, že mnoho těchto odpovědí po zveřejnění na sociálních sítích rychle mizí.

Tato situace je zvláštní, protože Google testoval AI Overview celý rok – funkce byla spuštěna v beta verzi v květnu 2023 pod názvem Search Generative Experience – a CEO Sundar Pichai uvedl, že za tu dobu společnost zpracovala přes miliardu dotazů.

Pichai rovněž zmínil, že Google výrazně snížil náklady na poskytování AI odpovědí o 80 procent, „díky hardwarovým, inženýrským a technickým průlomům.“ Zdá se však, že tato optimalizace přišla příliš brzy, než byla technologie dostatečně připravená.

„Společnost, která byla kdysi známá tím, že je na špičce a dodává vysoce kvalitní produkty, je nyní známá kvůli nízké kvalitě výstupů, které se stávají memy,“ uvedl anonymní zakladatel AI společnosti pro The Verge.

Gary Marcus, odborník na umělou inteligenci a emeritní profesor neurovědy na New York University, řekl časopisu The Verge, že mnoho AI společností „prodává sny“ o tom, že technologie přejde z 80 procent správnosti na 100 procent. Dosažení prvních 80 procent je relativně snadné, protože zahrnuje aproximaci velkého množství lidských dat, uvedl Marcus, ale posledních 20 procent je extrémně náročných. Podle Marcuse může být těchto posledních 20 procent největší výzvou.

„Skutečně musíte provést nějaké uvažování, abyste rozhodli: je tato věc věrohodná? Je tento zdroj legitimní? Musíte dělat věci, jako lidský kontrolor faktů, což by mohlo vyžadovat umělou obecnou inteligenci,“ řekl Marcus. Marcus a šéf AI v Meta Yann LeCun se shodují, že velké jazykové modely, které pohánějí současné AI systémy, jako je Gemini od Google a GPT-4 od OpenAI, nebudou tím, co vytvoří umělou obecnou inteligenci.

Google se nachází v těžké situaci. Společnost zjevně cítí tlak od konkurence, a tento tlak je zároveň příčinou chaotických AI verzí. Marcus upozorňuje, že v roce 2022 Meta spustila AI systém zvaný Galactica, který musel být krátce po svém spuštění stažen, protože například radil lidem jíst sklo. Jedná se tedy o podobný případ.

Zdroj: theverge.com