Umělá inteligence společnosti Google špatně radí, čerpá ze starých a nesmyslných zdrojů. Mluvčí Google jejich AI obhajuje

Od pojídání kamenů přes mazání pizzy lepidlem až po kouření v těhotenství – tohle (nesprávně) radí uživatelům nový nástroj umělé inteligence společnosti Google.

Kolik kamenů denně byste měli sníst? Batolata se poměrně rychle naučí, že odpověď je nula, možná ze zkušenosti, možná po pokárání od rodičů. Ale zeptejte se největšího světového vyhledávače a možná dostanete jinou odpověď.

„Podle geologů z Kalifornské univerzity v Berkeley byste měli denně sníst alespoň jeden malý kámen,“ odpověděl Google minulý týden sebevědomě některým uživatelům na tuto otázku, píše server The Telegraph. Google říká, že horniny jsou důležitým zdrojem vitamínů a minerálů, které jsou důležité pro zdraví trávicího traktu.

Tento případ nebyl ojedinělý. Minulý týden Google uživatelům vyhledávače také sdělil, že Barack Obama je prvním americkým muslimským prezidentem. Na dotaz, aby vyjmenoval potraviny končící na „um“, odpověděl: „Applum, Banana, Strawberrum, Tomatum a Coconut“.

Není to jak si možná myslíte, ne společnost Google nebyla hacknuta, ale skutečné vysvětlení bylo potenciálně znepokojivější. Internetový gigant spustil novou funkci odpovědí pomocí umělé inteligence, od které si slibuje budoucnost svého vyhledávače.

Google nedávno oznámil, že začne přidávat „přehledy AI“ na začátek miliard vyhledávání prováděných každý den. Zatímco dříve společnost odkazovala na řadu webových stránek, které by mohly být schopny odpovědět na dotaz, nyní bude místo toho využívat umělou inteligenci k shrnutí autoritativních zdrojů a poskytne jednoduchou odpověď.

Funkce byla již široce představena uživatelům v USA a do konce roku má být spuštěna celosvětově. Její začátek však nebyl příliš úspěšný. Uživatelé se o víkendu podělili o příklady zvláštních odpovědí, včetně toho, že na pizzu nanesli lepidlo, aby se sýr přilepil k jejímu podkladu.

Google trval na tom, že tyto případy nejsou typickým příkladem fungování nástroje. „Naprostá většina přehledů umělé inteligence poskytuje vysoce kvalitní informace s odkazy na hlubší pátrání na webu,“ uvedl mluvčí. „Mnoho příkladů, které jsme viděli, byly neobvyklé dotazy a viděli jsme také příklady, které byly zfalšované nebo které jsme nemohli reprodukovat.“

Inženýři v posledních dnech ručně upravovali dotazy, které se rozšířily na internetu. Společnost uvedla, že tuto funkci v posledních měsících důkladně testovala a že vycházela z desítek let zkušeností s budováním nejpopulárnějšího vyhledávače na světě.

Obavy však nevyvolal ani tak počet trapných dotazů, jako jejich povaha. Od vydání ChatGPT před více než 18 měsíci se všeobecně vědělo, že systémy umělé inteligence „halucinují“ a vymýšlejí si fakta způsobem, který odhaluje jejich nedostatečné porozumění. Přehled umělé inteligence společnosti Google ani tak nehalucinoval, jako spíše čerpal ze zdrojů, které by žádný člověk neschválil.

Například rada jíst kameny pocházela ze satirického zpravodajského webu The Onion. Doporučení dávat si na pizzu lepidlo vycházelo z vtipu ze sociální sítě Reddit starého 11 let. Jeho tvrzení, že Barack Obama je muslim, vycházelo z chybné interpretace akademické knihy o náboženství v Americe.

Zdroj: The Telegraph