Chatboty občas kecají, varuje šéf Googlu

Šéf vyhledávače Google v sobotním novinovém rozhovoru varoval před nástrahami umělé inteligence v chatbotech. Jeho mateřská společnost Googlu Alphabet vyvíjí úsilí, aby mohla konkurovat aplikaci ChatGPT.

„Tento druh umělé inteligence může někdy směřovat k něčemu, čemu říkáme halucinace,“ řekl Prabhakar Raghavan, senior viceprezident společnosti Google, jak píše portál Economictimes. „To se pak projeví tak, že stroj poskytne přesvědčivou, ale zcela vymyšlenou odpověď,“ uvedl Raghavan. Dodal, že jedním ze základních úkolů je omezit to na minimum. Jednoduše bychom mohli říct, že chatbot prostě kecá.

Chyba za miliardy

Google se ocitl v pozadí poté, co  výzkumná organizace OpenAI v listopadu představila ChatGPT, který od té doby ohromuje uživatele svými odpověďmi na uživatelské dotazy, které nápadně připomínají odpovědi člověka.

Společnost Alphabet Inc. představila vlastního chatbota Barda, ale tento software v propagačním videu sdělil nepřesné informace, což  společnost stálo 100 miliard dolarů tržní hodnoty.

Když má robot halucinace

Příkladem halucinací umělé inteligence je situace, kdy chatbot poskytne odpověď, která je věcně nepřesná, nebo když generátor obsahu umělé inteligence vyfabuluje informace, ale prezentuje je jako pravdivé.

Halucinující chatbot může například na žádost o vygenerování finanční zprávy pro nějakou společnost nepravdivě uvést, že tržby společnosti činí sumu, která je zjevně vycucaná z prstu.  

Když vám chatbot nerozumí

Velké jazykové modely (LLM) zpočátku nechápou význam slov. Nahlížejí na text jako na posloupnost znaků a postupem času rozpoznávají vzory, aby pochopily jazyková pravidla, slovní asociace a sémantiku. Díky tomu mohou LLM vytvářet obsah podobný lidskému. Jejich nedostatečné faktické porozumění však způsobuje halucinace při odpovídání na otázky. Kvůli chybnému tréninku a programování mohou modely přesvědčivě prezentovat nepravdivé informace a „halucinace“ jako fakta.

Zdroj: Economictimes, Medium