Chatboty občas kecají, varuje šéf Googlu
Šéf vyhledávače Google v sobotním novinovém rozhovoru varoval před nástrahami umělé inteligence v chatbotech. Jeho mateřská společnost Googlu Alphabet vyvíjí úsilí, aby mohla konkurovat aplikaci ChatGPT.
„Tento druh umělé inteligence může někdy směřovat k něčemu, čemu říkáme halucinace,“ řekl Prabhakar Raghavan, senior viceprezident společnosti Google, jak píše portál Economictimes. „To se pak projeví tak, že stroj poskytne přesvědčivou, ale zcela vymyšlenou odpověď,“ uvedl Raghavan. Dodal, že jedním ze základních úkolů je omezit to na minimum. Jednoduše bychom mohli říct, že chatbot prostě kecá.
Chyba za miliardy
Google se ocitl v pozadí poté, co výzkumná organizace OpenAI v listopadu představila ChatGPT, který od té doby ohromuje uživatele svými odpověďmi na uživatelské dotazy, které nápadně připomínají odpovědi člověka.
Společnost Alphabet Inc. představila vlastního chatbota Barda, ale tento software v propagačním videu sdělil nepřesné informace, což společnost stálo 100 miliard dolarů tržní hodnoty.
Když má robot halucinace
Příkladem halucinací umělé inteligence je situace, kdy chatbot poskytne odpověď, která je věcně nepřesná, nebo když generátor obsahu umělé inteligence vyfabuluje informace, ale prezentuje je jako pravdivé.
Halucinující chatbot může například na žádost o vygenerování finanční zprávy pro nějakou společnost nepravdivě uvést, že tržby společnosti činí sumu, která je zjevně vycucaná z prstu.
Když vám chatbot nerozumí
Velké jazykové modely (LLM) zpočátku nechápou význam slov. Nahlížejí na text jako na posloupnost znaků a postupem času rozpoznávají vzory, aby pochopily jazyková pravidla, slovní asociace a sémantiku. Díky tomu mohou LLM vytvářet obsah podobný lidskému. Jejich nedostatečné faktické porozumění však způsobuje halucinace při odpovídání na otázky. Kvůli chybnému tréninku a programování mohou modely přesvědčivě prezentovat nepravdivé informace a „halucinace“ jako fakta.
Zdroj: Economictimes, Medium