Chatboty občas kecají, varuje šéf Googlu
Sledovat v Google Zprávách
Šéf vyhledávače Google v sobotním novinovém rozhovoru varoval před nástrahami umělé inteligence v chatbotech. Jeho mateřská společnost Googlu Alphabet vyvíjí úsilí, aby mohla konkurovat aplikaci ChatGPT.
„Tento druh umělé inteligence může někdy směřovat k něčemu, čemu říkáme halucinace,“ řekl Prabhakar Raghavan, senior viceprezident společnosti Google, jak píše portál Economictimes. „To se pak projeví tak, že stroj poskytne přesvědčivou, ale zcela vymyšlenou odpověď,“ uvedl Raghavan. Dodal, že jedním ze základních úkolů je omezit to na minimum. Jednoduše bychom mohli říct, že chatbot prostě kecá.
Chyba za miliardy
Google se ocitl v pozadí poté, co výzkumná organizace OpenAI v listopadu představila ChatGPT, který od té doby ohromuje uživatele svými odpověďmi na uživatelské dotazy, které nápadně připomínají odpovědi člověka.
Společnost Alphabet Inc. představila vlastního chatbota Barda, ale tento software v propagačním videu sdělil nepřesné informace, což společnost stálo 100 miliard dolarů tržní hodnoty.
Když má robot halucinace
Příkladem halucinací umělé inteligence je situace, kdy chatbot poskytne odpověď, která je věcně nepřesná, nebo když generátor obsahu umělé inteligence vyfabuluje informace, ale prezentuje je jako pravdivé.
Halucinující chatbot může například na žádost o vygenerování finanční zprávy pro nějakou společnost nepravdivě uvést, že tržby společnosti činí sumu, která je zjevně vycucaná z prstu.
Když vám chatbot nerozumí
Velké jazykové modely (LLM) zpočátku nechápou význam slov. Nahlížejí na text jako na posloupnost znaků a postupem času rozpoznávají vzory, aby pochopily jazyková pravidla, slovní asociace a sémantiku. Díky tomu mohou LLM vytvářet obsah podobný lidskému. Jejich nedostatečné faktické porozumění však způsobuje halucinace při odpovídání na otázky. Kvůli chybnému tréninku a programování mohou modely přesvědčivě prezentovat nepravdivé informace a „halucinace“ jako fakta.
Zdroj: Economictimes, Medium
Nejnovější články
- Jeden nespokojený senior může zablokovat stavbu celého satelitního městečka o několika domech
- Kalifornie testuje autobusy s rychlostí 225 km/h. Pro svou zběsilou jízdu budou mít vlastní pruh na dálnici
- Některé České restaurace trestají nedojedená jídla poplatkem. Kdo nedojí, připlatí si
- Cyklistický airbag může být rozhodujícím prvkem pro záchranu života. Objevují se hlasy pro jeho povinné zavedení
- Ukrajina tak dlouho žádala USA o zbraně dlouhého doletu, až se je naučila vyrábět sama
- Psychologie říká, že lidé, kteří dosáhnou 70 let a uvědomí si, že je jejich děti již nepotřebují, mohou pociťovat hluboký dopad na své duševní zdraví
- Zpráva evropských úřadů potvrzuje: hrozny, jahody a pomeranče jsou ovoce nejvíce kontaminovány pesticidy
- Kbelík a mop mají své dny sečteny: odborníci na úklid sdílejí stejný názor a v roce 2026 se přiklánějí k jeho vylepšené verzi
- Blíží se úplné zatmění slunce: Dočkáme se ho v létě a bude to nádherná podívaná
- Je konec: Legendární švédská automobilka po 75 letech končí prodejem posledních vyrobených aut
