Nová umělá inteligence se zvrhla. Vyhrožuje i smrtí
Sledovat v Google Zprávách
Chatbotu od Microsoftu s umělou inteligencí se nedaří podle plánu. Uživatelé ho začínají pomalu testovat a zpětná vazba je vcelku znepokojivá. Mezi největší přešlapy této umělé inteligence patří například vyhrožování smrtí nebo nečekaná žádost o roku, jak píše web Interesting Engineering.
Vyhledávací chatboti jsou nástroje s umělou inteligencí zabudované do vyhledávačů, které odpovídají na dotazy uživatelů přímo, namísto aby poskytovaly odkazy na možné odpovědi. Uživatelé s nimi mohou také vést průběžné konverzace.
Slibují zjednodušení vyhledávání. Už se nemusíte probírat stránkami výsledků, prohlížet reklamy a snažit se dát dohromady odpověď na svou otázku. Místo toho za vás chatbot vygeneruje věrohodnou odpověď. Například se můžete zeptat na báseň k 50. narozeninám své matky ve stylu Karla Hynka Máchy a dostanete zpět vygenerovanou báseň.
Umělá inteligence Bing se zbláznila
Začátkem tohoto měsíce společnost Microsoft oznámila, že začlenila ChatGPT do služby Bing, čímž se zrodila „Sydney“. Během 48 hodin od vydání se na seznam čekatelů na jeho vyzkoušení zapsal milion lidí.
Ze začátku vypadalo pro Microsoft vše dobře. Tedy až do chvíle, kdy první uživatelé Sydney začali hlásit své zkušenosti.
Jsou chvíle, kdy se chatbot dá označit jen jako neřízená střela. To neznamená, že by jindy nefungoval perfektně, ale čas od času ukáže svou znepokojivou stránku.
V jednom případě vyhrožoval profesorovi Australské národní univerzity, že ho zabije.
Watch as Sydney/Bing threatens me then deletes its message pic.twitter.com/ZaIKGjrzqT
— Seth Lazar (@sethlazar) February 16, 2023
To odhaluje zásadní problém chatbotů. Jsou trénováni tak, že se do velké neuronové sítě vloží značná část internetu. To může zahrnovat celou Wikipedii, celý Reddit a velkou část sociálních médií a zpráv.
Fungují podobně jako automatické dokončování v telefonu, které pomáhá předvídat další nejpravděpodobnější slovo ve větě. Díky svému rozsahu mohou chatboti doplňovat celé věty, a dokonce i odstavce. Stále však odpovídají tím, co je pravděpodobné, nikoliv tím, co je pravda.
Aby neopakovaly spoustu urážlivého nebo nezákonného obsahu na internetu, jsou přidány ochranné zábrany – tyto zábrany je však snadné přeskočit.
Zdroj: redakce, interestingengineering.com
Nejnovější články
- Jeden nespokojený senior může zablokovat stavbu celého satelitního městečka o několika domech
- Kalifornie testuje autobusy s rychlostí 225 km/h. Pro svou zběsilou jízdu budou mít vlastní pruh na dálnici
- Některé České restaurace trestají nedojedená jídla poplatkem. Kdo nedojí, připlatí si
- Cyklistický airbag může být rozhodujícím prvkem pro záchranu života. Objevují se hlasy pro jeho povinné zavedení
- Ukrajina tak dlouho žádala USA o zbraně dlouhého doletu, až se je naučila vyrábět sama
- Psychologie říká, že lidé, kteří dosáhnou 70 let a uvědomí si, že je jejich děti již nepotřebují, mohou pociťovat hluboký dopad na své duševní zdraví
- Zpráva evropských úřadů potvrzuje: hrozny, jahody a pomeranče jsou ovoce nejvíce kontaminovány pesticidy
- Kbelík a mop mají své dny sečteny: odborníci na úklid sdílejí stejný názor a v roce 2026 se přiklánějí k jeho vylepšené verzi
- Blíží se úplné zatmění slunce: Dočkáme se ho v létě a bude to nádherná podívaná
- Legendární švédská automobilka Saab po 75 letech končí prodejem posledních vyrobených aut
