Nová umělá inteligence se zvrhla. Vyhrožuje i smrtí

Chatbotu od Microsoftu s umělou inteligencí se nedaří podle plánu. Uživatelé ho začínají pomalu testovat a zpětná vazba je vcelku znepokojivá. Mezi největší přešlapy této umělé inteligence patří například vyhrožování smrtí nebo nečekaná žádost o roku, jak píše web Interesting Engineering.

Vyhledávací chatboti jsou nástroje s umělou inteligencí zabudované do vyhledávačů, které odpovídají na dotazy uživatelů přímo, namísto aby poskytovaly odkazy na možné odpovědi. Uživatelé s nimi mohou také vést průběžné konverzace.

Slibují zjednodušení vyhledávání. Už se nemusíte probírat stránkami výsledků, prohlížet reklamy a snažit se dát dohromady odpověď na svou otázku. Místo toho za vás chatbot vygeneruje věrohodnou odpověď. Například se můžete zeptat na báseň k 50. narozeninám své matky ve stylu Karla Hynka Máchy a dostanete zpět vygenerovanou báseň.

Umělá inteligence Bing se zbláznila

Začátkem tohoto měsíce společnost Microsoft oznámila, že začlenila ChatGPT do služby Bing, čímž se zrodila „Sydney“. Během 48 hodin od vydání se na seznam čekatelů na jeho vyzkoušení zapsal milion lidí.

Ze začátku vypadalo pro Microsoft vše dobře. Tedy až do chvíle, kdy první uživatelé Sydney začali hlásit své zkušenosti.

Jsou chvíle, kdy se chatbot dá označit jen jako neřízená střela. To neznamená, že by jindy nefungoval perfektně, ale čas od času ukáže svou znepokojivou stránku.

V jednom případě vyhrožoval profesorovi Australské národní univerzity, že ho zabije.

Watch as Sydney/Bing threatens me then deletes its message pic.twitter.com/ZaIKGjrzqT

— Seth Lazar (@sethlazar) February 16, 2023

To odhaluje zásadní problém chatbotů. Jsou trénováni tak, že se do velké neuronové sítě vloží značná část internetu. To může zahrnovat celou Wikipedii, celý Reddit a velkou část sociálních médií a zpráv.

Fungují podobně jako automatické dokončování v telefonu, které pomáhá předvídat další nejpravděpodobnější slovo ve větě. Díky svému rozsahu mohou chatboti doplňovat celé věty, a dokonce i odstavce. Stále však odpovídají tím, co je pravděpodobné, nikoliv tím, co je pravda.

Aby neopakovaly spoustu urážlivého nebo nezákonného obsahu na internetu, jsou přidány ochranné zábrany – tyto zábrany je však snadné přeskočit.

Zdroj: redakce, interestingengineering.com