„Ano, jsme vyděšeni.“ Umělá inteligence začíná mít velký dopad na reálný svět, říká odborník

Profesor Stuart Russell říká, že oblast umělé inteligence se musí rychle rozvíjet, aby si lidé udrželi kontrolu, píše server The Guardian.

Vědec, který napsal přední učebnici o umělé inteligenci, prohlásil, že odborníci jsou vyděšeni vlastním úspěchem v této oblasti a přirovnal pokrok v oblasti umělé inteligence k vývoji atomové bomby.

Profesor Stuart Russell, zakladatel Centra pro umělou inteligenci kompatibilní s lidmi na Kalifornské univerzitě v Berkeley, uvedl, že většina odborníků věří, že v tomto století budou vyvinuty stroje inteligentnější než člověk a vyzval k uzavření mezinárodních smluv, které by vývoj této technologie regulovaly.

„Komunita zabývající se umělou inteligencí se ještě nepřizpůsobila skutečnosti, že nyní začínáme mít opravdu velký vliv na reálný svět,“ řekl. „Po většinu historie tohoto oboru tomu tak prostě nebylo – byli jsme jen v laboratoři, vyvíjeli jsme věci, snažili se, aby fungovaly, a většinou se nám to nedařilo. Takže otázka dopadu na reálný svět nebyla vůbec na místě. A my musíme velmi rychle dospět, abychom to dohnali.“

Umělá inteligence je základem mnoha aspektů moderního života, od vyhledávačů po bankovnictví, a mezi klíčové pokroky posledních let patří rozpoznávání obrazu a strojový překlad. „Umělá inteligence byla navržena s jednou konkrétní metodikou a jakýmsi obecným přístupem. A my nejsme dostatečně opatrní, abychom takový systém používali ve složitých podmínkách reálného světa,“ řekl.

Vyléčit rakovinu pomocí umělé inteligence může být nebezpečné

„Pravděpodobně by našla způsoby, jak vyvolat nádory v celé lidské populaci, takže by mohla paralelně provádět miliony experimentů a používat nás všechny jako pokusné králíky,“ řekl Russell. „A to proto, že to je řešení cíle, který jsme mu dali; jen jsme zapomněli upřesnit, že nemůžete používat lidi jako pokusné králíky a že nemůžete využít celé HDP světa k provádění svých experimentů a že nemůžete dělat tohle a tamto.“

Russell řekl, že mezi dnešní umělou inteligencí a umělou inteligencí zobrazenou ve filmech, je stále velký rozdíl, ale budoucnost se stroji, které jsou inteligentnější než lidé, je na spadnutí. Jednou z obav je, že stroj by nemusel být ve všem inteligentnější než člověk, aby představoval vážné riziko. „Je to něco, co se rozvíjí právě teď,“ řekl. „Když se podíváte na sociální média a algoritmy, které vybírají, co lidé čtou a sledují, mají obrovskou kontrolu nad našimi kognitivními vstupy.“

Vystrašili se výzkumníci v oblasti umělé inteligence vlastního úspěchu? „Ano, myslím, že jsme stále více vystrašení,“ řekl Russell. „Trochu mi to připomíná to, co se stalo ve fyzice, kdy fyzikové věděli, že atomová energie existuje, mohli měřit hmotnosti různých atomů a mohli zjistit, kolik energie by se mohlo uvolnit, kdybyste mohli provést přeměnu mezi různými typy atomů,“ řekl s tím, že odborníci vždy zdůrazňovali, že jde o teoretickou myšlenku. „A pak se to stalo a oni na to nebyli připraveni.“

Zdroj: theguardian.com