Může umělá inteligence zničit lidstvo?
V poslední době, především v souvislosti s válkou na Ukrajině se objevují obavy z možnosti vypuknutí jaderného konfliktu, který by mohl vést ke zničení lidstva. Předtím to byla globální pandemie, která byla zmiňována jako velké nebezpečí pro lidstvo. Někteří vědci, jako například Jan Kulveid, který pracuje na univerzitě v Oxfordu vidí jako reálnější hrozbu pro existenci lidstva nekontrolovaný rozvoj umělé inteligence (AI), jak píše server Britannica.
Umělá inteligence je především schopnost digitálního počítače nebo počítačem řízeného robota vykonávat činnosti, které běžně vykonávají inteligentní bytosti. Tento termín se často používá pro projekt vývoje systémů vybavených intelektuálními procesy, které v kombinaci s dalšími nutnými systémy umožní strojům disponovat schopnostmi charakteristickými pro lidi. Jedná se především o schopnost uvažovat, chápat, zobecňovat nebo se učit na základě dřívějších zkušeností.
Od doby vývoje digitálního počítače ve 40. letech 20. století bylo prokázáno, že stroje lze naprogramovat tak, aby prováděly velmi složité úkoly – například objevování důkazů pro matematické věty, nebo hraní šachů – s nejlepšími lidskými šachisty. Navzdory neustálému pokroku v rychlosti počítačového zpracování a kapacitě paměti dosud neexistují žádné programy, které by se vyrovnaly lidské flexibilitě v širších oblastech. Na druhou stranu některé programy dosáhly úrovně výkonu lidských expertů a profesionálů při provádění určitých specifických úkolů, takže umělou inteligenci v tomto omezeném smyslu lze nalézt v aplikacích tak rozmanitých, jako je lékařská diagnostika, počítačové vyhledávače a rozpoznávání hlasu nebo rukopisu,
Co je to inteligence?
Všechno kromě toho nejjednoduššího lidského chování je připisováno inteligenci, zatímco ani to nejsložitější chování hmyzu není nikdy považováno za projev inteligence, ale jedná se o instikty. Jaký je rozdíl mezi inteligencí a instiktem? Jako příklad můžeme uvést poměrně složité instinktivní chování kutilky písečné (druh malé vosy). Když se samice kutilky vrátí do své nory s potravou, nejprve ji uloží na práh, zkontroluje, zda se uvnitř nory nenacházejí vetřelci, a teprve poté, pokud je prostředi bezpečné, začne přenášet potravu dovnitř.
Skutečná povaha instinktivního chování vosy se ukáže, když se potrava přesune o několik centimetrů dál od vchodu do její nory, v době když je vosa uvnitř. Když vyleze ven z nory, začne celý postup opakovat tolikrát, kolikrát bude její potrava přemístěna. Inteligence – v případě kutilky písečné chybějící – musí zahrnovat schopnost přizpůsobit se novým okolnostem. Psychologové obecně necharakterizují lidskou inteligenci pouze jedním rysem, ale kombinací mnoha různých schopností. Výzkum v oblasti AI se zaměřil především na následující složky inteligence: učení, uvažování, řešení problémů, vnímání a používání jazyka.
Vzniknou geniálně inteligentní počítače?
Stroje, které něco dělají lépe než lidé, vytváříme už dlouho. Například kalkulačka umí násobit dlouhá čísla lépe než člověk, ale samozřejmě řeší jen velmi úzký problém. Co se však mění: algoritmy začínají konkurovat lidem ve věcech, které jsou důležité pro jejich vůdčí roli na planetě – například výzkum, řízení korporací. Lze si představit, že část z tohoto časem nahradí algoritmy. A ty budou pro lidi čím dál méně srozumitelné. Vývoj se pak bude postupně zrychlovat, takže si můžete představit svět, kdy 10 procent světové ekonomiky bude tvořit umělá inteligence. A pak se můžeme dostat do stavu, kdy budou mít lidé minimální vliv na budoucnost a rozhodování bude spíše algoritmické.
Nastoupí dokonalé AI algoritmy, které odsunou lidskou inteligenci na vedlejší kolej?
Je poměrně pravděpodobné, že příchod transformativní umělé inteligence nezabere víc než třicet let. Je to něco, čeho se spousta dnešních lidí dožije. Systém inteligentnější než my nás může ohrozit způsoby, které ani nebudeme chápat. Je možné, že budeme najednou všichni mrtví, aniž bychom si uvědomili jak a proč k tomu vlastně došlo. Riziko, že bychom mohli během několika desítek let být vyhlazení kvůli aktivitám umělé inteligence, není zanedbatelné, jak uvádí server Greek Reporter.
Lidstvo by se na to určitě mělo více zaměřit a zamyslet se například právě nad tím, co může být signálem nebezpečí. Dnes je z komplexního pohledu nepochybně nejvyšší inteligencí na naši planetě člověk. Když se, ale na vývoj lidstva podíváte z pohledu šimpanze, tak pro něj se od určitého momentu začalo na Zemi dít něco, čemu přestal rozumět. Dnes si lidé šimpanze dovedou ochočit nebo jej zabít velkým množstvím různých způsobů, kterým už vůbec nerozumí. Šimpanz nechápe, co se stalo, když ho zasáhne kulka vypálena z pušky. Jeho inteligence byla překonána vyšší inteligenci.
Udržení kontroly ze strany člověka je nutné
A do podobného stavu bychom se mohli dostat i my ve chvíli, kdy ztratíme kontrolu nad příliš dokonalou umělou inteligencí. Bohužel politická reprezentace často směřuje k těm řešením, která jsou vidět. Něco se stane a následuje silná reakce. Část nejlepších reakcí ale vypadá tak, že se na první pohled nic neděje. Dobrá požární bezpečnost nefunguje jen tak, že někam nastoupí masivní požární jednotka, která začne hasit obří požár, ale spíš tak, že ani nezačne hořet. A podobná věc hrozí i v případě umělé inteligencí. Je to dobrý sluha, ale špatný pán. Lidská inteligence by nad umělou inteligenci měla mít vždy kontrolu a nikdy nepřipustit opak.
Zdroj: Redakce, britannica.com, greekreporter.com