Tvůrci ChatGPT se obávají „superinteligence“. Vytvářejí speciální skupinu

Aby se zabránilo vzpouře umělé inteligence, která může dosáhnout sebeuvědomění a dokonce ohrozit lidskou existenci, chce společnost OpenAI vytvořit odpovídající bezpečnostní opatření. V současné době nabírá špičkové odborníky na umělou inteligenci, informuje portál TheMessenger.

„Potřebujeme vědecké a technické průlomy, abychom mohli řídit a kontrolovat systémy AI, které jsou mnohem chytřejší než my. K vyřešení tohoto problému vytváříme nový tým a věnujeme tomuto účelu 20 procent našich výpočetních zdrojů,“ uvedl ředitel společnosti OpenAI. Z toho vyplývá, že pro vývojáře ChatGPT je dnes získání kontroly nad pokročilými algoritmy obrovskou výzvou. Odborníci opakovaně varovali, že rychlý rozvoj umělé inteligence může dokonce ohrozit lidskou existenci.

Černým scénářům má zabránit speciální skupina OpenAI. V jejím čele stojí Ilja Sutskever, spoluzakladatel společnosti, a Jan Leike, odborník na „krocení“ umělé inteligence. Tým mají posílit také špičkoví odborníci z oboru – nábor byl právě zahájen. Hledají se výzkumní pracovníci v oblasti umělé inteligence a inženýři strojového učení. Cílem OpenAI je do čtyř let vyvinout řešení pro ovládání superinteligence – algoritmů, které jsou mnohem lepší než člověk. Ve společnosti stojící za ChatGPT věří, že tato superinteligence vznikne ještě v tomto desetiletí. Ve zveřejněném prohlášení oznámili, že by mohla pomoci vyřešit mnoho problémů, ale mohla by být i nebezpečná – například by mohla převzít vládu nad lidstvem, „nebo ho dokonce zničit“.

„Superinteligence bude tou nejničivější technologií, jakou kdy lidstvo vynalezlo,“ – píší výzkumníci z OpenAI. A varují, že bude vyžadovat vytvoření systému dohledu a zřízení „vyrovnávacích“ řídicích institucí. Zároveň přiznávají, že dnes nemáme řešení, jak takovou pokročilou umělou inteligenci řídit a zabránit „vzpouře“ AI.

Zdroj: TheMessenger