Tvůrci ChatGPT se obávají „superinteligence“. Vytvářejí speciální skupinu
Sledovat v Google Zprávách
Aby se zabránilo vzpouře umělé inteligence, která může dosáhnout sebeuvědomění a dokonce ohrozit lidskou existenci, chce společnost OpenAI vytvořit odpovídající bezpečnostní opatření. V současné době nabírá špičkové odborníky na umělou inteligenci, informuje portál TheMessenger.
„Potřebujeme vědecké a technické průlomy, abychom mohli řídit a kontrolovat systémy AI, které jsou mnohem chytřejší než my. K vyřešení tohoto problému vytváříme nový tým a věnujeme tomuto účelu 20 procent našich výpočetních zdrojů,“ uvedl ředitel společnosti OpenAI. Z toho vyplývá, že pro vývojáře ChatGPT je dnes získání kontroly nad pokročilými algoritmy obrovskou výzvou. Odborníci opakovaně varovali, že rychlý rozvoj umělé inteligence může dokonce ohrozit lidskou existenci.
Černým scénářům má zabránit speciální skupina OpenAI. V jejím čele stojí Ilja Sutskever, spoluzakladatel společnosti, a Jan Leike, odborník na „krocení“ umělé inteligence. Tým mají posílit také špičkoví odborníci z oboru – nábor byl právě zahájen. Hledají se výzkumní pracovníci v oblasti umělé inteligence a inženýři strojového učení. Cílem OpenAI je do čtyř let vyvinout řešení pro ovládání superinteligence – algoritmů, které jsou mnohem lepší než člověk. Ve společnosti stojící za ChatGPT věří, že tato superinteligence vznikne ještě v tomto desetiletí. Ve zveřejněném prohlášení oznámili, že by mohla pomoci vyřešit mnoho problémů, ale mohla by být i nebezpečná – například by mohla převzít vládu nad lidstvem, „nebo ho dokonce zničit“.
„Superinteligence bude tou nejničivější technologií, jakou kdy lidstvo vynalezlo,“ – píší výzkumníci z OpenAI. A varují, že bude vyžadovat vytvoření systému dohledu a zřízení „vyrovnávacích“ řídicích institucí. Zároveň přiznávají, že dnes nemáme řešení, jak takovou pokročilou umělou inteligenci řídit a zabránit „vzpouře“ AI.
Zdroj: TheMessenger
Nejnovější články
- Na odlehlém ostrově bylo ponecháno pět krav. O 130 let později se tam vědci vrátili a našli celé stádo
- Zub starý 59 000 let nabízí výjimečný pohled na to, jak neandrtálci řešili zdravotní problém
- Hasič: Staré a nepoužívané mobily nikdy neukládejte jen tak do šuplíku
- Pro cyklisty a turisty jsou tyto mapy mnohem užitečnější než Google Maps a každý by je měl mít v telefonu nainstalované
- Zatímco se svět hádá o větrné a solární energii, Japonsko tajně otevřelo elektrárnu, která nikdy nezastaví provoz
- Německo buduje nejdelší podmořský tunel na světě. Cesta na pevninu potrvá jen 10 minut
- Kolik metrů čtverečních skleníku ještě nevyžaduje stavební povolení?
- Provrtali zemskou kůru do hloubky 12 262 metrů a pak se náhle zastavili. Vědci nalezli něco zcela nečekaného
- Známá módní značka ohlásila bankrot: Všechny pobočky zatím zůstávají otevřené
- Kdo má mobil Samsung, musí změnit tato nastavení Wi-Fi, aby mobil správně fungoval
