Tvůrci ChatGPT se obávají „superinteligence“. Vytvářejí speciální skupinu
Sledovat v Google Zprávách
Aby se zabránilo vzpouře umělé inteligence, která může dosáhnout sebeuvědomění a dokonce ohrozit lidskou existenci, chce společnost OpenAI vytvořit odpovídající bezpečnostní opatření. V současné době nabírá špičkové odborníky na umělou inteligenci, informuje portál TheMessenger.
„Potřebujeme vědecké a technické průlomy, abychom mohli řídit a kontrolovat systémy AI, které jsou mnohem chytřejší než my. K vyřešení tohoto problému vytváříme nový tým a věnujeme tomuto účelu 20 procent našich výpočetních zdrojů,“ uvedl ředitel společnosti OpenAI. Z toho vyplývá, že pro vývojáře ChatGPT je dnes získání kontroly nad pokročilými algoritmy obrovskou výzvou. Odborníci opakovaně varovali, že rychlý rozvoj umělé inteligence může dokonce ohrozit lidskou existenci.
Černým scénářům má zabránit speciální skupina OpenAI. V jejím čele stojí Ilja Sutskever, spoluzakladatel společnosti, a Jan Leike, odborník na „krocení“ umělé inteligence. Tým mají posílit také špičkoví odborníci z oboru – nábor byl právě zahájen. Hledají se výzkumní pracovníci v oblasti umělé inteligence a inženýři strojového učení. Cílem OpenAI je do čtyř let vyvinout řešení pro ovládání superinteligence – algoritmů, které jsou mnohem lepší než člověk. Ve společnosti stojící za ChatGPT věří, že tato superinteligence vznikne ještě v tomto desetiletí. Ve zveřejněném prohlášení oznámili, že by mohla pomoci vyřešit mnoho problémů, ale mohla by být i nebezpečná – například by mohla převzít vládu nad lidstvem, „nebo ho dokonce zničit“.
„Superinteligence bude tou nejničivější technologií, jakou kdy lidstvo vynalezlo,“ – píší výzkumníci z OpenAI. A varují, že bude vyžadovat vytvoření systému dohledu a zřízení „vyrovnávacích“ řídicích institucí. Zároveň přiznávají, že dnes nemáme řešení, jak takovou pokročilou umělou inteligenci řídit a zabránit „vzpouře“ AI.
Zdroj: TheMessenger
Nejnovější články
- Muž dostal pokutu od revizora, přestože si správně koupil před vstupem do autobusu jízdenku přes mobilní telefon
- Prahu čeká komplikovaná uzavírka kvůli stavbě metra. Důležitá silnice bude uzavřena až do června 2027
- Rodič má právo zůstat s dítětem v nemocnici až do jeho 18 let. V některých případech dostane ubytování i stravu zdarma
- Od ledna 2027 si platově přilepší zejména uklízečky a kuchařky. Minimální mzda se v příštích letech přiblíží 30 tisícům korun
- Alza platí za umístění výdejního boxu tisíce korun měsíčně. Pro vlastníky nemovitostí se z toho stává zajímavý přivýdělek
- Lyžařský areál kousek od Prahy tento víkend slavnostně zahajuje lyžařskou sezonu. Těšit se můžete na dlouhé sjezdovky i dostatek sněhu
- Do konce roku můžete získat tisíce korun od zdravotní pojišťovny. Na vyřízení všech dokumentů ale máte už jen pár týdnů
- Mimořádný bonus 2 000 Kč nemine ani ty nejbohatší. Přilepší si i senioři s důchodem nad 60 tisíc
- Po slovním útoku Macinky na ženské hokejistky od něj dávají ruce pryč i jeho spojenci ve vládě
- Senioři s nízkým důchodem mohou požádat o příspěvek na novou pračku, ledničku a další důležité spotřebiče do domácnosti
