Společnost OpenAI pracuje na sladění superinteligence s lidským porozuměním

Jedna z největších společností na poli umělé inteligence, OpenAI, pracuje na sladění umělé inteligence s lidským porozuměním. Očekávají, že během čtyř let bude hotovo, jak píše web Gizmochina.

Superinteligence, technologie, která má potenciál způsobit revoluci v našich životech, vzbuzuje respekt i obavy. Přední výzkumná organizace OpenAI se domnívá, že příchod superinteligence je blíže, než si možná myslíme, a to možná již v tomto desetiletí. OpenAI si uvědomuje obrovskou sílu a rizika spojená s touto technologií a proto zahájila ambiciózní iniciativu, jejímž cílem je sladit superinteligenci s lidskými záměry.

Očekává se, že technické problémy budou vyřešeny v příštích čtyřech letech. Výzva spočívá v zajištění toho, aby systémy umělé inteligence, které dalece překonávají lidskou inteligenci, zůstaly v souladu s našimi hodnotami a cíli. Současné techniky, jako je posilování učení na základě lidské zpětné vazby, při aplikaci na superinteligenci selhávají. OpenAI uznává potřebu nových vědeckých a technických průlomů, které by tento zásadní problém vyřešily.

Pro řešení tohoto problému vytváří společnost OpenAI automatického výzkumníka, který má schopnosti srovnatelné s lidským porozuměním. Využitím pokročilých systémů umělé inteligence k vyhodnocování a dohledu nad jinými systémy umělé inteligence chce OpenAI vyvinout škálovatelné techniky dohledu a zobecňování. Ověřování sladěnosti systémů AI bude zahrnovat automatizaci detekce problematického chování a interpretaci vnitřního fungování těchto modelů.

Cesta k dosažení sladění superinteligence není bez problémů. Společnost OpenAI plánuje zátěžové testování svého systému. Očekává se, že priority výzkumu se budou vyvíjet s tím, jak bude společnost OpenAI hlouběji chápat tuto problematiku, a klíčová bude spolupráce s odborníky z různých oborů.

Specializovaný tým špičkových výzkumníků a inženýrů v oblasti strojového učení v rámci OpenAI, vedený Iljou Sutskeverem a Janem Leikem, je odhodlán v příštích čtyřech letech vyřešit hlavní technické problémy superinteligentního AI. Přestože úspěch není zaručen, jejich optimismus pramení ze slibných předběžných experimentů, měřitelného pokroku a zapojení brilantních mozků v oboru.

Zdroj: redakce, Gizmochina