Společnost OpenAI pracuje na sladění superinteligence s lidským porozuměním
Sledovat v Google Zprávách
Jedna z největších společností na poli umělé inteligence, OpenAI, pracuje na sladění umělé inteligence s lidským porozuměním. Očekávají, že během čtyř let bude hotovo, jak píše web Gizmochina.
Superinteligence, technologie, která má potenciál způsobit revoluci v našich životech, vzbuzuje respekt i obavy. Přední výzkumná organizace OpenAI se domnívá, že příchod superinteligence je blíže, než si možná myslíme, a to možná již v tomto desetiletí. OpenAI si uvědomuje obrovskou sílu a rizika spojená s touto technologií a proto zahájila ambiciózní iniciativu, jejímž cílem je sladit superinteligenci s lidskými záměry.
Očekává se, že technické problémy budou vyřešeny v příštích čtyřech letech. Výzva spočívá v zajištění toho, aby systémy umělé inteligence, které dalece překonávají lidskou inteligenci, zůstaly v souladu s našimi hodnotami a cíli. Současné techniky, jako je posilování učení na základě lidské zpětné vazby, při aplikaci na superinteligenci selhávají. OpenAI uznává potřebu nových vědeckých a technických průlomů, které by tento zásadní problém vyřešily.
Pro řešení tohoto problému vytváří společnost OpenAI automatického výzkumníka, který má schopnosti srovnatelné s lidským porozuměním. Využitím pokročilých systémů umělé inteligence k vyhodnocování a dohledu nad jinými systémy umělé inteligence chce OpenAI vyvinout škálovatelné techniky dohledu a zobecňování. Ověřování sladěnosti systémů AI bude zahrnovat automatizaci detekce problematického chování a interpretaci vnitřního fungování těchto modelů.
Cesta k dosažení sladění superinteligence není bez problémů. Společnost OpenAI plánuje zátěžové testování svého systému. Očekává se, že priority výzkumu se budou vyvíjet s tím, jak bude společnost OpenAI hlouběji chápat tuto problematiku, a klíčová bude spolupráce s odborníky z různých oborů.
Specializovaný tým špičkových výzkumníků a inženýrů v oblasti strojového učení v rámci OpenAI, vedený Iljou Sutskeverem a Janem Leikem, je odhodlán v příštích čtyřech letech vyřešit hlavní technické problémy superinteligentního AI. Přestože úspěch není zaručen, jejich optimismus pramení ze slibných předběžných experimentů, měřitelného pokroku a zapojení brilantních mozků v oboru.
Zdroj: redakce, Gizmochina
Nejnovější články
- Ukrajina tak dlouho žádala USA o zbraně dlouhého doletu, až se je naučila vyrábět sama
- Psychologie říká, že lidé, kteří dosáhnou 70 let a uvědomí si, že je jejich děti již nepotřebují, mohou pociťovat hluboký dopad na své duševní zdraví
- Zpráva evropských úřadů potvrzuje: hrozny, jahody a pomeranče jsou ovoce nejvíce kontaminovány pesticidy
- Kbelík a mop mají své dny sečteny: odborníci na úklid sdílejí stejný názor a v roce 2026 se přiklánějí k jeho vylepšené verzi
- Blíží se úplné zatmění slunce: Dočkáme se ho v létě a bude to nádherná podívaná
- Je konec: Legendární švédská automobilka po 75 letech končí prodejem posledních vyrobených aut
- Evropa dává sbohem americkému GPS: Evropský navigační systém je konečně hotový
- Největší pták historie byl velký jako malý slon a žil ještě před „pár lety“
- Jeden z nejúspěšnějších seriálů Netflixu je zpět a okamžitě se vyšvihl na 1. místo žebříčku sledování
- Věděli jsme, že tyto stromy jsou velmi staré. Ale sotva jsme si dokázali představit, že mohou dosáhnout věku 4 000 let
