AI se sama požírá a hloupne
Sledovat v Google Zprávách
Pokud si myslíte, že platformy umělé inteligence, jako je ChatGPT společnosti OpenAI, se zdají být hloupější než dříve, nejste sami.
V dost ostrém názorovém článku pro Computerworld autor Steven Vaughan-Nichols uvádí, že si všiml, že všechny hlavní veřejně přístupné modely umělé inteligence – myslím tím vlajkové lodě značek jako ChatGPT a Claude – nefungují tak dobře jako předchozí verze. Píše Futurism.
„Vskutku, až příliš často je konečný výsledek otravný a nepříjemně špatný,“ píše. „Ještě horší je, že je chybný nepravidelně. Kdybych se mohl spolehnout na to, že jeho odpovědi budou průměrné, ale přiměřeně přesné, mohl bych ho obejít. Nemohu.“
V článku Business Insider, který označil, uživatelé píšící na vývojářské fórum OpenAI také zaznamenali výrazný pokles přesnosti po vydání poslední verze GPT v loňském roce.
Takto by to fungovat nemělo
Novější verze softwaru mají být obecně lepší než ty, které nahrazují. Co tedy stojí za poklesem kvality?
Jednou z možností je, že tyto umělé inteligence nikdy nebyly tak silné, jak se zdálo – nezapomeňte, že jejich tréninková data byla vybrána z míst, jako je Reddit a Twitter -, ale byli jsme ohromeni tím, že vůbec dokázaly fungovat.
Další pravděpodobnou příčinou je však podle Vaughana-Nicholse to, že umělá inteligence nyní kromě informací ze sociálních médií shromažďuje i informace vytvořené umělou inteligencí, což nenápadně ubírá na jejich schopnostech.
Vaughan-Nichols naráží na myšlenku „zhroucení modelu“, což je jev, kdy se modely umělé inteligence zhoršují, když jsou krmeny daty generovanými umělou inteligencí, což se stává stále častějším jevem, protože internet je stále více zaplavený neduhy generovanými umělou inteligencí, od obrázků po text.
„Zjistili jsme, že nevybíravé používání obsahu generovaného modelem při tréninku způsobuje nevratné vady výsledných modelů, v nichž se ztrácí původní myšlenka, uvádí se v jednom z článků časopisu Nature zveřejněném minulý měsíc.
Tento problém se bude stávat stále větším problémem, protože lidský svět se vyčerpá kvalitním obsahem, přičemž někteří odborníci odhadují, že k tomu dojde do roku 2026.
Je samozřejmě také možné, že znovu objevíme hodnotu neocenitelné a nenahraditelné práce, kterou vykonali lidé – ale zatím nezadržujeme dech.
Nejnovější články
- Věděli jsme, že tyto stromy jsou velmi staré. Ale sotva jsme si dokázali představit, že mohou dosáhnout věku 4 000 let
- V tichomoří se vytvořila obrovská skvrna. Může mít drtivý dopad na celý svět
- Dvě supermoderní stíhačky se srazily během letecké show v USA. Vše zachytila kamera
- Dva evropské státy plánují sloučení a vznik nového superstátu
- Pouhé 2 hodiny autem od Prahy se nachází středověké město, které nemá ve střední Evropě obdoby
- V krkonošském lese bylo nalezeno 598 zlatých mincí v hodnotě přes 7,5 milionu korun
- Bankovní kartu své manželky nesmíte používat, i kdyby vám ji dala do ruky spolu s PIN kódem
- Zvracení a průjem: 115 lidí se nakazilo norovirem na výletní lodi
- V oběhu je podvodný e-mail od Googlu. Informuje o zablokovaném účtu a od originálu ho těžko poznáte
- Zachráněné prase každý týden čeká na řidiče popelářského vozu
