AI se sama požírá a hloupne
Pokud si myslíte, že platformy umělé inteligence, jako je ChatGPT společnosti OpenAI, se zdají být hloupější než dříve, nejste sami.
V dost ostrém názorovém článku pro Computerworld autor Steven Vaughan-Nichols uvádí, že si všiml, že všechny hlavní veřejně přístupné modely umělé inteligence – myslím tím vlajkové lodě značek jako ChatGPT a Claude – nefungují tak dobře jako předchozí verze. Píše Futurism.
„Vskutku, až příliš často je konečný výsledek otravný a nepříjemně špatný,“ píše. „Ještě horší je, že je chybný nepravidelně. Kdybych se mohl spolehnout na to, že jeho odpovědi budou průměrné, ale přiměřeně přesné, mohl bych ho obejít. Nemohu.“
V článku Business Insider, který označil, uživatelé píšící na vývojářské fórum OpenAI také zaznamenali výrazný pokles přesnosti po vydání poslední verze GPT v loňském roce.
Takto by to fungovat nemělo
Novější verze softwaru mají být obecně lepší než ty, které nahrazují. Co tedy stojí za poklesem kvality?
Jednou z možností je, že tyto umělé inteligence nikdy nebyly tak silné, jak se zdálo – nezapomeňte, že jejich tréninková data byla vybrána z míst, jako je Reddit a Twitter -, ale byli jsme ohromeni tím, že vůbec dokázaly fungovat.
Další pravděpodobnou příčinou je však podle Vaughana-Nicholse to, že umělá inteligence nyní kromě informací ze sociálních médií shromažďuje i informace vytvořené umělou inteligencí, což nenápadně ubírá na jejich schopnostech.
Vaughan-Nichols naráží na myšlenku „zhroucení modelu“, což je jev, kdy se modely umělé inteligence zhoršují, když jsou krmeny daty generovanými umělou inteligencí, což se stává stále častějším jevem, protože internet je stále více zaplavený neduhy generovanými umělou inteligencí, od obrázků po text.
„Zjistili jsme, že nevybíravé používání obsahu generovaného modelem při tréninku způsobuje nevratné vady výsledných modelů, v nichž se ztrácí původní myšlenka, uvádí se v jednom z článků časopisu Nature zveřejněném minulý měsíc.
Tento problém se bude stávat stále větším problémem, protože lidský svět se vyčerpá kvalitním obsahem, přičemž někteří odborníci odhadují, že k tomu dojde do roku 2026.
Je samozřejmě také možné, že znovu objevíme hodnotu neocenitelné a nenahraditelné práce, kterou vykonali lidé – ale zatím nezadržujeme dech.
[seznam-ads id="63251"] [seznam-ads id="63250"] [seznam-ads id="64854"] [seznam-ads id="64868"]
