Nový AI generátor obrázků je 8krát rychlejší než nejlepší nástroj OpenAI – a může běžet i na levných počítačích

,

Nový nástroj umělé inteligence (AI) dokáže generovat obrázky za méně než dvě sekundy – a ke svému běhu nepotřebuje drahý hardware. Jihokorejští vědci použili speciální techniku zvanou znalostní destilace ke kompresi velikosti open source (nebo veřejně dostupného) modelu generování obrazu známého jako Stable Diffusion XL.

Nejmenší verze nového modelu, známá jako „KOALA“, má pouhých 700 milionů parametrů, což znamená, že je dostatečně štíhlá, aby běžela rychle a bez potřeby drahého a energeticky náročného hardwaru, uvádí Live Science.

Metoda destilace znalostí, přenáší znalosti z velkého modelu na menší, ideálně bez kompromisů ve výkonu. Výhodou menšího modelu je, že provedení výpočtů a generování odpovědi zabere méně času. Tento nástroj může běžet na levných grafických procesorech (GPU) a ke zpracování požadavků potřebuje zhruba 8 GB paměti RAM – oproti větším modelům, které potřebují špičkové průmyslové GPU.

Vědci nyní plánují integrovat technologii, kterou vyvinuli, do stávajících služeb generování obrazu, vzdělávacích služeb, produkce obsahu a dalších oblastí podnikání.
​zdroj: Live Science

Diskuze Vstoupit do diskuze