Nový AI generátor obrázků je 8krát rychlejší než nejlepší nástroj OpenAI – a může běžet i na levných počítačích

Nový nástroj umělé inteligence (AI) dokáže generovat obrázky za méně než dvě sekundy – a ke svému běhu nepotřebuje drahý hardware. Jihokorejští vědci použili speciální techniku zvanou znalostní destilace ke kompresi velikosti open source (nebo veřejně dostupného) modelu generování obrazu známého jako Stable Diffusion XL.

Nejmenší verze nového modelu, známá jako „KOALA“, má pouhých 700 milionů parametrů, což znamená, že je dostatečně štíhlá, aby běžela rychle a bez potřeby drahého a energeticky náročného hardwaru, uvádí Live Science.

Metoda destilace znalostí, přenáší znalosti z velkého modelu na menší, ideálně bez kompromisů ve výkonu. Výhodou menšího modelu je, že provedení výpočtů a generování odpovědi zabere méně času. Tento nástroj může běžet na levných grafických procesorech (GPU) a ke zpracování požadavků potřebuje zhruba 8 GB paměti RAM – oproti větším modelům, které potřebují špičkové průmyslové GPU.

New AI image generator is 8 times faster than OpenAI's best tool — and can run on cheap computershttps://t.co/9FpZQSMMr6

— Alexander Pinker (@onlinemedialist) February 28, 2024

Vědci nyní plánují integrovat technologii, kterou vyvinuli, do stávajících služeb generování obrazu, vzdělávacích služeb, produkce obsahu a dalších oblastí podnikání.
​zdroj: Live Science