Nem todos os AIs funcionam na nuvem, e é por isso que, para alguns, o desempenho da GPU é importante.
nvidia com o apoio da Microsoft, anunciou que a última versão de seu drivers para suas placas gráficas GeForce, você dobrará o desempenho da inteligência artificial generativa Stable Diffusion.
A difusão estável foi uma das primeiras IAs generativas que ficou famoso antes mesmo do ChatGPT. Permite criar um desenho ou foto realista, a partir de um texto.
A maioria dos modelos de inteligência artificial generativa, como DALL-E e Midjourney, trabalhar na nuvem e fazem todos os cálculos em servidores remotos. A difusão estável, por outro lado, pode funcionar no modo local com a única condição de usar uma placa gráfica com pelo menos 8 GB de RAM.
É por isso que seu desempenho, ou seja, o tempo que leva para criar uma imagem a partir do texto, depende da potência da placa gráfica, se você usar difusão estável no modo local.
Novos drivers NVIDIA e difusão estável
NVIDIA lança hoje a versão 532.03 de seus drivers para placas GeForce. Inclui as correções de bugs usuais e suporte para as novas placas RTX 4060, que estão à venda atualmente.
Mas a grande novidade é uma nova tecnologia que permite dobrar o desempenho da difusão estável.
Como explicado Ferragens do Tom, A NVIDIA integrou uma ferramenta da Microsoft chamada Olive. Esta ferramenta permite ajustar o modelo base de inteligência artificial, dependendo da potência do hardware.
A NVDIA afirma que o Olive é capaz de melhorar o desempenho das operações de IA que aproveitam os núcleos RTX Tensor presentes nas GPUs da Nvidia. Usando uma versão otimizada para Olive do gerador de texto para imagem Stable Diffusion, o rendimento é multiplicado por mais de 2.
É uma boa notícia para aqueles que usam este IA generativa. e um anúncio do que está por vir. O novos drivers NVIDIA GeForce geralmente são dedicados a jogos, mas a partir de agora eles também terão que abrir espaço para a inteligência artificial. Você pode baixar esta última versão otimizada para Difusão estável, o 523.23, no Site oficial da NVIDIA.