 |
| Nvidia/Divulgação |
A NVIDIA anunciou uma nova parceria com a OpenAI para levar modelos de inteligência artificial de última geração diretamente aos usuários domésticos, por meio de GPUs GeForce RTX e RTX PRO. Essa colaboração marca um passo importante na democratização da IA generativa, permitindo que modelos de alto desempenho antes restritos a data centers agora rodem localmente em computadores pessoais.
Com isso, os consumidores passam a ter acesso a duas variantes da nova linha de modelos gpt-oss, desenvolvidos pela OpenAI e otimizados para as GPUs da NVIDIA:
-
gpt-oss-20b: voltado para uso em PCs com GeForce RTX com pelo menos 16 GB de VRAM, alcançando até 250 tokens por segundo em uma GPU RTX 5090.
-
gpt-oss-120b: direcionado a estações de trabalho profissionais equipadas com GPUs RTX PRO, ideal para aplicações mais robustas.
IA local mais rápida e poderosa
Ambos os modelos foram treinados em GPUs NVIDIA H100 e são os primeiros a oferecer suporte ao novo formato MXFP4, que aumenta a qualidade e a precisão dos resultados sem sacrificar o desempenho. Os modelos contam com até 131.072 tokens de contexto, um dos maiores suportes já disponíveis em IA local, e são baseados em uma arquitetura MoE (Mixture-of-Experts), com suporte a instruções, chain-of-thought e uso de ferramentas externas.
 |
| Nvidia/Divulgação |
Como testar e usar os novos modelos?
A NVIDIA também destacou as formas mais acessíveis para entusiastas e desenvolvedores começarem a experimentar os modelos gpt-oss:
-
Ollama: aplicação simples que oferece suporte nativo aos modelos gpt-oss com aceleração via RTX.
-
Llama.cpp: integração com a comunidade open source para melhorar o desempenho em GPUs RTX, incluindo otimizações com CUDA Graphs.
-
Microsoft AI Foundry: usuários do Windows podem acessar os modelos localmente com o comando
Foundry model run gpt-oss-20b.
Jensen Huang destaca o impacto da iniciativa
Em declaração oficial, o fundador e CEO da NVIDIA, Jensen Huang, comentou a importância dessa iniciativa:
“A OpenAI mostrou ao mundo o que poderia ser construído com a IA da NVIDIA, e agora estão impulsionando a inovação em software de código aberto. Os modelos gpt-oss permitem que desenvolvedores do mundo todo construam sobre essa base aberta de última geração, fortalecendo a liderança tecnológica dos EUA em IA.”
Para mais detalhes sobre como utilizar os novos modelos da OpenAI com GPUs NVIDIA RTX, acesse o blog oficial da NVIDIA. A nova fase da IA local já começou — agora, diretamente no seu PC.
Postar um comentário