Soluções de Computação de Desktop Profissionais NVIDIA para Desenvolvimento de IA
Demandas de Computação de IA em Desktop
O aumento do tamanho e da complexidade dos modelos de IA generativa está tornando os esforços de desenvolvimento em sistemas locais desafiadores. Prototipagem, ajuste e inferência de grandes modelos localmente exigem grandes quantidades de memória e desempenho computacional significativo. À medida que empresas, fornecedores de software, agências governamentais, startups e pesquisadores aumentam suas equipes de IA, a necessidade de recursos de computação de IA continua a crescer.
Modelos de 200B de Parâmetros na Sua Mesa
O NVIDIA DGX Spark™ é parte de uma nova classe de computadores projetados do zero para construir e executar IA. Alimentado pelo Superchip NVIDIA GB10 Grace Blackwell e baseado na arquitetura NVIDIA Grace Blackwell, o NVIDIA DGX Spark™ oferece até 1000 TOPS de desempenho de IA para alimentar grandes cargas de trabalho de IA. Com 128 GB de memória de sistema unificada, os desenvolvedores podem experimentar, afinar ou inferir modelos de até 200B de parâmetros. Além disso, a conectividade NVIDIA ConnectX™ pode conectar dois supercomputadores NVIDIA DGX Spark™ para permitir inferência em modelos de até 405B de parâmetros.
Para proporcionar aos desenvolvedores uma experiência familiar, o NVIDIA DGX Spark™ espelha a mesma arquitetura de software que alimenta fábricas de IA de força industrial. Usando o NVIDIA DGX OS com Ubuntu Linux e pré-configurado com o mais recente conjunto de software de IA da NVIDIA, juntamente com acesso ao programa para desenvolvedores do NVIDIA NIM™ e NVIDIA Blueprints, os desenvolvedores podem começar rapidamente utilizando ferramentas comuns como Pytorch, Jupyter e Ollama para prototipar, afinar e inferir no NVIDIA DGX Spark e implantar de forma contínua no data center ou na nuvem.
Ao fornecer desempenho e capacidades massivas em um pacote compacto, o NVIDIA DGX Spark™ permite que desenvolvedores, pesquisadores, cientistas de dados e estudantes continuem a expandir os limites da IA generativa.
Construído na NVIDIA Grace Blackwell
No coração do NVIDIA DGX Spark™ está o novo Superchip NVIDIA GB10 Grace Blackwell, baseado na arquitetura NVIDIA Grace Blackwell otimizada para um formato de desktop. O GB10 apresenta uma poderosa GPU NVIDIA Blackwell com núcleos Tensor de quinta geração e suporte para FP4, oferecendo até 1000 TOPS de computação de IA. O GB10 inclui um CPU Arm Grace de 20 núcleos de alto desempenho para acelerar o pré-processamento de dados e a orquestração, acelerando o ajuste de modelos e a inferência em tempo real. O Superchip GB10 utiliza o NVLink™-C2C para oferecer um modelo de memória coerente entre CPU e GPU com 5 vezes a largura de banda do PCIe Gen 5.
Trabalhe com Modelos de IA de Grandes Parâmetros
Com 128 GB de memória de sistema unificada e suporte ao formato de dados FP4, o NVIDIA DGX Spark™ pode suportar modelos de IA de até 200B de parâmetros, permitindo que os desenvolvedores de IA prototipem, ajustem e inferem grandes modelos em seus desktops. Com a tecnologia de rede NVIDIA ConnectX embutida, dois sistemas NVIDIA DGX Spark™ podem ser conectados para trabalhar em modelos ainda maiores, como Llama 3.1 405B.
Desenvolva Localmente, Implemente em Qualquer Lugar em Grande Escala
Conjunto de Software de IA da NVIDIA
- Bibliotecas NVIDIA CUDA-X™ para aprendizado profundo e aprendizado de máquina acelerados
- NVIDIA AI Enterprise, oferecendo ferramentas nativas da nuvem, estruturas e microserviços (como NVIDIA NIM™ e NeMo™) para desenvolvimento e implantação de IA simplificados
- NVIDIA AI Workbench, proporcionando um ambiente unificado e amigável para gerenciar, desenvolver e escalar projetos de IA em recursos locais e na nuvem
- Suporte para estruturas líderes como TensorFlow, PyTorch e JAX, todas otimizadas para hardware NVIDIA
