NVIDIA DGX Spark 1x10GbE 2x200GbE 4TB NVMe

NVIDIA DGX Spark

940-54242-0005-000

• Equipado com o Superchip GB10
• 1 petaFLOP de desempenho de IA com FP4
• GPU NVIDIA Blackwell com tecnologia Tensor Core de quinta geração
• CPU NVIDIA Grace de alto desempenho, com arquitetura Arm e 20 núcleos
• 128 GB de memória coerente e unificada
• 4 TB de armazenamento NVMe
• Suporte para modelos de linguagem de grande dimensão com até 200 mil milhões de parâmetros
• Conectividade de rede NVIDIA Connect-X para ligar duas unidades DGX Spark e trabalhar com modelos de até 405 mil milhões de parâmetros
• Design compacto, com ocupação mínima de espaço na secretária
• Liga-se a uma tomada de parede padrão

Soluções profissionais de computação desktop NVIDIA para desenvolvimento de IA

Requisitos de computação de IA em desktop

O aumento da dimensão e da complexidade dos modelos de IA generativa torna mais exigente o desenvolvimento em sistemas locais. A prototipagem, o ajuste e a inferência de grandes modelos localmente exigem grandes quantidades de memória e um desempenho computacional significativo. À medida que empresas, fornecedores de software, organismos governamentais, startups e investigadores expandem as suas equipas de IA, a necessidade de recursos de computação de IA continua a crescer.

Modelos de 200B de parâmetros na sua secretária

O NVIDIA DGX Spark™ faz parte de uma nova classe de computadores concebidos de raiz para criar e executar IA. Equipado com o Superchip NVIDIA GB10 Grace Blackwell e baseado na arquitetura NVIDIA Grace Blackwell, o NVIDIA DGX Spark™ oferece até 1000 TOPS de desempenho de IA para processar grandes cargas de trabalho de IA. Com 128 GB de memória de sistema unificada, os programadores podem experimentar, ajustar ou executar inferência em modelos de até 200B de parâmetros. Além disso, a conectividade NVIDIA ConnectX™ permite ligar dois supercomputadores NVIDIA DGX Spark™ para executar inferência em modelos de até 405B de parâmetros.

Para proporcionar aos programadores uma experiência familiar, o NVIDIA DGX Spark™ utiliza a mesma arquitetura de software que alimenta fábricas de IA de nível industrial. Com o NVIDIA DGX OS baseado em Ubuntu Linux e pré-configurado com o mais recente conjunto de software de IA da NVIDIA, além de acesso ao programa para programadores do NVIDIA NIM™ e aos NVIDIA Blueprints, os programadores podem começar rapidamente a utilizar ferramentas comuns, como PyTorch, Jupyter e Ollama, para criar protótipos, ajustar modelos e executar inferência no NVIDIA DGX Spark, transferindo depois o trabalho de forma integrada para o data center ou para a cloud.

Ao proporcionar um desempenho e capacidades de grande escala num formato compacto, o NVIDIA DGX Spark™ permite que programadores, investigadores, cientistas de dados e estudantes continuem a expandir os limites da IA generativa.

Construído com base na NVIDIA Grace Blackwell

No coração do NVIDIA DGX Spark™ encontra-se o novo Superchip NVIDIA GB10 Grace Blackwell, baseado na arquitetura NVIDIA Grace Blackwell e otimizado para um formato desktop. O GB10 integra uma potente GPU NVIDIA Blackwell com núcleos Tensor de quinta geração e suporte para FP4, oferecendo até 1000 TOPS de computação de IA. O GB10 inclui uma CPU Arm Grace de alto desempenho com 20 núcleos para acelerar o pré-processamento de dados e a orquestração, agilizando o ajuste de modelos e a inferência em tempo real. O Superchip GB10 utiliza NVLink™-C2C para proporcionar um modelo de memória coerente entre CPU e GPU, com 5 vezes a largura de banda do PCIe Gen 5.

Trabalhe com modelos de IA de grande dimensão

Com 128 GB de memória de sistema unificada e suporte para o formato de dados FP4, o NVIDIA DGX Spark™ suporta modelos de IA de até 200B de parâmetros, permitindo aos programadores de IA criar protótipos, ajustar e executar inferência em grandes modelos nos seus desktops. Com a tecnologia de rede NVIDIA ConnectX integrada, dois sistemas NVIDIA DGX Spark™ podem ser ligados para trabalhar com modelos ainda maiores, como o Llama 3.1 405B.

Desenvolva localmente e implemente em qualquer lugar, em grande escala

Conjunto de software de IA da NVIDIA

• Bibliotecas NVIDIA CUDA-X™ para aprendizagem profunda e aprendizagem automática aceleradas
• NVIDIA AI Enterprise, com ferramentas nativas da cloud, frameworks e microsserviços, como NVIDIA NIM™ e NeMo™, para simplificar o desenvolvimento e a implementação de IA
• NVIDIA AI Workbench, que proporciona um ambiente unificado e intuitivo para gerir, desenvolver e dimensionar projetos de IA em recursos locais e na cloud
• Suporte para frameworks de referência, como TensorFlow, PyTorch e JAX, todos otimizados para hardware NVIDIA

O NVIDIA DGX Spark™ proporciona às organizações e aos programadores um ambiente de experimentação potente e económico para a prototipagem de modelos, libertando recursos computacionais valiosos nos respetivos ambientes de cluster, que são mais adequados para treinar e implementar modelos de produção. Graças à arquitetura de software da plataforma NVIDIA AI, os utilizadores do NVIDIA DGX Spark™ podem transferir os seus modelos de forma integrada do desktop para o DGX Cloud ou para qualquer infraestrutura acelerada de cloud ou data center, praticamente sem alterações ao código, facilitando mais do que nunca a prototipagem, o ajuste e a iteração.

Ver vídeo