DGX Spark
产品推广
1
帖子
1
发布者
63
浏览
-
DGX Spark 的决定性优势之一在于其128 GB 的一致统一内存,这使得 CPU 和 GPU 能够访问相同的地址空间。
模型(例如Llama 3.1 70B、Gemma 3 27B甚至GPT-OSS 120B)能够直接加载到内存中,而无需传统的系统到 VRAM 的传输开销。尽管 Spark 体积小巧,但它仍成功以803 tps 预填充 / 2.7 tps 解码的速度运行了Llama 3.1 70B (FP8),这对于一台安静地摆放在桌面上的工作站来说,堪称非凡。
统一内存设计使得 DGX Spark 对于原型设计、模型实验和边缘 AI 研究特别有价值。
NVIDIA DGX Spark 将 AI 实验带到您的桌面。无论您是要对开放式 LLM 进行基准测试、开发推理框架,还是构建您自己的私人编码助手,Spark 都能让您在本地安静、优雅地完成所有操作,借助 NVIDIA 卓越的工程设计精髓。
现货价优 联系方式:15943803338