华硕发布了全新Ascent GX10迷你机,搭载了由英伟达提供的NVIDIA GB10 Grace Blackwell Superchip芯片,其AI算力高达1000 TOPS,能够高效运行超过2000亿参数的大型语言模型(LLM),为AI开发者和企业提供了强大的本地计算能力。
据悉,NVIDIA GB10 Grace Blackwell Superchip芯片由Blackwell GPU和Grace cpu组成,并针对紧凑的外形进行了优化,能够运行超过2000亿个参数的大型语言模型。
其中Grace cpu共有20个Arm核心,可增强数据预处理和编排,加速模型调整和实时推理。
Ascent GX10配备了128GB LPDDR5X统一内存,为大型AI模型提供充足的内存支持。
此外,得益于集成的NVIDIA ConnectX-7 NIC网口,用户可以将两台Ascent GX10连接在一起,进行本地扩展,以处理更大规模的AI模型,例如参数高达4050亿的Llama 3.1。
Ascent GX10不仅适用于本地AI开发和测试,还能与NVIDIA DGX Cloud或其他加速云、数据中心基础设施无缝衔接。用户几乎无需调整代码即可将本地开发环境迁移到云端,从而大幅简化AI模型的原型设计、微调和迭代过程。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。