2月1日的消息令人振奋，DeepSeek的R1模型一经推出，便掀起了一阵热潮，甚至对美股市场造成了显著影响，英伟达的一天市值瞬间蒸发了6000亿美元，这无疑是行业内的一次震撼。

最近，英伟达正式宣布在其官网推出了基于DeepSeek R1 671b的“英伟达NIM微服务”预览版，明显看出其对DeepSeek-R1推理能力的信心，称其为现阶段最先进的技术。英伟达表示，DeepSeek-R1模型在推理、数学和编码领域表现卓越，体现了其强大的能力。

NIM微服务的能力也颇为惊人。在单一的HGX H200系统上，它每秒最高可以处理多达3872个tokens，这不仅归功于H200使用的高带宽HBM3e内存，同时也得益于在软件层面的多项优化。这包括动态批处理、量化和使用TensorRT进行加速等技术创新，确保了处理速度和效率的双重提升。

英伟达此番举动，不仅是为了进一步完善NIM生态，吸引众多开发者使用其全栈解决方案，更是为了增强其在AI基础设施领域的竞争力。与此同时，这也是在与AWS Bedrock和Azure AI Model Catalog等云服务巨头展开竞争，目的在于以灵活的本地化部署方案，抢占企业AI市场的份额。

英伟达无疑正在大力推动AI领域的进步，努力在技术和市场上占据一席之地，而这种积极的拓展态势，让我们期待其未来的发展和更多创新的到来。

电竞免费观看_电竞高清在线