中文科技资讯
业界资讯 互联网 手机资讯 电脑硬件 数码产品 家电产品 APP应用 手机游戏 美通快讯

英伟达DeepSeek-R1模型登陆NIM微服务平台,加速AI部署

2025-01-31来源:ITBEAR编辑:瑞雪

英伟达今日正式揭晓,其DeepSeek-R1模型已在build.nvidia.com平台上以NVIDIA NIM微服务的预览形式亮相。这一创新服务在NVIDIA HGX H200系统上实现了惊人的性能,每秒可处理高达3,872个tokens,标志着AI处理能力的又一次飞跃。

据悉,开发人员现在即可通过该平台测试和体验全新的应用程序编程接口(API)。这一API预计很快将以可下载的NIM微服务形式推出,成为NVIDIA AI Enterprise软件平台的重要组成部分。通过这一平台,英伟达正不断推动AI技术的边界,为企业和个人开发者提供更多可能性。

DeepSeek-R1 NIM微服务不仅简化了部署流程,还通过支持行业标准API,进一步降低了技术门槛。企业可以在自己的加速计算基础设施上运行NIM微服务,从而确保数据的安全性和隐私性。结合NVIDIA AI Foundry和NVIDIA NeMo软件,企业还能为特定的AI代理定制专属的DeepSeek-R1 NIM微服务,实现更加个性化和高效化的AI应用。

回顾过去,英伟达在2024年3月推出了NIM(Nvidia Inference Microservices)云原生微服务,旨在帮助各种规模的企业更便捷地部署AI服务。NIM微服务经过精心优化,旨在缩短产品上市时间,并简化生成式AI模型在云、数据中心和GPU加速工作站等任何地点的部署过程。通过采用行业标准API,NIM微服务成功地将AI模型开发和生产包装的复杂性抽象化,从而吸引了更多开发者加入这一领域。

英伟达的这一系列举措不仅展示了其在AI技术领域的深厚积累,也彰显了其致力于推动AI技术普及和发展的决心。随着DeepSeek-R1 NIM微服务的推出,我们有理由相信,未来将有更多创新性的AI应用涌现,为人们的生活和工作带来更多便利和可能性。

华为在阿根廷完成5G-A双场景验证 下行峰值速率创新高助力无线发展
无线业务的发展对网络性能提出了更高的要求,而阿根廷市场一直走在拉美创新无线技术探索的前列,本次创新测试验证了两种未来5G-A商用载波组合,包括覆盖更强,更易大规模部署的Sub3.5G TDD+FDD 3CC…

2025-11-14

中国6G技术首阶段试验圆满收官,通信领域创新再启新程
在全球竞相布局6G的背景下,中国率先完成第一阶段技术试验,展现了其在通信领域的强大实力。此次试验涵盖了6G关键核心技术,测试了多种潜在技术和系统性能。业界普遍认为,6G网络将实现地面与卫星通信的融合,构建空…

2025-11-14

工业通信新选择:环网交换机如何以冗余设计保障现场数据稳定传输
每个交换机上有两个用于组环的端口(网口),交换机之间通过手拉手形式构成了环形的网络拓扑。我们设计的千兆工业交换机整体设计采用“凹陷”网口设计,外观上和普通交换机大有差别,将网线水晶头能够有力的支撑保护住。 …

2025-11-14

安科瑞ASCB3-80m智能微断:全参量监测+远程操控,筑牢低压配电安全防线
智能微型断路器配合智能网关使用,对用电线路的关键电气参数,如电压、电流、功率、温度、漏电、能耗等进行实时监测,具有远程操控、异常预警、事故跳闸告警、电能计量统计、故障定位等功能。ASCB3-80m 系列智能…

2025-11-14

中关村房山园科技对接会:昆虫机器人等“硬核”成果亮相,助力新质生产力
11月12日,中关村“火花”活动之北京理工大学专场对接会暨中关村房山园新质生产力发布厅科技成果转化对接活动在中关村新兴产业前沿技术研究院举行,极限搜救昆虫机器人、通信感知超宽带收发芯片等一批来自北京理工大学、…

2025-11-14

避开苹果锋芒,聚焦外卖小哥:打造专属他们的超实用蓝牙耳机
试着聚焦一个特定人群,比如外卖小哥。电量要非常足,最好能用一整天。麦克风要特别好,因为外卖小哥大部分时间都在路上,环境嘈杂,麦克风不好的话,对方根本听不清。如果能将耳机固定在头盔上,那就更好了,不怕掉。如果…

2025-11-13

苹果设备与电信流量卡全攻略:从兼容到技巧,助你畅享无忧网络
•运营商网络覆盖差异•手机版本支持频段不同•套餐类型与设备性能不匹配最新的iPhone 14系列甚至已经支持电信的5GSA组网,网速体验绝对令人惊艳!

2025-11-12

SK海力士VFO工艺打造HBS技术,为移动设备AI性能提升带来新突破
据闪德资讯获悉,SK海力士正在研发结合移动DRAM和NAND的高带宽存储(HBS)技术,可提高智能手机和平板电脑等移动设备的AI性能。 相比HBM使用的硅通孔(TSV)技术,VFO无需穿孔,成本更低、良率更高…

2025-11-12

NAND闪存供应告急价格半年翻倍,群联电子聚焦高利润企业客户
即便价格不断走高,市场对存储器的需求并没有减弱,而是不断增长。 据了解,群联电子在2025年中已经获得了2026年的大部分NAND闪存供应,并与六家供应商延长了长期协议。群联电子将与主要GPU和服务器供应商合…

2025-11-12

立讯精密液冷方案:从前瞻布局迈入规模化商用新阶段
证券之星消息,立讯精密(002475)11月11日在投资者关系平台上答复投资者关心的问题。投资者提问:公司的液冷散热解决方案在AI服务器中的应用情况如何?是否已获得头部云服务提供商或AI企业的认可? 谢谢!…

2025-11-11