英伟达(NVDA.O)正式发布Dynamo,号称是“AI工厂的操作系统”。Dynamo是一个“分布式推理服务库”。本质上,它是一个针对用户需求token而无法生产足够token之间问题的开源解决方案。黄仁勋展示了一张关于推理的图表,X轴显示用户每秒的Token数,Y轴显示工厂每秒的Token数。在Dynamo、Grace Blackwell NVLink72超级芯片的加持下,Blackwell相比Hopper可实现25倍的性能提升。而在推理模型中,Blackwell的性能是Hopper的40倍。黄仁勋还打趣道,有了上述最新技术加持,搭建AI工厂的厂商“买得越多、省得越多”。
举报 第一财经广告合作,请点击这里此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部:banquan@yicai.com 相关阅读
雷克萨斯国产项目公司成立,注册资本51.4亿元2月18日,雷克萨斯(上海)新能源有限公司成立,注册资本1071亿日元,营业期限为2025年2月18日至2075年2月17日,
113 02-19 18:57
英伟达CEO黄仁勋:目标是创建一个名为Grace Blackwell NVLink72的巨型芯片英伟达CEO黄仁勋:目标是创建一个名为Grace Blackwell NVLink72的巨型芯片
32 01-07 11:22
大众汽车计划关闭至少三家德国工厂,数万名员工面临被裁国制造业巨头大众汽车的劳资委员会28日告知员工,管理层计划关闭至少三家德国境内工厂、裁撤数以万计员工并收缩其在德国所有剩余工厂规模。
201 2024-10-29 13:16
飞鹤国际化布局获重大突破,旗下加拿大工厂正式投产上市 72 2024-09-28 12:05
吉利汽车加码东南亚市场,将在越南建立合资汽车装配厂越南汽车体量虽不大,但引起了众多自主品牌加码。
355 2024-09-24 17:03 一财最热 点击关闭