北京时间3月19日凌晨,人工智能(AI)半导体巨头Nvidia(英伟达)在年度开发者大会上发布了一款旗舰AI芯片Blackwell B200,将于今年晚些时候上市,称其速度比之前的芯片快30倍。
基于Blackwell架构的B200采用双芯片设计,基于台积电4nm工艺,晶体管数量达到2080亿个,上一代Hopper架构的H100同样是4nm工艺,但由于没有上双芯片设计,晶体管数量只有800亿。
B200能够提供高达20 petaflops的FP4算力,其中的两个GPU与单个Grace CPU相结合的GB200,可以为LLM(大语言模型)的推理提升30倍的工作效率。
GB200的性能也将大幅提升,在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,而它的训练速度是H100的4倍。
B200搭配8颗HBM3e内存(比Hopper架构的H200多了2颗),内存达到192GB,基于第五代NVLink,带宽达到1.8TB/s,相比Hopper架构和Ampere架构,有了巨幅提升,最大可支持10万亿参数的模型的训练。
新的芯片架构和技术将极大改善能耗。英伟达CEO黄仁勋举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用Blackwell GPU,只需要2000张,跑90天只要消耗四分之一的电力。
Nvidia表示,预计亚马逊、Alphabet旗下谷歌、Meta Platforms、微软、OpenAI、甲骨文和特斯拉等主要客户将使用这款新芯片。
软件服务方面,英伟达发布了集成AI开发软件微服务系统NIM,通过直接提供多行业、多模态的专有模型,以及基于NeMo Retriver的专有数据注入系统,企业可借由NIM快捷部署公司级专有模型。
除了通过软硬件赋能AI技术之外,英伟达也推出了加速AI仿生机器人落地的解决方案——GR00T机器人项目——世界首款人形机器人模型,支持通过语言、视频和人类演示,为机器人的生成行动指令。
此外,Nvidia还表示,它正在扩大与比亚迪等中国汽车制造商的合作,眼下,中国车企正在竞相开发自动驾驶汽车和AI增强信息娱乐技术以提高在全球市场的竞争力。
多家汽车制造商和自动驾驶卡车开发商在周一宣布扩大与英伟达的合作,其中包括中国车企比亚迪、小鹏汽车、广汽埃安旗下Hyper品牌。吉利旗下极氪汽车、理想汽车此前已表示,他们将使用英伟达的下一代车载芯片技术Drive Thor。
Nvidia称,比亚迪将使用Nvidia名为Drive Thor的下一代车载芯片,实现更高水平的自动驾驶和其他数字功能。比亚迪去年超越特斯拉成为全球第一大电动汽车制造商。
Nvidia负责汽车业务的副总裁Danny Shapiro在电话会议上表示,比亚迪还将利用Nvidia的技术简化工厂和供应链,并开发虚拟展厅。“明年Drive Thor将进入比亚迪汽车,”Danny Shapiro说。