每日经济新闻

    英伟达Blackwell GPU架构将登陆亚马逊云科技 要“把AI扩展到万亿参数”

    每日经济新闻 2024-03-19 19:37

    ◎亚马逊云科技全新的Amazon EC2云实例性能相较于配备上一代英伟达GPU的EC2实例有显著改进。

    每经记者 王紫薇    每经编辑 刘雪梅    

    3月19日下午,亚马逊云科技(AWS)与英伟达宣布,Blackwell GPU平台即将登陆AWS。Blackwell GPU是英伟达于北京时间今日凌晨推出图形处理单元,基于这一架构,英伟达推出B200和GB200系列芯片,要“把AI扩展到万亿参数”。

    随着英伟达芯片的升级,《每日经济新闻》记者了解到,此次合作中,亚马逊云科技将为客户提供全新的Amazon EC2云实例(Elastic Compute Cloud,亚马逊弹性计算云),从而帮助客户以更快速度、更大规模、更低成本地对构建和运行数万亿参数的大语言模型(LLMs)进行实时推理,性能相较于配备上一代英伟达GPU的EC2实例有显著改进。

    同时,亚马逊云科技将提供基于英伟达Grace Blackwell GPU的EC2云实例,以及双方在亚马逊云科技上合作开发的AI平台——NVIDIA DGX Cloud,客户可以在EC2上运行他们的生成式AI负载,也可以选择在DGX Cloud上运行。

    亚马逊云科技与英伟达的合作可以追溯到13年前。

    亚马逊云科技CEO亚当·塞利普斯基(Adam Selipsky)表示,当时两者共同在亚马逊云科技上推出了世界上第一个GPU云实例。对此次合作,他认为,当英伟达芯片与Amazon Elastic Fabric Adapter Networking、Amazon EC2 UltraClusters的超大规模集群以及亚马逊云科技独特的Nitro系统的高级虚拟化和安全功能相结合时,客户将能够以更快的速度构建和运行数万亿参数大型语言模型。规模更庞大,且比其他任何地方都更安全。

    英伟达创始人兼首席执行官黄仁勋对此表示:“人工智能正在以前所未有的速度推动突破,带来新的应用程序、商业模式和跨行业创新。我们与亚马逊云科技的合作正在加速新的生成式人工智能功能,并为客户前所未有的计算能力,以推动可能性的边界。”

    亚马逊云科技自去年下半年起,在生成式AI领域深度合作频繁。去年9月,亚马逊向生成式人工智能聊天机器人的初创公司Anthropic投资40亿美元,并提供亚马逊创建的人工智能开发者工具和产品,比如计算芯片、大语言模型以及云计算能力。Anthropic最新推出的Claude3系列模型在基准测试中已超过GPT4,该模型也在Amazon Bedrock向客户提供。

    封面图片来源:每经记者 张韵 摄

    版权声明

    1本文为《每日经济新闻》原创作品。

    2 未经《每日经济新闻》授权,不得以任何方式加以使用,包括但不限于转载、摘编、复制或建立镜像等,违者必究。

    上一篇

    中贝通信:李六兵累计质押公司股份4684万股

    下一篇

    别慌!多头大部队来了——道达投资手记



    分享成功
    每日经济新闻客户端
    一款点开就不想离开的财经APP 免费下载体验