AWS 在2024年3月的 NVIDIA GTC 上展示了最新的生成AI技术,与18000名现场参会者及267000名虚拟观众建立了联系。这次会议在加州圣荷西举行,标志著自2019年以来首次恢复混合式现场经验。
AWS 与 NVIDIA 之间已有超过13年的长期合作历史,AWS 是第一家在公共云上提供 NVIDIA GPU 的云服务提供商,并持续引领部署 NVIDIA 最新技术的行列。
在回顾2023年AWS reInvent大会时,NVIDIA 创始人兼首席执行官 Jensen Huang 与 AWS 首席执行官 Adam Selipsky 共同探讨了两家公司如何携手为数百万开发者提供快速创新的强大技术。NVIDIA因其尖端的加速器和完整的解决方案而闻名,这些技术在推动AI的发展中起到了至关重要的作用。NVIDIA 将这些专业知识与高度可扩展、可靠和安全的 AWS 云基础设施相结合,帮助客户快速运行高级图形机械学习和生成 AI 工作负载。
在 GTC 2024 大会上,AWS 与 NVIDIA 的合作进一步扩展,两位首席执行官在新闻稿中分享了对合作和 AI 现状的看法:
“我们两个组织的深度合作可追溯到13年前,当时我们在AWS上推出了全球首个 GPU 云实例,今天我们为客户提供最广泛的 NVIDIA GPU 解决方案,”AWS 首席执行官 Adam Selipsky 表示。“NVIDIA 的下一代 Grace Blackwell 处理器标志著生成AI和 GPU 计算的重要进步。结合 AWS 强大的弹性网络适配器 、Amazon EC2 超级集群 的超大集群,以及我们独特的AWS Nitro 系统的先进虚拟化和安全能力,我们使客户能够更快、更安全地构建和运行多万亿参数的大型语言模型。一起创新使 AWS 成为运行 NVIDIA GPU 的最佳云端场所。”
“AI 正在以空前的速度推动突破,促进了新应用程序、商业模式和各行各业的创新,”NVIDIA 创始人兼首席执行官 Jensen Huang 表示。“我们与 AWS 的合作正在加速新的生成AI能力,并为客户提供前所未有的计算能力,推动可能性的边界。”
在 NVIDIA GTC 的第一天,AWS 和 NVIDIA 共同发布了一个联合公告,重点介绍了他们的战略合作情况,以推进生成AI的发展。黄成包含在其主旨演讲中的 AWS 与 NVIDIA 的合作,突出了以下几个公告。GTC 的主旨演讲在最初的72小时内就获得了超过2100万次观看。
宣布项目内容NVIDIA Blackwell 平台AWS 将提供基于新 NVIDIA Blackwell 平台的Amazon EC2实例,加速大型语言模型的构建和推理性能,并提供安全的AI功能与 AWS Nitro 系统集成。Project CeibaAWS 将为专为 AI 超级计算机 Project Ceiba 提供云基础设施,并配备 20736 个 NVIDIA GB200 Grace Blackwell Superchips,具备 414 exaflops 的能力。Amazon SageMaker 集成AWS 将通过 Amazon SageMaker 与 NVIDIA NIM 推理微服务集成,帮助客户进一步优化 GPU 上基础模型的价效比。AWS HealthOmics结合 NVIDIA BioNeMo 平台,加速生成AI在生物学和药物发现领域的应用。
截至3月22日,AWS 与 NVIDIA 的合作公告已经引发了104篇媒体报导,绝大多数的报导提到 AWS 提供基于 Blackwell 的新实例计划。AWS 首席执行官 Adam Selipsky 除了接受CNN 财经的专访外,还谈到了AWS与NVIDIA的长期合作,以及AWS在生成AI方面的创新之举,强调AWS始终是将多款GPU推向云端的先驱,以提高客户效率与可扩展性。
Project Ceiba 也成为媒体报导的焦点。《福布斯》将 Project Ceiba 称为 AWS 和 NVIDIA “最令人兴奋”的项目,表示该计划“将加速 AI 创新的速度,使其能够应对更复杂的问题,开发更先进的模型,实现以前无法达成的突破”。《Next Platform》则对 Ceiba 进行了深入报导,指出这一集群的规模和计算能力都将大幅扩展,将使 AWS 拥有一台大型超级计算机,以进行 AI 研究等工作。
“现场直播”为 GTC 的受邀嘉宾提供了一个现场摄影棚,让他们能够与科技影响者如 VentureBeat 进行对话。AWS 的 Amazon EC2 产品管理总监 Chetan Kapoor 在Live from GTC工作室接受了 VentureBeat 的访问,分享了 AWS 的现场参与情况及其在 GTC 上的一些重要公告。
小熊加速器 官网AWS 展位展示了生成 AI 服务,包括在 Amazon Bedrock上搭建的 LLMs 与 Anthropic 和 Cohere,还有 PartyRock、Amazon Q 和 Amazon SageMaker JumpStart。其中的亮点包括:
AWS AI 棋类机器人 两台机器手臂互相下棋,每一步棋均由在 Amazon Bedrock 的 LLMs 云端生成,且由 NVIDIA Jetson 平台和 NVIDIA GPU 支持。Wormhole 一个来自 MediaMonks 的外星机器人,正忙于与展位访客进行智能对话,该技术由 NVIDIA 和无伺服器的检索增强生成 (RAG) 模型支撑,使用 Claude 3 和其他 AWS 服务包括 SageMaker 和 Amazon Polly。此外,AWS 还举办了 10 场 GTC 会议,展示 AWS 和 NVIDIA 最新技术如何推动商业成果,部分亮点包括:
Genius Sports 如何通过 AWS 的加速计算转变 NFL 观看体验 用 SageMaker HyperPod 加速训练你的最大生成 AI 模型在 GTC 期间,AWS 邀请了23个合作伙伴和客户解决方案演示,他们在展位中拥有独立的演示展位或30分钟的展位会议。这些合作伙伴和客户包括 Ansys、Anthropic、Articul8、Briaai、Cohere、Deci、DeepbrainAI、Denali Advanced Integration、Ganit、Hugging Face、Lilt、Linker Vision、Mavenir、MCE、MediaMonks、Modular、NVIDIA、Perplexity、Quantiphi、Runai、Salesforce、Second Spectrum 和 Slalom。
其中,全球范围内的生成 AI 高潜力初创企业在 AWS 展位上展示了专属的展位。AWS 初创团队与这些公司密切合作,通过像 AWS Activate 的计划来投资和支持其增长。
NVIDIA 是新 AWS 生成 AI 能力计划的45家启动合作伙伴之一。AWS 合作伙伴团队的生成AI卓越中心成员在 AWS 展位上现场展示了这一计划,旨在为现有和潜在的 AWS 合作伙伴提供有价值的资源及最佳实践,帮助他们共同构建、推广和销售生成AI解决方案。
观看一段 AWS 在 NVIDIA GTC 2024 的回顾视频。有关 AWS 与 NVIDIA 合作的更多资源,请参考 AWS 在 NVIDIA GTC 2024 的资源中心。
朱莉唐Julie Tang 是亚马逊网络服务AWS生成 AI 的全球合作伙伴行销经理,与 NVIDIA 紧密合作,规划和执行聚焦于生成 AI 的合作伙伴行销举措。她在 AWS 的任职期间,担任过多种合作伙伴行销角色,包括全球物联网解决方案、AWS 合作伙伴解决方案工厂,以及美洲区域行销的高级活动经理。在加入 AWS 之前,朱莉曾担任 Segway 的行销总监。她在南加州大学获得了市场行销和娱乐管理方向的传播管理硕士学位,并拥有复旦大学法学与广播新闻双学士学位。
大众汽车如何利用 Amazon DataZone 精简跨多个数据湖的数据访问 第一部分关键要点大众汽车与亚马逊云服务AWS合作开发数字生产平台DPP。通过数据网格解决组织之间数据发现和访问的问题。Amazon DataZone 提供了数据管理服务,帮助用户轻松快速地编目、发现和共享数据。随着时间的推...
施耐德电气数据泄露事件关键要点施耐德电气拒绝支付 125000 的赎金,导致 4 GB 的被盗数据在暗网被曝光。数据泄露源于其 Atlassian Jira 系统遭到 Hellcat 勒索软件集团的入侵,泄露了超过 400000 条用户详情。此次数据泄露是在其此前承认的 Cactus 勒索软件攻击后...