云计算与生成式 AI 时代的到来

重点摘要

生成式 AI 有潜力彻底改变客户体验，许多公司如 adidas、Bookingcom 等正在快速构建相关应用。AWS 提供全面的基础设施、工具和应用程序，支持生成式 AI 在客户业务中的应用。通过 Amazon Bedrock，企业可以轻松定制和扩展生成式 AI 模型。新工具和功能不断推出，旨在让更多用户能够安全地使用生成式 AI。

我们相信，生成式 AI 随着时间的推移将极大地改变几乎所有客户体验。越来越多的公司，如 adidas、Bookingcom、Bridgewater Associates 等，正在快速推出基于 AWS 的生成式 AI 应用。创新型初创企业，如 Perplexity AI，全力拥抱 AWS 进行生成式 AI 开发。顶尖 AI 公司如 Anthropic 选择 AWS 作为其关键工作负载的云提供商，同时也用于其未来模型的训练。全球服务提供商如 Accenture 也在利用定制化的生成式 AI 应用，通过 Amazon CodeWhisperer 为内部开发者赋能。

这些客户选择 AWS 是因为我们始终专注于简化复杂和昂贵的技术，使其能够为各种规模和技术能力的客户带来转变。为了达成这一目标，我们正在快速创新并提供生成式 AI 堆栈三层基础设施、模型和应用的全面能力。基础层包括训练大型语言模型LLMs和其他基础模型FMs的基础设施，提供推断或预测能力；中间层为客户提供构建和扩展生成式 AI 应用所需的所有模型和工具；而顶层则投资于基于生成式 AI 的应用程序，如生成式编码等。我们的数据优先方法，以及企业级的安全性和隐私措施，赢得了客户的信任。

本周，我们宣布在生成式 AI 堆栈的三个层面上推出了多项显著的新功能，旨在方便客户在其业务中广泛使用生成式 AI。

堆栈的底层：AWS Trainium2，是生成式 AI 领域最新的云基础设施

堆栈的底层部分是训练和运行 LLMs 和其他 FMs 所需的基础设施。AWS 提供了最先进的机器学习基础设施。通过与 NVIDIA 的长期合作，AWS 在云端首次引入 GPU，最近，我们也是首个将 NVIDIA H100 GPU 提供给 P5 实例的主要云服务商。我们继续投资于独特的创新，使 AWS 成为运行 GPU 的最佳云平台，特别是在 GPU 性能价格比、虚拟化系统等方面的优势。

近年来，我们开始投资于自家的芯片，并推出 AWS Inferentia，这是我们的专用推断芯片。如今，我们的第二代 AWS Inferentia 正在通过优化大型生成式 AI 应用的 Inf2 实例而发挥作用。Inf2 实例不仅在云中提供最低的推断成本，还实现了高达四倍的处理能力。

新推出的 Trn1 实例则由我们专为 ML 训练而打造的 AWS Trainium 驱动，专门用于优化训练过程。我们宣布的 AWS Trainium2 将在性能和价格表现上超越其前身，预计在 EC2 UltraClusters 上提供高达 65 exaflops 的总计算能力。

迅猛兔机场

堆栈的中层：Amazon Bedrock 的新模型和新功能业务扩展

尽管许多客户会构建其自己的 LLM 和 FM，或根据公开可用的选项进行演变，但许多客户希望节省资源和时间，因此中间层提供了以服务形式的模型。我们的解决方案 Amazon Bedrock 允许客户选择行业领先的模型，并使用自己的数据进行定制。

我们很高兴地宣布 Amazon Bedrock 对客户的积极反馈。全球不同领域的客户们纷纷表达了对使用 Amazon Bedrock 的期望和兴奋。从生成旅行推荐的 Bookingcom 到深度能量分析的 Carrier，许多客户在其行业中获得了显著成果。

堆栈的顶层：创新使生成式 AI 使更多用户受益

在堆栈的顶层，应用程序正利用 LLM 和其他 FM，让用户充分利用生成式 AI 的优势。去年，我们推出了 Amazon CodeWhisperer，帮助开发者更快且更安全地构建应用。企业如 Accenture 和 Boeing 等正在使用 CodeWhisperer 来提升开发者生产力。

我们还推出了新一代的定制化功能，允许开发者根据其内部代码库进行个性化设置，以便提供更加相关的建议和建议。

资源

利用数据作为差异化的价值 新工具和功能让负责任 AI 创新成为可能

关于作者

Swami Sivasubramanian 是 AWS 数据和机器学习的副总裁，负责所有的 AWS 数据库、分析和 AI amp 机器学习服务。其团队的使命是帮助组织通过完整的端到端数据解决方案来利用数据的价值。