（原标题：AWS的芯片计谋）

如果您但愿不错经常碰面，宽待标星保藏哦~

开始：内容由半导体行业不雅察（ID：icbank）编译自nextplatform，谢谢。

也曾有一段时分——似乎并不是很久夙昔——数据中心芯片市集是一个资金浑朴但相对浅易的市集，来自英特尔、AMD 和 Arm 的 CPU 试图强行插足，而 GPU 则主要来自 Nvidia AMD 和英特尔的一些公司但愿强行插足。还有许多东谈主工智能初创公司并莫得信得过在数据中心销售太多。

连年来，情况发生了浩瀚变化。

仍然有英特尔、AMD、Nvidia 和 Arm，但在芯片方面也有更多遴荐。正在生成和分析多数且赓续增长的数据，而最近出现的生成式东谈主工智能和大型言语模子正在催生无数但愿站稳脚跟的芯片初创公司。

然后还有亚马逊集聚行状、微软过甚行将推出的 Maia 100和谷歌云过甚张量处理单位等超大限制企业，它们正在制造我方的国产处理器。

市集上有多数的芯片遴荐，云基础法子提供商将在整个这些怎样整合在一齐方面阐发关键作用。目下，大致70% 的东谈主工智能责任负载王人在云表，何况跟着企业经受该时刻并彭胀其责任负载，这一数字有望增长。

关于AWS来说，它有我方的Trainium（显然是为了考试东谈主工智能责任负载）和Inferentia（显然是为了东谈主工智能推理） ——更无须说它的Graviton CPU和Nitro DPU了，这一切王人要归功于它2015年收购了以色列芯片盘算公司Annapurna。AWS 也领有多数 Nvidia GPU，它们是东谈主工智能筹画的基石。但东谈主工智能的兴起——以及最近新兴的生成式东谈主工智能时刻的加快立异和经受——正在创建一个流体处理器环境，该公司和其他云提供商将不得不足下这个环境。

Amazon EC2 产物经管总监 Chetan Kapoor 默示，AWS 目下已准备好使用 Nvidia GPU、Trainium 和 Inferentia，但畴昔怎样发展还需要翘首企足。

“咱们正处于了解怎样责罚这一问题的早期阶段，”卡普尔告诉The Next Platform。“咱们所知谈的是，基于您在这个畛域看到的快速增长，咱们还有很大的空间赓续扩大基于 Nvidia 的产物的萍踪，同期，咱们将赓续扩大咱们的 Trainium 和 Inferentia 容量。目下判断这个市集将怎样发展还为时过早。但这不是咱们所合计的零和游戏。由于这种指数级增长，咱们的 Nvidia GPU 群将赓续出现显着增长，但与此同期，咱们将赓续寻找契机状貌将 Trainium 和 Inferentia 引入外部和里面使用。”

与竞争敌手一样，AWS 全力发展东谈主工智能，但它在里面能作念什么以及在市集上投资了什么。AWS 上月底向东谈主工智能公司 Anthropic又投资了 27.5 亿好意思元，使其总投资达到 40 亿好意思元。几周前，这家云提供商默示 Anthropic 的 Claude 3 系列模子正在 Amazon Bedrock AI 托管行状上运行。这与微软与 OpenAI（投资逾越 100 亿好意思元）以及谷歌与 Anthropic（投资逾越 20 亿好意思元）的互助伙伴关系相呼应。

为了运行这一切，AWS 坚捏使用现存的 Nvidia 和我方的芯片，但本体上讲求 EC2 硬件加快业务的 Kapoor 默示，该公司“将赓续与其他提供商保捏互助”如果英特尔或 AMD 等其他供应商领有信得过引东谈主注见解产物，咱们合计不错补充咱们基于 Nvidia 的责罚决策，我十分乐意在该市集与他们互助。”

AWS 在最近的 GTC 2024 展会上加大了对 Nvidia 的报复力度，默示——正如微软 Azure、谷歌云和 Oracle 云基础法子所作念的那样——正在经受加快器制造商的新式 Blackwell GPU，包括大型GB200 Grace Blackwell 超等芯片，它有两个 B200 GPU通过 600 GB/秒 NVLink 互连连续到单个 Grace CPU。

其他东谈主工智能芯片是否大概强行插足 AWS 环境尚不明白。Groq、Mythic 和SambaNova Systems等公司正在为东谈主工智能责任负载拼装处理器，但卡普尔默示，这不单是是加快器本人。OpenAI 首席履行官 Sam Altman 建议了该公司盘算我方的东谈主工智能考试和推理芯片的念念法，以补充弥留的市集，该市集对 Nvidia GPU 的需求猛增，以知足东谈主工智能责任负载的需求。

“制造芯片的确很难，”他说。“构建行状器、经管和部署更难仆数（如果不是数十万）的加快器就愈加勤勉。但更具挑战性的是诱骗一个愚弄这种才略的开发者生态系统。凭据咱们的教育，这不单是是硅的问题。硅是产物的一部分。然而，咱们怎样将其建设为筹画平台呢？咱们怎样经管和彭胀它？这很关键，但最关键的是什么？该责罚决策的易用性怎样？您的产物有哪些可用的开发者生态系统？基本上，客户能多快完成责任？”

生成式东谈主工智能的加快经受并不成让组织消费数月时分学习和使用新的硬件架构。他们使用的需若是一个既易于使用又具有资本效益的举座架构。

卡普尔说：“它必须有一个围绕它的开发者社区，技艺在该畛域产生眩惑力。” “如果有一家初创公司大概扫尾这一豪举，那就太好了，他们将会顺利。但关键的是要信得过从这个角度来看它需要高性能、需要低廉、需要庸碌可用何况十分易于使用，即使关于大公司来说，信得过作念到这少量也十分十分勤勉。”

组织濒临着经受东谈主工智能以保捏与竞争敌手的竞争力的浩瀚压力。关于公司来说，在研究他们使用的基础法子时，运行这些东谈主工智能责任负载经常取决于性能与资本。

“咱们将看到这种趋势，其中一些客户只关爱上市时分，而不太关爱确保优化支拨，”他说。“他们经常更心爱基于 Nvidia 的责罚决策，因为这使他们大概尽快插足市集。另一方面，咱们依然开动看到这种趋势，其中一些客户会研究这一资本并说，“好吧，我莫得预算来撑捏这少量，”他们会寻找替代责罚决策，为他们提供所需的性能，但同期为他们提供一条前途，使他们考试和部署这些模子所需的总资本省俭 30% 或 40%。这等于咱们或其他芯片互助伙伴提供的一些替代责罚决策阐发作用的场地。”

也等于说，对 Nvidia 产物的需求将捏续存在。卡普尔默示，许多新的基础模子王人是在供应商的 GPU 上构建的，因为磋磨和科学界在使用 Nvidia 硬件和软件构建和考试东谈主工智能模子方面领有丰富的教育。此外，Nvidia 将赓续扩大系统可提供的原始性能方面的上风。他默示，这家 GPU 制造商“不仅十分十分擅长构建芯片，而且还擅长构建这些系统，而且他们在优化性能方面也十分出色，以确保他们的客户大概从这些十分十分崇高的加快器中获取最大收益”。

因此，超大限制企业必须密切关爱组织告诉他们的信息，因为天然目下约 70% 的东谈主工智能责任负载王人在云表，但这一数字在畴昔几年将会增长。AWS 和其他公司在 Nvidia 的 A100 或H100 芯片上运行的系统依然十分复杂且限制化，跟着 Blackwell 的推出，这种情况只会加多，Blackwell 需次第受液体冷却等时刻的机架集成产物，致使更高的密度。

“盘算、构建和推行部署此类机器需要更多捏久的复杂性，因此咱们展望之前大概在腹地部署系统的客户将会遭受许多挑战，”Kapoor说。“他们可能莫得液体冷却基础法子。他们可能莫得提供鼓胀电力的机架位置，他们将倾向于云，因为咱们将为他们完成整个这些勤勉的责任，何况这些资源将仅通过 API 供他们使用和启动。相同的事情也适用于安全方面。今天，在让咱们的客户肯定他们的学问产权（经常是模子参数、权重和偏差）方面，咱们领有十分十分坚决的姿态，他们不错实足探访他们的学问产权。”

他们很快还将领有东谈主工智能超等筹画机来处理这些东谈主工智能和机器学习责任负载。AWS 正在与 Nvidia 互助开展“Project Ceiba”，以构建这么一个系统，该系统目下将包括 Blackwell GPU 和 NVLink Switch 4 互连，正如咱们所综合的那样。此外，据报谈，微软和 OpenAI 正在规划“星际之门”超等筹画机，或者正如咱们所指出的，可能是构成超等筹画机的多个数据中心。

https://www.nextplatform.com/2024/04/12/aws-hedges-its-bets-with-nvidia-gpus-and-homegrown-ai-chips/

点这里加关爱，锁定更多原创内容

*免责声明：本文由作家原创。著作内容系作家个东谈主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或撑捏，如果有任何异议，宽待关连半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第3734期内容，宽待关爱。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID：icbank

心爱咱们的内容就点“在看”共享给小伙伴哦