那么，加入这场战局，究竟要花费多少钱？

此前，据 Techcrunch 宣布，有人估算，运行 ChatGPT 的本钱约为 100,000 美元每天，或每个月约耗费 300 万美元。
在此之下，OpenAI 才找到了微软，寻求帮助，共同探索人工智能的发展。

一贯以来，这些传言并未得到准确的核实，众人只知晓 AI 大模型的运行本钱非常高，却终不知道高到何种程度。

近日，微软在官方博客上连发两篇文章，分享了它对 Azure 的押注如何开启一场人工智能革命的进程，也揭晓了为 OpenAI 的 ChatGPT 供应算力构建根本举动步伐的困难与寻衅。
微软透露，它将上万颗英伟达 A100 芯片连接到一起，并重新设计了做事架构，这使得 OpenAI 能够演习出越来越强大的 AI 模型，同时，也帮助自家解锁了 Bing、Edge 等工具的 AI 功能。
据悉，这个项目已经花费微软数亿美元。

投资数亿，微软回顾与 OpenAI 互助往事

韶光回到大约 5 年前，OpenAI 向微软提出了一个大胆的想法——它可以构建一套人工智能系统，永久改变人类与打算机之间的交互办法。

当时，包括微软在内，没有人知道这意味着 AI 系统可以创造出一个谈天机器人，可以写词、草拟邮件，也能根据少数的词语提示做出行程、菜单方案等等。

为了实现它，OpenAI 须要真正大规模的打算能力的支持。

但是在 OpenAI 向微软提出想法时，微软也迷茫了，乃至发出“微软能做到吗？”的疑问。

虽说微软过去多年以来一贯在努力开拓人工智能模型，利用更强大的 GPU 来处理更繁芜的人工智能事情负载，也创造大模型的潜力，但在这过程中，他们也清楚的明白大型模型备受现有打算资源限定的困扰。

微软 Azure 高性能打算和人工智能产品卖力人 Nidhi Chappell 对此表示：\"大众我们从研究中理解到的一件事是，模型越大，你拥有的数据越多，你能演习的韶光越长，模型的准确性就越好。
\公众

以是，想要大力推动让更大的模型演习更长的韶光，这意味着你不仅须要拥有强大的根本举动步伐，你还必须能够长期可靠地运行它。

可以说，这是 OpenAI 对 AI 模型的一次巨大考试测验，也是微软对自家 Azure 做事的一次年夜胆押注。

在 2019 年，微软和 OpenAI 开始建立了互助关系。
\"大众我们建立了一个别系架构，可以在非常大的规模下运行和可靠。
这便是 ChatGPT 成为可能的缘故原由，\公众微软 Azure AI 根本举动步伐总经理 Nidhi Chappell 分享道，\公众这便是个中的一个模型。
将会有很多很多其他的模式。
\"大众

当时，微软开拓了一套新的 Azure 人工智能超级打算技能，也在 Azure 中建立超级打算资源，这些资源的设计和专用性使 OpenAI 能够演习一套日益强大的 AI 模型。

为了演习出这套模型，微软在根本举动步伐中利用了数以千计的英伟达人工智能优化 GPU，它们被连接在一个高吞吐量、低延迟的网络中，该网络基于英伟达量子 InfiniBand 通信，用于高性能打算。

对此，匆匆成微软和 OpenAI 互助的关键人物——卖力计策互助伙伴关系的微软高等主管 Phil Waymouth 表示，OpenAI 演习其模型所需的云打算根本举动步伐的规模是前所未有的，比业内任何人试图建立的网络 GPU 集群都要大得多。

据彭博社宣布，微软在该项目上已经花费了数亿美元。

要问这个钱花得值不得，现在无论是微软，还是业界同行，给出的答案一定是肯定的。
由于去年 11 月 ChatGPT 上线仅 5 天用户量就打破了 100 万；微软上线 ChatGPT 版本 Bing 短短一段韶光后日生动用户首次破亿；微软逐步将蕴藏着巨大的商业代价 ChatGPT 引入自家的做事线中，给亚马逊、Google 等公司也带来了巨大的压力。

大规模的 AI 演习

当然微软押宝成功这些都是后话了，对付当时的微软而言，是一场摸着石头过河的未知探索之旅。
比较现在可能看到的商业代价，那时的他们可谓是面前一抹黑。

彼时的微软没有 OpenAI 所须要的东西，也不完备确定是否能在其 Azure 云做事中建造这么大的东西而不至于崩溃。

微软 Azure 高性能打算和人工智能产品卖力人 Nidhi Chappell 称，这些打破的关键是学习如何在高吞吐量、低延迟的 InfiniBand 网络上构建、运行和掩护恒河沙数共处一地的 GPU，并相互连接。

她阐明说，这种规模乃至超过了 GPU 和网络设备供应商曾经测试过的规模。
这是一个未知的领域。
没有人确定硬件是否可以在这么大规模下运行，而不破坏。

为了演习一个大型措辞模型，打算事情负载被划分到一个集群中的数千个 GPU 上。
在这个打算的某些阶段（称之为 Allreduce），GPU 交流它们所做事情的信息。
一个 InfiniBand 网络加速了这一阶段，在 GPU 开始下一块打算之前必须完成。

\"大众由于这些事情超过了数千个 GPU，你须要确保你有可靠的根本举动步伐，然后也须要在后端拥有网络，这样你就可以更快地进行通信，并能够连续数周这样做\"大众，Chappell 说道，“这不是你买了一大堆 GPU，把它们连在一起，就可以开始事情的。
为了得到最佳的性能，须要有很多系统级的优化，而这是经由许多代人的履历总结出来的。
”

系统级优化也包括能够有效利用 GPU 和网络设备的软件。

在过去的几年里，微软已经开拓了这样的软件技能，提高了利用数十万亿个参数演习模型的能力，同时降落了演习和在生产中供应这些模型的资源哀求和韶光。

“微软及其互助伙伴也一贯在逐步增加 GPU 集群的容量，增加 InfiniBand 网络，并看看他们能把保持 GPU 集群运行所需的数据中央根本举动步伐推到什么程度，包括冷却系统、不间断电源系统和备用发电机”，Waymouth 在官方博文中写道。

本日，这种为大型措辞模型演习而优化的 Azure 根本举动步伐可以通过 Azure AI 超级打算能力得到，微软公司卖力 AI 平台的副总裁 Eric Boyd 分享道。
该资源供应了 GPU、网络硬件和虚拟化软件的组合，以供应推动下一波 AI 创新所需的打算。

英伟达才是背后的赢家？

随着根本举动步伐的到位，微软现在正向其他人开放其硬件。
为此，微软在另一篇博文中宣告加强和英伟达的互助，推出了利用英伟达 H100 和 A100 Tensor Core GPU 以及 Quantum-2 InfiniBand 网络的新虚拟机，个中最新推出的 ND H100 v5 VM，它支持按需大小不等的 8 到数千个 NVIDIA H100 GPU，这些 GPU 通过 NVIDIA Quantum-2 InfiniBand 网络互连。

据微软透露，这该当许可 OpenAI 和其他依赖 Azure 的公司演习出更大、更繁芜的 AI 模型。

至此，也有不少人创造并调侃道，英伟达彷佛成为了这场 AI 浪潮中最大的赢家。
由于过去微软与 OpenAI 的互助创立的根本举动步伐所投入的资金，大部分都进入了英伟达的口袋。

话说如此，但他们也都为 AI 的发展做出了主要贡献。
在 3 月 16 日，微软将分享其在人工智能方面的下一步最新进展，而英伟达也即将在 GTC 大会期间透露更多关于未来 AI 产品的信息，CSDN 也将进一步跟踪宣布，敬请关注。

参考：

https://www.bloomberg.com/news/articles/2023-03-13/microsoft-built-an-expensive-supercomputer-to-power-openai-s-chatgpt

https://azure.microsoft.com/en-us/blog/azure-previews-powerful-and-scalable-virtual-machine-to-help-customers-accelerate-ai/

https://news.microsoft.com/source/features/ai/how-microsofts-bet-on-azure-unlocked-an-ai-revolution/