来源:
图片来源:工具生成。
最近几个月ChatGPT已经爆圈了，风头也是一样。大多数人关注的是ChatGPT强大的生成功能和应用场景，而很少关心模型的应用成本。
虽然开放后ChatGPT API的使用成本降低了90%，但对于OpenAI和整合ChatGPT的科技公司来说，情况却截然不同。
众所周知，在Google搜索时代，搜索引擎的工作原理是建立庞大的网络索引。当用户搜索时，会对这些索引项进行扫描、排名和分类，然后显示最相关的项。谷歌的搜索结果页面实际上是告诉用户搜索需要多长时间(通常不到一秒)。
ChatGPT式的搜索引擎会在每次搜索中启动一个巨大的模仿人脑的神经网络，生成一堆文本，还可能查询一个很大的搜索索引来获取事实信息。这意味着用户与它的交互时间可能远远超过几分之一秒，这些额外的过程需要更多的成本。
据路透社报道，Alphabet(谷歌母公司)董事长约翰·汉尼斯在与几位分析师交谈后写道:“与AI大型语言模型交流的成本可能是标准关键词搜索的10倍以上”。对于致力于实现ChatGPT搜索引擎的谷歌和微软来说，这可能意味着“数十亿美元的额外成本”。
Alphabet董事长约翰·汉尼斯。
虽然ChatGPT这种热门的研发课题是必须要跟的，但是企业负担得起这个费用吗？
微软:A100几万，为OpenAI做超算。
微软的回答是肯定的，它将进一步增加相关的R&D投资。
彭博报道称，微软花费数亿美元为OpenAI建造了一台巨大的超级计算机，并使用“数千个GPU”来推广OpenAI的ChatGPT聊天机器人。
根据彭博的回复，微软人工智能和云计算副总裁斯科特·格思里(Scott Guthrie)表示，该公司在这个项目上花费了数亿美元。虽然这对微软来说可能不值一提，毕竟它最近延长了对OpenAI多年和数十亿美元的投资，但这无疑表明微软愿意在人工智能领域投入更多资金。
在周一的博客中，微软介绍了它如何创建OpenAI使用的强大的Azure人工智能基础设施，以及它的系统如何变得更加强大。
例如，微软推出了新的虚拟机——使用英伟达H100和A100 TensorCore GPUs和Quantum-2 InfiniBand网络，这是两家公司去年宣布的。这将允许OpenAI和其他依赖Azure的公司训练更大、更复杂的AI模型。
“大约五年前，OpenAI向微软提出了一个大胆的想法，那就是它可以建立一个人工智能系统，这个系统将永远改变人们与计算机的交互方式。约翰·罗奇写道。
当时没有人知道这将意味着什么。现在，我们明白了这个想法——chat GPT，并体验了它的神奇之处:AI系统可以创建人们用简单语言描述的任何画面，聊天机器人可以根据几句话写说唱歌词、起草邮件、规划整个菜单。
像这样的技术在当时似乎并不是不可能的。仅仅是建造它，OpenAI就需要真正大规模的计算能力。
2019年，微软宣布向OpenAI投资10亿美元，并同意为这家AI研究初创公司建造大规模尖端超级计算机。当时唯一的问题是微软没有OpenAI需要的东西，也不完全确定自己能在自己的Azure云服务中构建这么大的东西而不崩溃。现在，这个承诺终于兑现了。
微软表示，为了建立一台超级计算机来为OpenAI项目提供动力，它在Azure云计算平台上“将数千个英伟达GPU连接在一起”。反过来，这使得OpenAI能够训练出越来越强大的模型，“释放AI能力”，比如ChatGPT和Bing工具。
这些突破的关键是学习如何在高吞吐量和低延迟的InfiniBand网络上构建、操作和维护数万个相互连接的共处一地的GPU。这个规模甚至比GPU和网络设备商测试的还要大。这是一个未知的领域，没有人确切知道硬件是否能被推到那么远而不损坏。为了训练一个大型语言模型，计算工作量被分配到集群中的数千个GPU上。在计算的某个阶段(称为allreduce)，GPU交换关于它们所做工作的信息。InfiniBand网络加速了这一阶段，必须在GPU开始下一个计算块之前完成。
微软Azure AI Enterprise副总裁埃里克·博伊德(Eric Boyd)在一份声明中说:“我们看到的是，我们将需要建立专注于实现大规模训练工作负载的专用集群，OpenAI就是这方面的早期证明之一。”“我们与他们密切合作，了解他们在构建培训环境时的期望和需求。」
谷歌:加强大诗人的内部测试
与微软相比，谷歌的搜索成本问题无疑更大。微软如此急于撼动谷歌搜索引擎的部分原因是，在大多数市场份额估计中，必应仅占全球搜索市场的3%，而谷歌约占93%。搜索是谷歌的主营业务，微软不需要担心。
根据摩根士丹利的估算——假设“类似ChatGPT的AI可以处理一半50字答案的查询”，谷歌每年的成本将增加60亿美元。
有趣的是，谷歌从一开始就对模型大小持谨慎态度。谷歌表示，Bard chatbot最初发布的是LaMDA的轻量级模型版本，因为“这个更小的模型需要更少的计算能力来扩展到更多的用户，并获得更多的反馈。要知道，这可不是谷歌常见的操作。谷歌在模型规模上往往令其他公司相形见绌，在计算资源上也有很大优势。”规模”只是谷歌花一点钱就能解决的问题，除非成本不增加一点点。
据Insider最新消息，谷歌正在测试一个名为Big Bard的模型，它是Bard的高级版本，使用与Bard相同的语言模型LaMDA。
根据内测实例，大吟游诗人对同一个问题给出了更丰富、更人性化的回答，通常也更健谈、更随意。然而，并不是所有的员工都可以在内部测试Big Bard。它是有限的，只对部分员工开放，而Bard对所有谷歌员工开放。
此外，Big Bard在更大范围内使用LaMDA和AI技术来支持其聊天机器人。谷歌表示，Big Bard是其布局对话模型计划的一部分，该计划旨在创建一个通用的聊天机器人，可以回答用户在其产品和服务中提出的任何问题或请求。
出于成本考虑，谷歌可能会推出* *版的Bard。然而，这场人工智能竞赛丝毫没有放缓的迹象。上周有报道称，多模态GPT-4将于本周发布。看来微软和谷歌的争斗暂时不会停止。
商业模式是如何运作的？
目前很难衡量类似ChatGPT的产品能给科技公司带来多大的收益。有一个已知的例子。谷歌和亚马逊的语音助手多年来一直保持着“以后再想”的盈利思路，但目前都没能产生盈利，而且是比ChatGPT更受限制的聊天机器人。开放ChatGPT API后，OpenAI以token方式收费，但这不适用于搜索引擎。
微软准备“在必应聊天机器人生成的回复中插入广告”，以补偿其高昂的服务器运营成本。
开放API后，会有越来越多的企业用户与OpenAI合作，将他们的ChatGPT服务集成到自己的产品中。大多数公司使用ChatGPT等大型语言模型来帮助客户制作公司博客、营销邮件等。，而且工作量比以前少了很多。但这些公司的产品几乎都是大规模语言模型的简单“外壳”，很难实现差异化竞争优势。
事实上，OpenAI最近推出了四个GPT-3模型——达芬奇、居里、巴贝奇和阿达。其中达芬奇是最厉害的型号，Ada是最快的。达芬奇被一些公司认为是开发产品的较好选择。它的输出往往比ChatGPT的更简洁直接，在某些类型的提示下也表现得更好。ChatGPT在一些关键领域优于达芬奇，包括数学，情绪分析等等。
值得注意的是，OpenAI为达芬奇API设定的价格是ChatGPT的十倍。因此，最近几周，大部分达芬奇用户可能会涌向ChatGPT。对于OpenAI及其竞争对手(包括Cohere、AI21、Anthropic、拥抱脸)，达芬奇的定价似乎更合理。至于ChatGPT，其超低的定价将大大降低业内同类产品的价格，包括OpenAI自己的产品。
把ChatGPT API的价格定得这么低(只有原价的十分之一)，OpenAI会从ChatGPT还是其他什么模型中获利还是亏损还很难说，因为这些超大规模模型的查询成本非常高。有人推测，OpenAI可能通过删除自11月份首次亮相以来全球提出的无数ChatGPT查询中很少激活的参数，对支持ChatGPT的模型进行了修剪，以降低模型成本。但这只是猜测。
未来一段时间，OpenAI可能会亏损，因为ChatGPT被广泛使用。这听起来有些违反直觉，但是大型语言模型的训练和运行成本真的非常高。但对于微软100亿美元和GPU支撑的OpenAI来说，“薄利多销”也能让它比其他竞争对手走得更远。
参考链接:
https://news . Microsoft . com/source/features/ai/how-Microsoft-bet-on-azure-unlocked-an-ai-revolution/
https://www . Bloomberg . com/news/articles/2023-03-13/Microsoft-build-a-昂贵的超级计算机-to-power-openai-s-chatgpt？srnd =技术-vp#xj4y7vzkg
https://ars technica . com/gadgets/2023/02/chat GPT-style-search-presents-a-10x-cost-increase-for-Google-Microsoft/
https://ars technica . com/gadgets/2023/03/has-the-generative-ai-pricing-collapse-always-started/
https://www . business insider . com/Google-employees-test-arter-chatbot-big-bard-2023-3
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"微软219亿美元，微软219亿"：http://www.guoyinggangguan.com/qkl/175401.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
