微软和谷歌的AI机器人运行成本是普通搜索的10倍 成本增加60亿美元
本月微软和谷歌都推出了自己的人工智能对话应用,微软推出的是 Bing Chat,目前越来越多的用户已经用上了 Bing Chat;谷歌推出的是 Bard,目前仅面向部分受邀的开发者提供,大部分用户还无法使用。
这种对话式人工智能应用可以替代传统的搜索引擎,这也是微软如此看重 OPENAI 的原因,从微软这段时间的描述来看,微软对 Bing Chat 是非常满意的,仅仅是 Bing APP 下载量就暴增几百万,排名一度超过 Google APP。
不过目前微软和谷歌都没有公开谈论聊天机器人的成本问题,与传统搜索引擎不同的是,人工智能应用对算力要求更高,这背后其实是无数块高性能计算卡 (GPU) 提供支撑。
汤森路透日前与谷歌母公司 Alphabet 董事会主席约翰轩尼诗进行对话,约翰轩尼诗称使用大型语言模型 (LLM) 的聊天机器人的运行成本可能是普通搜索的 10 倍。
在 2022 年 12 月 OPENAI 推出 ChatGPT 时,OPENAI CEO Sam Altman 就表示计算成本令人瞠目结舌。然后到今年 2 月 ChatGPT 推出 ChatGPT Plus 版,每月收费 20 美元,为 Plus 用户提供更高的可用性和更快的速度,收取的月费就是贴补 ChatGPT 运行成本。
汤森路透引用摩根士丹利的一份报告,该报告估计,到 2022 年,每次有人在谷歌上搜索时,谷歌将花费 0.2 美分,但如果运行 Bard 这样的大型语言模型,谷歌到 2024 年成本可能会增加高达 60 亿美元,这还是假设聊天机器人只用 50 个单词的答案处理谷歌一半的搜索,如果是 100% 那成本还会继续飙升。
成本更高的原因主要就是背后的 CPU 和 GPU 用量暴增,这些硬件让 AI 可以生成听起来更自然的答案,这也意味着维持这样的服务仅仅是电力成本都需要增加很多倍。
所以为了弥补成本,ChatGPT 通过 Plus 版收月费,而微软则计划在 Bing Chat 回答里插入广告,只不过目前还不清楚插入广告的方式带来的收益如何。
当然从微软这么着急就在 Bing Chat 里插入广告也可以看出来:Bing Chat 的运行成本真的很高。