IT之家 2 月 19 日消息,ChatGPT 风靡全球后,科技巨头们纷纷入局,生成式 AI 其背后以大模型为基础的人工智能成为业界投入的方向 。
文章插图
IT之家了解到,所谓“大模型”,通常是在无标注的大数据集上,采用自监督学习的方法进行训练 。之后在其他场景的应用中,开发者只需要对模型进行微调,或采用少量数据进行二次训练,就可以满足新应用场景的需要 。
然而,训练通用大模型非常“烧钱” 。据国盛证券报告《ChatGPT 需要多少算力》估算,GPT-3 训练一次的成本约为 140 万美元,对于一些更大的 LLM(大型语言模型),训练成本介于 200 万美元至 1200 万美元之间 。以 ChatGPT 在 1 月的独立访客平均数 1300 万计算,其对应芯片需求为 3 万多片英伟达 A100 GPU,初始投入成本约为 8 亿美元,每日电费在 5 万美元左右 。
如果将当前的 ChatGPT 部署到谷歌进行的每次搜索中,需要 512820.51 台 A100 HGX 服务器和总共 4102568 个 A100 GPU,这些服务器和网络的总成本仅资本支出就超过 1000 亿美元 。
国盛证券认为,在公有云上,对于以谷歌等全球科技大企业而言,百万至千万美元级别的训练成本并不便宜,但尚在可接受范围内、并非昂贵 。
【ChatGPT有多烧钱?大模型训练一次200-1200万美元】
推荐阅读
- ChatGPT热潮下的冷思考:人工智能将如何影响人类的未来?
- OpenAI回应|ChatGPT为何不向所有中国用户开放注册?
- ChatGPT 帮你摸鱼?“天选打工人套餐”来了
- ChatGPT为何没能诞生在中国?
- 甘肃疫情最新消息;兰州有多少人感染疫情?
- 1000万亿美元是什么概念-罗斯柴尔德家族有多少钱,据说是1000万亿美元耶,对不
- 日本有几个民族分别是什么?日本有多少个民族?
- 咸鸭蛋的热量高吗 适合减肥吗?一个咸鸭蛋的热量有多少?
- 中国有多少军人包括退役的_中国现在大概有多少军人?
- 席琳迪翁有多厉害 席琳迪文