NEXTMIND|用全球最快GPU做这件事要花355年
文章图片
前不久 ， 人工智能研究组织OpenAI发布了语言模型GPT-3 ， 让人惊讶的是 ， 这个模型实在太大 ， 即便是地球上最快的GPU（图形处理器） ， 也需要300多年才能完成训练 。
据海外科技网站lambdalabs介绍 ， GPT-3拥有1750亿个参数模型 ， 如果用全世界最快的GPU——TeslaV100来训练 ， 那么整个培训周期需要355年 。
相比之下 ， 使用全球首款光线追踪GPU——QUADRORTX8000进行训练 ， 那么周期将长达665年 。
文章图片
TeslaV100是英伟达的顶级GPU ， 采用全新一代Volta架构 ， 可在单个GPU中提供高达100个CPU的性能 ， 其32GB版本售价接近6万元人民币 。
更惊人的是 ， 利用云端的LambdaGPUCloud训练GPT-3 ， 其全部成本将高达460万美元 。
事实上 ， 时间不是唯一的敌人 ， 1750个参数需要700GB的内存 ， 这比显存最大的GPU——quadrortx8000还高出一个数量级 。
文章图片
那么 ， 究竟什么是GPT-3模型？
据analyticsindiamag介绍 ， GPT-3是目前最先进的AI语言模型 ， 可以生成以假乱真的新闻、进行语言翻译或者回答标准化测试问题 。
【NEXTMIND|用全球最快GPU做这件事要花355年】研究人员发现 ， GPT-3在翻译、问答和完形填空等任务中表现出较强的性能 ， 在词汇解读和三位数运算方面也表现不俗 。
文章图片
推荐阅读
- 科技聊斋|全球首个完整的5G标准揭示了未来的潜力
- 『华为』特朗普做梦都没有想到：断供华为的后果，全球各大厂商开始“去美化”
- 集微网|市占35.7%，越打压越坚挺？华为居全球5G设备商第一
- 科技资讯眺望|70%手机已支持，1招查看你的手机能否用北斗，北斗全球组网成功
- 云掌财经|今夜全球无眠！，突发！阿里最大股东宣布退出
- 大卫聊科技|取代华为？手握95个全球5G订单就飘了！爱立信CEO公开呛声华为
- 西安发布|打破国外技术垄断，陕鼓自主研发全球最大轴流压缩机
- 互联网的一些事|华为稳居第一，全球5G通信设备市场最新排名
- 数码小妖精|京东方仅14.3％的份额，而它却独占52％，全球真正的屏幕之王
- 「华为」鸿蒙只是“幌子”？华为王炸已“入侵”全球！网友直呼：干得漂亮