全球聚焦:ChatGPT需要1万张NVIDIA A100显卡 成本超10亿 国内6家公司负担得起

2023-04-06 20:19:01| 来源: 中关村在线|


(资料图片仅供参考)

近日,商汤科技公布的一份纪要显示,只有六家国内公司具备训练像ChatGPT这样的生成式AI所需的算力,需要至少1万张NVIDIA A100加速卡的支持。

百度、腾讯、字节、阿里等互联网巨头,都可以承受这样的硬件投入,同时他们也已经开始发布自己的AI产品,如百度的文心一言。然而,高性能加速显卡现在是稀缺资源,国内购买NVIDIA高端显卡更是不容易。

NVIDIA A100计算卡是2020年推出的首款安培架构产品,配备542亿个晶体管、8196个流处理器和40GB HBM2显存等强大配置,能够提供高达19.5TFlops的单精度浮点性能,但功耗也高达250W。因此,能够承受这样高昂硬件投入的企业,目前还较为有限。

关键词

上一篇:
  1. 最近更新

Powered by www.firstproduction.net  第一产经网

备案号:豫ICP备2022016495号-9© 2013-2017   联系我们:939 674 669@qq.com