Win10系统之家 - 专注分享最好用的电脑系统

当前位置: Win10系统之家 >  微软新闻 >  ChatGPT需要1万张NVIDIA A100显卡 成本超10亿 国内6家公司负担得起

ChatGPT需要1万张NVIDIA A100显卡 成本超10亿 国内6家公司负担得起

更新时间:2023-04-06 10:27:55作者:cblsl
近日,商汤科技公布的一份纪要显示。只有六家国内公司具备训练像ChatGPT这样的生成式AI所需的算力,需要至少1万张NVIDIA A100加速卡的支持。

百度、腾讯、字节、阿里等互联网巨头,都可以承受这样的硬件投入。同时他们也已经开始发布自己的AI产品,如百度的文心一言。然而高性能加速显卡现在是稀缺资源,国内购买NVIDIA高端显卡更是不容易。

ChatGPT需要1万张NVIDIA A100显卡 成本超10亿 国内6家公司负担得起

NVIDIA A100计算卡是2020年推出的首款安培架构产品,配备542亿个晶体管、8196个流处理器和40GB HBM2显存等强大配置,能够提供高达19.5TFlops的单精度浮点性能,但功耗也高达250W。因此,能够承受这样高昂硬件投入的企业,目前还较为有限。

(8152743)