机构:ChatGPT未来迈向商用,GPU需求上看三万颗
机构:ChatGPT未来迈向商用,GPU需求上看三万颗:TrendForce集邦咨询表示,由于生成式AI必须投入巨量数据进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,TrendForce集邦咨询估GPU需求量预估约2万颗,未来迈向商用将上看3万颗(本文计算基础以NVIDIAA100为主)。
机构:ChatGPT未来迈向商用,GPU需求上看三万颗:TrendForce集邦咨询表示,由于生成式AI必须投入巨量数据进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,TrendForce集邦咨询估GPU需求量预估约2万颗,未来迈向商用将上看3万颗(本文计算基础以NVIDIAA100为主)。