华泰证券研报分析,从大模型的演化路径来看,模型体量还将进一步扩张,从而带来算力需求持续增长。长远来看,成熟大模型的运营有望带来3169亿美元的服务器增量市场,较2023年全球211亿美元的AI服务器市场而言,仍有较大成长空间。基于此,我们认为大模型持续迭代有望带来大量算力基础设施需求,建议关注算力产业投资机遇。
全文如下华泰 | 计算机:从大模型演进测算全球AI算力空间
我们认为,从大模型的演化路径来看,模型体量还将进一步扩张,从而带来算力需求持续增长。长远来看,成熟大模型的运营有望带来3169亿美元的服务器增量市场,较2023年全球211亿美元的AI服务器市场而言,仍有较大成长空间。基于此,我们认为大模型持续迭代有望带来大量算力基础设施需求,建议关注算力产业投资机遇。
核心观点
全球AI算力需求继续向上
随着大模型持续迭代,模型能力不断增强,其背后是“Scaling Law”下模型参数量和数据集不断增长的结果。我们认为,从大模型的演化路径来看,模型体量还将进一步扩张,从而带来算力需求持续增长。究竟来看,大模型对算力的需求体现在预训练、推理、调优三个环节。根据我们的测算,以1000亿参数模型为例,三个环节的算力总需求约18万PFlop/s-day,对应需要2.8万张A100等效GPU算力。长远来看,成熟大模型的运营有望带来3169亿美元的服务器增量市场,较2023年全球211亿美元的AI服务器市场而言,仍有较大成长空间。基于此,我们认为大模型持续迭代有望带来大量算力基础设施需求,建议关注算力产业投资机遇。
模型体量越来越大,带动算力建设需求
大语言模型(LLM)是在大量数据集上预训练的模型,其在处理各种NLP任务方面显示出了较大潜力。Transformer架构的出现开启了大模型的演化之路,随着解码模块堆叠数量的不断增长,模型参数量持续增加,逐渐演化出GPT-1、GPT-2、GPT-3、PaLM、Gemini等不同版本模型,参数量也从十亿、百亿,向千亿、万亿增长。我们看到,每一代模型的演化都带来能力的增强,背后一个很重要的原因在于参数量和数据集的增长,带来模型感知能力、推理能力、记忆能力的不断提升。基于模型的缩放定律,我们认为未来模型迭代或仍将延续更大参数量的路径,演化出更加智能的多模态能力。
大模型的算力需求体现在:预训练、推理、调优
拆解来看,大模型的算力需求场景主要包括预训练、Finetune及日常运营。对于三部分的算力需求,我们的测算思路如下:1)预训练:基于“Chinchilla 缩放定律”假设,计算量可以通过公式C≈6NBS来刻画;2)推理:以ChatGPT流量为基准,计算量可以通过公式C≈2NBS来刻画;3)调优:通过调优所需的GPU核时数倒推。以1000亿参数模型的预训练/推理/调优为例,三个环节所需的算力需求分别为13889、5555.6、216 PFlop/s-day。我们认为,在缩放定律(Scaling Law)加持下,随着模型体量增长,算力需求有望持续释放。
基础设施需求有望持续释放,关注算力产业投资机遇
结合对大模型预训练/推理/调优的算力需求测算,我们预计从开发到成熟运营一个千亿模型,对A100等效GPU的需求量为2.8万张。根据我们的测算,元宇宙之家消息,成熟大模型的运营有望带来3169亿美元的全球AI服务器增量市场。对比来看,据IDC,2023年全球AI服务器市场规模211亿美元,预计2024-2025年CAGR将达22.7%,未来仍有较大成长空间。此外,考虑到国内对高性能芯片获取受限,AI GPU国产化也有望进一步提速。
风险提示:宏观经济波动、下游需求不及预期、测算结果可能存在偏差。
记者从中国国家铁路集团有限公司(下称“国铁集团”)获悉,4月17日起,铁路12306开始发售五...
2 集合竞价9:15到9:20能成交吗?在这个时间段内,投资者可以申报,也可以撤单,但这些挂单并不会立即成交。9:25时,系统会...
3 证券股适合长期投资吗?证券股适合长期投资,其原因如下: 1、证券股抵抗风险能力强,且在市场出现崩盘的情况,证...
4 股票账户手续费标准?股票账户手续费,主要是指投资者在交易个股时,需要收取确定的佣金费用、过户费用和印花...
5 股票封单量是什么意思?封单量与成交量的比例怎么算?股票封单量是指维持个股涨停,或者跌停的成交量。即个股涨停时,买一后面显示的成交量,...
6 股票w是什么意思?字母W开头 是指在科创板上市,发行人具有表决权差异安排的,即同股不同权的股票。上市后不...
7 炒股是波段好还是长期好?炒股长期比波段好一些,其原因如下: 1、长期持有费用低 投资者在交易过程中,需要交纳确...
8 港股通什么时候休市?港股通是中国内地投资者通过香港市场直接买卖香港证券的一种机制,分为"沪港通"下的港股通...
9 板块为什么会冲高回落?在股票市场上,投资者经常会碰到一些板块在上午走势比较好,而在下午出现大幅回落的走势...
10 周四买国债逆回购一天还是三天?周四买一天期限的国债逆回购较好,因为在周四购买1天期的国债逆回购最好,其实际收益会按...
记者从中国国家铁路集团有限公司(下称“国铁集团”)获悉,4月17日起,铁路12306开始发售五...
2 集合竞价9:15到9:20能成交吗?在这个时间段内,投资者可以申报,也可以撤单,但这些挂单并不会立即成交。9:25时,系统会...
3 证券股适合长期投资吗?证券股适合长期投资,其原因如下: 1、证券股抵抗风险能力强,且在市场出现崩盘的情况,证...
4 股票账户手续费标准?股票账户手续费,主要是指投资者在交易个股时,需要收取确定的佣金费用、过户费用和印花...
5 股票封单量是什么意思?封单量与成交量的比例怎么算?股票封单量是指维持个股涨停,或者跌停的成交量。即个股涨停时,买一后面显示的成交量,...
6 股票w是什么意思?字母W开头 是指在科创板上市,发行人具有表决权差异安排的,即同股不同权的股票。上市后不...
7 炒股是波段好还是长期好?炒股长期比波段好一些,其原因如下: 1、长期持有费用低 投资者在交易过程中,需要交纳确...
8 港股通什么时候休市?港股通是中国内地投资者通过香港市场直接买卖香港证券的一种机制,分为"沪港通"下的港股通...
9 板块为什么会冲高回落?在股票市场上,投资者经常会碰到一些板块在上午走势比较好,而在下午出现大幅回落的走势...
10 周四买国债逆回购一天还是三天?周四买一天期限的国债逆回购较好,因为在周四购买1天期的国债逆回购最好,其实际收益会按...
撤稿申请|
备案号:鄂ICP备2022006215号 Copyright © 2002-2022 metaversezj.com.cn 元宇宙之家 版权所有