20230424-电子设备-电子AI+系列专题报告(一):AI大语言模型的原理、演进及算力测算-国信证券
核心结论
报告主旨概述 本报告为国信证券电子AI+系列专题研究首篇,聚焦AI大语言模型(LLM)的技术原理、发展演进脉络及算力需求测算。
关键数据:## 大模型演进脉络 - **GPT系列引领技术潮流**:报告梳理了从GPT-1到GPT-4的演进路径,模型参数量从1.
核心数据表
| 指标 | 数值 / 说明 |
|---|---|
| ## 大模型演进脉络 | GPT系列引领技术潮流:报告梳理了从GPT-1到GPT-4的演进路径,模型参数量从1. |
| 17亿增长至万亿级别,训练数据从BookCorpus扩展到多模态海量数据,能力从文本生成延伸至复杂推理与多模态理解。 | - |
| - 算力需求测算示例 | 以GPT-4级别模型(约1. |
| 8万亿参数)为例,单次训练需约千卡级A | 100集群运行数月,对应总算力需求达百EFLOPS级别;推理侧若达到千万级日活用户,所需总算力将数倍于训练阶段。 |

报告简介
AI 结构化摘要
报告主旨概述
本报告为国信证券电子AI+系列专题研究首篇,聚焦AI大语言模型(LLM)的技术原理、发展演进脉络及算力需求测算。报告从Transformer架构切入,系统梳理了GPT系列等主流大模型的技术迭代路径,并基于模型参数、训练数据量等核心变量,对AI训练与推理阶段的算力需求进行了量化测算。报告旨在为投资者厘清AI算力产业链的投资逻辑,明确从模型层到算力基础设施层的传导机制与受益环节。
大语言模型技术原理
- Transformer架构为核心:报告指出,当前主流大语言模型均基于Google提出的Transformer架构,其自注意力机制(Self-Attention)能够并行处理序列数据,有效解决长距离依赖问题,是模型能力跃升的关键技术基础。
- 预训练+微调范式:大模型采用“大规模无监督预训练+下游任务有监督微调”的两阶段训练模式,预训练阶段在海量文本语料上学习语言规律,微调阶段针对具体应用场景优化模型表现。
- Scaling Law(规模法则):模型性能与参数量、训练数据量、计算量之间存在幂律关系,增大模型规模可带来可预测的性能提升,这是各厂商竞相推出千亿级参数模型的核心驱动力。
大模型演进脉络
- GPT系列引领技术潮流:报告梳理了从GPT-1到GPT-4的演进路径,模型参数量从1.17亿增长至万亿级别,训练数据从BookCorpus扩展到多模态海量数据,能力从文本生成延伸至复杂推理与多模态理解。
- 主流厂商竞相布局:除OpenAI外,Google(PaLM、Gemini)、Meta(LLaMA)等厂商亦推出代表性大模型,开源与闭源路线并行,推动模型生态多元化发展。
- 多模态与Agent化趋势:大模型正从纯文本向图文、音视频等多模态方向演进,同时结合外部工具调用与规划能力,逐步向AI Agent(智能体)形态发展,拓展应用边界。
算力需求测算框架
- 训练算力测算模型:报告提出训练阶段算力需求(FLOPs)≈ 6 × 模型参数量 × 训练数据量(token数),并考虑GPU利用率(通常为30%-50%)进行修正,据此测算不同规模模型所需的GPU卡数及总算力规模。
- 推理算力测算逻辑:推理阶段算力需求与模型参数量、用户访问量、单次推理输出长度等因素相关,报告估算了典型应用场景下的每日推理算力消耗,并指出推理需求将随应用渗透率提升而持续增长。
- 算力需求测算示例:以GPT-4级别模型(约1.8万亿参数)为例,单次训练需约千卡级A100集群运行数月,对应总算力需求达百EFLOPS级别;推理侧若达到千万级日活用户,所需总算力将数倍于训练阶段。
算力产业链受益分析
- AI芯片需求爆发:大模型训练与推理高度依赖GPU/AI加速卡,NVIDIA A100/H100等产品供不应求,国产AI芯片(如昇腾、寒武纪)迎来替代机遇。
- 服务器与整机升级:AI服务器(搭载多颗GPU)需求量快速攀升,带动高速互联(NVLink、PCIe)、散热(液冷)、电源管理等配套环节价值量提升。
- 网络与基础设施扩容:大模型分布式训练依赖高速数据中心网络(400G/800G光模块),同时带动IDC机房、电力配套设施的需求增长,算力基建成为确定性受益方向。
关键结论
- 大模型技术迭代加速,算力是核心瓶颈:模型参数与数据量的指数级增长,使得算力成为制约AI发展的关键要素,算力基础设施投资具备长期确定性。
- 训练算力需求可量化,推理需求弹性更大:训练算力可通过模型规模精确测算,而推理算力随应用渗透呈非线性增长,远期推理算力需求将超过训练。
- AI芯片为产业链核心环节:GPU/AI加速卡是算力供给的基石,其性能与供给能力直接决定大模型训练效率,国产替代空间广阔。
- 算力产业链景气度持续上行:从芯片、服务器到网络设备、IDC基础设施,全产业链均受益于AI算力需求扩张,建议关注具备核心技术壁垒与客户资源的环节。
- 投资需关注技术路线变化与供给瓶颈:模型架构创新(如MoE混合专家)可能改变算力需求结构,同时先进制程产能、HBM存储等供给瓶颈可能影响算力释放节奏。
常见问题
《20230424-电子设备-电子AI+系列专题报告(一):AI大语言模型的原理、演进及算力测算-国信证券》的核心结论是什么?
报告主旨概述 本报告为国信证券电子AI+系列专题研究首篇,聚焦AI大语言模型(LLM)的技术原理、发展演进脉络及算力需求测算。
《20230424-电子设备-电子AI+系列专题报告(一):AI大语言模型的原理、演进及算力测算-国信证券》有哪些关键数据?
## 大模型演进脉络 - **GPT系列引领技术潮流**:报告梳理了从GPT-1到GPT-4的演进路径,模型参数量从1.
是否可以在线预览这份报告?
三三数据报告集汇支持报告在线预览与 AI 结构化摘要,完整文档可下载阅读。
这份报告的发布机构和页数?
本报告由 国信证券 发布,共 36 页,可在三三数据报告集汇在线阅读。
文档多久更新一次?
2023-04-25 为本份文档更新时间,平台持续上新行业报告资源。