全球 LLM 大模型发展完整历史线
从 2017 年 Transformer 诞生到 2026 年 6 月 openPangu 2.0 开源 · 完整发展脉络
9+
年跨度
7
发展阶段
49
里程碑事件
3
置信度等级
🗓️完整发展时间轴
点击上方筛选器按厂商或置信度过滤事件。时间轴沿轴线自上而下按时间顺序排列。
第一阶段
技术奠基期
2017
LLM 底层架构诞生。
2017-06Google《Attention Is All You Need》—— Transformer 架构证
首创纯自注意力(Self-Attention)+ 编码器-解码器架构,取代 RNN/LSTM 循环结构,实现序列并行训练。所有现代 LLM 与多模态大模型的唯一技术原点,全表唯一的 T0 基石级节点。
来源:Vaswani et al., arXiv:1706.03762(NeurIPS 2017)
第二阶段
预训练范式确立期
2018 – 2019
生成与理解双技术路线定型。
2018-06OpenAI GPT-1(约 1.17 亿参数)证
Decoder-only 单向预训练 + 下游微调范式,确立生成式路线。
来源:Radford et al.《Improving Language Understanding by Generative Pre-Training》
2018-10Google BERT(1.1 亿 / 3.4 亿参数)证
Encoder-only 双向掩码语言模型(MLM),多项 NLU 榜单碾压传统模型。与 GPT 形成"生成(GPT)+ 理解(BERT)"双路线,沿用至今;带动全球预训练模型研发浪潮。
来源:Devlin et al., arXiv:1810.04805
2019-02OpenAI GPT-2(15 亿参数)证
取消下游微调,展现零样本(zero-shot)泛化。建立"大数据 + 大参数 → 强通用能力"的工程认知。
来源:Radford et al.《Language Models are Unsupervised Multitask Learners》
第三阶段
千亿规模跃迁 + 产业落地萌芽
2020 – 2021
2020-05OpenAI GPT-3(1750 亿参数)证
首个千亿级通用模型,45TB 文本预训练(raw,过滤后实际约 570GB / 300B tokens),支持零样本/少样本跨任务生成。验证规模定律(Scaling Law),完成"实验室模型 → 产业工具"跨越,触发全球大模型军备竞赛。
T1 产业范式级 · 千亿产业化起点
来源:Brown et al., arXiv:2005.14165
2020 / 2021Google T5 / FLAN证
T5 统一 NLP 为"文本到文本"框架;FLAN 落地大规模指令微调。奠定"预训练 + 指令微调 + 对齐"的现代生产流水线。
来源:Raffel et al.(T5, arXiv:1910.10683);Wei et al.(FLAN, arXiv:2109.01652)
2021-07华为盘古大模型首次官方发布参
国内较早的千亿级中文大模型之一,官方口径为"超千亿参数的中文预训练大模型",基于昇腾 + MindSpore。国产"芯片 + 框架 + 模型"全栈能力的早期证明。
来源:英文维基 Pangu 条目("officially launched on July 2021");华为云官方页面
2021-10Microsoft × GitHub Copilot(Codex)证
首个现象级垂直 AI 工具,实时代码补全/生成。完成大模型生产力工具商业化闭环,重构开发者工作流。
2021-03GLM 架构论文——自回归空白填充证
提出 autoregressive blank infilling 预训练目标 + 2D 位置编码,统一 NLU/NLG,区别于 GPT 的 decoder-only 路线。是后来 GLM 全家桶架构的根基。
来源:arXiv:2103.10360;ACL 2022
第四阶段
对话革命 + RLHF 对齐成熟
2022
2022-01OpenAI InstructGPT(GPT-3.5 雏形)证
落地 SFT + RLHF(人类反馈强化学习)完整对齐体系,成为对话大模型标配,为 ChatGPT 奠基。论文于 2022 年 3 月 4 日提交。
来源:Ouyang et al., arXiv:2203.02155
2022华为盘古气象大模型(Nature 正刊)证
三维神经网络中期全球天气预报,将传统数值预报(数小时级)压缩至秒级;地表分辨率 0.25°(25×25 km)、时间分辨率 1 小时。开创 AI for Science 大模型赛道,颠覆传统数值模拟范式。
来源:Bi et al.《Accurate medium-range global weather forecasting with 3D neural networks》, Nature;华为云官方页面
2022-11-30OpenAI ChatGPT(GPT-3.5-turbo)证
RLHF 优化的多轮对话模型,免费向全民开放。成为人类史上普及最快的消费级科技产品之一(公开报道 2 个月用户破亿),倒逼全球科技公司战略转向 AI,开启"闭源商用 vs 开源普惠"双格局。
T1 产业范式级 · 全民 AI 普及
2022-08GLM-130B 开源证
开源 130B 双语 dense 模型,是首批 100B+ 量级开源模型之一;INT4 量化后 4×RTX 3090 即可推理。被视为国产开源大模型的标志性起点。
来源:arXiv:2210.02414;ICLR 2023
第五阶段
开源爆发 + 多模态登顶 + 国产崛起
2023
2023-02Meta LLaMA(7B–65B)证
高质量开源基础模型,以"研究预览"形式发布权重后社区广泛二次开发。技术民主化革命——打破闭源垄断,催生 Alpaca、Vicuna 等大量衍生模型,开源生态成型。
T1 产业范式级 · 开源民主化
来源:Touvron et al., arXiv:2302.13971
2023-03OpenAI GPT-4(多模态)证
图文多模态输入、长上下文、顶级推理,多项专业考试超越人类专家水平。确立高端大模型"多模态 + 强推理"标准,全行业进入"GPT-4 对标时代”。
T2 能力范式级 · 多模态 + 强推理标杆
2023-03华为 PanGu-Σ(万亿级,1085B 参数)证
1085B 参数、329B tokens、覆盖 40+ 自然/编程语言,512 颗昇腾 910 训练 100+ 天,采用 Random Routed Experts(RRE)。
来源:arXiv:2303.10845(2023-03-20 提交);维基百科条目
2023 年中中国大模型集体爆发("百模大战"元年)证
- 百度文心一言(2023-03-16 邀请测试)
- 阿里通义千问:2023-04-07 内测,2023-04-11 阿里云峰会对发布,2023-09-13 公众开放
- 讯飞星火、字节豆包等集中发布
来源:百度百科通义千问条目(载明 04-07 / 04-11 / 09-13 时间点);媒体报道
2023-03智谱 ChatGLM-6B证
62 亿参数双语对话模型,消费级显卡仅需 6GB 显存即可本地部署。社区爆款,被认为是 ChatGPT 的国产开源替代品。
来源:GitHub THUDM/ChatGLM-6B
2023-09Mistral 7B证
7B dense 开源(Apache 2.0),以小博大超越 Llama 2 13B,是欧洲开源大模型代表。
来源:mistral.ai/news/announcing-mistral-7b
2023-12Mixtral 8x7B(MoE)证
稀疏 MoE 架构,总参~47B / 激活~13B,开源多项基准超越 GPT-3.5,是开源 MoE 里程碑。
来源:mistral.ai/news/mixtral-of-experts
第六阶段
推理范式革命 + 全模态 + MoE 工程化
2024
2024-02Google Gemini 1.5(100 万 token 上下文)证
MoE 架构,100 万 token 上下文窗口(限量开放,标准 128K)——上下文长度的重大跃迁。
来源:维基百科 Gemini 条目(2024-02 发布)
2024-05DeepSeek-V2 开源(236B/21B MoE)证
开源第二代 MoE,引入 MLA(多头潜在注意力)+ DeepSeekMoE,性能对标 GPT-4 Turbo。奠定 DeepSeek 的 MoE 技术路线。
2024-05OpenAI GPT-4o(全模态实时交互)证
文本/图像/音频超低延迟实时交互。多模态从"高端配置"变为"基础能力"。
2024-09-12OpenAI o1 —— 首个"推理模型"证
强化长思维链(chain-of-thought)推理,模拟"系统 2"深度思考。维基百科将其定义为首个被称为 "reasoning model" 的 LLM,推动大模型从"内容生成"进阶到复杂逻辑推理 / 科研创新,开启"推理模型"范式。
T2 能力范式级 · 推理模型范式
2024-12-26DeepSeek-V3 开源(671B / 37B 激活 MoE)证
671B 总参 / 37B 激活,14.8T tokens 预训练,仅需 2.788M H800 GPU 小时;首创无辅助损失(auxiliary-loss-free)负载均衡 + 多 token 预测(MTP);全程训练无不可恢复 loss spike、无回滚。以极低算力达到闭源前沿水平,重新定义大模型训练成本预期。
来源:arXiv:2412.19437(DeepSeek-V3 技术报告);维基百科
2024-01智谱 GLM-4 / GLM-4V证
API 上线 128K 上下文对标 GPT-4;GLM-4V 提供视觉理解;同期开源 GLM-4-9B 并发布技术报告《ChatGLM: A Family of Large Language Models》。
来源:arXiv:2406.12793
2024-03月之暗面 Kimi 200 万字长上下文参
消费级最长上下文(200 万汉字),掀起国内长上下文军备竞赛。
来源:Wikipedia Kimi 条目
2024-03xAI Grok-1 开源证
xAI 开源 Grok-1 base 权重 + JAX 代码,社区可本地运行。
来源:GitHub xai-org/grok-1
2024-12微软 Phi-4证
14B 小模型(SLM),以数据质量为核心的训练法,证明"小而精 + 高质量数据"路线,是端侧/低延迟代表。
来源:Phi-4 技术报告
第七阶段
推理深化 + 开源重塑 + 国产软硬件突围
2025 – 2026.06
2025-01-20DeepSeek-R1 开源(671B/37B MoE,MIT 协议)证
基于 V3-Base 的推理模型:R1-Zero 首次公开验证"纯 RL(GRPO,无 SFT)即可激发推理能力"——AIME 2024 pass@1 从 15.6% 升至 71.0%(自一致性达 86.7%);完整 R1 模型达 79.8% 对标 OpenAI-o1(MATH-500 97.3 vs 96.4,AIME 2024 79.8 vs 79.2)。
- 开源:MIT 协议,含 R1-Zero、R1 及 6 个蒸馏小模型(1.5B/7B/8B/14B/32B/70B,基于 Qwen2.5 与 Llama3);R1-Distill-Qwen-32B 在 AIME 2024 超越 o1-mini(72.6 vs 63.6)。
来源:arXiv:2501.12948(2025-01-22 v1 提交);HuggingFace 模型卡
2025-02DeepSeek"开源周"(基础设施全开源)参
2-24 起 5 天连续开源 FlashMLA / DeepEP / DeepGEMM / DualPipe / 优化并行策略,把训练/推理底层基础设施全面开源,震动英伟达 CUDA 生态话语权。
2025-03-25Google Gemini 2.5 Pro 登顶 LMArena证
带思维链推理、原生多模态,发布即登 LMArena 榜首。
来源:维基百科 Gemini 条目
2025-04-10华为 Pangu Ultra(135B dense)证
135B 参数 dense(非 MoE),13.2T tokens,8192 颗昇腾 NPU 训练;提出"depth-scaled sandwich normalization"消除 loss spike。基准自称优于 Llama 405B、Mistral Large 2;模型不开源,仅限华为商业客户使用。
来源:Pangu Ultra 技术报告(2025-04-10 提交)
2025-04-29阿里 Qwen3 开源(0.6B–235B,8 款,Apache 2.0)证
235B 旗舰(36T tokens 为全系列预训练量)+ 0.6B 起,共 8 款(2 MoE + 6 Dense);国内首个支持"思考/非思考"模式切换的混合推理模型,支持 119 种语言。通义系列截至此时已开源 200+ 模型、全球下载超 3 亿、派生超 10 万。
来源:维基百科 Qwen 条目;百度百科
2025-05-22Anthropic Claude 4(Opus 4 / Sonnet 4)证
hybrid 模型(即时响应 + 扩展思考);Claude Opus 4 SWE-bench Verified 72.5%(Terminal-bench 43.2%),Sonnet 4 SWE-bench 72.7%;支持扩展思考中并行调用工具;可连续自主工作数小时(Rakuten 7 小时重构案例)。确立 AI 编程 Agent 性能前沿。
来源:Anthropic 官方博客
2025-06-20华为盘古 5.5(HDC 2025,718B MoE)证
NLP 深度思考 718B MoE(256 专家);30B CV 模型(号称业内最大 CV);5 个行业专用深度思考模型(医疗/金融/政务/工业/汽车);盘古世界模型(World Model)——生成数字物理空间训练智驾与具身机器人。
来源:华为云官方新闻稿(东莞,2025-06-20)
2025-06-30华为 openPangu 首次开源(openPangu 1.0)证
开源 7B openPangu(dense)+ 72B openPangu Pro MoE(16B 激活),推理针对昇腾优化。华为首次正式进入全球开源大模型主赛道,是 openPangu 2.0 的直接前序。
T3 中国产业级 · 华为入局开源
来源:维基百科 Pangu 条目(2025-06-30)
2025-07-04Pangu Pro MoE ↔ Qwen 参数相似性争议参
研究者于 GitHub 指控 Pangu Pro MoE 注意力参数分布与阿里 Qwen "极高相似";华为诺亚方舟实验室否认在其他模型上增量训练,称已按开源协议合规署名;指控仓库后被删除。开源合规与署名争议的真实案例。
来源:维基百科 Pangu 条目
2025-07月之暗面 Kimi K2 开源证
1 万亿总参 / 32B 激活 MoE,主打 agent 与代码,128K 上下文,开源。
来源:moonshot.cn
2025-07xAI Grok-4证
号称"世界最聪明模型",原生工具调用 + 实时搜索;SuperGrok Heavy 档 $300/月。
来源:x.ai/news/grok-4
2025-08-07OpenAI GPT-5(统一系统 + 路由)证
统一系统,自动实时路由"快速模型 / 深度推理(GPT-5 thinking)",替代 GPT-4o、o3、o4-mini、GPT-4.1、GPT-4.5;SOTA:AIME 2025 94.6%、SWE-bench Verified 74.9%、MMMU 84.2%;引入 "safe completions" 安全范式(取代二元拒绝);GPT-5 pro 替代 o3-pro。从"多模型矩阵"收敛为"单系统智能路由",重构产品形态。
T2 能力范式级 · 统一路由系统
来源:OpenAI 官方博客
2025-09-29华为 Connect 2025:全栈开源路线图证
宣布 2025-12-31 前开源 MindSpore 工具链、openPangu 模型、CANN 接口——国产 AI 软件栈系统性开源。
2025-11-18Google Gemini 3 Pro / 3 Deep Think证
sparse MoE,最长 64K 输出。该发布据报促使 OpenAI 加速于 2025-12-11 推出 GPT-5.2 应战——双巨头节奏对抗的典型案例。
来源:维基百科 Gemini 条目
2026-01-12Apple Siri 接入 Gemini参
苹果宣布在新版 Siri 中使用 Gemini,标志性跨厂集成。
2025-09智谱 GLM-4.6(开源 Coding 标杆)证
355B 总参 / 32B 激活 MoE,主打代码与 Agent,Intelligence Index v4.0 得 42 分,国产开源 Coding 模型标杆。
来源:z.ai/blog/glm-4.6;GitHub zai-org/GLM-4.6
2026-02智谱 GLM-5证
旗舰发布,主打复杂系统工程与长程 Agent;Intelligence Index v4.0 得 50 分,新一代开源权重标杆。
来源:z.ai/blog/glm-5;Reuters
2026-02阿里 Qwen3.5 开源参
Qwen3-Next/VL/Max(2025-09)→ Qwen3.5(2026-02)。
来源:百度百科通义千问时间线
2026-06-12华为 openPangu 2.0 开源(HDC 2026)参
- Pro 版 505B 总参 / 18B 激活;Flash 版 92B 总参 / 6B 激活;均支持 512K 上下文
- 计划 6-30 起陆续开源 7 大组件(含新增预训练代码、后训练代码、训练算子);深度适配昇腾与鸿蒙 Agent
来源:2026-06-12 华为 HDC 2026 主题演讲,余承东发布(中文科技媒体报道)
2026智谱 GLM-5.2证
开源 SOTA 代码模型,1M token 无损上下文,长程任务更稳定,定位"长任务时代"。
来源:bigmodel.cn;z.ai
🏆全球 LLM 历史顶级里程碑(按行业变革权重)
按"对行业变革的权重"而非单纯时间排序。
T0 基石级(无替代)
- 2017 Transformer(arXiv:1706.03762)
T1 产业范式级
- 2020 GPT-3(千亿产业化起点)
- 2022 ChatGPT(全民 AI 普及)
- 2023 LLaMA(开源民主化)
T2 能力范式级
- 2023 GPT-4(多模态 + 强推理标杆)
- 2024 o1(推理模型范式)
- 2025-01 DeepSeek-R1(开源推理 + 纯 RL 范式)
- 2025-08 GPT-5(统一路由系统)
T3 中国特色产业级(不可替代)
- 2021 盘古首次发布(国产全栈千亿破冰)
- 2022 盘古气象大模型登 Nature(AI for Science 赛道开创)
- 2025-06-30 openPangu 1.0 开源(华为入局开源)
- 2026-06-12 openPangu 2.0(国产软硬件开源生态深化)
📚引用与数据来源清单(primary 优先)
arXiv 论文(一手)
- Vaswani et al. 2017 — Attention Is All You Need — arXiv:1706.03762
- Devlin et al. 2018 — BERT — arXiv:1810.04805
- Brown et al. 2020 — GPT-3 — arXiv:2005.14165
- Ouyang et al. 2022 — InstructGPT — arXiv:2203.02155
- Touvron et al. 2023 — LLaMA — arXiv:2302.13971
- PanGu-Σ 2023 — arXiv:2303.10845
- DeepSeek-V3 2024 — arXiv:2412.19437
- DeepSeek-R1 2025 — arXiv:2501.12948
- Raffel et al. 2019 — T5 — arXiv:1910.10683;Wei et al. 2021 — FLAN — arXiv:2109.01652
- GLM 架构 — arXiv:2103.10360;GLM-130B — arXiv:2210.02414;ChatGLM 技术报告 — arXiv:2406.12793
Nature
- Bi et al. — Accurate medium-range global weather forecasting with 3D neural networks — Nature(盘古气象)
厂商官方
- OpenAI 官方博客(GPT-4 / GPT-4o / o1 / GPT-5 / GPT-5.2)
- Anthropic 官方博客(Claude 4)
- 华为云官方新闻稿(盘古 5.5,2025-06-20);华为 HDC 2026(openPangu 2.0,2026-06-12)
- DeepSeek GitHub / HuggingFace 模型卡(R1、V3)
- 阿里云(Qwen3)
- 智谱AI(z.ai);Mistral AI(mistral.ai);xAI(x.ai);月之暗面(moonshot.cn);微软 Phi(azure.microsoft.com)
百科(secondary / 参考)
- 维基百科(英):Pangu、DeepSeek、Gemini、Qwen、OpenAI o1 等条目
- 百度百科:通义千问、盘古大模型条目