VOL. 01 · 行业回顾 深度 2026 年 5 月 13 日
A retrospective for senior practitioners

寒武纪
1260 天

自 ChatGPT 于 2022 年 11 月 30 日发布起算,大模型应用领域已经历约 1260 天。 这是一段被严重低估了"密度"的时期 —— 算力曲线、推理范式、产品形态、 工程栈、商业格局乃至开发者职业本身,都至少经历了三轮范式跃迁。 本文为资深从业者准备一份高密度的"地形测绘"。

引子 · Prelude

三年半,五次范式跃迁five paradigm shifts in three and a half years

把这三年半压缩到一张图上,会发现:每一轮"看起来站稳了"的产品形态,往往在 9–14 个月内 就被下一轮范式吞并。RAG 吞并 fine-tuning,多模态吞并纯文本,推理模型吞并 RAG-only 工作流, 智能体吞并对话框 —— 速度与方向都不是 2023 年初任何人能完整预测的。

我们正处在一个不寻常的状态:技术尚未达到稳态,但商业部署已成既成事实。截至 2025 年底, 企业级生成式 AI 支出从 2023 年的 17 亿美元 跃升至 370 亿美元, 三年内增长 21.7 倍 —— 这是软件行业历史上最快的品类扩张。但同期,70–85% 的企业 AI 项目未达预期,42% 的公司 在 2025 年放弃了大部分 AI 项目(2024 年该数字为 17%)。这种"宏观繁荣、微观失败率高"的 组合,是技术成熟度曲线上一个典型却被低估的特征。

作为面向资深读者的回顾,本文跳过"什么是 Transformer"、"什么是 RAG"这类入门内容, 直接对五个阶段做结构性总结:每一阶段的触发事件技术拐点主导工程范式商业形态,以及这一阶段为何会终结。 每阶段附数据、图表、关键模型清单与未解问题。

贯穿全文的一个论点:大模型应用领域的真正瓶颈,从未是模型本身的能力上限, 而是把能力转换为可靠工作流的工程范式。每次范式跃迁,本质上都是 某种工程瓶颈被新模型能力压平,从而让先前"必须人工拼接"的部分变得自动化。 这条主线,比任何一份模型排行榜都更能解释行业的真实演变。

21.7×
企业 GenAI 年支出增长
2023 → 2025
Menlo Ventures, 2025
10,000+
活跃 MCP 服务器数
2026 年初
AAIF / Anthropic
80.9%
SWE-bench Verified 当前 SOTA
(Claude Opus 4.6)
2026 Q1 公开榜
5 hr
前沿模型可独立完成
软件任务时长(50% 成功率)
METR, 2025.11
图 一 · Figure 1

前沿模型时间轴a compressed timeline of frontier model releases

下图以横向时间轴展示主要前沿模型的发布节奏。色块代表能力代际:纯文本(黑)→ 多模态(青)→ 推理模型(朱)→ 智能体原生(金)。模型族沿纵轴分组,便于观察各家 迭代周期的对称性与节奏差异。

2022.Q4 23.Q1 23.Q2 23.Q3 23.Q4 24.Q1 24.Q2 24.Q3 24.Q4 25.Q1 25.Q2 25.Q3 25.Q4 26.Q1 26.Q2 I 奇点时刻 II 基础设施 III 多模态 IV 推理革命 V 智能体 OpenAI Anthropic Google Meta · 开源 中国实验室 视频 / 多模 ChatGPT GPT-4 GPT-4 Turbo GPT-4o o1 o3-mini GPT-5 GPT-5.2 Claude 1 100K Claude 2.1 Claude 3 3.5 Sonnet Computer Use 3.7 Claude 4 Opus 4.5 Opus 4.7 Bard Gemini 1 1.5 Pro (1M) 2.0 Flash 2.5 Pro Veo 3 Nano-Banana Gemini 3 LLaMA 1 LLaMA 2 Mistral 7B Mixtral LLaMA 3 LLaMA 3.3 LLaMA 4 gpt-oss Qwen 1 DeepSeek V2 Qwen 2.5 DeepSeek V3 ★ R1 Qwen 3 V3.2 GLM-5 Midjourney v5 Sora 预览 Runway Gen-3 Sora 公测 Veo 3 (带音频) Sora 2 Kling O1 纯文本 / 经典 多模态 智能体原生 推理 / 思考链
图 1 · 模型发布与能力代际 节点大小近似反映其市场影响力,颜色代表能力代际。注意 2025 Q1 的"DeepSeek 节点" 是少数尺寸超过同期 OpenAI 节点的开源模型 —— 它不仅推动了开源阵营的再次跃迁, 也直接触发了主要闭源厂商的成本结构重估。Sora 2 (2025.09)、Veo 3 (2025.05) 与 Nano-Banana (2025.08) 共同标志着原生多模态生成在 2025 年达到商用门槛。
主体 · The Five Phases

五阶段细解five phases, each with its trigger, peak, and termination

下文按时间顺序拆解五个阶段。每个阶段包含四个分析维度:触发事件主导工程范式生态指标为何被下一阶段吞并

I 2022.11 – 2023.中 奇点时刻
The Singularity Moment

触发:消费级 RLHF 的"意外"成功

2022 年 11 月 30 日,OpenAI 把 GPT-3.5 加上一个简单的对话 UI 公开 —— ChatGPT 在 5 天内达到 100 万用户,2 个月内达到 1 亿月活,至今仍是消费类 软件历史上最快的用户曲线之一。重要的不是底层模型(InstructGPT 已存在近一年), 而是 RLHF + 对话 UI 的组合让普通用户第一次"感觉到"了大模型。 整个行业的预期在三个月内被重新校准。

紧随其后的事件密度令人窒息:2023 年 2 月 LLaMA 1 发布(次月权重泄漏,触发开源 Cambrian explosion,Alpaca / Vicuna / Koala 等迅速诞生);3 月 GPT-4 发布 —— 多模态、显著更强的推理、当时令人震撼的 95 percentile 律考与 SAT 表现; 同月 Anthropic 推出 Claude 1,Google 仓促推出 Bard。下半年又见到 Claude 2 的 100K 上下文、Mistral 7B 等。

主导工程范式:Prompt-only 与单轮调用

这一阶段几乎所有应用都是"在 prompt 上做文章"。system prompt + user prompt 的两段式结构主宰一切,长上下文受限(GPT-4 初版 8K,扩展版 32K), 检索增强尚未标准化。早期产品形态出奇地一致:客服聊天机器人、文本摘要、邮件助手、 以 GitHub Copilot 为代表的代码补全。Notion AI(2023.02)、Jasper、Copy.ai 等 "在已有 SaaS 上贴一层 GPT"的产品形态短暂垄断了 ARR 增速榜。

这个阶段为什么会终结

两个原因:第一,幻觉问题在生产环境暴露。律师援引 ChatGPT 编造的 判例被 sanction(Mata v. Avianca,2023.06)成为标志性事件,强迫行业从" 能不能用模型"转向"如何把模型钉在真实数据上"。第二, 上下文窗口 8K 不够用。法律、医疗、金融等高价值场景的源文档单份就远超 8K, 逼出了对外部检索的工程刚需。这两个因素直接催生了阶段 II 的 RAG 范式。

II 2023.中 – 2024.初 基础设施成形
Infrastructure Crystallizes

触发:检索的工程化与上下文窗口竞赛

2023 年 5 月 Anthropic 把 Claude 的上下文窗口扩到 100K(一次性吃下整本中等长度的书), 同时 OpenAI 在 6 月发布 Function Calling —— 这两件事被低估,但它们重塑了工程范式。Function Calling 把"让 LLM 输出 JSON" 这件不可靠的事情标准化为 API 一等公民;100K 窗口则让 RAG 从"必须"变成"可选", 打开了"长上下文 vs. 检索"的工程争论。

2023 年 11 月 GPT-4 Turbo 把窗口推到 128K、价格降低 3x;同月 Claude 2.1 推出 200K; 2024 年 2 月 Gemini 1.5 Pro 推出 100 万 token 上下文(后扩到 200 万)。 上下文从 KB 级跃升到 MB 级,整本代码仓库、季度财报全集、整套法典都成为单次提示的合理输入。

主导工程范式:RAG + Function Calling + Agent 雏形

2023 上半年 · prompt-only 栈
  • 调用:单轮 chat completion
  • 上下文:8K–32K,整段塞入
  • 外部数据:手工 prompt 拼接
  • 输出格式:自然语言,正则提取
  • 错误处理:人工 retry
  • 主要瓶颈:幻觉、长度
2024 初 · RAG + tool 栈
  • 调用:多轮 + 工具调用循环
  • 上下文:128K–1M,分块检索
  • 外部数据:向量库 + 重排
  • 输出格式:JSON Schema 严格约束
  • 错误处理:自动重试 + 工具回退
  • 主要瓶颈:可靠性、延迟、成本

生态指标:向量库与编排框架的资本盛宴

向量数据库赛道在 2023 年至 2024 年初经历了几乎与 GPU 同步的资本流入。 Pinecone(B 轮 1 亿美元、估值 7.5 亿)、Weaviate、Qdrant、Chroma、Milvus、 以及 PostgreSQL 阵营的 pgvector,构成了从专用到通用的完整光谱。同期 LangChain (2022.10 创立) 和 LlamaIndex 成为编排标准;Haystack、AutoGPT、BabyAGI 则代表了早期 agent 实验,虽然多数不能稳定工作,但它们建立了"循环式 LLM 调用" 的工程心智模型。

这个阶段为什么会终结

RAG 解决了"模型不知道你的数据"的问题,但它没有解决多模态输入 (PDF 里的图表、UI 截图、视频会议录像)、实时音视频交互, 以及 跨模态推理。同时,单纯的文本 RAG 在面对真正复杂的工作流 (比如读一份带表格和图片的研报,再生成投资建议)时显得笨拙。 多模态自此成为必选项,而非加分项。

III 2024.全年 多模态成为默认
Multimodal as Default

触发:GPT-4o 与 Claude 3 同期到位

2024 年 3 月 Anthropic 一次发布 Claude 3 三件套(Haiku/Sonnet/Opus),首次把 原生视觉理解放进所有 SKU;2024 年 5 月 OpenAI 发布 GPT-4o —— 单一模型原生处理文本/图像/音频,320 毫秒 语音响应延迟接近人类对话节奏。 2024 年 2 月 Gemini 1.5 Pro 已经能在百万 token 上下文中找回视频中某一帧。 至 2024 年底,前沿厂商的"默认 SKU"都是多模态,单模态被边缘化。

视频生成的"GPT-1 时刻"

2024 年 2 月 OpenAI 预览 Sora —— 1 分钟、1080p、强物理一致性的视频生成, 视觉效果震撼,但当时无法发布给公众。同年内 Runway Gen-3、Luma Dream Machine、 快手 Kling、字节即梦、Pika 1.5 等先后追上甚至在某些维度超越;Google 推出 Veo 2。 Sora 在 2024 年 12 月才公开放出(被称为 Sora "Turbo"),但市场已经移动 —— 这是一个值得资深读者深思的"先发劣势"案例。

主导工程范式:从 RAG 到"多模态 RAG"与原生 vision-language 调用

应用层最大的工程变化是:PDF 不再需要 OCR 预处理。 Claude 3 Opus 与 GPT-4o 都能直接消化扫描件、表格、流程图。pdf2image → vision API 的两步流程取代了 OCR + 文本分块 + 向量化的复杂栈,许多文档智能创业公司在 2024 年 被迫重新定义价值主张。同时音频也开始原生化 —— OpenAI Realtime API(2024.10)、 ElevenLabs Conversational AI 等让"语音 agent"从拼接式(ASR + LLM + TTS) 走向端到端低延迟。

这个阶段为什么会终结

多模态扩展了"输入",但没有显著改善"思考"。在复杂数学、长链推理、agent 任务上, 模型仍频繁出错。MATH、AIME、GPQA 等高难度基准上的得分长期徘徊。 同时,scaling law 红利可见地放缓 —— GPT-5 计划被反复延期, 预训练规模回报递减成为公开讨论。行业需要新的能力来源 —— 推理时计算(test-time compute) 成为答案。

IV 2024.09 – 2025 推理革命
The Reasoning Revolution

触发:o1 与 DeepSeek-R1 双重冲击

2024 年 9 月 OpenAI 发布 o1-preview,明确把"测试时强化学习产生的思考链" 作为一类新的能力来源 —— 模型在回答前内部生成长思考序列。o1 在 IMO 选拔、Codeforces、 GPQA 等高难基准上把 SOTA 抬升 10+ 个百分点。但 o1 是闭源的,思考过程隐藏, 训练方法不公开。

真正的冲击发生在 2025 年 1 月 20 日 —— 杭州 DeepSeek 发布 R1, 这是第一个能力对标 o1、且权重 + 训练方法(GRPO)完全开源的推理模型。 更震撼的是成本:DeepSeek 公开声称其训练集群规模仅为前沿西方实验室的一个数量级以下, 训练成本不到 600 万美元。市场反应剧烈:英伟达单日蒸发约 6000 亿美元市值, 整个"前沿 AI 必须烧百亿美金"的叙事被撕开第一道口子。

Test-time compute 成为新的 scaling axis

整个 2025 年,把更多计算花在推理时 成为各家追逐的方向。 OpenAI o3、Anthropic Claude 3.7 Sonnet(带 extended thinking 开关)、 Gemini 2.5 Pro Deep Think、Qwen QwQ、Mistral Magistral 全都基于该范式。 一个有趣的工程后果:API 计费的"思考 token" 成为新的成本类目, 产品定价开始按"思考预算"分级。

2025 下半年的稳态:四家大厂 + 中国开源

2025 年 8 月 OpenAI 发布 GPT-5(统一路由:简单查询走快速模型,复杂查询触发推理路径)。 11 月 Anthropic 推出 Claude Opus 4.5,进一步把 SWE-bench Verified 抬到 80%+; 12 月 Google 发布 Gemini 3,OpenAI 内部出现著名的"Code Red"应对。 开源阵营则由 DeepSeek V3.2、Qwen 3.5、LLaMA 4、GLM-5 五强领跑。 值得指出的是,前沿闭源与最强开源的差距从 2023 年的约 24 个月, 压缩到 2026 年初的 6–12 个月

这个阶段为什么会被吞并

推理能力的提升解锁了一个先前不可能的应用形态:长链工具调用智能体。 一个能可靠完成 50–100 次工具调用、维持 1–5 小时任务连贯性的模型, 已经不只是"聊天助手"。当 Claude Code、Cursor Agent、Codex 等产品在 2025 年 快速吃下软件工程的实际工作量,对话框作为主交互形态的合法性开始动摇。 阶段 V 的智能体范式由此开启。

V 2025 – 2026 (进行中) 智能体与生产化
Agents & Productization

触发:Computer Use + MCP 协议

2024 年 10 月 Anthropic 发布 Computer Use —— Claude 3.5 Sonnet 第一个具备 原生屏幕理解 + 鼠标键盘控制能力的公开前沿模型。同期 Anthropic 在 11 月 开源 Model Context Protocol(MCP),一个基于 JSON-RPC 2.0 的双向接口标准,让 LLM 与外部工具/数据源的连接从"为每个 API 写一段胶水代码" 变成"接入一个标准化的 server"。

MCP 的采纳速度超过历史上所有 AI 相关协议:2025 年 3 月 OpenAI 宣布全面支持; 4 月 Google DeepMind 跟进 Gemini;2025 年内 Microsoft、AWS、GitHub、Cloudflare 全部加入;2025 年 12 月 MCP 治理权移交给新成立的 Linux 基金会 Agentic AI Foundation。 到 2026 年 5 月,活跃 MCP server 超过 10,000, 注册工具 17.7 万个,月 SDK 下载量 9700 万 —— 这是 Docker / Kubernetes 级别的 采纳曲线。

编码智能体:第一个真正"端到端工作"的应用类目

SWE-BENCH VERIFIED 进展 编码智能体能力的"火箭般"上升 0% 20% 40% 60% 80% 100% 2023.10 2024.04 2024.10 2025.04 2025.10 2026.01 2026.05 2% 基线 13.9% Devin 49% Claude 3.5 64% Claude 3.7 77.2% Sonnet 4.5 80.9% Opus 4.5 ≥80% GPT-5.2/Opus 4.7 人类专业工程师基线约 73%
图 2 · SWE-bench Verified 进展(2023.10 – 2026.05) 从 2% 到 80%+ 用时约 30 个月。这是 ML 基准史上少见的速度。 注意 2024 年下半年的拐点 —— 正是推理模型与 agent 框架 (Claude Code、Codex CLI、Cursor Agent) 共同到位的时间。 目前 SWE-bench Pro(更难子集)SOTA 约 56.8% (GPT-5.3-Codex), 表明"未来一年的难度还有空间"。

Claude Code(2025.02 推出)、OpenAI Codex CLI、Cursor Agent、Devin、Aider、 以及 GitHub Copilot Workspace 共同构成了第一个"真正能干活"的 agent 类目。 关键数据:2026 年初要求 AI 编码工具使用经验的招聘岗位同比增长 340%; Cursor 付费用户 36 万;Codex CLI 首月安装量超过 100 万。 编码 agent 之所以率先成熟,是因为它满足三个工程条件: (1) 输出可机器验证(运行测试);(2) 错误代价相对可控(git revert); (3) 训练数据充足且高质量(公开仓库 + commit 历史)。 这三个条件不是每个领域都具备。

计算机使用 / 浏览器智能体:第二条收敛路径

Anthropic Computer Use(2024.10)、OpenAI Operator(2025.01)、 Google Project Mariner、Anthropic Claude for Chrome(2025)、Cowork(2026) 构成了一类"通过模拟人类操作 GUI 来完成任务"的智能体。 OSWorld 基准上 Claude Opus 4.7 当前 SOTA 约 78%,但实际生产可靠性仍显著低于 编码 agent —— 主要瓶颈是视觉理解的鲁棒性长时间任务的错误累积。这是 2026 年最活跃的研究前沿之一。

METR 的"任务时长翻番"曲线

METR (Model Evaluation & Threat Research) 跟踪一个有意思的指标: 前沿模型能以 50% 成功率完成的软件工程任务长度(按人类完成所需时间计算)。 2023 年初这个数字是几分钟;2024 年初约 30 分钟;2025 年 11 月 Claude Opus 4.5 达到约 5 小时每 5–7 个月翻一番。 如果这条曲线延伸到 2026 年底,最强模型将能独立处理 20 小时级别的任务 —— 即半个标准工作周

这个阶段尚未终结,但其下一道关卡正在显形

MCP 标准化解决了"agent 怎么连工具",但没有解决"多个 agent 怎么协作"。 A2A(Agent-to-Agent)协议、Anthropic 的 Skills 系统、OpenAI 的 Agent Builder 都在试图回答这个问题。同时,身份、授权与审计 成为企业部署 agent 的最大障碍 —— 一个能用你账号点击发送邮件的 agent,需要怎样的权限模型? MCP 在 2025 年 6 月规范更新中强制 PKCE、引入 Cross App Access, 但这仍是个未完成的工程命题。

表 一 · Table 1

主要前沿模型纵览a reference table of frontier releases, 2022 Q4 – 2026 Q2

下表筛选了对应用层产生显著影响的模型发布(不追求穷尽)。 范式 列标记其代表的技术拐点。

发布 模型 组织 意义 / 范式拐点
2022.11.30ChatGPT (GPT-3.5)OpenAI奇点消费级 RLHF + 对话 UI;5 天 100 万用户
2023.02.24LLaMA 1Meta开源权重次月泄漏,触发开源 Cambrian explosion
2023.03.14GPT-4OpenAI代际首个广泛验证的"接近通用智能"模型;多模态视觉
2023.05.11Claude 100KAnthropic长文上下文从 KB 跃迁到百 KB 级
2023.06.13GPT-4 Function CallingOpenAI工程把"让 LLM 输出 JSON"标准化为 API 一等公民
2023.09.27Mistral 7BMistral AI开源欧洲明星实验室成立;7B 击败更大对手
2023.11.06GPT-4 Turbo (128K)OpenAI扩展128K 上下文 + 价格 3x 下降
2024.02.15Sora (preview)OpenAI视频"GPT-1 时刻 of video";首次震撼级文生视频
2024.02.15Gemini 1.5 ProGoogle DeepMind百万第一个百万 token 商用上下文
2024.03.04Claude 3 (Opus / Sonnet / Haiku)Anthropic多模原生视觉 + 三档分级 SKU 模式确立
2024.04.18LLaMA 3Meta开源首次开源模型与前沿闭源差距 < 12 个月
2024.05.13GPT-4oOpenAI实时端到端多模态;320ms 语音延迟
2024.06.20Claude 3.5 SonnetAnthropic编码软件工程领域质变;artifacts 概念引入
2024.09.12o1-previewOpenAI推理第一个公开的"测试时强化学习"前沿模型
2024.10.22Computer UseAnthropic智能体首个原生屏幕控制能力的前沿模型
2024.11.25MCP 协议发布Anthropic协议奠定 agent 工具生态的事实标准
2024.12.26DeepSeek V3DeepSeek开源671B MoE,训练成本 < 600 万美元
2025.01.20DeepSeek-R1DeepSeek震荡第一个开源推理模型对标 o1;引发 NVIDIA 单日蒸发 6000 亿
2025.02.24Claude 3.7 (extended thinking)Anthropic推理把"思考开关"暴露给用户
2025.04.05LLaMA 4 (Scout / Maverick)Meta开源10M 上下文窗口 (Scout)
2025.05.20Veo 3Google视频+音频首个单次生成视频 + 同步音频的商用模型
2025.05.22Claude 4 (Opus / Sonnet)Anthropic代际SWE-bench 72.5%;Claude Code 一同推出
2025.08.07GPT-5OpenAI代际统一路由模型;推理与对话融合
2025.08.26Gemini 2.5 Flash Image ("Nano-Banana")Google图像原生图像编辑能力超越 GPT-Image-1
2025.09.30Sora 2OpenAI视频原生音频 + iOS 社交 app
2025.11.10Claude Opus 4.5Anthropic代际SWE-bench 80.9%;METR 任务时长达 5 小时
2025.12.xGemini 3Google代际触发 OpenAI 内部 "Code Red"
2026.04.16Claude Opus 4.7Anthropic代际1M context;computer use OSWorld 78%
图 三 · Figure 3

应用栈的三次重构how the production stack has been rebuilt three times

下图叠加了 2023、2024、2026 年的"典型生产栈"—— 每次范式跃迁不只是加一层,而是替换或合并之前的某些层。 许多 2023 年红极一时的中间件公司,在 2025 年面临着商业模式被模型本身吞并的现实。

2023 · Prompt + RAG 栈 2024 · Multimodal + Tool 栈 2026 · Agent-native 栈 React 前端 业务后端 API LangChain / 手工 chain Embeddings (Ada/BGE) 向量库 (Pinecone/Chroma) 文本分块 + OCR PostgreSQL LLM API · GPT-3.5/4 8 层 React 前端 业务后端 API Tool / Function 调用层 混合检索 (BM25+向量) 向量库 (整合到 PG) 原生 vision (无需 OCR) PostgreSQL + pgvector 多模态 LLM API 8 层 (重构) 用户界面 (chat / GUI) Agent 编排层 MCP Server Gateway MCP servers (10K+ 可选) 长上下文 (1M+) · "RAG-lite" 观测 / 审计 / 沙箱 PostgreSQL 推理型 LLM (thinking budget) 8 层 (再重构) 2023 引入 / 重要 2024 引入 2025–26 引入
图 3 · 三次栈重构 关键观察:(1) 文本分块 + OCR 层在 2024 年被原生 vision 吸收, 让一批 OCR / 文档智能创业公司失去差异化;(2) LangChain 类编排层 在 2025–26 被 Agent SDK + MCP 取代,但其"链式调用"心智模型保留; (3) 专用向量库在 2024 后大量被 PostgreSQL + pgvector 吞并 —— 除非对延迟 / 规模有极端要求;(4) "MCP server gateway" 是 2025–26 新出现的层,处理认证、限流、审计等企业级关切。
数据 · The Numbers

商业格局与采纳数据market structure and adoption metrics

到 2025 年底,生成式 AI 已经从"实验性预算"过渡到"主要 IT 预算线"。 但这种总量繁荣掩盖了大量微观失败 —— 资深从业者应该同时持有两种数字: 市场总量项目成功率

企业生成式 AI 支出 三年增长 21.7 倍 $0 $10B $20B $30B $40B $1.7B 2023 $11.5B 2024 $37B 2025 ×6.8 ×3.2 2025 支出分布 应用层 > 50% 模型 API 25% 基础设施 15% 其他 10%
图 4 · 企业 GenAI 总支出 数据来源 Menlo Ventures《2025 State of Generative AI in the Enterprise》, 基于约 500 位美国企业决策者的调研 + 自底向上建模。该值仅涵盖企业级支出, 不含消费者端订阅。注意 2025 年支出 超过 50% 流向应用层 而非模型 API,标志着市场从"基础设施豪赌"过渡到"短期生产力红利"。

四组关键统计

采纳率与渗透: 78% 的组织在至少一个业务职能中使用 AI(2023 年为 55%);71% 在多个职能中常规使用 生成式 AI(2023 年 33%);23% 的组织正在规模化部署 agentic AI 系统, 另有 39% 处于实验阶段。但在任一具体职能内,规模化 agent 的组织 不超过 10% —— 说明"全公司部署 agent"在 2026 年仍然罕见。

员工使用: 56% 的美国员工在工作任务中使用生成式 AI;31% 经常使用(9% 每日、17% 每周、5% 每月)。 领导层使用率 33%,几乎是个人贡献者(16%)的两倍 —— 这与人们的直觉相反, 资深读者应该注意这意味着 顶层的预期 / 信号通常超前于实际落地

投资规模: 2024 年美国私募 AI 投资达到 1091 亿美元,是中国的 12 倍。2024 年公司 AI 总投资 达 2523 亿美元,私募增长 44.5% YoY。Gartner 预测 2025 年全球 AI 支出 1.5 万亿美元。 AI agent 类创业公司 2024 年融资 38 亿美元,几乎是上一年的 3 倍。

失败率与现实: 据 MIT、RAND 等独立研究,70–85% 的企业 AI 项目未达预期成果。 42% 的公司在 2025 年放弃了大部分 AI 项目(2024 年仅 17%)。47% 的企业 AI 用户承认 曾基于幻觉内容做出至少一项重大业务决策。这些数字与总量繁荣并存 —— 它们不是矛盾,而是同一现象的两面。

ARR 俱乐部:第一批 10 亿美金应用

Menlo Ventures 统计,截至 2025 年底有至少 10 个产品达到 10 亿美元 ARR, 50 个产品突破 1 亿美元 ARR。除三大基础模型 API(OpenAI、Anthropic、Google)外, 高 ARR 类目集中在:编码(Cursor、Claude Code、Codex 共占编码品类 40 亿美元市场)、 客服销售支持法律(Eve 等,约 6.5 亿美元)、 医疗、以及垂直市场(创作者工具 3.6 亿,政府 3.5 亿)。 编码品类从 2024 年的 5.5 亿美元跃升到 2025 年的 40 亿美元, 是所有 SaaS 历史上单年增速最高的细分

ChatGPT 与 Anthropic 营收

消费端:ChatGPT 在 2025 年中突破 1 亿周活跃用户。OpenAI 在 2026 年 Q1 的年化营收 据多个来源约为 100 亿美元,其中消费订阅约 70%、API 30%。 Anthropic 在 2025 年初的年化营收达 30 亿美元(同比约 10 倍), 其客户结构相反:约 80% 来自企业 API/Bedrock/Vertex 接入,消费端 Claude.ai 约 20%。 Google 的 Gemini 消费应用在 2025 年快速逼近 ChatGPT, 触发了 OpenAI 内部著名的"Code Red"。

大模型应用领域的真正瓶颈,从未是模型能力的上限,
而是把能力转换为可靠工作流的工程范式。
本文核心论点
未尽之事 · Open Problems

2026 年的未解问题where the field is genuinely stuck

以下七个问题,是即使把所有现有技术叠加起来仍无法可靠解决的命题。 对于资深行业研究者,这些是接下来 12–24 个月真正值得关注的"实验点"。

一 · 可靠性:从 80% 到 99.9%

SWE-bench 80% 听起来很高,但任何在生产部署 agent 的人都知道: 80% 成功率意味着每 5 个任务有 1 个失败,且失败模式无法预测。 在企业生产中,可靠性门槛通常是 99%+,agent 距此仍有数量级差距。 Constitutional AI、self-consistency、verifier 模型、多 agent 验证、 以及简单的"输出可机器验证"约束都被尝试,但还没有一个通用解。 当前的 METR 5 小时任务时长 数字应该结合 50% 成功率来理解 —— 实际可"信任"的任务时长还要小一个数量级。

二 · 幻觉的根因 vs. 缓解

三年来幻觉率显著下降(GPT-3.5 系统性测试约 39.6%;前沿模型在标准基准上 降到个位数),但消除幻觉仍是开放问题。Anthropic 的可解释性研究 (Sparse Autoencoders / Circuit Tracing) 第一次把模型内部表征拆解到可读特征级别, 理论上为"在内部抑制幻觉"开了一条路,但工程化距离仍远。 企业部署中目前依赖外部验证(人审、规则、双模型对比、引用强制)作为缓解, 而非根治。

三 · 长任务规划与记忆

即使最强模型,在面对需要跨越数天、涉及数百次工具调用的任务时仍会"漂移"—— 丢失早期上下文、忘记约束、重复犯错。Long-context 不等于记忆:1M token 窗口 在处理多日交互时仍会出现"在窗口中存在但模型没有有效利用"的问题。 几种实验性方案 —— 外部 episodic memory、可学习的 retrieval、 Mem0 / LangMem 等中间件 —— 都没有取得突破性成功。这是 agent 走向 "周级 / 月级任务"的核心瓶颈。

四 · 多 agent 协作与 A2A 协议

MCP 解决了"agent 到工具"的标准化,但"agent 到 agent"仍处在协议草案阶段。 Google 的 A2A、Anthropic 的 sub-agent 模型、Microsoft AutoGen、CrewAI 各有路径。一个核心难题是责任与授权:当一个 agent 委托另一个 agent 执行操作时,操作的法律责任和审计链如何归属?现有的 OAuth、IAM 概念都没有对这种 "拟人但非人"的主体进行专门设计。

五 · 算力/能源约束何时硬撞?

2026 年初,第一批千兆瓦级 (GW) 训练集群开始运行 (xAI Colossus 2、OpenAI Stargate I 期、Anthropic + Amazon Project Rainier)。 但电力配套、变压器供应、冷却水使用都已经触及局部上限。 美国数据中心耗电预计在 2030 年达到全国 8–12%。 如果算力 scaling 真正硬撞墙,下一阶段的能力红利必须来自算法效率 而非粗暴堆参数 —— DeepSeek 已经证明这条路可行,但代价是研发周期被拉长。

六 · 对齐与可解释性

Anthropic 在 2024–2025 年发布的可解释性工作(Toy Models, SAE on Sonnet, Tracing Thoughts)让研究界第一次在前沿模型尺寸上看到了内部表征。 但这些是工具,不是答案。真正的对齐问题 —— 如何确保高自主性 agent 在长期、新颖、高风险场景下保持人类意图 —— 仍然是开放命题。 2025 年内多次发生的 agent 行为"意外"(如 Claude Opus 4 一次受控测试中显示出的 自我保护倾向、Anthropic 公开发表的研究文献)说明这不是科幻而是工程现实。

七 · 经济与劳动市场的真实影响

宏观数据显示,2024–2025 美国实际 GDP 同比增速并未显著偏离 1.4%–3.4% 的近十年区间, 即使在 AI 总投资 2523 亿美元的背景下。一种解释:生产力红利集中在少数职能 (软件工程 15%+ velocity gain,客服自动化等),但宏观经济中大部分产业的 AI 渗透 仍在早期。一个值得追踪的指标:要求 AI 编码经验的岗位同比增长 340%, 而纯实施岗位下降 17% —— 软件工程师作为职业本身正在被重新定义。 其他高知识密度行业(法律、医疗、研究)尚未到达同一拐点,但所有信号都指向 2026–2028 年是关键窗口。

区域 · The China Question

中国阵营的并行轨迹a parallel trajectory worth its own section

2023 年初,中国实验室普遍被认为落后前沿 18–24 个月。三年后,这一判断需要彻底修订。

2025 年 1 月 20 日 DeepSeek R1 的发布是中国 AI 史上的标志性时刻 —— 但更重要的不是单次事件,而是其后续的持续性领先。DeepSeek V3.2-Speciale 在 IMO 2025、CMO 2025、ICPC World Finals 2025、IOI 2025 上取得金牌级表现 —— 这些是所有现存基准中难度最高的。Qwen 3.5 系列在 HuggingFace 月下载量 排行榜上稳居前列。GLM-5 / GLM-5.1(智谱 / Z.ai)在 SWE-bench Pro 上达到 58.4%, 是当前开源模型 SOTA。

三个值得资深读者注意的结构性差异:

一 · 开源比例显著更高

中国头部实验室(DeepSeek、Qwen、智谱、Moonshot、MiniMax、百度文心) 几乎都以开源权重的方式发布前沿模型,且采用 Apache 2.0 / MIT 等真正宽松的许可。 相比之下,西方前沿 Meta 的 LLaMA 在 LLaMA 3.x 后再次收紧。 这造成一个有趣的反转:2025 年开源生态的"重心"已经显著东移, 美国"OSS 模型"的代表反而成了 Mistral 和 OpenAI 的 gpt-oss 系列。

二 · 硬件解耦的实际进展

在美国出口管制下,华为 Ascend 910C/B 已经成为 DeepSeek 等 lab 的训练后备方案; 寒武纪、燧原、壁仞构成第二梯队。这并非"完全替代英伟达"—— 当前 Ascend 在训练效率上仍有 1.5–2x 的差距,但"可用"已经成为现实, 而 2023 年完全不是这种情况。如果硬件解耦持续推进,2026–2027 年会出现一个 完全独立于英伟达生态的中文 AI 栈,这是地缘政治上极重要的发展。

三 · 工程效率压力下的算法创新

DeepSeek V3 的 Multi-head Latent Attention (MLA)、auxiliary-loss-free MoE balancing, 以及 R1 的 pure RL 训练(GRPO)都来自"在算力约束下被迫创新"的环境。 这与 1990 年代日本汽车业在能源危机下发明丰田生产系统的逻辑相似 —— 约束可以是创新的来源。资深从业者应该关注:当西方实验室面对能源 / 监管约束时, 是否会反向采纳来自中国 lab 的算法 idea。

展望 · Looking Forward

2026 年下半年至 2027 年what to watch in the next 12–18 months

已经显形的五条曲线

一、METR 任务时长曲线延伸。 如果当前每 5–7 个月翻番的趋势保持,2026 年底前沿模型在 50% 成功率下能完成 约 20 小时的软件工程任务,即半个标准工作周。但更重要的指标是 同等任务在更高成功率下(90%、99%)的时长,目前尚未公开发布。 2026 年下半年 METR 是否更新该曲线,将是关键信号。

二、千兆瓦集群投产。 2026 上半年首批 GW 级训练集群上线(xAI Memphis 2、OpenAI/Microsoft Stargate I、 Anthropic-Amazon Rainier)。这一代集群训练的模型预计在 2026 末至 2027 初发布。 如果 scaling law 还有空间,这些会带来明显跃迁;如果撞墙,市场叙事会再次重写。

三、扩散语言模型 (Diffusion LLM) 的可能跃迁。 2025 年 Inception Labs 的 Mercury 与 Google 的 Gemini Diffusion (beta) 证明 非自回归生成在文本上可行。Diffusion 的并行解码 + 数据效率, 可能在 2026 年带来一次"非 Transformer"的硬件 / 算法刷新。 Carnegie Mellon 的 2025 年研究显示 diffusion LLM 在低数据 regime 下学习效率更高。 我个人预期 2026 年内至少一家主要实验室会发布一个生产级 diffusion-based LLM。

四、A2A 协议与多智能体生态。 类比 MCP 在 2024–2025 的轨迹,A2A(agent-to-agent)协议会在 2026 年内 看到第一波收敛 —— 可能由 AAIF(Agentic AI Foundation)主导,也可能因 OpenAI/Anthropic/Google 的不同利益而分裂。资深读者应该关注协议层的政治。

五、Computer Use 可靠性的工程突破。 当前 OSWorld 78% 远不够。一旦 GUI agent 突破 90%+, 所有"人工坐在屏幕前点击"的工作流(保险理赔、政府表单、ERP 输入、招聘筛选) 都会面临根本性自动化。这是 2026–2028 年最值得追踪的能力前沿。

三件可能反直觉的事

(1) 上下文窗口不会再大幅扩展。 Transformer 架构的注意力限制让 1M+ 上下文边际效用递减 —— 2025 年 LLaMA 4 Scout 推出的 10M 上下文在实际任务中表现不如预期; Anthropic 一直保守在 200K-1M 区间。预测 2026 年默认上下文不会大幅突破 1M, 而是更好的"长上下文质量"(不是数量)。

(2) 推理模型与对话模型会重新合并。 GPT-5 已经做了"统一路由"——按问题复杂度自动选择推理深度。这会成为标准。 "thinking budget"会从用户可见参数变成厂商内部优化变量, 类似 CPU 的 turbo boost。"是否使用推理模型"在 2026 末可能完全消失为问题

(3) "数据墙"被高估,工具调用与合成数据被低估。 "互联网文本快被用完"的叙事在 2023–2024 流行,但 2025 年的实际发展显示: 合成数据(self-play、强化学习生成的思考链)、工具调用产生的中间数据、 多模态数据(视频中的物理常识)三个来源都没耗尽。 2026–2027 年的瓶颈更可能是评估(如何知道一个模型真的更好) 而非数据(用什么训练)。

收束 · Coda

回到原点a closing observation

三年半前那个 11 月的下午,ChatGPT 上线时几乎所有人 —— 包括 OpenAI 自己 —— 都没预料到接下来会发生什么。Sam Altman 公开发文说 "Twitter for a few hours", 预计周末就能歇下来。结果他错了 1260 天。

作为资深从业者,我们应该从中学到的不是"AI 进展不可预测"—— 这种说法太懒散。真正的教训是:当一项技术同时具备 (a) 强大的内在 scaling 曲线、(b) 与人类语言这种通用接口的紧密耦合、 (c) 工程化壁垒低到任何开发者都能上手实验, 它的传播速度会显著超过基于历史类比的预测。 ChatGPT 不是计算机历史上最强的产品,但它击中了上述三个条件的交集。

2026 年的状态是:奇点时刻的原始震撼已经消散,但结构性变化 才刚刚开始钉入现实。编码工作流被根本重塑;客服、法律、医疗等行业进入 渐进式自动化曲线;新的工程职业(agent 设计师、prompt 系统工程师、 可解释性研究员)开始有正式头衔;MCP 这样的标准协议在悄悄重新分配 软件行业的"接口权"。这些变化没有 ChatGPT 那种 viral moment, 但每一个都比那个 viral moment 更重要。

对资深读者,我对下一阶段的建议简短:少看模型发布会,多读 METR、Anthropic Responsible Scaling、Anthropic 可解释性、以及独立基准的方法学论文把工程精力投入到评估(eval)而非框架对"agent 在你公司能不能用"持谨慎乐观 —— 上限远比想象高, 但失败模式同样远比想象奇特。 最后,1260 天后再写一份这种回顾时, 我们大概率会发现 2026 年的判断中有三分之一是错的 —— 但当下能做的,是把当前能看到的东西用最高密度写下来, 让未来的修订有起点。

— 完 —