
新智元报道

Codex在帮OpenAI加速造ChatGPT,这事儿大家已经不陌生了。
11月19日,OpenAI又在官方推文更进一步说:现在,Codex也在帮着他们让ChatGPT跑得快。
AI不仅帮忙造AI,连日常修修补补的活,也开始接手干了。

当你遇到ChatGPT对话突然中断,或者图片加载不出来时,后台很可能就已经有AI在查原因了。
这背后,是OpenAI刚公开的一套名为「性能工厂」的内部系统,线上一变慢、报错,Codex就自动接手:查原因、提修复,上线后再盯数据验效果。
从告警、AI查因和提出修复,到人工审核上线、AI验证恢复;仍未恢复就返回重查。
三个多月,「性能工厂」跟进了1700多次故障调查,平均每天出警17次,其中600多起问题,被揪出了真正的病根。
ChatGPT一卡
第一个到现场的是AI
ChatGPT老卡,最直接的原因竟是它改得太快了。
负责ChatGPT性能团队的Martin Spier在演讲中提到,团队同时面对两股压力:用ChatGPT的人越来越多,工程师更新代码的节奏也越来越快。
到2026年2月,每周使用ChatGPT的人已经超过9亿;而早在2025年10月,OpenAI就披露,使用Codex的工程师每周合并的代码变更请求(PR)增加了70%。
每一个新功能上线,都要从同一份「速度预算」里切走一小块。
单看每次影响微乎其微,可一次次更新叠加起来,就变成了你屏幕上肉眼可见的卡顿。
更扎心的是Spier的一句话:以前软件每次上线的改动都有人完全看懂,现在这个默认前提在OpenAI已经失灵了。
改动多到人眼看不过来,查问题的苦活,就只能交给AI来扛。
具体怎么查?
ChatGPT一变慢或报错,监控就会拉响告警。
系统收到信号,立马建单,派一个Codex赶赴现场。
它先锁定两件事:哪些指标变了,从什么时候开始变的。
摸清时间线后,再去翻代码、查日志、顺着请求链路,把CPU和内存的运行底账挨个过一遍。
如果同一个毛病往往会同时触发好几条告警,它还会把它们归拢合并,排好优先级。
不仅如此,Codex还会顺手写好修复方案,递给工程师审核。
这套流水线也是AI一步步「逼」出来的: 最早期,全靠人力硬啃,性能团队为此攒下了30多个专用工具。
后来,有了Codex,工程师拉它当搭档,让AI帮忙翻数据,自己再来解读答案。
再往后,团队干脆把老手的排查经验写成一套可复用的技能,Codex拿到告警就能顺着套路跑出诊断。
跑着跑着,工程师发现自己混成了「人肉传话筒」:每天干得最多的活,居然是把告警一条条复制粘贴给Codex。
于是,团队干脆把告警直接接进Codex,查完自动往Slack里弹报告。
等调查量越滚越大,每个问题最终都变成了一张流转的任务单,由智能体一站站往下推,「性能工厂」就逐渐成型了。
工程师嫌弃的苦活累活,就这样一步步被AI接了过去。

从人工排查到系统派单,性能团队逐步搭起智能体工厂。
10次诊断错3次
AI凭什么替你修卡顿
当AI对你说「找到原因了」,你敢闭眼相信吗?
OpenAI自己就在这上面栽过跟头。
早期的智能体,抓到第一个看似说得通的解释就会急着收工交差。事后复盘,有不少判断根本就站不住脚。
OpenAI曾人工抽查了100条AI给出的根因判断,结果只有70条算得上准确。
剩下的30条,有的分析还得继续打磨,有的还没拿出足够证据,证明找到的就是真正病根。
工程师要是被AI指错了路,顺着假病根折腾半天,比「查不出原因」更耽误工夫。
OpenAI的法子是:给诊断增加一道对抗性审查。
派一个独立的Codex当审查员,它唯一的任务,就是推翻前一个Codex的诊断。
在官方博客里,OpenAI还晒过一次真实的「打脸现场」。
当时有一批ChatGPT对话接连失败。
调查组Codex查了一圈,发现是图片下载出了错,立即宣布「原因已找到」。
Codex审查员却发现,负责定位文件的内部服务老早就恢复正常了,可前方的图片请求还在源源不断地报错。
这份草率的诊断因此直接被打回重查。
哪怕诊断过了关,后面的修复方案,也得过同一道审查。
Codex审查员还会继续死磕:改法真对准根因了吗?会不会修好旧伤,顺手又带出新bug?
指望单个AI永不犯错不现实,让两个AI互相挑错,才能多拦下一些站不住脚的判断。
有些修复
最后还得人拍板
即便是上了「左右互搏」这样的保险,OpenAI还是承认:开对药方,远比查出病根难得多。
智能体给出的修复方案,有时会把简单问题绕得过于复杂,有时则会拆东墙补西墙,捅出新篓子。
比如「加缓存」就是最典型的例子。
响应慢时,加一层缓存确实能让回答更快,但代价是你很可能会刷出过期的内容。
要速度,还是要新鲜度?改几行代码解决不了,这是一道架构上的取舍题。
这时,AI的短板立刻就显现出来了:它算得清毫秒级的延迟,却无法替人类的产品体验拍板。
所以OpenAI内部,死守着最后一道防线:每个修复方案,都必须经过工程师点头才能上线。

Codex生成的任务报告,列出性能变化、根因与修复方案,供工程师审核。
代码上线后,盯盘的苦活又交回给了智能体,等指标彻底恢复,任务结案。
以后替你修ChatGPT的
可能都是AI
把这么多智能体放进核心后台翻代码、查日志,安全边界怎么守?
OpenAI给它们套上了严格的「笼头」:每个智能体都用独立的服务身份运行,权限被划好了边界,谁查了什么、动了哪里,每个动作都能精准追溯到具体的AI头上。
这还只是被动「救火」。
按Spier介绍,团队手里还养着一批主动出击的专项智能体。
它们全天候盯着CPU、内存、网络请求和数据库查询,专门寻找能榨出性能的优化空间。
这些智能体直接以团队里擅长对应领域的大牛同事命名,比如「Ben智能体」「Brendan智能体」。
顶尖工程师的看家本领,被复制成了一个个24小时在线、不知疲倦的「AI分身」。
过去人们畅想「AI改进AI」,总喜欢把它想象成某一天突然降临的技术跃迁。
现实可能没那么轰轰烈烈。
它可能就藏在一次卡顿背后,AI与AI之间的一轮轮排查、辩论和修改里。
参考资料:
https://openai.com/index/how-openai-performance-factory-keeps--fast/
编辑:元宇