ChatGPT越改越卡?OpenAI派AI自己查,揪出600多个病根

栏目:互联网 | 来源:新智元 | 2026-11-20 22:38

新智元报道

Codex在帮OpenAI加速造ChatGPT,这事儿大家已经不陌生了。

11月19日,OpenAI又在官方推文更进一步说:现在,Codex也在帮着他们让ChatGPT跑得快。

AI不仅帮忙造AI,连日常修修补补的活,也开始接手干了。

当你遇到ChatGPT对话突然中断,或者图片加载不出来时,后台很可能就已经有AI在查原因了。

这背后,是OpenAI刚公开的一套名为「性能工厂」的内部系统,线上一变慢、报错,Codex就自动接手:查原因、提修复,上线后再盯数据验效果。


从告警、AI查因和提出修复,到人工审核上线、AI验证恢复;仍未恢复就返回重查。

三个多月,「性能工厂」跟进了1700多次故障调查,平均每天出警17次,其中600多起问题,被揪出了真正的病根。

ChatGPT一卡

第一个到现场的是AI

ChatGPT老卡,最直接的原因竟是它改得太快了。

负责ChatGPT性能团队的Martin Spier在演讲中提到,团队同时面对两股压力:用ChatGPT的人越来越多,工程师更新代码的节奏也越来越快。

到2026年2月,每周使用ChatGPT的人已经超过9亿;而早在2025年10月,OpenAI就披露,使用Codex的工程师每周合并的代码变更请求(PR)增加了70%。

每一个新功能上线,都要从同一份「速度预算」里切走一小块。

单看每次影响微乎其微,可一次次更新叠加起来,就变成了你屏幕上肉眼可见的卡顿。

更扎心的是Spier的一句话:以前软件每次上线的改动都有人完全看懂,现在这个默认前提在OpenAI已经失灵了。

改动多到人眼看不过来,查问题的苦活,就只能交给AI来扛。

具体怎么查?

ChatGPT一变慢或报错,监控就会拉响告警。

系统收到信号,立马建单,派一个Codex赶赴现场。

它先锁定两件事:哪些指标变了,从什么时候开始变的。

摸清时间线后,再去翻代码、查日志、顺着请求链路,把CPU和内存的运行底账挨个过一遍。

如果同一个毛病往往会同时触发好几条告警,它还会把它们归拢合并,排好优先级。

不仅如此,Codex还会顺手写好修复方案,递给工程师审核。

这套流水线也是AI一步步「逼」出来的: 最早期,全靠人力硬啃,性能团队为此攒下了30多个专用工具。

后来,有了Codex,工程师拉它当搭档,让AI帮忙翻数据,自己再来解读答案。

再往后,团队干脆把老手的排查经验写成一套可复用的技能,Codex拿到告警就能顺着套路跑出诊断。

跑着跑着,工程师发现自己混成了「人肉传话筒」:每天干得最多的活,居然是把告警一条条复制粘贴给Codex。

于是,团队干脆把告警直接接进Codex,查完自动往Slack里弹报告。

等调查量越滚越大,每个问题最终都变成了一张流转的任务单,由智能体一站站往下推,「性能工厂」就逐渐成型了。

工程师嫌弃的苦活累活,就这样一步步被AI接了过去。

从人工排查到系统派单,性能团队逐步搭起智能体工厂。

10次诊断错3次

AI凭什么替你修卡顿

当AI对你说「找到原因了」,你敢闭眼相信吗?

OpenAI自己就在这上面栽过跟头。

早期的智能体,抓到第一个看似说得通的解释就会急着收工交差。事后复盘,有不少判断根本就站不住脚。

OpenAI曾人工抽查了100条AI给出的根因判断,结果只有70条算得上准确。

剩下的30条,有的分析还得继续打磨,有的还没拿出足够证据,证明找到的就是真正病根。

工程师要是被AI指错了路,顺着假病根折腾半天,比「查不出原因」更耽误工夫。

OpenAI的法子是:给诊断增加一道对抗性审查。

派一个独立的Codex当审查员,它唯一的任务,就是推翻前一个Codex的诊断。

在官方博客里,OpenAI还晒过一次真实的「打脸现场」。

当时有一批ChatGPT对话接连失败。

调查组Codex查了一圈,发现是图片下载出了错,立即宣布「原因已找到」。

Codex审查员却发现,负责定位文件的内部服务老早就恢复正常了,可前方的图片请求还在源源不断地报错。

这份草率的诊断因此直接被打回重查。

哪怕诊断过了关,后面的修复方案,也得过同一道审查。

Codex审查员还会继续死磕:改法真对准根因了吗?会不会修好旧伤,顺手又带出新bug?

指望单个AI永不犯错不现实,让两个AI互相挑错,才能多拦下一些站不住脚的判断。

有些修复

最后还得人拍板

即便是上了「左右互搏」这样的保险,OpenAI还是承认:开对药方,远比查出病根难得多。

智能体给出的修复方案,有时会把简单问题绕得过于复杂,有时则会拆东墙补西墙,捅出新篓子。

比如「加缓存」就是最典型的例子。

响应慢时,加一层缓存确实能让回答更快,但代价是你很可能会刷出过期的内容。

要速度,还是要新鲜度?改几行代码解决不了,这是一道架构上的取舍题。

这时,AI的短板立刻就显现出来了:它算得清毫秒级的延迟,却无法替人类的产品体验拍板。

所以OpenAI内部,死守着最后一道防线:每个修复方案,都必须经过工程师点头才能上线。

Codex生成的任务报告,列出性能变化、根因与修复方案,供工程师审核。

代码上线后,盯盘的苦活又交回给了智能体,等指标彻底恢复,任务结案。

以后替你修ChatGPT的

可能都是AI

把这么多智能体放进核心后台翻代码、查日志,安全边界怎么守?

OpenAI给它们套上了严格的「笼头」:每个智能体都用独立的服务身份运行,权限被划好了边界,谁查了什么、动了哪里,每个动作都能精准追溯到具体的AI头上。

这还只是被动「救火」。

按Spier介绍,团队手里还养着一批主动出击的专项智能体。

它们全天候盯着CPU、内存、网络请求和数据库查询,专门寻找能榨出性能的优化空间。

这些智能体直接以团队里擅长对应领域的大牛同事命名,比如「Ben智能体」「Brendan智能体」。

顶尖工程师的看家本领,被复制成了一个个24小时在线、不知疲倦的「AI分身」。

过去人们畅想「AI改进AI」,总喜欢把它想象成某一天突然降临的技术跃迁。

现实可能没那么轰轰烈烈。

它可能就藏在一次卡顿背后,AI与AI之间的一轮轮排查、辩论和修改里。

参考资料:

https://openai.com/index/how-openai-performance-factory-keeps--fast/

编辑:元宇

了解更多

猜你想看

← 返回首页