
智能体的规模正在快速扩张。IDC预测,到2030年,全球活跃Agent数量将达到22.16亿个,年复合增长率达到139%,年均增长超1倍。
各类智能体也在密集涌现,热度一路走高。从编程、办公到个人助手,从消费端到企业端,智能体正快速进入各个场景,成为今年AI落地的重点方向。
与热度同步攀升的,是Token(词元)的消耗量。国家数据局披露,到今年3月,我国日均Token调用量已超过140万亿,较2024年初增长1000多倍;中国信通院的监测则显示,到今年6月,这一数字已达500万亿。如此庞大的调用量说明,智能体已经走出概念演示,开始承接大量真实任务。
这些被高频调用的智能体,大多集中在通用能力和高频场景。还有一条路线值得单独拿出来看——产业智能体。通用智能体比拼的是场景覆盖和调用频次,产业智能体则直接扎进社区治理、工厂车间、园区和门店这些业务现场,解决琐碎复杂的现实问题和日常事务。
这正是智能云蹚出的一条路子。在10月29日于武汉举行的百度智能云超级智能体大会上,从社区治理、园区运营、制造生产到门店管理,各类场景都涌现出百度智能体落地应用的实际案例:它可以根据居民诉求自动生成治理工单,把群众的需求变成可追踪、可闭环的处理流程;它还能将工厂老师傅的经验沉淀成可调用的技能,方便后续快速复用。

将这些实践连起来,不难看出百度智能体落地呈现出的几个特征:一是场景聚焦产业一线,治理、运营、生产、服务等环节均有实际落地案例。二是
直面复杂需求,尤其是工业制造这类经验密集、流程冗长的领域,对智能体的执行能力要求更高;三是强调任务闭环,能够让需求有结果、经验可复用。要让智能体在企业中长期、规模化地运行,需要先解决资源供给、任务执行、数据连接和安全管理这几道难题。百度智能云因此推出AI Infra与Agent Infra双层基础设施,让智能体成为企业关键生产力。
一、从个人助手到业务主力,智能体闯行业深水区
最近一年,智能体正从个人提效工具,走向企业核心业务场景,落地步伐逐步迈向深水区。会上,百度副总裁石清华称,百度搭子作为通用智能体,今年3月上线后,月活已达千万级,环比增长10倍以上,智能体正在快速向大众渗透。
在C端不断普及的同时,智能体也在企业业务场景释放产业价值。
杭州调味品企业松鲜鲜接入百度搭子后,原本需要两天完成的数据汇总工作,可缩短至3分钟。智能体展现出跨系统数据读取与业务洞察能力,开始连接企业内部系统,参与经营分析和业务判断。
企业业务场景之外,百度搭子还深度参与基层治理。在武汉硚口,政企服务企业鸿海鑫基于百度搭子的基层治理项目已覆盖100万人口、300位用户和40个真实场景。居民在网格群发布的信息,经智能体分析后可自动生成诉求工单,并推送至街道系统跟进处理。在复杂场景下,百度智能体具备非结构化数据处理能力、自动化执行能力与跨系统协作能力。
无论是企业增效还是基层治理,智能体的落地并非一蹴而就,其背后是一整套系统工程的重新构建。随着Agent在企业中的参与度不断提高,相关基础设施也需要同步升级。
百度智能云技术委员会联席主席郑然在接受智东西采访时谈道,企业调用的已不只是一个大模型接口,想要让智能体深入业务,还需要云厂商提供两类支撑:一方面是开箱即用的Agent能力,帮助企业快速接入和试错;另一方面是支撑智能体长期运行的基础设施,包括运行环境、数据连接、安全管理和持续运维等。
而这两类能力,正是百度智能云面向企业智能体落地所提供的底层支撑。
二、智能体要长效,模型之后,要先补“运行底座”
要让智能体在企业中发挥长效价值,需要为它提供一个安全稳定、价值可衡量的运行环境。
首先,智能体需要调用工具和企业内部数据,一旦操作失误就可能引发数据泄露或系统崩溃,因而需要一个安全的执行环境,“沙箱”可以让智能体在封闭环境内执行任务,避免波及其他系统。
其次,大模型还具有随机性,企业还需要知道智能体到底做了什么、花了多少成本、效果如何,这就要求基础设施具备“可观测”能力,帮助企业看清Agent成本、定位问题,推动效果持续迭代。
Agent Infra的本质,正是把一次性的模型调用,变成一个可以长期运行、可观测、可治理的任务系统。智能体部署完成后,真正困难的是让它在企业环境中稳定运行,并持续交付结果。要做到这一点,需要先了解智能体的底层技术形态。成熟的云原生应用能够按需启动,根据任务量弹性调整计算资源,通过标准化方式调用云上的计算、存储和网络资源,由平台持续完成部署、调度和运维。
郑然告诉智东西,智能体本身也是一种云原生应用,现有云原生技术仍然是其运行基础。但智能体的资源需求更具弹性,运行中也在一定的不确定性,未来还可能以海量规模运行,因此云原生基础设施需要进一步演进,以适应它的工作负载。
随着智能体数量快速增长,基础设施还要支撑更大规模的协同运行,这对底层架构提出了更高的要求。这就意味着,Agent进入生产后,企业的核心缺口逐渐从模型转向运行底座。
郑然称,企业如果从头建设Agent Infra,需要覆盖计算、存储、网络、云原生和大模型工程等多个技术领域,建设投入和持续维护成本都很高。云厂商则可以通过上下游协同和规模化运营,把这些能力沉淀为开箱即用、分层可组合的产品。企业可以根据自身所处阶段,灵活选择基础设施、Agent平台或开箱即用的智能体,快速验证想法并持续迭代。
百度智能云的Agent Infra覆盖沙箱、计算、网络、存储、可观测和安全等能力。沙箱负责快速启动任务、隔离运行环境并保存任务状态,让智能体在安全边界内执行任务;计算、网络和存储则像“水电”一样,高效支撑任务执行、数据访问和上下文处理;可观测能力记录智能体的执行轨迹,帮助企业分析成本、效果和故障原因。

通过这些能力,智能体才能长期、稳定、安全地运行。在底层能力之上,百度智能云还进一步降低了智能体调用的门槛。过去,云产品复杂的界面和繁琐的配置往往阻碍了智能体的自动化执行;为此,百度智能云专门针对Agent的调用习惯,深度优化了云产品的交互界面和使用方式,让智能体能够像“调用本地文件”一样,更高效、直接地调度云上的计算、存储和网络资源。
目前,百度智能云已在自有产品和客户项目中持续验证相关能力,为企业提供从资源供给、智能体运行到开发运营的完整支撑。
三、Token需求爆发式增长,AI Infra需要提升资源效率
Agent Infra把智能体的任务跑起来之后,背后还需要AI Infra持续提供模型训练、推理和资源供给。随着智能体数量和调用规模增长,AI Infra面对的压力也在同步上升。IDC预测,这些智能体带来的推理需求将超过100吉瓦。智能体越多、任务链路越长,算力、存储、网络和能源投入就越高,云厂商需要同时扩大资源供给,并提高每单位资源的Token产出效率。
郑然在采访中提到,智能体上下文长度不断提升,模型参数规模持续扩大,结构更加稀疏,后训练占比也在提升。这些变化对计算、存储、网络和推理效率提出了更高要求,基础设施也需要围绕模型训练与推理重新设计,提升长上下文场景下的数据访问和Token效率。
百度智能云通过百舸AI计算平台6.0,将AI计算平台从单纯提供算力,升级为能够协同基础设施、资源管理和工程能力的“智能工厂”,更高效地支撑智能体的运行。

智能体走入更多场景的背后,既需要Agent Infra承接智能体的任务执行、工具调用和运行管理,也需要AI Infra持续提升模型训练推理和资源供给效率。两者协同,才能让智能体在更长任务链路、更大规模的调用中保持稳定运行,并控制整体使用成本。
结语:Agent进入生产现场,全新云底座稳住落地需求
智能体正在从个人工具变成企业业务系统中的执行单元。模型能力只有进入生产环节,才能转化为可以持续复用的产业价值。
当前智能体在越来越多的场景中落地,不断催生新的需求,这种“新”也会带动芯片、光模块、存储等基础设施产业发展,催生新的应用场景和商业模式。
对云厂商而言,竞争重点也从提供单一算力资源,扩展到支撑智能体长期运行的完整基础设施。AI Infra与Agent Infra的协同,正在成为Agent落地的重要路径。