走进 2026 世界人工智能大会(WAIC 2026)的展馆,最直观的变化,是越来越多的大模型不再只停留在云端控制台里,而是有了在现实中可以触摸的载体,并开始进入具体的工作与生活场景。
联想展示的 AI 主机 P7 只有约 300 克,却可支持最高 122B 参数本地模型,在断网状态下完成本地推理;科大讯飞把大模型能力放进AI眼镜,用于实时翻译、信息查询和会议纪要;面壁智能与乐聚机器人展示的导览与巡检系统,拔掉网络后仍能依靠多模态模型和本地知识库完成讲解、问答与现场分析。面向“toB”用户,桌面级AI工作站、知识库一体机和 AI NAS 也开始集中出现,把大模型、RAG、企业文档和本地算力带进办公室与企业机房。
这些产品形态看似分散,背后回应的是同一类需求:当 AI 从偶尔打开的应用变成持续参与工作和生活的工具,用户需要更及时、更稳定、更私密,也更可控的智能。云端依然在提供最强的通用能力,但越来越多高频任务开始向端侧设备、边缘节点和企业本地迁移。相比前两年围绕模型参数和云端算力展开的竞赛,今年 WAIC 对 AI 落地的讨论,明显有了更具体的产品形态和业务抓手。
正是捕捉到这一产业变化,智辰半导体创始人兼CEO王孝斌在本届 WAIC 上首次公开提出“企业 Token 工厂”概念:当AI从尝鲜工具进化为企业日常生产力,企业需要的已不只是一个按需调用的模型接口,而是一套能够在自身数据边界内,持续、经济、可控地生产有效 Token 的完整 AI 生产体系。
企业市场,正在算两本账
端边侧的 AI 落地需求虽广,但付费意愿最明确的是将 AI 用于实际生产场景的企业客户。AI Coding、知识库、企业 RAG 、多模态内容生产等应用已在部分行业形成高频需求,只要有助于降本增效,企业就有动力持续投入。
问题在于,需求增长快,供给却没跟上。公有云 API 尚难以长期高频负载;高端 GPU 服务器性能强但投入和运维门槛高;本地设备又难承载大模型。芯片、模型、算力、存储之间仍缺一体化组合。
企业先算经济账。
IDC 数据显示,中国 MaaS 市场 Token 调用量从 2024 年的 114 万亿增至 2026 年预计的 40,000 万亿。企业评估的不再只是 API 单价,而是完成任务所需的总 Token 和有效产出。这种压力已传导至企业内部AI预算侧——Uber 四个月用完年度 AI 预算,Meta 从鼓励使用 Token 到设置 Token 预算限制,腾讯也从6月起大幅收紧配额。企业 AI 规模化后,不可能再用“先用再说”的粗放模式。
企业还要算安全账。
AI 进入生产系统后需连接代码库、知识库和业务数据,仅靠 API 接入难以理解企业上下文,数据安全问题随之凸显。Palantir CEO Alex Karp 质疑,企业付 Token 费用的同时,核心数据和业务逻辑正被模型厂商缓存并用于训练或增强模型,长此以往将侵蚀企业的知识产权与行业优势;更值得警惕的是,模型厂商正从“赋能者”演变为“竞争者”。今年6月,苹果在印度的核心供应商塔塔电子确认遭遇网络攻击,苹果未发布产品资料被大量公开。两起事件性质不同,却都提醒企业:敏感数据一旦进入外部模型或协作链条,暴露面和治理难度就会上升。
成本与数据两本账说明,企业不能在“全部上云”和“全部本地”之间二选一,而需要一套能根据任务特征灵活配置算力、模型和数据边界的混合架构。
企业Token工厂,企业算力基础设施的新范式
在智辰看来,企业 Token 工厂不是把云端数据中心缩小后搬进企业机房,也不只是购买一台装有大模型的服务器。它应当以企业数据和业务流程为基础,把云侧大模型、本地大模型、企业微调模型、本地知识库、身份权限、工具调用和工作流连接起来,将算力持续转化为能够进入业务流程的有效 Token。
在这套体系中,高频、稳定、数据敏感和低时延任务可以更多地在本地运行;需要最强通用能力、超长上下文或低频复杂推理的任务可以交给云端。它的目标不是追求“所有模型都在本地跑”,而是在企业自己的预算和数据隐私边界内,获得最高效的AI生产力。这意味着,企业 Token 工厂已成为企业算力基础设施的新范式。
传统 AIDC 首先解决算力资源的建设与供给,通常关注峰值 FLOPS、TCO 等指标;云侧 Token 工厂面向大规模用户,关注集群推理效率(TPS)、单位功耗推理效率(TPS/MW);企业 Token 工厂面对更有限的预算和更复杂的上下文,除了单位功耗推理效率,还需要关注单位 Capex 推理效率(TPS/Capex)、单位 Token 推理成本(元/Token)。
模型的组织方式也不相同。传统 AIDC 更接近标准镜像和模型目录按需部署;云侧 Token 工厂通过模型路由与负载均衡,把请求分配给更合适的模型和服务器,以提高集群吞吐与利用率;企业 Token 工厂则需要把云侧大模型、本地大模型、企业微调模型和 RAG 知识库组合起来,在能力、数据边界和成本之间动态选择。
私有数据和本地模型是企业 Token 工厂与云侧最本质的区别。传统 AIDC 主要承载通用存储与计算负载;云侧模型通常通过 API 与企业数据进行有限交互;企业 Token 工厂则可以在企业权限边界内,把私有数据、身份信息、权限、实时业务系统、模型和工作流深度连接,让 AI 真正参与跨部门、跨系统的完整流程。
算力基础设施也因此出现差异。云侧需要强互联、高并发和大规模集群吞吐,企业侧则更强调按照数据存储和算力需求精准配置,对内存容量、低功耗、初始投入和灵活扩展要求更高。两者都追求成本和效率,但云侧重视规模化生产,企业侧更强调在有限 Capex 投入和运营成本下获得足够高的有效 Token 产出。
智辰半导体:从大芯片经验到万亿参数模型端侧推理
这意味着,面向企业 Token 工厂的算力底座,芯片能力的评价逻辑已经脱离了单纯堆峰值 TOPS 的传统竞赛:能否装下大参数模型、能否在企业场景下长期稳定运行、能否以高性价比持续输出有效 Token,才是决定产品落地性的核心门槛。智辰半导体的核心能力,正是建立在对这些企业级真实需求的理解之上。
智辰的能力首先来自团队。公司创始人和核心成员均来自全球顶级芯片企业,长期参与 AI NPU、通信基带、手机 SoC等大型芯片研发,拥有多颗世界级大芯片从产品定义、架构设计到每年亿级量产交付,再到多次迭代的完整经验。端侧 AI 芯片解决方案,不只是计算单元设计,还要同时处理功耗、内存、封装、软件工具链、终端适配和规模化量产,商业化门槛极高。智辰团队具备跨越这一高门槛的实力。
产品层面,智辰 T 系列从一开始就面向百亿至万亿参数模型部署进行设计,采用灵活可拓展的芯片互联架构,原生支持 FP4 至 BF16 等精度格式和各类先进算法,支持高速内存扩展至 TB 级,可以覆盖 AI PC、个人工作站、AI 算力盒和企业边缘服务器等生产力场景,以及具身智能、车载智能、家庭智能等广泛场景。
在软件层面,智辰已完成全球主流模型的芯片适配工作,正在推进主流推理框架、应用生态和开发生态的支持,打造具有极致性能、开箱即用的软硬件方案。
数据显示,在大量企业垂直场景中,T 系列方案的单位功耗推理效率与推理成本等指标,相比全球领先方案具备接近一个数量级的优势。
对一家新锐芯片企业而言,下一步需要跟产业链合作伙伴共同合作,把技术优势和产品优势逐步转化为对企业先进生产力的真正交付。
国产端侧AI芯片的新窗口
2026年是端侧AI规模化落地的元年,与集中式云侧市场相比,端侧算力具有场景分散、需求多样、功耗与成本约束差异明显等特点。AI PC、个人工作站、企业服务器、具身智能和汽车各有不同的模型、内存、算力和功耗约束,没有一种芯片和一种系统形态能覆盖所有场景。这给国产芯片企业留下了新的市场空间。智辰半导体以生产力场景为锚点,依靠灵活可拓展架构覆盖更广泛的需求。凭借顶尖技术团队和领先产品定义,智辰有望持续领跑端侧AI赛道。
从 WAIC 2026 的展台变化开始,端侧 AI 已经不再只是一个硬件概念。随着AI更深入地进入企业数据和工作流,算力正在从单一云端走向端侧设备、边缘服务器与智算中心共同参与的混合架构。未来 AI 基础设施竞争的胜负,不只看谁的算力卡更强,更看谁在真实场景中,能够以更可控的成本持续生产可计量的智能。
这是企业 Token 工厂带来的新命题,也是智辰开拓的新机会。