智东西
编辑 智东西编辑部

智东西7月10日报道,7月2日至3日,以“范式跃迁 重塑世界”为主题的2026中国AI智能体大会在杭州圆满举行。大会集结了64位重量级嘉宾,通过1场开幕式、2场论坛、7场闭门研讨会对Agent赛道核心议题进行全链路解析,主题涵盖Harness、自进化Agent、Coding Agent、多Agent协同和Skills等。

会上,原粒半导体创始人兼CEO方绍峡以《Agent Computer:重新定义计算范式与硅基底座》为主题发表演讲,系统阐述了Agent Computer的构想,并提出Agent时代需要重新定义计算平台、芯片架构和算力评价标准。

方绍峡提出,AI正从“回答问题”走向“完成工作”,下一代计算平台Agent Computer将诞生,芯片的评价标准也将从“峰值算力”转向“单位能耗与成本下的任务完成效率”。

方绍峡将AI的演进划分为三个阶段:从“工具”到“助手”,再到“员工”。当AI进入“员工”阶段,它需要一台专属电脑,即Agent Computer

他认为,AI PC只是在电脑里加AI功能,无法满足Agent的需求。人类与Agent天然存在资源、安全、长驻和系统逻辑四个冲突。

针对Agent Computer,原粒半导体提出芯片设计的4个原则,一是记忆优先、二是长上下文优先、三是Agent必须7 × 24小时长驻、四是能效优先

方绍峡认为,Agent的算力载体将从大Batch的GPU集群走向推理内存与调度耦合的异构系统。未来真正的竞争不是峰值算力有多高,而是“丢给你一个复杂任务,能不能更快更稳定地完成”。

以下是演讲实录:

大家好,我是原粒半导体CEO方绍峡。我们作为一家芯片设计公司,正好借这个机会跟大家探讨一下:如果我们为Agent设计一台专属电脑,它会对计算范式和芯片设计带来什么样的变化。

一、AI正从“工具”走向“员工”,Agent需要一台自己的电脑

过去三年,整个行业围绕着大模型讨论了很多,包括模型有多大、跑分有多高、上下文有多长、有多快。这些问题非常重要,但它更多的是在衡量“回答”,衡量“回答”的好不好。

但是Agent时代的问题不止于此,我们真正关心的是当AI开始替人工作后,在下一代的计算机里,它应该长什么样?历史上的每一次计算主体、计算逻辑的切换,其实都会带来一些全新的硬件、全新的软件生态,Agent的时代也不例外。

我们可以把AI的演进分成三个阶段。第一个阶段AI是“工具”,它就像搜索引擎、翻译器在推荐系统,人在前面操作,它在背后辅助;第二个阶段是“助手”,它帮我们写邮件,写代码、写周报,但最终还是围绕着咱们人类的即时交互展开;第三个阶段,也是我们非常期待的下一个阶段,就是它越来越像“员工”,它有它的任务、它有它的权限、它有它的记忆、它有它的工作流和任务目标。


如果AI只是工具的话,它可以住在人的电脑里面。但如果它是员工,它就需要自己的工作环境、自己的系统、自己的数据边界。当AI成为员工,它就需要自己的电脑

回看整个计算机历史产业,我们会发现每一代平台其实都不是上一代平台的简单增强或是替换。从大型机时代,一直到PC时代,再到智能手机,再到云计算。每一次平台迁移,都会重写整个产业的分工,也会重塑整个硬件软件和应用生态之间的关系。


今天的Agent Computer对应的是一个全新的阶段。我们的计算进入了数字劳动力的时代。那问题是“谁”,或者“我们”怎么样来定义这个新的平台?它的操作系统是什么?它的硬件是什么?它的数据边界在哪里?这也是我们非常关注的问题。

我们相信,智能体时代,它不是简单的把更多的GPU的算力去放在云端,也不是简单的在现有的PC里面去加一个AI的功能键,而是会诞生一个全新的计算平台。

二、AI PC不够用,Agent需要一套完全独立的计算系统

很多人可能会问,我现在有AI PC,那我为什么还需要Agent Computer?主要是因为Agent它的工作负载和我们人类的PC的工作负载是存在天然冲突的。


第一是资源冲突。生产力Agent,比如大家在苹果笔记本跑个大模型,风扇可能就转得非常快。它一旦启用,会把我们整个内存容量、带宽,包括整个算力都占用。如果它和我们的日常主力办公机共用资源的话,它会严重影响我们的工作。

第二是安全冲突。Agent它需要去访问我们的文件,访问浏览器、代码库、数据库,包括我们的OA系统,甚至审批系统。如果说这些权限全部都暴露在主力设备上,那么风险会快速放大。

第三是长驻冲突,就像刚才专家也提到了,我是不是笔记本合上了,Agent也下班了。我们的人类电脑会休眠、会断网、会关机,但是Agent它需要7 x 24小时的在线处理问题。

第四是系统逻辑的冲突。过去,OS、键盘、鼠标和屏幕这一系列机制其实都是为我们人类的即时交互设计的。但Agent本质上是一种异步任务、状态管理、长期调度和工作流的编排。所以我们提出了AI PC,就是电脑里加入AI。但是Agent Computer是为AI重新发明电脑。

当Agent拥有更高级的执行权,那数据安全就不再是简单的合规问题,而是计算架构问题。因为Agent不光要读取你的文件和信息,它还会行动,它需要知识权限、行为权限,甚至需要系统的权限。


我们人类世界里面有一句话叫做,岗位越高,你的责任越大。对于Agent来讲,其实还多了一个问题,它权限越深价值越大,随之而来的风险也越大。如果高价值的数据完全依赖云端去流转,对于企业和个人来讲,都会面临一个比较严重的问题,就是它的数据边界是不可控的。

因此未来真正安全可信的Agent系统,它需要有一个用户可控、物理存在的本地计算实体。这不是简单的数据放在哪里的问题,而是我们作为新一代的计算机架构必须要回答的一个问题。

过去,大模型主要学习公域知识,包括互联网网页、代码库,这些公域数据让大模型获得了通用能力。但是大家也看到一点,就是高质量公域数据的红利正在递减,未来真正驱动Agent生产力的将会是私域数据


大模型过去学会了世界知识,但是Agent要学习的是我们每个人的个人知识。所以未来最稀缺的资产,其实不是模型,而是记忆。正因如此,记忆它必须要是私域的、本地的、可信的并且长期存在的物理承载。

我们再看看大家非常关注的Agent成本问题。在过去把大模型当聊天工具的阶段,我们会发现,一次对话其实也就消耗这种几百到1000的token,这个成本非常可控。因为我们人类的阅读速度是有限的,我们跟它的交互频次也是有限的。


但是Agent的工作模式完全不同。当智能体开始执行一个复杂任务,它的后台可能经过几百次异步的推理跟交互。一次复杂的任务可能消耗几百万甚至到千万级的token。如果你作为一个企业,那么你不可能只部署一个Agent,可能部署10个、100个甚至上千个Agent。在这种情况下,云端的推理成本会大幅上升

这里并不是说云端推理未来就消失了,云端非常重要。但是智能体它作为一种长期的、可持续的生产力,它必须要有一个本地成本的锚点。如果没有这个锚点的话,数字员工这种新型的生产力,它的规模化部署、它的天花板就会被定的比较低,它就会局限在成本的天花板上,没办法大规模的推广。

三、Agent电脑不拼峰值算力,拼“长任务承载能力”

我们再看看模型本身的一些新变化。过去我们经常讲小模型够用就好。进入智能体时代,什么是够用?它的定义也在发生变化。小模型可以降低交互的门槛,但真正决定生产力上限的往往是更大的模型更长的上下文更强的多步推理能力。


我们看整个模型的尺寸,从7GB、14GB到32GB、70GB,再到100G、200GB,再到500GB往上。不同模型它的能力对应的任务复杂度在不断变化。所以这里有一个核心的变化,就是我们的阶段从answer变成了work。当我们对模型或者对智能体的目标,从期待它回答的还不错,到期待它工作完成的不错。这里其实我们对模型的大小,什么叫够用,这样的要求都会重新的去做定义。

我们看整个AI coding,其实它是观察Agent的工作负载的典型场景,一个简单的单文件函数修改,可能也就用个几千、一万多token。但是进入较复杂的任务,比如说多文件的bug修复、新模块的开发,包括跨模块的重构,token的消耗都会快速上升。


那如果我们进入理想化的7 x 24小时长周期的驻留任务,token需求可能就到百万级、千万级。这里有一个非常重要的变化,Agent的上下文,其实不是一次性的输入,它包含了整个任务状态代码库,包括日志工具的返回结果、自我修正的轨迹,以及多轮的决策滚动的迭代的一个过程。

所以本地设备的核心目标、它的指标,正在从我们过去强调的峰值算力,去转向长任务的承载能力。谁能够承载更长的上下文、更长的任务,更长的上下文以及更稳定的状态,谁就拥有更好的Agent时代的Computer底座。

我们再来看一下在硬件规格上大家非常关注的模型内存,就是显存的尺寸。大家可以看到24GB这种显存,可以提供到入门级基础体验。128GB的本地模型内存,就可以开始支持工作流的常驻。256GB甚至到512GB的本地模型内存,就可以开始进入到本地常驻生产力的底座门槛。


所以Agent的时代,本地智能体设备的竞争,不再只是峰值算力,不是单纯去看TOPS(整数算力)或者TFLOPS(浮点算力),更重要的是本地的模型内存有多大、带宽是否足以匹配、长任务的状态是否能够稳定的驻留。Agent生产力边界也越来越取决于本地的可用内存和带宽。

四、Agent时代,拆解AI芯片设计四大原则

在传统的计算里面,我们一般强调TOPS高,你就是一颗更厉害的芯片。但是对于Agent来讲,它的工作负载不是单一的矩阵乘法。

对我们做芯片设计来讲,它的取向和设计目标也发生了比较大的变化。它是一个推理、记忆、检索,包括工具调用与状态调度的复合系统。

传统通用服务器GPU的架构,非常适合大Batch、规则化、高吞吐的矩阵计算。这也是我们当下云端训练跟高并发推理非常重要的基础。

但是Agent原生的芯片架构,它需要去面向长上下文、动态的状态流和Agent工具编排优化。所以整个Agent的算力载体会从大Batch的GPU集群走向推理内存和调度耦合的异构系统

对于最终用户来讲,大家关心的不再是你的TOPS有多高,而是我今天丢给你的一个复杂任务,能不能更快更稳定的完成。所以用户的目标取向其实发生了很大的变化。这也是Agent时代对芯片效率提出的新定义


我们再看一种新型的Agent芯片,它的token速度我们期待有多高呢?过去我们大家讲token速度,更多是在讲用户体验。聊天模式下15到25 tokens,基本上匹配人类的阅读速度。

但是Agent模式其实很不一样,Agent它不需要等人去阅读,它在后台执行任务,它的速度越快,任务完成的时间就越短,数字员工的工作效率就越高。所以对Agent来讲,token的速度,它不是一个体验指标,而是一个生产效率指标。

当我们在讨论100 tokens每秒,200 token每秒甚至上千tokens的时候,我们关心不是阅读能不能跟得上,而是我今天完成一个任务的链路时间是不是能够从原来的几个小时压缩到几十分钟甚至几分钟。

所以总结一下,对于Agent来讲,需要去重新定义推理芯片的指标,不是只看峰值算力,而是要去看它的单位能耗以及单位成本下的任务完成效率

Agent Computer,它本身并不是一个单一的硬件,它是一个全栈生态。最上层其实是顶层的数字劳动力市场,包括未来Agent的应用和数字员工服务,再往下是私域的安全数据网络,再往下是私域的记忆金库,包括我们的长期记忆和本地的知识,再往下是Agent OS和Runtime,最底层是硅基的原生底座,我们称之为Agent-Native Silicon


对于原粒半导体来讲,我们的定位并不是要试图去替换上层的生态,而是专注在最底层。我们试图去为Agent Computer这样全新的物种,去提供高性能、低功耗、可扩展的物理底座。因为只有底座足够稳,整个数字劳动力的生态才能够真正形成规模化。

面向Agent Computer,我们也提出了Agent-Native Silicon设计原则。


第一是记忆优先,因为Agent的长期生产力必须依赖大容量的本地存储和高带宽。我拿一个特别小的轻量级模型,给你很快的速度,这件事情可能对生产力是没有帮助的。它得是一个足够强的生产力模型,而且跑在了足够的速度上,跑在你的本地桌面上才有用。

第二是长上下文优先,因为Agent的任务它不是一次性输入,而是长上下文和持续状态的累积。

第三是长期驻留优先。也就是说,Agent它是一个数字员工,它必须7 x 24小时长驻。不能盖上盒子再打开,它就重新来一遍,它不需要花这么长的时间去重新建立状态。

第四是能效优先,峰值算力当然重要,但是更重要的怎么以更低的功耗,更低的成本去完成这些更长的任务。

所以Agent-Native Silicon的核心,就是把这四点结合到我们整个芯片的设计理念中。我们也期待通过全新的指标创新。

今天token的账单,是各家规模化推广的较大障碍。但未来假设我们Agent运行执行生产力工作的边际成本趋近于0,或者趋近于只有电费的时候,那么我们所有行业的底层逻辑都会重新改写。

五、Agent Computer时代,需要重构底层计算底座

原粒半导体的定位在整个生态里面,就像刚才说的,我们并不定义上层的应用,因为未来的Agent应用会百花齐放。我们也不替代整机生态,因为Agent Compute它是一个需要操作系统、终端、Runtime、企业软件,包括模型、开发者和硬件共同建设的完整生态。


我们专注的是为Agent Computer去提供一个高性能、低功耗、可扩展的硅基底座。我们希望解决的是一个更基础的问题,就是当世界从“集中计算”走向“万物智能”的时候,底层的芯片应该如何变化。

过去,智能主要是集中在云端、集中在少数的数据中心。未来,智能会进入办公室、家庭、设备,进入到每一个需要数字员工的场景。我们的愿景就是把一个“集中计算”的世界变成一个“万物有脑”的世界。并且我们的新产品,刚才提到的面向智能Agent Computer的全新设计的芯片也即将推出。

最后我也想简单的用三句话就结束今天的分享。PC让每个人桌上有一台电脑,智能手机让每个人口袋里有了一个超级计算机,Agent Computer让每个人未来拥有身边都有一个7 x 24小时工作的数字员工,它不是简单的硬件升级,它是计算主体的变化。

AI正在从回答问题走向完成工作,软件正在从“工具”走向“员工”,数字劳动力也正在形成新的生产力。处在大时代的变化下,我们需要重新去定义计算机,也需要重新去定义它的底层芯片。原粒半导体所希望做的,就是为智能体时代去重构物理的芯片底座。谢谢大家。