您尚未登录/注册
首页>科技
千倍Token需求、跨设备交互、稀疏模型……智能体对芯片的改变太多了
中国电子报 2026-11-16 16:13:05

11月12日,由中国电子信息产业发展研究院、中国半导体行业协会共同主办的第二十三届中国国际半导体博览会(IC China 2026)在北京国家会议中心开幕,同期举办第八届IC企业家大会(以下简称“企业家大会”)。 英特尔中国研究院院长宋继强在企业家大会上发表主旨演讲时表示,智能体时代的芯片需要更好的晶体管、更大的芯片、更宽的互联。

智能体带来了算力需求变化

“我们进入了AI智能体时代。”宋继强在演讲中这样讲道。

在他看来,智能体时代的到来给AI的使用带来了四重变化。

其一,AI使用量正在爆发式增长。起初,人们使用聊天机器人发起单次问答(single prompt);而今,用智能体做编码、文档生成、图片生成等服务的AI使用习惯已经逐渐普及。与之相对应,使用智能体带来的Token使用需求,达到单次问答token需求的百倍甚至千倍之多。Token需求的量级跃迁来自智能体执行方式的变化:每一个智能体执行任务的过程都是一个循环:这个循环通常包括Reflect(响应)、Think(思考)、Act(执行)、Plan(规划)四个环节。即先拆解用户意图、结合个性化上下文生成提示词,由大模型推理出需要调用的工具与执行规划,随后分步搜索网页、执行代码或调用工具,最后判断是否完成任务,若未完成则再次重复这个循环。“这个循环过程中的每一个步骤都在消耗计算资源。”宋继强说。

其二,实时交互型的推理非常关键。这里所说的交互,并不是模型与人之间的交互,而是机器之间的交互。人与模型交互的过程中,人能够容忍几秒钟延迟。但智能体调用的是跨越设备、跨越网络,甚至跨越城市的算力,每一次调用资源都会延长任务交付周期。“基于这样的现实需求,我们希望交互级延迟能够控制在10毫秒以下。这样一来,整个任务交付将给用户省下分钟级甚至小时级的时间。”宋继强说。

第三,高吞吐率尤为重要。对于云端服务器或超节点的厂商来说,要实现最优的经济效益,所有的算力资源应该充分运行,不要有空闲时间。包括CPU、GPU在内所有架构处理器都应该不间断地运转,使每个节点都能够在单位时间内输出更多的Token,达到高吞吐率。

第四,算力基础设施建设能够实现正向经济回报。这对于运营者和用户而言都非常重要。

如何为多样化算力提供支持?

要给智能体的运行提供有力的算力支撑,芯片基础设施层面需要满足这样几个条件:

其一,做更好的晶体管,这是芯片的构成基础;其二,做更大的芯片,单纯靠晶体管微缩提升单颗芯片算力密度的技术路径正在受阻,用3D集成堆叠的方式做更大的芯片便成为提升芯片性能的新路径;其三,做更宽的互联,现阶段模型规模和计算规模都很大,模型的运行需要在几十张乃至上百张卡互联的节点上实现。要使如此大的算力集群协同工作,既要有更宽的XPU-XPU计算互连,使单个模型在多卡多节点上算得更快,也要有更大规模的数据中心互联结构,让不同业务在算力基础设施中跑得更顺畅。这些举措总体指向同一目标:提高计算性能与计算密度,提升容量与带宽,同时降低能耗以及互联的传输和制造成本。

现阶段,英特尔正在从以下几个层面达成相关需求:

其一,在更好的晶体管层面。

18A是英特尔正在大批量出货的工艺节点。在18A的基础上,18A-P再度实现了半个节点的演进,与18A相比,同等功耗下性能提升9%,同等性能下功耗实现降低18%,具有更高的能效比。18A-P采用全新双接触、低电阻晶体管方案,可在不增加电容的情况下提升驱动电流,并实现更高的运行频率。当前,18A-P已进入风险试产阶段。

基于18A-P能力,英特尔设计了下一代至强处理器Diamond Rapids。该处理器具备256核,核心数相较前一代产品提升一倍。在芯片中设计更多的核心数,呼应着智能体运行的底层逻辑。很多智能体的运行过程都是完整的循环,一个智能体可以被安排在一个核或单独的线程中运行。单颗芯片中的核数越多,可以同时支撑的智能体个数就越多。智能体的工作,有些是顺序计算,有些是推理计算。部分推理计算相对轻量化,可以直接在CPU上运行,无需运行在GPU上。

智能体还需要应对诸多需要消耗CPU资源的任务,如数据处理、上下文处理、条件判断等。跳转太多或访存次数太多都会严重影响任务延时。为了解决这一问题,Diamond Rapids在新的指令集中加入了APX的扩展,把通用寄存器从16个增加到32个。

其二,在更大的芯片层面。

若采用先进制程制造所有的运算逻辑和I/O,不仅成本较高,也可能影响研发效率。但若将芯片的不同组成部分根据所需主频、功耗,在不同工艺节点上生产,则能够复用此前在该节点生产芯片的经验,无需重复验证,从而大幅降低芯片生产成本——这便是Chiplet设计的核心思路。在英特尔的实践中,下一代即将发布的至强CPU便采用了这样的方案:核心运算核采用的是18A-P,做高速互连的HUB采用的是Intel 3。基于不同工艺生产完成的各组件的Chiplet,又通过异构封装的模式被封装到一起。这便是即将发布的下一代至强CPU的生产方案。

模型运行模式剧变

在智能体的工作流中,思考和决策的过程均需要调用GPU和加速器的资源。相关资源的调用方法,与大模型的运行模式息息相关。大模型的运作方式最近两年发生了显著的变化。两年前,大部分模型还是稠密模型,被调用完成推理任务时,所有的参数都会被用到;但现在,稀疏模型占据主流,这意味着,即便一款模型的训练具备100亿参数规模,被调用作推理时,可能仅用到不足2%的参数。

根据宋继强的观察,多款模型的参数持续上涨,但单次推理调用的Token数据量却大幅下降。这给芯片设计企业提出了两大要求:其一,芯片需要具备大内存,能够完成模型的加载;其二,需要具备更高的有效带宽,能保证用户调用Token时,以最低延迟给到用户反馈。值得注意的是,模型对芯片提出的规格要求中,并不包含对峰值算力的追求。

基于这一判断,英特尔推出了在服务器端、边缘计算端都可以使用的独立显卡——D系列GPU。该款显卡功耗低至约350瓦;在FP8(8位浮点数)精度下峰值算力约为1.3PFLOPS;具备32个GPU核,可以分别处理不同种类AI模型的并行计算;内存480G,能够装下较大规模的模型;带宽相较前代产品也实现了数倍提升。


作者丨姬晓婷

编辑丨吴丽琳

美编丨马利亚
监制丨连晓东

【版权声明】本文内容来源于中国电子报,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-16 11:50:39


(第1/1页/共18704字/2阅)
首页>科技
相关科技:
AI进入真实业务层:换道容易拆墙难,当IT方案没人用,主导权该还给谁?
马斯克称:每件事都亲自参与一些,这样才知道员工有多辛苦 近日,据蓝鲸科技报道,在第33届巴伦投资大…
李彦宏:AI的下一幕是智能组织,它将是企业最深的护城河
机器人开始进厂,到底多能干?
华为星芒第一台手机,命名终于定了
*三两仙友,论道炼丹,开帮立派,星火传承
网友评论:
更多评论(0)
您的评论:

[热点科技]
“女主角”黄乐的A股往事
中国创新药长出全球竞争力!百济神州第三次上调业绩指引:预计全年营收463-470亿,利润84-90亿
合肥武汉之后,终于轮到郑州“上桌”了?
王健林重掌万达商管
英伟达盘中跌去1.5个阿里巴巴,美股科技股爆发,AMD两日涨近20%,国际油价重挫,创2个月新低
[精彩推荐]
0.01分赢下保研,第二天就被室友举报了
逛超市大变天:超市自家货值得买吗?
磁带不是早就“死”了吗,怎么突然打赢复活赛了
18岁少女检出18种HPV亚型阳性,包含10种高危型!医生:极其少见
财经观察:拨款两万亿日元,项目已延误数月,日本“孤注一掷”,为何造不出尖端芯片?