【导读】单线程机能、焦点密度、机架吞吐量这些指标自己没错，但回覆不了客户真实的问题：于给定延迟、功耗及成本下，基础举措措施到底能完成几多有价值的智能体事情？英特尔近来的阐发给出了一个务实视角：以739个Claude Code会话为样本的代码智能体事情流显示，单个哀求下CPU处置惩罚时间占比不到1%，32个哀求并发时升至15%——新增延迟年夜多来自调理列队，而非计较。更快的焦点解决不了列队，而列队会让GPU随着空转。英特尔由此提出用“每一机架现实交付的智能体数目”替换理论吞吐量，权衡体系于功耗及成本约束下真正能不变跑完几多事情流。

并发转变谜底

于单智能体轮回中，权衡机能是一件很简朴的工作：每一一步都能完成患上更快，那末整个事情流的速率也会变快。然而，体系往往并不是单智能体轮回，而是同时运行许多的智能体，配合争抢CPU、内存、I/O以和加快器等资源。于这类高负载的环境下，体系的瓶颈也会随之转变。

近期的一项公然阐发，以739个匿名Claude Code会话为样本，包罗多轮推理、代码天生及东西挪用的代码智能体事情流。该阐发显示，单个哀求下CPU 真个处置惩罚及等候时间占总延迟的不到1%，而当32个哀求并发时，这一比例最高可晋升到15%。新增的延迟年夜部门源在调理与列队，而非计较。

更快的焦点可以提高使命的履行速率，但它没法防止列队的征象。

此类等候，一样会波和体系中最昂贵的组件——GPU。一样于这个阐发中，针对于代码履行智能体的研究预估，GPU的有用事情时间仅占总体现实运行时长的50%~60%。当智能体等候数据库、检索体系或者沙箱返回成果时，GPU也会随着堕入空转。于这里，阿姆达尔定律依然合用：

“最昂贵的加快器，实在是那些正于等候体系其他组件相应的加快器。”

权衡理论容量，不如权衡现实交付的智能体事情流

英特尔提出了一个更实用的权衡指标，即每一机架现实交付的智能体数目，也就是说，于既定功耗及成本规模内，一个机架可以或许于划定的吞吐量、质量及延迟要求下，不变完成的智能体事情流数目。

怎样理解现实交付容量呢？

每一机架现实交付的智能体数目=每一机架理论智能体数×路由效率×资源均衡度×卸载效率

理论容量反应机架可用的计较、内存及带宽资源。路由效率反应使命的部署分配效果。资源均衡度表现因瓶颈及列队酿成的丧失。卸载效率反应将基础举措措施使命从通用焦点移出后，体系所开释出的容量。随附的白皮书对于这些因素和详细要领作了更具体的申明。

真实的容量上限，不是理论吞吐量图表的最高点，而是增长智能体数目后，延迟跨越客户方针的阿谁点。图1给出了一个示例申明。

图1：容量指的是延迟曲线与方针阈值的交点。按照体系余量举行路由、使命卸载及状况分层，会将曲线拐点向右挪动（示用意）。

英特尔打造完备的事情流解决方案

英特尔不是于“更快的焦点”及“更多的焦点”之间二选一，而是于构建一个体系，让二者都转化为现实的事情产出。

连结状况可用。带宽让智能体连续运行，容量则避免它从头启动。借助英特尔至强6平面内存模式（Flat Memory Mode），CXL附加内存与原生DDR5可以同享统一个地址空间。按照英特尔与SAP的结合评估，该方案的机能可以或许到达全DDR5配置的96%，与此同时，内存TCO降低约25%。这为企业以更低成本维持更多活跃会话，提供了一条可行之路。

把容量还有给体系。英特尔®数据掩护与压缩加快技能（英特尔® QAT）、数据流加快器（英特尔® DSA）及存内阐发加快器（英特尔® IAA），可卸载原本会占用通用焦点的基础举措措施使命。公然资料显示，利用英特尔IAA举行快照压缩，快照完成速率可提高约1.2倍。卸载再也不只是功效列表上的选项，而是将容量还有给客户。

按使命需求匹配算力资源。编排调理、东西履行、数据办事与状况迁徙的算力需求各不不异。至强产物系列依托同一架构，既有机能核的高单线程机能，也有能效核的高密度吞吐，这让体系有能力为每一一阶段的事情流，匹配最适合的履行配置。

防止加快器堕入闲置。固然，企业既需要CPU，也需要专为智能体优化的GPU，英特尔正于筹办的Crescent Island GPU，恰是为满意这一需求而来。然而，假如GPU连续处于等候状况，那它终于就只是一块昂贵的硅片，白白耗损机架电力罢了。这就是CPU于当下，依然事关主要的缘故原由。至强负担了智能系统统总调理者的脚色，维持会话运行、东西挪用、数据畅通等，连续为加快器供应使命。

更具价值的评测尺度

所有智能体AI的机能声明，也包括英特尔本身所发布的于内，都应标明并发范围、延迟方针，以和理论机能与现实交付之间的损耗。一旦缺乏这些，测试数据所代表的，也只是潜于上限，而没法反应现实的出产力。

英特尔将基在真实智能体轨迹，以明确的P99延迟方针为基准，公然单机柜智能体数目、路由效率、固定功效卸载所带来的机能增益、GPU挂载体系的主机侧效率，以和机柜功耗约束下的每一瓦智能体数目等。

单线程机能主要，焦点密度也主要。但终极胜出的体系，必然能让每一个线程都有活干、每一个会话都连结活跃、每一个加快器都充实运转。

行业花了太多时间盘货机柜的硬件规格。此刻，是时辰权衡它的现实产出了。

结论

英特尔这套思绪，是把智能体AI机能评测从“跑分逻辑”拉到“交付逻辑”。理论容量从来不是瓶颈的尽头，延迟曲线与营业方针的交点才是。至强6平面内存模式让CXL附加内存与DDR5同享地址空间，以约25%内存TCO降幅换取96%机能；QAT、DSA、IAA把基础举措措施使命从通用焦点卸下，把容量还有给营业；机能核与能效核搭配让差别阶段匹配最适合算力；至强作为总调理者为GPU连续供应使命。