在AI硬件领域，评判芯片价值的标准正在经历一场深刻变革。过去，TOPS、FLOPS和tokens/s等指标是衡量芯片性能的核心，但随着Agent技术的兴起，这些单一指标已无法全面反映硬件的实际价值。如今，用户的一次简单查询背后可能涉及数十轮复杂操作，包括调用基础模型、专用模型、LoRA Adapter、Embedding、检索、代码执行和外部工具等。这种复杂的工作流使得峰值token产出变得不再那么重要，真正关键的是如何将这些token转化为可接受的答案、可完成的任务和可持续的服务等级。
计算与存储领域的投资逻辑正从“追求单点最高规格”转向“以更低系统成本支持更强模型”。这一转变尤为显著：单纯将3B或8B模型的总并发性能提升至极高水平，并不必然意味着芯片的高价值。如果CPU、GPU、NPU能够通过软件更新快速覆盖同类负载，专用小芯片的速度优势可能会被兼容性、供应链和开发成本所抵消。相反，若一张卡或单逻辑设备能够承载接近万亿参数的大模型，并在合理价格、功耗和时延下提供300到500 tokens/s的总并发性能，它将为OEM/ODM创造全新的产品能力，而不仅仅是漂亮的基准测试数据。
Agent的智能上限首先受基础模型能力约束。尽管模型规模并非智能的唯一决定因素，数据、架构、后训练和推理策略同样重要，但在相近技术代际下，客户更愿意为更强的推理、代码、工具使用和多模态能力付费，而非为能力不足的小模型更快输出付费。存储侧也在经历类似变革，Mixture of LoRA、多模型路由、MoE、长上下文和Agent Memory等技术使得模型权重、Adapter、专家、KV Cache与Prefix Cache在HBM、DRAM、SSD和共享存储之间持续流动。AI SSD因此不再仅仅是容量器件，还可能成为扩大可部署模型上限、降低重算与GPU空转、改善有效Token成本的关键系统变量。
在Agent系统中，一次推理已演变为不确定长度的工作流。复杂任务可能涉及多轮规划、工具调用、记忆检索、错误恢复和结果验证，导致同一用户请求消耗的token数量、模型组合和上下文长度显著波动。NVIDIA已将GPU、CPU、内存、网络、存储与安全置于同一条推理数据路径中，并将更低的cost per token、可预测时延和更高GPU利用率作为基础设施设计的核心目标。对投资者而言，这意味着任何单项性能都必须回归到系统结果验证。计算芯片需同时满足可部署模型上限、持续总吞吐、首Token时延等要求；存储与内存则需关注命中率、数据回载时间等指标。只有这些指标共同作用，客户才能看到更低的每任务成本、更高并发和更好的终端体验。
一级市场常被架构新颖性吸引，二级市场则更关注收入增速和主题催化，但两者最终都需回答同一个问题：技术优势能否转化为客户不可轻易替代的单位经济性。一个实验室基准领先的芯片，若需重写模型、替换框架和修改主板，却只能运行已被通用处理器覆盖的小模型，很难形成持续溢价。相反，一个看似普通的SSD器件，若能以低增量成本减少昂贵HBM/DRAM占用、重算和GPU空转，反而可能获得更清晰的客户回报。
3B、8B模型并非没有市场，它们适用于语音与视觉前处理、Embedding、Router、固定领域分类、设备控制等场景。问题在于，专用芯片是否将“让小模型跑得更快”作为唯一壁垒。随着CPU向量指令、GPU推理引擎、集成NPU和统一内存的进步，小模型往往是最先被通用平台高质量兼容的工作负载。对OEM/ODM而言，增加一颗独立芯片意味着主板空间、供电、散热、驱动、固件、操作系统镜像、供应链认证和售后体系的变化。若新增器件仅能将3B或8B模型的总并发性能提升至1000 tokens/s，而实际应用仅需一百tokens/s，多出的性能既无法提高任务成功率，也无法形成消费者可感知的差异。通用CPU/GPU/NPU一旦达到“足够好”，额外芯片的BOM与集成成本就会成为负担。
更具战略意义的大芯片，销售的是模型上限与产品代际。接近万亿参数的大模型需要更大的权重容量、更复杂的Tensor/Pipeline/Expert并行、更高内存带宽和更强互联，还要处理长上下文与多租户并发。能够将这类系统收敛至单卡或单逻辑设备，并接近300到500 tokens/s总并发的推理ASIC，将为工作站、私有云、边缘数据中心和高端OEM整机提供过去只能由大型集群实现的智能能力。客户购买的是更强Agent、更低部署门槛和更可控的长期Token成本。这也解释了Token PU、TPU、LPU等名称背后的共同方向：它们均围绕Token生成数据流、内存系统和推理SLO定义新产品类别，而非完全统一的标准。投资判断应聚焦芯片、内存、封装、互联、编译器和Runtime是否共同为大模型服务。
大模型推理ASIC需跨越三道关键门槛。第一道是模型能否装下并持续喂饱，而非峰值算力。接近万亿参数的模型即使采用低比特量化，也会将容量、带宽、Chiplet、先进封装和互联推至系统中心。第二道门槛是编译器和Runtime，硬件必须快速支持新算子、低精度格式、动态Batch与多种并行方式，才能将架构红利转化为平台能力。第三道门槛是生态兑现，OEM/ODM关心驱动兼容性、框架支持、模型库、开发工具、故障恢复和供应稳定；云端客户则考察多租户隔离、集群调度、可观测性和每Token服务成本。一级市场应将流片、封装、HBM供给、编译器成熟度和客户共同验证视为同一张里程碑表；二级市场则需观察Design Win能否转为持续出货、软件收入和合理库存。
Agent的协作模式正在重构缓存层级。一个更现实的方向是共享基础模型，再由Model Router按任务、用户、权限和成本选择LoRA Adapter、专家、工具模型或不同精度版本。所谓Mixture of LoRA，可理解为多Adapter组合与路由的探索。当Adapter、专家和Prefix数量增加，缓存层级会从HBM扩展到DRAM、CXL、HBF、AI SSD和对象存储。Model Router不仅要选择模型，还需知道模型数据的位置、迁移时间、缓存命中率和任务成本容忍度。这为集成电路企业开辟了比单颗AI芯片更广阔的机会：HBM与先进封装提供热数据带宽，HBF尝试在HBM与SSD之间建立大容量读密集层，CXL提供内存扩展与池化，SSD控制器与近数据处理器承接缓存、压缩、索引和预取，DPU/NIC负责跨节点传输，编译器与Runtime将这些资源组合成有效Token。
AI SSD正成为小芯片叙事的替代变量。它仍是一块标准PCIe/NVMe形态的SSD，可直接进入计算机、工作站和服务器，承担系统盘与数据盘职责，再通过中间件、Runtime和固件开启模型切片、专家卸载、KV Cache复用、压缩或预取等能力。相比增加一颗需专门主板适配、驱动和应用迁移的小型推理芯片，AI SSD对OEM/ODM的导入路径更接近现有存储升级，新增溢价也有机会被更大容量、更少DRAM、更长上下文和更低重算共同吸收。它对大芯片并非替代关系：大芯片负责高价值计算，HBM保存最热工作集，DRAM/CXL承担可变缓存，AI SSD以更低成本保存冷权重、Adapter、专家、Prefix与Agent Memory，并通过预取让数据尽量在计算窗口关闭前到达。两者共同压低有效Token成本。
在AI SSD领域，群联、江波龙和寅谱—联芸代表了三条不同路线。群联的aiDAPTIV路线通过“SSD产品＋中间件＋系统集成支持”扩展GPU系统模型容量，其核心壁垒在于成熟SSD供应、控制器与固件经验、模型工具链和平台合作闭环。江波龙的SPU＋iSA路线强调“存储执行层＋智能调度层”，试图将存储从被动块设备推向能够理解推理节奏的执行节点，其投资变量在于SPU和iSA能否形成可量产、可复用的产品组合。寅谱—联芸则从计算系统与存储控制器两侧联合定义产品，联芸的NAND适配、模组量产和PC客户导入基础，与寅谱的AI infra、计算机体系和OEM/ODM产品定义能力形成互补。这三条路线共同验证了一个投资方向：SSD的价值正在从NAND容量、顺序带宽和价格，向Runtime协同、对象生命周期、尾延迟、耐久和Token经济学扩展。
