参加行业论坛时，手机里的AI能否及时梳理讨论重点，在与人交流时提醒用户值得关注的问题？10月28日，在深圳举行的2026 AI算力场景应用与产业融合论坛上，上海光羽芯辰科技有限公司（以下简称“光羽芯辰”）华南区产品市场总监王润泽，在高峰圆桌中举出这一场景。他关心的是，当硬件已经能运行越来越大的模型，软件能否进一步把这些计算能力变成普通人愿意使用的功能。

围绕“从计算中心到产业现场，AI算力规模化应用需要怎样的产业协同”，王润泽谈到了模型软件移植的成本、存储带宽对推理效率的影响，以及不同平台的适配问题。光羽芯辰今年7月推出首代端侧大模型推理芯片TC1000系列，9月宣布产品进入量产。硬件上的3D堆叠近存计算与配套软件的开发，正在成为公司切入端侧AI市场的两条相互关联的路径。

让数据更快抵达计算单元，TC1000的3D堆叠路径

大语言模型逐个生成Token时，需要不断读取模型权重。计算芯片的理论算力提高了，如果存储器仍无法及时提供数据，等待访存的时间就会吞掉一部分性能收益。对手机、PC和机器人等终端而言，处理器、存储器还必须装进有限的空间，受电池容量、散热以及整机成本约束，难以依靠无限增加硬件规模来解决问题。

上海光羽芯辰科技有限公司华南区产品市场总监 王润泽

针对逐Token生成中的访存需求，王润泽介绍了光羽芯辰的3D堆叠近存计算思路，将DRAM与逻辑计算芯片在垂直方向紧密集成，以高密度互联提高数据交换效率。TC1000还结合存储分层，以及通用计算与专用加速资源，针对不同类型的推理任务进行分工，减少计算单元在等待数据时的资源闲置。

在今年7月推出的TC1000系列中，单芯片运行30亿参数模型的最高生成速度达到300 Token/s，同时能够支持350亿参数规模模型运行。前一个数字对应特定测试条件下的输出速度，后一个数字反映可承载的模型规模。对于需要控制设备体积和功耗的终端客户，这两种能力分别关系到交互响应和应用复杂度，也为芯片进入不同产品提供了更具体的选型依据。

光羽芯辰创始人周强此前接受媒体采访时介绍，DRAM与逻辑芯片的对接方式、散热以及电源和信号完整性，需要从设计阶段一并考虑。论坛同场参会的齐力半导体TPM总监汤尔昌则谈到了双方正在推进的新项目，封装团队提前参与方案评估，把材料、热管理和制造工艺的要求带入芯片设计。3D堆叠能够实现怎样的带宽和能效表现，最终还要落实到这些具体的结构设计与量产工艺中。

大模型在本地跑起来，还要让应用真正用起来

王润泽在圆桌上提到，将云端的软件和模型迁往不同的本地平台，往往需要经过较长时间的适配。模型结构、算子、编译环境与芯片架构彼此相关，即便一次移植成功，后续模型迭代或更换硬件时仍可能重新调整。对准备推出终端产品的客户来说，这些开发工作同样计入项目成本与上市周期。

光羽芯辰正在建设EdgeAIon软硬件体系，将TC1000的计算能力与编译、推理运行及模型部署工具衔接起来，让开发者能够在新架构上调用模型、调整精度并优化性能。王润泽期待产业链在软件适配和接口标准上形成更多共识，因为芯片性能提高之后，如果开发工具仍然各自割裂，终端厂商依然难以高效地把产品推向市场。

王润泽在论坛上还举了机器人抓取物品的例子：识别出目标物体之后，机器人还需要判断如何接近、抓取以及与人完成交接，这些动作对局部感知和响应速度有各自的要求。光羽芯辰正在探索将部分推理能力部署到机械臂、关节等靠近执行端的位置，让中央计算单元集中处理更复杂的任务。这样的计算分工有助于为机器人建立更加灵活的软硬件架构，也为低功耗端侧推理芯片进入不同功能模块提供了机会。

量产之后，产业合作向应用和端云协同延伸

首代TC1000从7月发布走向9月宣布量产后，光羽芯辰正与联想研究院等伙伴推进AI PC及相关端侧计算设备的产品开发。在机器人、智能座舱等场景中，芯片需要与整机控制系统、供电和散热设计共同适配。芯片本身进入量产之后，终端厂商的模型调试和产品验证，将进一步决定它能在哪些设备中形成持续应用。

光羽芯辰在今年9月完成A轮融资交割，半年内累计融资近20亿元。参与投资的产业机构包括宁德时代旗下溥泉资本、北汽产投以及阳光电源旗下仁发投资等。汽车、能源和工业产业链的参与，为这家成立于2024年的芯片企业提供了更贴近终端需求的合作入口，也让从单颗芯片到完整应用方案的开发有了更多可能。

面向不同规模的模型，终端本地推理与云端计算也可以承担不同任务。光羽芯辰已与燧原科技就云端推理和端云协作展开合作，探索把偏重并行计算的预填充阶段与更依赖访存效率的解码阶段进行差异化调度，并推进端侧与云端资源在软件层面的协同。这使公司的3D堆叠及存储分层技术有机会从单一终端芯片延伸到更广泛的推理系统。

回到王润泽在论坛上举出的会议助手场景，用户最终看重的，是设备能否在恰当的时候提供真正有用的帮助。TC1000已让光羽芯辰的3D近存计算架构进入量产阶段；接下来，随着软件适配与终端开发不断推进，这项技术的价值将进一步体现在具体功能、产品体验以及客户的持续采用之中。