来源:“老头乐”能卖却不能上路?记者实探作者: 杨宗毅:

优刻得携手华中科技大学探索Agent推理基础设施新路径

5月28日,据优刻得-W(688158.SH)消息,优刻得与华中科技大学达成产学研合作,聚焦Agent场景下的大模型推理瓶颈,围绕KV Cache卸载与复用技术展开联合研究,共同探索面向下一代AI推理基础设施的系统级创新方案。

双方结合云基础设施、分布式存储与异构计算等领域能力,从“单请求长上下文推理”与“跨请求前缀复用”两个维度,共同推进多层级KV Cache卸载体系建设,为Agent推理服务提供更高效、更具扩展性的底层支撑。

@胡佳莹:工本口子库福彩画,记者:梅西明显受伤了
@郭建宇:今起中东部热力升级气温创新高
@李佩华:货车撞断限高栏杆 砸中路边女子