21世纪经济报道记者 彭新
CDN(内容分发网络)厂商正试图把自己改造成AI推理的承载者。
在今年的GTC期间,老牌CDN巨头Akamai与英伟达宣布,双方联合打造的“AI网格”(AI Grid)落地,将遍布全球超过4400个边缘节点的网络改造为分布式AI推理平台,并在其中部署英伟达GPU。
“Akamai希望能够借助过去20多年在全球积累的分布式计算网络构建起一个全球最大的分布式及云安全的平台,同时进一步转型成为全球最大的分布式AI推理平台。”Akamai大中华区副总裁张轲告诉21世纪经济报道记者。他表示,这是Akamai未来一段时间最大、也是最重要的转型。
算力向边缘下沉
驱动这场转向的,是行业对AI推理市场的预期。英伟达创始人兼CEO黄仁勋提出,AI推理的负载规模很快将达到训练负载的十亿倍。从市场趋势来看,随着AI算力需求的重心从模型训练转向推理,以及AI智能体应用爆发,靠近用户的边缘网络正成为承载推理的关键一层,而这恰是CDN厂商的看家本领。
CDN全称为Content Delivery Network,即内容分发网络,主要通过在靠近用户的地方,搭建内容分发节点服务器,让用户在点击网站链接后,可以更快速地获取网页上的视频、图片等内容。在CDN业务中,网速不仅关乎用户体验,还跟企业经营效率密切相关,因此CDN技术成为互联网经济的基础设施。
智能体应用的爆发,带动AI推理需求激增。“现在70%至80%的AI基础设施用于训练,30%用于推理,未来这个比例会反转,70%用于推理,30%用于训练。”联想集团董事长兼CEO杨元庆在近期财报电话会中称。
在AI时代,集中式的“AI工厂”,即少数大型数据中心,被认为难以单独满足实时、低时延的推理需求,算力需要下沉到离用户更近的地方,这一逻辑与CDN将媒体内容缓存到离用户最近的节点如出一辙。
“用户对AI推理的时延预期非常高,”Akamai亚太区云计算架构师总监李文涛称。他分析,从应用场景来看,在线游戏往往希望在15毫秒内拿到首个Token,电商约20毫秒,智能体自助服务约50毫秒,客服机器人约100毫秒。
目前,Akamai的全球网络已覆盖700多个城市、4400多个边缘节点,并正以此为底座推进GPU算力规模化部署。李文涛表示,Akamai提供的全球分布的推理云可满足AI时代对低时延推理的需求,其底层是英伟达GPU算力底座,其上是负责大模型请求调度与安全的AI网关,以及分布式容器平台等。
其中真正承担“指挥”角色的是被称为AI Grid(AI网格)的编排层——这是一套感知工作负载的控制平面,能够根据模型类型、时延目标及成本,自动在边缘、区域与核心多级算力之间选择最优层级。
Akamai称,其推理云是英伟达“AI网格”参考架构在全球的首个规模化落地项目。这套架构正是英伟达面向电信运营商与分布式云厂商力推的蓝图,其设想是,借助这些公司遍布各地的网络,把基础设施改造为可就近承载AI原生服务的分布式算力网。
通信与算力网络重构
更深一层的变化将发生在通信与算力网络底层。英伟达主张用GPU统一无线接入网的算力,让基站既能跑通信、也能跑AI。在黄仁勋看来,“电信是至关重要的国家基础设施,是经济和安全的数字神经系统”,正因如此,他把电信业称作AI的“下一个主战场”,并大力推进AI网格架构。
“AI网格的核心竞争力主要在于让GPU算力触手可及,”李文涛称,通过智能编排,Akamai不仅仅是在卖算力,而是在管理一套遍布全球的算力网络。AI网格能够自动识别AI推理任务的需求,并且在毫秒级内完成在全球范围内的GPU最优算力调度,确保每一份AI算力都能精准地送达到需要它的用户身边。
将算力下沉至边缘后,按Akamai的说法,其节点与全球约95%的互联网用户之间仅有约10毫秒的时延;在推理场景下,相较集中式云方案,时延可降低约80%。
此外,企业可以通过把不同负载自动匹配到合适的算力层级来大幅压低推理成本,把宝贵的高端算力用于真正需要的负载。该方案本质上是把CDN的“缓存复用”思路应用于AI推理,重复或语义相近的请求不必次次都跑一遍完整的AI模型。
整体来看,无论海外还是本土,CDN厂商的转型路径高度一致:把多年沉淀的边缘网络与调度能力,建设为面向推理的算力底座。
在国内市场,CDN厂商网宿科技近年也打造出一个具备网络传输、智能算力和安全防护功能的一体化边缘AI推理平台,为企业提供从底层算力、AI模型部署到安全防护的一站式服务。
在AI推理领域,网宿利用其全球GPU算力池搭建了专属平台,内置主流开源大模型,还支持企业托管私有模型。其核心优势同样聚焦于低时延边缘推理。据网宿介绍,平台依托CDN边缘网络,将用户的操作请求自动调度至距离最近的节点进行本地计算,目前这套低延迟边缘AI方案已在AI、传媒、家居以及医药等多个行业投入实际应用。
CDN厂商转向分布式推理,赛道切换看似顺理成章:它们手握离用户最近的边缘网络,又不像运营商那样背负“牵一发而动全身”的存量包袱。但随着云厂商、电信运营商等公司纷纷入局边缘推理,加大投入,赛道逐渐拥挤,CDN厂商能否将网络优势真正转化为算力收入,仍待市场检验。
《拳皇不知火舞放屁大招在哪里调》,《x》怡红院播放器
“4455.永久”
全国操逼
……
{!! riqi() !!}
“综合久久12”{!! reci() !!}
↓↓↓
![]()
{!! riqi() !!},“华流”如何成为全球顶流?这场论坛讲明白了,污污污污的网站,69国产成视频,小岳母韩国,求操app
{!! riqi() !!},雷霆力挫马刺赢下天王山,蘑菇mogu2.6.0版本官网blog新升级,亚洲更新,床吻戏脱戏,小乔被裸爆白浆
{!! riqi() !!},第三届粤港澳大湾区博士博士后创新创业大赛启动,触摸模拟器18+,pa网址app下载v0108.注册松一八八园.中国,欧美日韩系列,男男视频网
{!! riqi() !!}|2025年全国博物馆接待观众15.6亿人次|国产精品 吃瓜|玩具体验馆by笔趣阁全文在线阅读|男人又爽 又黄 动漫下载|九色lPORNY9l自拍蝌窝
{!! riqi() !!}|北京推出104项重点任务赋能平原新城发展|日本wwwxxx|福利影院深入少女|大香蕉视频180|胖男同的色情软件
{!! riqi() !!}|赵乐际将访问哈萨克斯坦、俄罗斯并在俄出席中俄议会合作委员会第十一次会议|www.五月婷婷.com|欧美欧洲亚洲香港日本一品道色情三级|上一篇18p|美女一区……
![]()
{!! riqi() !!},北京人社部门筑牢权益“保障网” 锻造就业“新引擎”,含羞草直播app,18 乳液啪啪红桃免费网站,一级色片人人操,七猫视频一区
{!! riqi() !!},“开盒”网暴等犯罪被惩治 谁在贩卖你的个人信息?,理伦2019高清中文版,黄污视频下载,91n免费处女在线破视频+进https://www.lvzynhi.com:2087/1035.html,91n免费处女在线破视频 进https://www.swnxwvo.com:2087/1035.html
{!! riqi() !!}|【我是Z世代】农大“追花”女孩:像种子一样,向上生长|扶她|鲁鲁杜|国产综合色站|玖玖在线色
{!! riqi() !!},专访肯尼斯·奎因:“这次美中元首会晤是巨大机会”,在线欧美性爱,班长c喷水,隸則,日韩乱码一二三区免费看
{!! riqi() !!},不断书写共建中拉命运共同体新篇章(和音),十大污染APP粉色,嫩草网,jjzz8,美女jk自慰
{!! riqi() !!},CBA季后赛半决赛:上海队客场再胜北京队晋级总决赛,国产操,www.逼,jjzz91,一区在线观看视频
{!! riqi() !!}|国家防办派工作组赴广西协助指导车辆坠河人员搜救工作|在公车上被|午夜伦理影院|TS米兰和老外最新视频更新时间|350234火影忍者黑土本
{!! riqi() !!}|杭州往返菲律宾马尼拉客运航线复航|亚洲v成人|女性向skii男主很帅的在哪看|男生用坤怒怼女生|91黄书
{!! riqi() !!}|侨胞助力侨乡越野跑活动 “农文体旅”融合带动乡村振兴|91n免费处女在线破视频+进https://www.izbmxax.com:2087/1035.html|69AXXXXXXXX69|一起cao网站免费入口在线观看|91fuli.
![]()
{!! reci() !!},{!! reci() !!}|关咏荷笑起来好明媚|冈本视屏|91gay|午夜呻吟|色图软件
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺