作者:萧玉婷发布时间:2026-11-22 04:03:22 点击数:62712

昨日研究机构公开最新成果10后女生独爱“鲶鱼须”刘海 很高兴为您解答这个问题,让我来帮您详细说明一下。品牌授权报修电话,快速上门服务

北辰区广源街道湖北省宜昌市秭归县北辰区黑龙江省七台河市桃山区元氏县苏村乡江苏省苏州市相城区蓟州区东赵各庄镇赵县沙河店镇朝阳区豆各庄地区内蒙古乌海市乌达区朝阳区小红门地区海南省海口市美兰区云南省大理白族自治州云龙县黑龙江省鹤岗市陕西省西安市未央区四川省德阳市广汉市山东省泰安市泰山区桥西区东华街道丰台区和义街道北辰区福建省南平市建瓯市江西省赣州市石城县平山县东回舍镇喀什地区叶城县江苏省南京市浦口区武清区上马台镇山西省朔州市山阴县朝阳区小关街道四川省凉山彝族自治州昭觉县西藏拉萨市达孜区西城区天桥街道山西省运城市夏县山东省淄博市临淄区海南省儋州市元氏县苏村乡合肥市庐阳区平顶山市湛河区平山县小觉镇西藏阿里地区日土县吉林省四平市铁西区黑龙江省绥化市明水县广东省广州市越秀区贵州省安顺市普定县门头沟区大峪街道辽宁省朝阳市北票市内蒙古兴安盟乌兰浩特市朝阳区酒仙桥街道焦作市大兴区蚌埠市龙子湖区江西省吉安市永新县芜湖市南陵县云南省文山壮族苗族自治州广南县山东省枣庄市台儿庄区湖北省宜昌市夷陵区福建省三明市梅列区江苏省南通市启东市广东省江门市山西省阳泉市平定县朝阳区酒仙桥街道井陉县吴家窑乡新乐市协神乡吉林省白山市浑江区黑龙江省绥化市明水县四川省宜宾市江安县湖北省宜昌市秭归县西藏拉萨市达孜区四川省宜宾市江安县湖北省宜昌市秭归县山东省泰安市东平县山东省威海市四川省广元市海南省海口市美兰区广东省云浮市新兴县广东省广州市越秀区陕西省宝鸡市眉县平山县宅北乡桂林市兴安县芜湖市南陵县静海区西翟庄镇湖北省宜昌市宜都市博尔塔拉蒙古自治州温泉县山西省晋城市泽州县山西省吕梁市中阳县青海省果洛藏族自治州西乡塘区平山县东回舍镇青海省玉树藏族自治州治多县陕西省西安市未央区洛阳市汝阳县内蒙古乌海市乌达区辽宁省铁岭市开原市山东省聊城市冠县青海省海西蒙古族藏族自治州德令哈市辽宁省铁岭市清河区江苏省镇江市句容市固原市西吉县密云区古北口镇黑龙江省伊春市金林区四川省泸州市江阳区

昨日行业报告传达最新政策DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE,很高兴为您解答这个问题,让我来帮您详细说明一下:官方服务专线,支持多品牌报修

山东省德州市齐河县青海省海北藏族自治州门源回族自治县云南省红河哈尼族彝族自治州绿春县青海省海西蒙古族藏族自治州德令哈市桥西区留营街道福建省南平市广东省珠海市斗门区朝阳区酒仙桥街道辽宁省沈阳市沈河区武清区上马台镇静海区西翟庄镇江西省吉安市吉安县朝阳区管庄地区南开区体育中心街道西城区月坛街道青海省玉树藏族自治州治多县山西省晋中市太谷区平山县东回舍镇鹿泉区白鹿泉乡内蒙古呼伦贝尔市阿荣旗西藏山南市甘肃省庆阳市镇原县江西省九江市武宁县贵州省六盘水市水城县广东省深圳市内蒙古锡林郭勒盟镶黄旗四川省凉山彝族自治州甘洛县南阳市内乡县贵州省铜仁市玉屏侗族自治县四川省乐山市江西省吉安市吉安县蓟州区东赵各庄镇黑龙江省佳木斯市富锦市门头沟区大峪街道防城港市东兴市山东省青岛市城阳区合肥市瑶海区广东省惠州市龙门县元氏县苏村乡丰台区和义街道山东省烟台市龙口市贵州省铜仁市玉屏侗族自治县辽宁省辽阳市白塔区青海省海西蒙古族藏族自治州德令哈市湖北省恩施土家族苗族自治州恩施市青海省果洛藏族自治州山东省东营市垦利区昌平区延寿镇平顶山市湛河区辽宁省大连市旅顺口区平山县小觉镇辽宁省铁岭市清河区湖北省襄阳市襄州区河东区东新街道陕西省宝鸡市眉县蚌埠市龙子湖区重庆市县巫山县黑龙江省大兴安岭地区呼玛县蓟州区东赵各庄镇元氏县延庆区康庄镇海南省儋州市江苏省镇江市句容市井陉县吴家窑乡福建省福州市罗源县怀柔区宝山镇甘肃省陇南市丰台区宛平城地区甘肃省天水市秦州区延庆区康庄镇黑龙江省佳木斯市汤原县哈密市伊吾县福建省漳州市龙海市内蒙古鄂尔多斯市鄂托克旗四川省成都市新都区长安区广安街道吉林省长春市双阳区西乡塘区静海区大邱庄镇洛阳市汝阳县行唐县龙州镇山西省阳泉市平定县陕西省西安市未央区广东省汕头市龙湖区西乡塘区四川省遂宁市蓬溪县福建省莆田市城厢区山东省德州市齐河县平山县小觉镇和田地区山西省忻州市宁武县山西省晋中市榆社县无极县大陈镇海南省三沙市西沙区云南省普洱市景东彝族自治县南开区体育中心街道海南省儋州市江苏省连云港市赣榆区江西省景德镇市昌江区西藏山南市贡嘎县

全球服务区域:山东省泰安市泰山区长安区南村镇桥西区留营街道四川省宜宾市江安县四川省甘孜藏族自治州九龙县山西省朔州市山阴县山东省威海市江苏省徐州市丰台区和义街道淮南市大通区山西省吕梁市中阳县山东省泰安市泰山区四川省广安市岳池县门头沟区大峪街道青海省玉树藏族自治州治多县山东省泰安市泰山区鹿泉区寺家庄镇平山县小觉镇甘肃省定西市渭源县甘肃省白银市景泰县山西省晋城市高平市静海区大邱庄镇四川省甘孜藏族自治州泸定县平山县东回舍镇西藏拉萨市达孜区丰台区和义街道海淀区青龙桥街道蓟州区东二营镇银川市贺兰县江苏省徐州市桂林市兴安县山西省晋中市太谷区江西省鹰潭市余江区吉林省四平市铁西区怀柔区龙山街道山东省淄博市临淄区博尔塔拉蒙古自治州温泉县湖北省宜昌市西陵区海南省儋州市广东省云浮市新兴县广东省深圳市合肥市瑶海区海淀区青龙桥街道蓟州区官庄镇湖北省恩施土家族苗族自治州恩施市山东省枣庄市台儿庄区江苏省徐州市山西省忻州市宁武县和田地区洛阳市汝阳县合肥市庐阳区河东区东新街道广东省云浮市新兴县西青区精武镇辽宁省本溪市溪湖区鹿泉区白鹿泉乡陕西省宝鸡市眉县云南省玉溪市新平彝族傣族自治县内蒙古锡林郭勒盟正镶白旗赞皇县院头镇山东省德州市齐河县武清区汊沽港镇湖北省襄阳市襄州区密云区河南寨镇洛阳市汝阳县贵州省铜仁市印江土家族苗族自治县黑龙江省佳木斯市富锦市百色市田林县赞皇县西龙门乡四川省宜宾市江安县山西省晋中市榆社县塔城地区和布克赛尔蒙古自治县信阳市平桥区内蒙古鄂尔多斯市康巴什区塔城地区和布克赛尔蒙古自治县巴音郭楞蒙古自治州和硕县固原市西吉县蓟州区东施古镇江苏省苏州市相城区海南省三沙市西沙区辽宁省辽阳市白塔区百色市田林县北辰区延庆区康庄镇黑龙江省绥化市明水县湖北省恩施土家族苗族自治州恩施市平山县上观音堂乡四川省凉山彝族自治州昭觉县贵州省安顺市普定县西藏阿里地区日土县黑龙江省哈尔滨市巴彦县广东省广州市越秀区平顶山市卫东区静海区大邱庄镇平山县宅北乡密云区不老屯镇四川省成都市双流区甘肃省白银市景泰县青海省海南藏族自治州贵德县巴音郭楞蒙古自治州和硕县

稍早前相关部门公布新政策DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE,很高兴为您解答这个问题,让我来帮您详细说明一下:售后服务维修中心电话,支持多渠道服务

全国服务区域:朝阳区管庄地区辽宁省锦州市义县鹿泉区寺家庄镇河东区大直沽街道延庆区沈家营镇江西省宜春市奉新县乌鲁木齐市沙依巴克区伊犁哈萨克自治州昭苏县濮阳市南乐县丰台区和义街道桂林市兴安县山西省晋城市泽州县乌鲁木齐市沙依巴克区和田地区怀柔区龙山街道黑龙江省绥化市明水县山东省潍坊市青州市丰台区和义街道蓟州区东赵各庄镇博尔塔拉蒙古自治州温泉县百色市靖西市江苏省徐州市丰县山西省晋中市榆社县陕西省宝鸡市千阳县贵州省铜仁市印江土家族苗族自治县赞皇县西龙门乡江苏省徐州市丰县昌平区回龙观街道福建省三明市梅列区许昌市建安区平山县小觉镇四川省凉山彝族自治州昭觉县江苏省镇江市句容市福建省莆田市仙游县喀什地区叶城县陕西省商洛市山阳县福建省福州市永泰县蚌埠市龙子湖区淮南市大通区合肥市瑶海区重庆市县巫山县贵州省黔南布依族苗族自治州惠水县陕西省汉中市西乡县元氏县内蒙古鄂尔多斯市鄂托克旗云南省玉溪市新平彝族傣族自治县吉林省四平市铁西区山西省阳泉市平定县青海省海北藏族自治州门源回族自治县黑龙江省佳木斯市汤原县重庆市县巫山县云南省文山壮族苗族自治州广南县广东省江门市伊犁哈萨克自治州昭苏县平山县岗南镇平山县岗南镇湖北省宜昌市夷陵区福建省莆田市城厢区西城区天桥街道乌鲁木齐市沙依巴克区四川省甘孜藏族自治州山东省聊城市冠县江苏省苏州市相城区山东省泰安市泰山区福建省漳州市龙海市密云区河南寨镇甘肃省天水市秦州区黑龙江省佳木斯市富锦市山西省阳泉市平定县广东省汕头市龙湖区福建省三明市梅列区无极县大陈镇阿克苏地区拜城县湖北省恩施土家族苗族自治州恩施市静海区大邱庄镇山西省忻州市宁武县黑龙江省鸡西市鸡冠区山西省晋城市高平市甘肃省陇南市鹿泉区寺家庄镇海南省海口市美兰区四川省遂宁市蓬溪县长安区南村镇河东区大直沽街道西乡塘区武清区上马台镇北辰区陕西省咸阳市兴平市丰台区宛平城地区青海省海北藏族自治州门源回族自治县黑龙江省七台河市桃山区海南省三沙市西沙区四川省泸州市江阳区丰台区和义街道福建省厦门市海沧区云南省红河哈尼族彝族自治州绿春县江西省萍乡市上栗县广东省广州市越秀区湖北省宜昌市夷陵区桂林市兴安县

售后服务上门服务电话,智能分配单据:DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE

编辑|Panda

「快!」

说到索尼克,不管是刺猬索尼克还是音速索尼克,大家的第一印象多半就是「快」,而「快」也是现在许多 AI 模型和应用优化的一大核心目标。

近日,由普林斯顿大学 Tri Dao(FlashAttention 的一作)和加州大学伯克利分校 Ion Stoica 领导的一个联合研究团队也做出了一个超快的索尼克:SonicMoE

一作 Wentao Guo 的推文,他目前正在普林斯顿大学就读计算机科学博士

据介绍,SonicMoE 能在英伟达 Blackwell GPU 上以峰值吞吐量运行!并且运算性能超过了 DeepSeek 之前开源并引发巨大轰动的 DeepGEMM。

有趣的是,DeepSeek 前些天还在 DeepGEMM 库中开源了新的技术 Mega MoE,即巨型 MoE—— 从名字也能看出来,这与 SonicMoE(音速 MoE)显然是两个不同的方向,我们也期待能看到「」与「」这两个方向的更直接的对比。

下面我们就基于官方技术博客,简单了解下 SonicMoE。

博客地址:https://tridao.me/blog/2026/sonicmoe-blackwell/代码库:https://github.com/Dao-AILab/sonic-moe论文地址:https://arxiv.org/abs/2512.14080

MoE 与它的隐患

要理解 SonicMoE 解决的是什么问题,先得认识一种正在主导前沿 AI 的架构设计 —— 混合专家模型(Mixture of Experts,MoE)。

细粒度 MoE 架构

想象一家医院。面对每一位患者,医院不会让所有科室同时出动,而是先由全科医生判断,再分诊给最合适的专科。MoE 架构的逻辑与此相似:模型内部有大量「专家」子网络,每一个输入的信息片段(即 token,可以理解为文字或词语)只会被路由到其中一小部分专家处理,而不是流经所有参数。

这样做的好处显而易见:用相对较少的计算量,撑起了一个参数规模庞大的模型

2024 年发布的 Mixtral 8x22B,以及近期的 DeepSeek V3.2、Kimi K2.5、Qwen3 等明星模型,都是 MoE 架构的忠实拥趸。按照模型缩放法则,专家越「细粒度」(即每个专家越小、数量越多),模型在同等计算量下的表现往往越好。于是在短短两年间,MoE 专家的粒度提升了整整 9 倍,每次激活的专家比例则降至原来的十二分之一。

然而,代价也随之而来。

标准 MoE 实现前向传播的工作流程。π 是存储路由元数据的二进制掩码。黄色框表示内核边界。蓝色框是 HBM 中的变量。红色标签表示在正向 / 反向传播过程中缓存的激活值。紫色框是最终输出。全局内存中每个变量旁边的橙色框表示对应 Qwen3-235B-A22B-Thinking-2507 MoE 模型在处理 32k 个 token 时的张量大小比例。

标准 MoE 实现的反向激活梯度传递工作流程。

当专家越来越多、越来越「细」,训练这样的模型会遭遇两堵越来越高的墙:

第一堵墙是显存。在训练神经网络时,前向传播的中间结果必须被保存下来,以便反向传播时计算梯度。对于细粒度 MoE 来说,这些中间结果(激活值)的规模与专家粒度成正比 —— 专家越细,显存占用越大,最终会逼近 GPU 显存的物理极限。

第二堵墙是内存带宽。GPU 的性能取决于两个维度:算力(每秒能做多少次运算)和带宽(每秒能搬多少数据)。当专家足够细时,每个专家处理的数据量太少,GPU 的算力根本来不及被填满,大量时间都花在了从内存「搬运」数据上。这正是所谓「内存瓶颈」。对于典型的 Qwen3 细粒度 MoE,其单位计算量的内存访问强度比等参数量的普通模型高出 12 倍。

现有的开源训练工具(如 ScatterMoE 和 MoMoE)对这两个问题都存在明显不足,尤其是随着模型越来越细粒度,差距愈发显著。而SonicMoE正是为此而生。

SonicMoE 的每一层激活记忆占用空间(左图)即使在专家粒度(嵌入维度 / 专家中间维度)增加时也保持不变,并且与现有的 MoE 训练核 ScatterMoE 和 MoMoE 相比,SonicMoE 可以实现 1.87-4.04 倍的相对加速。

核心创新:一次算法级的重新设计

SonicMoE 的关键洞察,乍听简单,却需要深厚的系统级思维才能想到:问题的根源在于,现有 MoE 训练框架在中间结果的存储上过于「慷慨」—— 它们把太多临时数据写入了显存,而这些数据本可以不存。

传统方法在执行 MoE 的前向传播和反向传播时,会在每个计算阶段之间将中间张量(即矩阵形式的中间数据)写入 GPU 的高带宽内存(HBM)。这就好比一个厨师每炒完一道中间步骤,就把食材装盘放进冰箱,下一步再取出来继续 —— 频繁的存取本身就是大量时间的浪费。

SonicMoE 的前向计算工作流程以及与 PyTorch 中标准 MoE 实现的比较。这里还比较了两种方法的激活内存和 IO 成本。

SonicMoE 的算法重设计从根本上改变了这一流程,核心有两点:

第一,激活内存与专家粒度解耦

在训练反向传播中,SonicMoE 通过重新设计计算顺序,完全避免了缓存任何与专家规模成比例的中间张量。

具体来说,它将原本需要缓存的「下投影输出」等关键中间量,通过重排矩阵乘法的收缩顺序来消除 —— 不再存储中间结果,而是在需要时通过聪明的计算路径直接推导出所需梯度。

这使得 SonicMoE 的每层激活内存占用,在专家粒度大幅增加时保持恒定,相当于一个相同激活参数量的稠密模型。

这一改进无需任何额外的矩阵重计算代价,正面回答了此前业界一直认为「鱼和熊掌不可兼得」的问题。

第二,IO 感知的算子融合

SonicMoE 将原本分散成多个 GPU 核函数(kernel)的操作大量融合在一起。

例如,「Gather 融合」技术让数据搬运操作在矩阵乘法计算核的执行过程中同步完成,而不是作为单独步骤先把数据重排好再交给矩阵乘法 —— 这不仅省去了一次完整的内存读写,还利用了 GPU L2 缓存的局部性优势,让缓存命中率从约 66% 提升至约 75%,进一步降低了访问慢速 HBM 的频率。

此外,SwiGLU 激活函数的计算也被融入矩阵乘法的尾声(epilogue)阶段,在数据还驻留在寄存器时就地完成,无需额外的内存读写。

在最关键的反向传播核函数(dH kernel)中,SonicMoE 还进一步利用 GPU 的异步执行特性,将数据搬运的等待时间与矩阵运算重叠起来。

SonicMoE 的 dH 工作流程图的语义与标准 PyTorch MoE 多核实现等效,同时 SonicMoE 显著降低了 IO 成本。

实测结果显示,即便该核函数的 HBM 数据流量增加了 24%,张量核心(Tensor Core)的利用率仅下降约 10%—— 内存开销几乎被算力完全「吸收」。

可以利用最新的 NVIDIA 硬件特性来隐藏 SonicMoE 的 dH 内核中的 IO 延迟,并大幅减少整体运行时间。

软件抽象层 QuACK:让创新能跨代迁移

SonicMoE 还有一个容易被忽视的工程亮点:研究团队开发了一套名为QuACK的统一软件抽象层,将所有 MoE 矩阵乘法核函数统一为「主循环 + 可定制尾声」的共同结构。

两个使用 QuACK 实现的 SonicMoE 内核。左侧:内核工作流程图。中间:QuACK 尾声混合类,其中每个内核重写 epi_visit_subtile(dH 为 88 行代码,上投影前向为 21 行代码)。右侧:SonicMoE 的简化内核启动调用。

这样的设计意味着,当 GPU 从上一代 Hopper 架构(H100)升级到最新的 Blackwell 架构(B200/B300)时,硬件特有的优化只需要在极少数地方做局部修改,核心算法逻辑无需重写。

Tri Dao 与 Ion Stoica 团队之所以能快速将 SonicMoE 移植到英伟达最新旗舰 Blackwell GPU 并达到峰值吞吐,很大程度上正是受益于这一前瞻性的软件架构。

实验结果

研究团队在英伟达最新 B300 GPU 上,以六个真实开源 MoE 模型配置为基准进行了全面测评,涵盖从 7B 到 685B 参数的不同规模,包括 OLMoE、Qwen3-235B、DeepSeek V3.2 等当下最受关注的 MoE 架构。

B300 上 6 种真实 MoE 配置的前向(左)和后向(右)TFLOPS。从左到右依次为:OLMoE-1B-7B-0125、gpt-oss-20b、Kimi-Linear-48B-A3B-Base、Qwen3-Next-80B-A3B-Thinking、Qwen3-235B-A22B-Thinking-2507 和 DeepSeek-V3.2-Exp。Triton 官方示例不支持后向传播,Qwen3-Next-80B 的前向传播也不支持 K=10。

SonicMoE 与基线模型在 B300 上针对 7B OLMoE 规模 MoE(T=32768,d=2048,n=1024,E=64,K=8)的运行时分解情况。

结果相当显著:

与同样针对 Blackwell GPU 优化、由 DeepSeek 开发的 DeepGEMM 基准相比,SonicMoE 在前向传播上平均高出54%,在反向传播上平均高出35%—— 而 DeepGEMM 本身已是业界公认的高性能实现;与 Triton 官方 MoE 示例相比,SonicMoE 前向传播快21%与目前学术界和工业界广泛使用的 ScatterMoE、MoMoE 等训练框架相比,SonicMoE 的速度优势往往达到 近两倍甚至更高。

从核函数级别的运行时分析来看,SonicMoE 的加速主要来自两个方面:其一,Gather 融合消除了独立的数据搬运核函数,这是最主要的加速来源;其二,更快的分组矩阵乘法实现(得益于 Blackwell 独有的 CLC 调度器和 2CTA MMA 技术)贡献了额外约 10% 的提升。

在激活内存方面,当专家粒度从 Mixtral 时代提高到 Kimi K2.5 量级时,传统方案的每层激活内存会线性膨胀,而 SonicMoE 的占用则保持稳定。这对于在有限显存中训练更细粒度的未来模型,意味着更大的操作空间。

SonicMoE 很快,同时还有更深层的意义:当硬件的进步受制于物理规律逐渐放缓,软件层面的创新正越来越多地扮演起「平权者」的角色。

SonicMoE 的论文标题是「硬件高效、软件可扩展的细粒度 MoE 蓝图」—— 这个「蓝图」二字,或许正是研究团队想传递的信号:这不只是一个工具,而是一种可以被复制和继承的设计哲学。

SonicMoE 目前已在 GitHub 和 PyPI 开源,支持 H100 和最新 B200/B300 GPU,未来计划扩展至专家并行、MXFP8/FP4 精度支持,以及下一代英伟达 Rubin GPU。

在内存和算力日益稀缺的今天,这种创新极具价值,毕竟这是在为整个 AI 生态节省真金白银的成本。

你更看好 DeepSeek 的 Mega MoE 还是今天介绍的 SonicMoE?

昨日监管部门公布最新动态DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE

编辑|Panda

「快!」

说到索尼克,不管是刺猬索尼克还是音速索尼克,大家的第一印象多半就是「快」,而「快」也是现在许多 AI 模型和应用优化的一大核心目标。

近日,由普林斯顿大学 Tri Dao(FlashAttention 的一作)和加州大学伯克利分校 Ion Stoica 领导的一个联合研究团队也做出了一个超快的索尼克:SonicMoE

一作 Wentao Guo 的推文,他目前正在普林斯顿大学就读计算机科学博士

据介绍,SonicMoE 能在英伟达 Blackwell GPU 上以峰值吞吐量运行!并且运算性能超过了 DeepSeek 之前开源并引发巨大轰动的 DeepGEMM。

有趣的是,DeepSeek 前些天还在 DeepGEMM 库中开源了新的技术 Mega MoE,即巨型 MoE—— 从名字也能看出来,这与 SonicMoE(音速 MoE)显然是两个不同的方向,我们也期待能看到「」与「」这两个方向的更直接的对比。

下面我们就基于官方技术博客,简单了解下 SonicMoE。

博客地址:https://tridao.me/blog/2026/sonicmoe-blackwell/代码库:https://github.com/Dao-AILab/sonic-moe论文地址:https://arxiv.org/abs/2512.14080

MoE 与它的隐患

要理解 SonicMoE 解决的是什么问题,先得认识一种正在主导前沿 AI 的架构设计 —— 混合专家模型(Mixture of Experts,MoE)。

细粒度 MoE 架构

想象一家医院。面对每一位患者,医院不会让所有科室同时出动,而是先由全科医生判断,再分诊给最合适的专科。MoE 架构的逻辑与此相似:模型内部有大量「专家」子网络,每一个输入的信息片段(即 token,可以理解为文字或词语)只会被路由到其中一小部分专家处理,而不是流经所有参数。

这样做的好处显而易见:用相对较少的计算量,撑起了一个参数规模庞大的模型

2024 年发布的 Mixtral 8x22B,以及近期的 DeepSeek V3.2、Kimi K2.5、Qwen3 等明星模型,都是 MoE 架构的忠实拥趸。按照模型缩放法则,专家越「细粒度」(即每个专家越小、数量越多),模型在同等计算量下的表现往往越好。于是在短短两年间,MoE 专家的粒度提升了整整 9 倍,每次激活的专家比例则降至原来的十二分之一。

然而,代价也随之而来。

标准 MoE 实现前向传播的工作流程。π 是存储路由元数据的二进制掩码。黄色框表示内核边界。蓝色框是 HBM 中的变量。红色标签表示在正向 / 反向传播过程中缓存的激活值。紫色框是最终输出。全局内存中每个变量旁边的橙色框表示对应 Qwen3-235B-A22B-Thinking-2507 MoE 模型在处理 32k 个 token 时的张量大小比例。

标准 MoE 实现的反向激活梯度传递工作流程。

当专家越来越多、越来越「细」,训练这样的模型会遭遇两堵越来越高的墙:

第一堵墙是显存。在训练神经网络时,前向传播的中间结果必须被保存下来,以便反向传播时计算梯度。对于细粒度 MoE 来说,这些中间结果(激活值)的规模与专家粒度成正比 —— 专家越细,显存占用越大,最终会逼近 GPU 显存的物理极限。

第二堵墙是内存带宽。GPU 的性能取决于两个维度:算力(每秒能做多少次运算)和带宽(每秒能搬多少数据)。当专家足够细时,每个专家处理的数据量太少,GPU 的算力根本来不及被填满,大量时间都花在了从内存「搬运」数据上。这正是所谓「内存瓶颈」。对于典型的 Qwen3 细粒度 MoE,其单位计算量的内存访问强度比等参数量的普通模型高出 12 倍。

现有的开源训练工具(如 ScatterMoE 和 MoMoE)对这两个问题都存在明显不足,尤其是随着模型越来越细粒度,差距愈发显著。而SonicMoE正是为此而生。

SonicMoE 的每一层激活记忆占用空间(左图)即使在专家粒度(嵌入维度 / 专家中间维度)增加时也保持不变,并且与现有的 MoE 训练核 ScatterMoE 和 MoMoE 相比,SonicMoE 可以实现 1.87-4.04 倍的相对加速。

核心创新:一次算法级的重新设计

SonicMoE 的关键洞察,乍听简单,却需要深厚的系统级思维才能想到:问题的根源在于,现有 MoE 训练框架在中间结果的存储上过于「慷慨」—— 它们把太多临时数据写入了显存,而这些数据本可以不存。

传统方法在执行 MoE 的前向传播和反向传播时,会在每个计算阶段之间将中间张量(即矩阵形式的中间数据)写入 GPU 的高带宽内存(HBM)。这就好比一个厨师每炒完一道中间步骤,就把食材装盘放进冰箱,下一步再取出来继续 —— 频繁的存取本身就是大量时间的浪费。

SonicMoE 的前向计算工作流程以及与 PyTorch 中标准 MoE 实现的比较。这里还比较了两种方法的激活内存和 IO 成本。

SonicMoE 的算法重设计从根本上改变了这一流程,核心有两点:

第一,激活内存与专家粒度解耦

在训练反向传播中,SonicMoE 通过重新设计计算顺序,完全避免了缓存任何与专家规模成比例的中间张量。

具体来说,它将原本需要缓存的「下投影输出」等关键中间量,通过重排矩阵乘法的收缩顺序来消除 —— 不再存储中间结果,而是在需要时通过聪明的计算路径直接推导出所需梯度。

这使得 SonicMoE 的每层激活内存占用,在专家粒度大幅增加时保持恒定,相当于一个相同激活参数量的稠密模型。

这一改进无需任何额外的矩阵重计算代价,正面回答了此前业界一直认为「鱼和熊掌不可兼得」的问题。

第二,IO 感知的算子融合

SonicMoE 将原本分散成多个 GPU 核函数(kernel)的操作大量融合在一起。

例如,「Gather 融合」技术让数据搬运操作在矩阵乘法计算核的执行过程中同步完成,而不是作为单独步骤先把数据重排好再交给矩阵乘法 —— 这不仅省去了一次完整的内存读写,还利用了 GPU L2 缓存的局部性优势,让缓存命中率从约 66% 提升至约 75%,进一步降低了访问慢速 HBM 的频率。

此外,SwiGLU 激活函数的计算也被融入矩阵乘法的尾声(epilogue)阶段,在数据还驻留在寄存器时就地完成,无需额外的内存读写。

在最关键的反向传播核函数(dH kernel)中,SonicMoE 还进一步利用 GPU 的异步执行特性,将数据搬运的等待时间与矩阵运算重叠起来。

SonicMoE 的 dH 工作流程图的语义与标准 PyTorch MoE 多核实现等效,同时 SonicMoE 显著降低了 IO 成本。

实测结果显示,即便该核函数的 HBM 数据流量增加了 24%,张量核心(Tensor Core)的利用率仅下降约 10%—— 内存开销几乎被算力完全「吸收」。

可以利用最新的 NVIDIA 硬件特性来隐藏 SonicMoE 的 dH 内核中的 IO 延迟,并大幅减少整体运行时间。

软件抽象层 QuACK:让创新能跨代迁移

SonicMoE 还有一个容易被忽视的工程亮点:研究团队开发了一套名为QuACK的统一软件抽象层,将所有 MoE 矩阵乘法核函数统一为「主循环 + 可定制尾声」的共同结构。

两个使用 QuACK 实现的 SonicMoE 内核。左侧:内核工作流程图。中间:QuACK 尾声混合类,其中每个内核重写 epi_visit_subtile(dH 为 88 行代码,上投影前向为 21 行代码)。右侧:SonicMoE 的简化内核启动调用。

这样的设计意味着,当 GPU 从上一代 Hopper 架构(H100)升级到最新的 Blackwell 架构(B200/B300)时,硬件特有的优化只需要在极少数地方做局部修改,核心算法逻辑无需重写。

Tri Dao 与 Ion Stoica 团队之所以能快速将 SonicMoE 移植到英伟达最新旗舰 Blackwell GPU 并达到峰值吞吐,很大程度上正是受益于这一前瞻性的软件架构。

实验结果

研究团队在英伟达最新 B300 GPU 上,以六个真实开源 MoE 模型配置为基准进行了全面测评,涵盖从 7B 到 685B 参数的不同规模,包括 OLMoE、Qwen3-235B、DeepSeek V3.2 等当下最受关注的 MoE 架构。

B300 上 6 种真实 MoE 配置的前向(左)和后向(右)TFLOPS。从左到右依次为:OLMoE-1B-7B-0125、gpt-oss-20b、Kimi-Linear-48B-A3B-Base、Qwen3-Next-80B-A3B-Thinking、Qwen3-235B-A22B-Thinking-2507 和 DeepSeek-V3.2-Exp。Triton 官方示例不支持后向传播,Qwen3-Next-80B 的前向传播也不支持 K=10。

SonicMoE 与基线模型在 B300 上针对 7B OLMoE 规模 MoE(T=32768,d=2048,n=1024,E=64,K=8)的运行时分解情况。

结果相当显著:

与同样针对 Blackwell GPU 优化、由 DeepSeek 开发的 DeepGEMM 基准相比,SonicMoE 在前向传播上平均高出54%,在反向传播上平均高出35%—— 而 DeepGEMM 本身已是业界公认的高性能实现;与 Triton 官方 MoE 示例相比,SonicMoE 前向传播快21%与目前学术界和工业界广泛使用的 ScatterMoE、MoMoE 等训练框架相比,SonicMoE 的速度优势往往达到 近两倍甚至更高。

从核函数级别的运行时分析来看,SonicMoE 的加速主要来自两个方面:其一,Gather 融合消除了独立的数据搬运核函数,这是最主要的加速来源;其二,更快的分组矩阵乘法实现(得益于 Blackwell 独有的 CLC 调度器和 2CTA MMA 技术)贡献了额外约 10% 的提升。

在激活内存方面,当专家粒度从 Mixtral 时代提高到 Kimi K2.5 量级时,传统方案的每层激活内存会线性膨胀,而 SonicMoE 的占用则保持稳定。这对于在有限显存中训练更细粒度的未来模型,意味着更大的操作空间。

SonicMoE 很快,同时还有更深层的意义:当硬件的进步受制于物理规律逐渐放缓,软件层面的创新正越来越多地扮演起「平权者」的角色。

SonicMoE 的论文标题是「硬件高效、软件可扩展的细粒度 MoE 蓝图」—— 这个「蓝图」二字,或许正是研究团队想传递的信号:这不只是一个工具,而是一种可以被复制和继承的设计哲学。

SonicMoE 目前已在 GitHub 和 PyPI 开源,支持 H100 和最新 B200/B300 GPU,未来计划扩展至专家并行、MXFP8/FP4 精度支持,以及下一代英伟达 Rubin GPU。

在内存和算力日益稀缺的今天,这种创新极具价值,毕竟这是在为整个 AI 生态节省真金白银的成本。

你更看好 DeepSeek 的 Mega MoE 还是今天介绍的 SonicMoE?


本次公布的真菌新记录属包括盘菌属、藻伞菌属、小囊皮菌属和小牛肝菌属;新记录种则有红黄小菇、拟蓖形红菇、变异盘菌等25种。至此,天宝岩保护区的真菌物种总数已达1105种,这充分体现了保护区独特的生态环境与丰富的菌物多样性。(完) 羞同学巴巴塔,覆盖全网最新内容实时更新不间断精彩一手掌握 10后女生独爱“鲶鱼须”刘海
10后女生独爱“鲶鱼须”刘海

10后女生独爱“鲶鱼须”刘海

百万最新免费软件游戏

下载

10后女生独爱“鲶鱼须”刘海
首页>>当地回应物业4天3人突发心梗脑梗
10后女生独爱“鲶鱼须”刘海

10后女生独爱“鲶鱼须”刘海

「活动」首次登录送19元红包

88.83MB
版本{版本}
下载APK高速下载
下载再DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE安装你想要的应用 更方便 更快捷 发现更多
喜欢89%好评(11人)
评论90
DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE截图0DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE截图1DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE截图2DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE截图3DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE截图4
详细信息
  • 软件大小:48.96MB
  • 最后更新:2026-11-22 04:03:22
  • 最新版本:{版本}
  • 文件格式:apk
  • 应用分类:ios-AndroidDeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE
  • 使用语言:中文
  • :需要联网
  • 系统要求:5.86以上
应用介绍
🚫第一步:访问《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》官网👉首先,打开您的浏览器,输入《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》。您可以通过搜索引擎搜索或直接输入网址来访问.🍬
🚫第二步:点击注册按钮👉一旦进入《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》网站官网,您会在页面上找到一个醒目的注册按钮。点击该按钮,您将被引导至注册页面。🥐️
🚫第三步:填写注册信息 👉在注册页面上,您需要填写一些必要的个人信息来创建《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》网站账户。通常包括用户名、密码、电子邮件地址、手机号码等。请务必提供准确完整的信息,以确保顺利完成注册。🤭
🚫第四步:验证账户👉填写完个人信息后,您可能需要进行账户验证。《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》网站会向您提供的电子邮件地址或手机号码发送一条验证信息,您需要按照提示进行验证操作。这有助于确保账户的安全性,并防止不法分子滥用您的个人信息。😤
🚫第五步:设置安全选项👉《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》网站通常要求您设置一些安全选项,以增强账户的安全性。例如,可以设置安全问题和答案,启用两步验证等功能。请根据系统的提示设置相关选项,并妥善保管相关信息,确保您的账户安全。🐄
🚫第六步:阅读并同意条款👉在注册过程中,《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》网站会提供使用条款和规定供您阅读。这些条款包括平台的使用规范、隐私政策等内容。在注册之前,请仔细阅读并理解这些条款,并确保您同意并愿意遵守。🌲️
🚫第七步:完成注册👉一旦您完成了所有必要的步骤,并同意了《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》网站的条款,恭喜您!您已经成功注册了《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》网站账户。现在,您可以畅享《DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE》网站提供的丰富体育赛事、刺激的游戏体验以及其他令人兴奋!🍙
【联系我们】
客服热线
加载更多
版本更新
{版本}
DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE
  • 吉林松原:查干湖渐入冰封期 “龙鳞冰”绵延湖面
  • 大美边疆看我家丨远嫁新疆11年的台湾儿媳给迪丽努尔回信 热情邀约台湾同胞来畅游大美新疆
  • 上千“舞林高手”齐聚湖北茅箭 以舞会友展英姿
  • 斯里兰卡大幅加息以抑制通胀
  • 江西拟新增一所大学
  • 2026年ITF国际网球大师赛MT400尚东杯·北京昌平站开赛
  • 北京城市副中心首届OPC嘉年华·宋庄季落幕 聚焦AIGC创作和转化
  • 娜塔莎争议下仍有工厂加急生产
  • 市场监管总局批准发布血管芯片国家标准
  • 抓住机遇,以更大力度更实举措加强基础研究——论学习贯彻习近平总书记在加强基础研究座谈会上重要讲话
  • 雨口夺粮,襄阳奏响麦田里的同心曲
  • 多家券商给A股配置支招
  • 陈茂波:香港拟为合资格大宗商品交易提供50%利得税优惠
  • 谱写无愧于时代和人民的青春华章——习近平总书记的回信激励广大青年和青年工作者努力拼搏、接续奋进

    全息科技+实景演绎 千年包公文化谋新出海

    湖北咸宁完善“一老一小”全生命周期服务体系

    详情
查看更多
加载中加载中,请稍等...

DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE类似软件

  • 辽宁沈阳:“空中哨兵”上岗,城市治理飞入立体时代俄媒:朝鲜军人参加俄罗斯红场阅兵

    福建泉州:侨乡“代书人” 守笔半世纪

  • 财政部发布今年1至4月财政收支运行情况新疆有“理”第十四期丨新疆文化遗址是中华文化血脉的历史见证

    5月14日央行开展5亿元7天期逆回购操作

  • 传DeepSeek首轮融资估值450亿美元(第九届进博会)在进博读懂中国“聚侨力”:侨心所向机遇共享

    芬兰总统:欧洲应考虑直接同俄罗斯对话

  • 联讯仪器反超茅台成为A股“新股王”国际人工智能协会理事长戴睿:中国AI有“两张王牌”

    镜头聚焦“黑白精灵”:多国城市代表成都探访大熊猫基地

  • 神舟出征 同心逐梦前4个月国民经济保持稳中有进发展态势

    古巴国家主席:反帝阵营远比帝国强大

  • 时政微观察丨从四个“更高质量”看世界百年变局中的关键恒量芯片制造有多复杂

    “微笑天使”长江江豚“恋爱季”活跃“出镜”

  • 女子在耳朵注射玻尿酸后确诊脑梗死“戏聚长平 梆震山河——梆子声腔大会”在山西高平举行

    中美两军举行海上军事安全磋商机制工作小组会议和年度会晤

  • 朝媒发文批驳日本当局供奉和参拜靖国神社习言道丨中美元首北京会晤 3个特殊时间点

    赛目科技:公众持股量约为22.58%

  • 扬州江都聚焦绿色转型与源头守护:以生态“含绿量”提升发展“含金量”纽约油价跌破90美元

    大熊猫基地里的市长对话:共话“生态家园·城脉共生”

  • 亚太媒体合作伙伴计划正式成立湖北荆州:房屋被洪水围困 消防指战员将群众转移上岸

    (近观中国)信短情长,习近平与美国友人的交往故事

  • “东北超”沈阳赛区开赛 吸引各地球迷观赛(乡村行·看振兴)广东连江口镇:麻竹笋产业“链”出乡村全面振兴路

    一条廊道连浙皖 千岛湖黄山好水好山共“生金”

  • 女孩被卷入车底 十几名热心市民合力抬车救人中国发布AI伦理指引 与东盟合作添“安全阀”

    伊朗最高领袖就医情况披露

  • A股沪指刚刚翻红!超3900只个股上涨郭涛儿子石头亮相金鸡红毯

    中外鼓队齐聚华侨大学同台竞技 敲“活”二十四节气

  • 海南:自贸港多项便利助力荔枝加速“出海”《零售商品称重计量监督管理办法(修正草案征求意见稿)》公开征求意见

    广西柳州发生5.2级地震:地震已造成3人失联 当地转移7000余人

  • 沪辽携手促融合 台商寻机兴辽宁——上海台商赴辽开展参访交流活动“城超”,因地制宜更出彩

    2026年上海国际电影电视节六月开启 “上海首发”日益凸显

  • 拼多多发布Q3财报,赵佳臻:坚持深耕“全产业链”,推动传统产业数智升级探访吉林“室内雾凇实验室”:夏天也能观赏雾凇

    金科股份与瑞威资管签署合作协议

  • 菲律宾学者:四大领域潜力巨大 中国与东盟合作未来可期丨世界观香港“元朗十八乡天后宝诞会景巡游”展示文化魅力

    歌声架起西部美育桥 川渝黔滇93支合唱团队聚昆展演

  • 探路AI赋能“超级个体” 硅基智能泛亚OPC总部落地云南玉溪学校辟谣“女老师台下给校长打伞”

    专家学者聚首羊城共探中国化妆品科技发展之路

  • 就业新趋势:技能型 创新型人才需求旺盛美媒报道称:白宫改造项目遭质疑 议员称资金用途不明

    香港民青局青年内地实习资助计划在港启动

  • 可拍原子运动过程 揭秘地下30米的“国之重器”总书记引领强国之路|加快推进教育现代化

    泽连斯基称已向俄方递交换俘名单

  • 习近平总书记关切事|青春追梦 奋斗圆梦习近平主席特使、全国人大常委会副委员长洛桑江村出席吉布提总统就职典礼

    宁夏首次发布“宁夏枸杞”商标维权典型案例 多梯度打击商标侵权

  • APEC带火华强北2026浪琴表国际马联场地障碍世界杯中国联赛北京站开赛

    中国·新疆第十八届环赛里木湖(国际)公路自行车赛在精河县发车

  • 钾明矾\t商品报价动态(2026-05-23)(乡村行·看振兴)广东连江口镇:麻竹笋产业“链”出乡村全面振兴路

    广州港南沙港区一季度外贸集装箱吞吐量同比增长18.8%

  • 伊朗将公布霍尔木兹海峡通行管理“新机制” “新机制”新在哪儿?机器人“大展拳脚”背后:建行全方位赋能具身智能产业发展

    “你们都是旅游 她是探亲”

  • 海口海关动植物检疫中心实验室试剂耗材采购项目(第二次)比选公告微藻 “吃掉” 二氧化碳:粤首个山岭重丘区高速改扩建工程“绿色赋能”

    广西糖料蔗机收工作取得突破性成效 收获机具实现国产化替代

  • 内蒙古发现价值超60亿元金矿司法部全面推行“扫码入企” 以数字化手段规范涉企行政检查

    林志玲辞任董事的台湾“文策院”,是个什么机构?

  • 120多名外国代表齐聚 2026北京香山论坛先导会举办普京警卫拿的黑色手提箱抢镜

    《主角》从文坛到荧屏:一曲秦腔半生沉浮

  • 18年前汶川一条没发出的短信“自信就是大大方方地献丑”

    中方呼吁国际社会面对加沙严峻局势作出更积极努力

  • 尺素金声丨营收利润双增,上市公司交出亮眼年报梁靖崑回应被称为逆袭之王

    福建漳州核电4号机组三台蒸汽发生器全部吊装就位

  • 美国特使抵达格陵兰岛首府努克85岁妈妈每天给60岁女儿送饭

    涉汉坦病毒疫情邮轮人员开始疏散转运

  • 万人说新疆丨陪你追光 青春不设限世卫组织:非洲埃博拉疫情构成“国际关注的突发公共卫生事件”

    警惕!测血压总不准,可能是踩了这7个坑,看完立刻纠正!

  • 华为麒麟2026手机芯片今秋面世俄乌持续激烈争夺顿巴斯地区

    青海玛沁突发山体崩塌导致227国道部分路段中断

  • 直飞包机客座率攀升 甘肃与马来西亚深耕文旅合作高速上司机突发呼吸性碱中毒 交警隔空指导助脱险

    意外“自然熟”的凤梨,稳住了海南整个产季

  • 他生前最后一通电话是喊村民快跑起床后这4件事易引发心梗,冬天尤其别做

    李鸿忠率全国人大代表团访问阿尔巴尼亚

  • 博茨瓦纳前总统费斯图斯·莫哈埃去世贵州从江:夏日梯田美如画

    高油价冲击知名廉航停运 美航空市场会否出现“破产潮”?

  • 文脉华章|草原文脉汇青城 多元文明耀中华——主会场解码“美美与共”的中国叙事第三届兰花奖颁奖 诺贝尔文学奖得主勒克莱齐奥获终身荣誉奖

    “蓉深港图定班列”开行一周年 激活成渝地区与粤港澳大湾区联动新动能

相关攻略
  • 聚焦古建非遗技艺 茅盾新人奖得主新作《厝味》实体书签约
    2026-11-22 04:03:22
包含 饿了么 的应用集
  • 香港女航天员曾见证香港警察更换警徽 2026“互联中国公益行动”在贵州贵阳启动 中华全国总工会党组书记、副主席、书记处第一书记徐留平接受审查调查
    宁夏出台管理办法推动医药产业高质量发展
    西游记“福星”扮演者安云武去世
    146676752163762026-11-22 04:03:22
  • 大庆油田成功构建开发区级三维精细地质模型 填补行业技术空白 推广普及国家通用语言文字是统一多民族国家建设的题中之义 (乡村行·看振兴)银发族变身“思想导游”: 直播带“理”,回甘直抵心尖
    日本怂恿特朗普访华途中访日
    商务部等六部门:加力优化离境退税措施扩大入境消费
    33133626647872026-11-22 04:03:22
  • 市民、游客北京冬奥公园度“五一”假期 段永平,1380亿元持仓曝光 湖南多地今有降雨 株洲三地局地暴雨
    天津七里海湿地十年蝶变:鸟类增至308种 变身“候鸟天堂”
    大连夏季达沃斯论坛城市吉祥物“沃星”正式发布
    5447772725135988542026-11-22 04:03:22
  • 中新健康|熬夜、焦虑、常吃外卖,你的甲状腺还好吗? 《只此青绿》未演先热 台湾人士盼更多大陆文化精品走进宝岛 中俄文化交流嘉年华启动 三晋文化邂逅伏尔加河畔风情”
    陆秀竞&让·安哥拉中法艺术对话联展将在巴黎启幕
    孙颖莎训练时自称中国科比
    9325607488687892026-11-22 04:03:22
  • 中央音乐学院援助青海化隆六载:让乡村学子的未来有更多可能 目前,中国空间站组合体已进入对接轨道,工作状态良好,满足与神舟二十三号载人飞船交会对接和航天员进驻条件 新物种广西两头蛇被发现
    未来5年 山西确定能源关键词:“保供”“从大到强”
    共话中国经济新机遇|专访:期待与中国伙伴共拓发展新机遇——访喀麦隆经济、计划和领土整治部长梅伊
    679536444609672026-11-22 04:03:22
  • 金巧巧分享带娃日常 全国城市联合招聘高校毕业生(重庆)春季专场活动举行 心理疗愈需求攀升,职场“心防线”如何筑牢?
    特朗普涉台“四不”示警“台独”
    湖南省文化馆数字文旅体验空间开馆
    394023730331482026-11-22 04:03:22
  • 美军称执行对伊海上封锁已使58艘商船改变航向 北京市级全量政务服务事项可在雄安新区直接办理 第三届兰花奖颁奖典礼在北京举行
    泽连斯基称国家债务已增至2760亿美元
    广西南宁:初夏荷香 绘就诗意画卷
    62315891001792026-11-22 04:03:22
  • 天津“五一”首日重点商贸企业客流同比增长7% 中越新增一条跨境物流路线 助力桂越经贸往来 皮肤破损别接触海水与生海鲜!这种病菌一旦感染或致命
    吴宜泽10-7暂时领先肖恩·墨菲
    现场画面!广西柳州5.2级地震 已致3人失联
    1697942009093398742026-11-22 04:03:22
  • 2026年全国体操锦标赛:浙江队获男女混合团体赛冠军 美国在委内瑞拉举行军事演练 广西车辆坠河致10人遇难
    吃荔枝会“被酒驾”?专家辟谣
    两部门联合发布橙色山洪灾害气象预警
    112277583086682026-11-22 04:03:22
  • 云南石林高原绿色肉制品加工产业实现首次出口 从正确政绩观看义乌发展:不逐一时之 “显” 唯求长远之 “兴” 扩内需如何才能更有效?答案藏在这个逻辑里
    商务部:如欧方执意对中企采取歧视性限制措施,中方将坚决反制
    光大期货金融类日报5.7
    717901156373852026-11-22 04:03:22
  • 三星电子会长李在镕公开道歉 15岁蒋林静首夺跳水世界杯总决赛女子10米台冠军 中医专家提醒立夏养生要健脾祛湿 适度运动
    工业和信息化部批复首个卫星物联网业务商用试验
    日立集团已引入优必选工业级人形机器人
    496435573195739412026-11-22 04:03:22
  • 香港特区政府发行276亿港元绿债及基建债券 获全球投资者7.6倍超额认购 媒体:沙特3月曾对伊朗发动多次未公开空袭 广西建设中国—东盟信息通信枢纽
    京韵中轴
    孩子们撤下不久充气城堡“平地起飞”
    34964580728859652026-11-22 04:03:22
  • 告别靠天吃饭 内蒙古“聪明温室”解锁现代农业新玩法 行进中国丨老城向上 “天台经济”点亮古城夜色 早睡一小时比跑步30分钟更减肥吗
    (第九届进博会)九年赴进博之约 归侨任美霏乐当“西语政商超级联络人”
    妈妈用12小时写下20多年的感激
    2562436582205223912026-11-22 04:03:22
  • 6旬香港男子涉嫌强奸女性友人被拘 宁夏银川:花儿唱响湖城水岸 非遗点亮城市文化空间 专家共话内地与港澳法律热点:在“三法域”间架起规则互认的桥梁
    第13万列中欧班列今天将从郑州发车
    吴宜泽夺冠后最新发文
    616877112886552026-11-22 04:03:22
  • 美国佛州枪击案律师:ChatGPT为枪手作案“出谋划策” 探访杭州“未来学校”:AI赋能下的教育新图景 鲁比奥:美军发动打击后 美伊协议仍有望数日内达成
    湖南浏阳烟花厂爆炸事故已致3死25伤
    我国牵头发起海上风电柔直并网电能质量国际标准成功立项
    670618768107596932026-11-22 04:03:22
  • 柳州地震91岁老人靠阁楼死里逃生 国家统计局:1—4月份社会消费品零售总额同比增长1.9% 四足机器人领域再迎新锐 杭州云深处山猫S10亮相
    11月LPR报价出炉:1年期为3.0%,5年期以上为3.5%
    A股开盘:超3000只个股下跌,沪指、深指跌,创业板指上涨
    8622588769816406092026-11-22 04:03:22
  • 四川造血干细胞捐献突破1000例:一份“热血”背后的生命接力 从老街烟火到海昏汉韵 新阶层人士解锁南昌“魅力密码” 【时光印象】福州:“夏花”缀非遗
    直播海报:“5·20”迎领证高峰 直击多地婚姻登记处火热现场
    跳水世界杯总决赛:中国队包揽全部九金
    821746907636852026-11-22 04:03:22
  • 职业身份模糊、表演内容失范……景区NPC如何更加规范? “时光万像AI电影创作计划”在杭州启动 吉林打造跨境电商隆起带 200亿级工程加速吉品出海
    中国女子巴塞罗那街头遇害案细节
    激发全民族文化创新创造活力——热烈祝贺2026文化强国建设高峰论坛开幕
    13572453238247612026-11-22 04:03:22
  • “五一”假期国铁广州局发送旅客数量创历史新高 微信状态浏览者计数测试已停止 外交部:日本军国主义侵略罪行罄竹难书 铁证如山
    陈希在中央党校(国家行政学院)2026年春季学期第二批进修班开学典礼上强调 深学笃行习近平总书记关于树立和践行正确政绩观的重要论述
    上海交通大学通报“学生私吞竞赛奖金”:给予严重警告处分
    359938998706304332026-11-22 04:03:22
  • 国家消防救援局:河南灵宝足浴店起火 事发时消防控制室无人值班值守 “广西扶绥:趣味体验为乡村文旅聚人气 从“睡驾驶室”到“有淋浴间” 福建东侨货车司机驿站温暖赶路人
    江苏无锡:老人骑车摔倒昏迷 市民合力救助
    第15次中国—东盟海事磋商机制会议在广州召开
    127434698622262026-11-22 04:03:22
  • 日本:一大型电机企业被曝存在大量违规问题 网警侦破有偿删差评案 刑拘7人 厦门港新增一条直航印度尼西亚货运航线
    两连胜!中国队提前锁定U17女足亚洲杯八强席位
    曹德旺女儿为最大甲醇双燃料船命名
    848648381342642026-11-22 04:03:22
  • 从访华热看中国的“合作力”(和音) 金正恩:加强守卫朝南部边境一线部队 “侨胞医疗会诊转诊中心”在广州揭牌
    大美边疆看我家丨黑龙江鸡西:北疆明珠兴凯湖
    王楚钦:不提倡任何生日应援活动 希望多关注比赛
    57975861681567282026-11-22 04:03:22
  • 兰州“多巴胺”公交文创上新 街头秒变网红打卡地 中国团队在国际上首次实现人工细胞形态功能不对称分裂 中方代表在联合国谈美国不交会费
    赖清德明知其父曾被日本殖民者虐待,却跪拜日本殖民者!媚日言行愈发突显,引发众怒
    广东将开启新加坡电影展映 新加坡导演梁志强出席
    618925665076762026-11-22 04:03:22
友情链接
  • 外媒关注大冬会赴吉旅游 长春以“加减乘”解题迎客
    2026-11-22 04:03:22
  • (乡村行·看振兴)“蓝莓+”激活山乡经济 广西马山农文旅融合助振兴
    2026-11-22 04:03:22
  • 江西庐山:日出云海惊鸿宴
    2026-11-22 04:03:22
安卓手机网上最贴心的Android软件应用平台!版权所有:DeepSeek做大→Mega MoE,Tri Dao团队加快→SonicMoE有限公司备案号:京ICP备17065190号-1