360联合北大震撼发布!5%参数量逼近Deepseek-R1满血性能
2025年2月24日——由360与北京大学联合研发的中等量级推理模型Tiny-R1-32B-Preview正式亮相,仅以5%参数,逼近Deepseek-R1-671B的性能。
核心突破:小模型,大能量
▪ 数学领域:以78.1分(AIME 2024评测)逼近原版R1模型(79.8分),远超Deepseek-R1-Distill-Llama-70B(70.0分);
▪ 综合性能:在编程(LiveCodeBench 61.6分)、科学(GPQA-Diamond 65.0分)领域全面领先最佳开源70B模型Deepseek-R1-Distill-Llama-70B;
▪ 效率跃迁:仅需5%参数量,性能达原版R1的95%以上,推理成本大幅降低。
技术革新:领域专精+模型融合
研究团队使用「分治-融合」策略:
▪ 基于DeepSeek-R1生成海量领域数据,分别训练数学、编程、科学三大垂直模型;
▪ 通过Arcee团队Mergekit工具智能融合,突破单一模型性能上限,实现多任务均衡优化。
开源承诺:推动技术普惠
▪ 模型仓库:https://huggingface.co/qihoo360/TinyR1-32B-Preview
▪ 即将公开完整技术报告、训练代码及部分数据集;
▪ 践行开源精神,助力AI社区共筑高效推理新生态。
研发团队表示:「Tiny-R1-32B-Preview是蒸馏技术的里程碑,未来将持续探索更轻量、更强大的通用模型,推动AI技术普惠化进程。」
360 团队: Lin Sun, Guangxiang Zhao, Xiaoqi Jian, Weihong Lin, Yongfu Zhu, Change Jia, Linglin Zhang, Jinzhu Wu, Sai-er Hu, Xiangzheng Zhang
北大团队: Yuhan Wu, Zihan Jiang, Wenrui Liu, Junting Zhou, Bin Cui, Tong Yang
关键词:
推荐
-
-
-
-
-
-
荣耀笔记本三叉戟首秀 荣耀MagicBook14系列2023上市
荣耀举行荣耀MagicBook 14系列新品发布会,推出荣耀MagicBook 14 2023和荣耀MagicBook 14 Pro 202...
来源:TechWeb -
-
-
苹果iPhone15Pro机模视频展示新按钮 USB-C等外观设计
日前一个 iPhone 15 Pro 机模出现在抖音分享的视频中,提供了对该设备传闻中的设计的近距离观察。预...
来源:TechWeb -
直播更多》
-
小米13Ultra发布:告别数码味 回归影像光学原点
小米集团在京召开新品发布会,正式发布...
-
小米13Ultra发布:告别数码味 回归影像光学原点
小米集团在京召开新品发布会,正式发布...
-
华为超联接笔记本MateBookD14发布 这才是大学生与新锐白领的梦中情本!
在当代大学生和新锐职场人士的眼中,如...
-
库克担任苹果CEO已4250天 成苹果任职时间最长正式CEO
据外媒报道,自2011年8月25日接替乔布斯...
-
小米13Ultra将首发索尼IMX858传感器:所有副摄与主摄严格拉齐
据官方日前确认,全新的小米13 Ultra将...
-
多款重磅新品及解决方案发布 中兴通讯举办2023年度云网生态峰会
2023年度中兴通讯云网生态峰会在深圳成...