揉我胸⋯啊⋯嗯～出白色液高开源22万条DeepSeek R1的高质量数据！你也能复现DeepSeek了_ZAK揉我胸⋯啊⋯嗯～出白色液高ER新闻
开源22万条DeepSeek R1的高质量数据！你也能复现DeepSeek了_ZAK揉我胸⋯啊⋯嗯～出白色液高ER新闻
2018年5月，海西州政府领导协调出动直升机，运送选址人员第一次到达选址点。此后的两个月内，直升机保障了更多基建材料和测量设备顺利上山。
DeepSeek 在海内外搅起的惊涛巨浪，余波仍在汹涌。当中国大模型撕开硅谷的防线之后，在预设中总是落后半拍的中国 AI 军团，这次竟完成了一次反向技术输出，引发了全球范围内复现 DeepSeek 的热潮。DeepSeek-R1 虽然开源，但也没有完全开源，训练数据、训练脚本等关键信息并未完全公布。不过，有技术报告，相当于拥有着复现 R1 的指导方针，已经有不少执行力强的团队用小模型见证「aha moment」了。在浩浩荡荡的复刻大军中，最令人瞩目的，当数 Hugging Face 领衔的 Open R1 项目。Open R1 宣称要做到完全开放复现 DeepSeek-R1，补齐 DeepSeek 所有未公开的技术细节。Open R1 项目刚刚启动不过几周，他们已经完成了：GRPO 实现训练与评估代码用于合成数据的生成器项目地址：https://github.com/huggingface/open-r1在开源社区的众志成城，Open R1 更是动作迅速。今天，他们发布了 OpenR1-Math-220k 数据集，又补全了一块 DeepSeek R1「碎片」—— 合成数据。OpenR1-Math-220k 数据集概览数据集链接：https://huggingface.co/datasets/open-r1/OpenR1-Math-220kDeepSeek R1 的一个重要优势在于它能够将高级推理能力迁移到较小的模型中。DeepSeek 团队生成了 60 万条推理数据，在 Qwen 和 Llama 等开源模型上证明了这种迁移能力。即使不使用强化学习，直接从 R1 模型进行迁移也能实现强大的推理性能。然而，这些合成数据仅 DeepSeek 可见，未对其他团队开放阅读权限。OpenR1-Math-220k 数据集就是来补上这块空缺的。具体而言，Open R1 团队使用 DeepSeek R1 生成了 80 万条推理轨迹，经过筛选和验证后得到了 22 万条高质量数据。这些数据可以用来支持更小的模型，来达到媲美 DeepSeek R1 的效果。比如在 OpenR1-Math-220k 数据集上训练出来的 Qwen-7B-Math-Instruct，达到了与 DeepSeek-Distill-Qwen-7B 相当的性能。下面就让我们来看看 OpenR1-Math-220k 数据集的特点，以及它是怎么诞生的：自动过滤正确答案，本地高效生成目前，开源社区已经发布了 OpenThoughts-114k、Bespoke-Stratos-17k、Dolphin-R1 和 LIMO 等多个推理数据集。然而，为了进行推理公众公开发布，这促使社区独立重建类似的数据集。另外，社区已经发布了多个开放数据集，包括 OpenThoughts-114k、Bespoke-Stratos-17k、Dolphin-R1 和 LIMO。为了整理 OpenR1-Math-220k，Open R1 还和开发了广受欢迎的 NuminaMath-CoT 数据集开发团队 Numina 进行了合作。那么，与现有数据集相比，Open R1 的数据集有什么新特点呢？80 万条 R1 推理轨迹 ：使用 DeepSeek R1 为 40 万个问题各生成了两个答案，最终经过筛选后保留了 22 万个具有正确推理轨迹的问题。本地运行 512 个 H100 ：没有依赖 API，而是在计算集群上利用 vLLM 和 SGLang 本地运行生成任务，每天可以生成 18 万条推理轨迹。基于 NuminaMath 1.5 ：专注于数学推理公式，为 NuminaMath 1.5（NuminaMath-CoT 数据集的改进版本）中的问题生成答案。自动过滤 ：Open R1 团队通过数学验证，只保留至少有一个正确答案的问题，还让 Llama3.3-70B-Instruct 作为「判官」，以筛选出更多正确的样本，特别是那些因格式错误而无法通过基于规则的解析器验证的答案。在 OpenR1-Math-220k 训练出来的 Qwen-7B-Math-Instruct，达到了与 DeepSeek-Distill-Qwen-7B 相当的性能。数据集分为两个部分：default（94k 问题）：这部分数据在经过监督微调（SFT）后表现最佳。extended（131k 问题）：这部分数据包含额外的 NuminaMath 1.5 数据源，例如 cn_k12，提供了更多的推理公式。（研究发现这个子集在经过监督微调后的性能低于默认数据集，可能是因为 cn_k12 中的问题相对简单。）Open R1 团队表示，希望这个可扩展的、高质量的推理数据生成过程，能够启发代码生成等数学之外的领域。数据生成为了构建数据集，OpenR1 团队让 DeepSeek R1 为来自 NuminaMath 1.5 的 40 万个问题生成答案。他们遵循了 DeepSeek 技术报告中推荐的参数设置，并在提示词前添加了以下指令：Please reason step by step, and put your final answer within boxed{}.为了确保生成过程的高效性，团队将每次生成的 tokens 限制设置为 16k。经过分析发现，只有 75% 的问题能够在 8k tokens 内解决，而大多数剩余问题需要完整的 16k tokens。最初，他们使用 vLLM 进行推理，每个 H100 节点每秒可以生成 15 个答案，并且相关生成脚本已分享在 OpenR1 仓库中。最近，他们又开始尝试使用 SGLang，每个 H100 节点每秒可以生成 25 个答案（速度提升了近两倍），这使得 512 个 H100 节点上每天能生成 30 万个问题的答案。为了在后续的过滤和优化过程中提供更大的灵活性，团队为每个问题生成了两个答案 —— 有时甚至生成四个。这样一来，不仅复刻出了类似于 DeepSeek R1 允许进行拒绝采样的方法，还能使数据集能够适用于如 DPO 等偏好优化方法。数据生成脚本：https://github.com/huggingface/open-r1/tree/main/slurm。数据过滤为了确保数据集中只包含高质量且正确的推理结果，Open R1 团队设计了一套数学验证系统，用于自动比对 LLM 生成的复杂数学表达式答案与数据集中的标准答案。在这个过程中，OpenR1 团队发现大约 55% 的问题至少有一个正确答案。然而，NuminaMath 1.5 数据集中有很多答案是空的，或者格式不符合验证标准，这都给自动验证带来了困难。为了解决这些问题，Open R1 团队先是对 Math-Verify 工具进行了改进，使其能够处理更多不常见的答案格式，再使用 Llama-3.3-70B-Instruct 模型进行二次评估。具体来说，对于那些被 Math-Verify 判定为错误的答案，使用 Llama-3.3-70B-Instruct 模型重新评估，识别实际上正确但因格式问题被错判的答案。最终，他们找回了 2.5 万条被「误判」的数据。优化 Math-Verify 工具：对 Math-Verify 工具进行了改进，使其能够处理更多不常见的答案格式。对于那些包含多个正确答案的数据行，团队尝试使用奖励模型（RM）作为最终筛选器来选择最佳答案。具体操作如下：首先，从每个包含多个正确答案的数据行中，去掉（…），提取最终答案；第二，将问题和提取的答案输入到配置了 vLLM 的 Qwen/Qwen2.5-Math-RM-72B 模型中，获取每个答案的评分；接着，根据模型评分，对每个包含多个正确答案的数据行排名，选择排名最高的答案纳入训练数据集。遗憾的是，消融实验表明，这种方法并没有比随机选择一个正确答案带来更好的模型性能。Open R1 团队的判断是，可能在使用奖励模型评分时，不仅要考虑最终答案，还要包括推理过程。Open R1 训练出来的新模型 VS DeepSeek-Distill-Qwen-7BOpen R1 在 OpenR1-Math-220k 的基础上，对 Qwen2.5-Math-Instruct 进行了 3 轮微调，学习率为 5e-5。为了将上下文长度从 4k 扩展到 32k，他们将 RoPE 频率提高到 300k。训练遵循线性学习率调度，其中包含 10% 的预热阶段。下表展示了在 lighteval 上 OpenR1-Qwen-7B、DeepSeek-Distill-Qwen-7B 和 OpenThinker-7B 的性能对比，可以看出在数学成绩上，OpenR1-Qwen-7B 和 DeepSeek-Distill-Qwen-7B 差距不是非常明显。本周 AIME 2025 开赛，来自苏黎世联邦理工学院的研究人员用新题来测评了多款模型，却发现各种模型的数学能力下降了 10-20 个百分点之间。有研究者发现这些「全新」的 AIME 题可能已经在互联网论坛泄露，这有可能造成意外的过拟合问题，这也凸显了新鲜测试数据的困境。同时，开源社区也从多个角度探索了 GRPO，有多个研究实验室表明，大约 1000 个高质量的训练样本可能就足以在现有的开源模型中引发推理能力。启示和新的问题LLM 是否需要使用自然语言进行推理？论文链接：https://arxiv.org/pdf/2502.05171马里兰大学的一篇论文表明，通过使用循环语言模型，可以在潜在空间中隐式推理，从而在测试时扩展计算能力，这类似于 Meta 的 Coconut。这些方法的优势在于它们的计算效率更高：通过探索潜在空间，无需生成大量「思考」token 即可获得高性能。是否要转向更小、高质量的推理数据？尽管 DeepSeek R1 使用了 600k 推理轨迹进行蒸馏，但最新研究表明，复杂的推理能力并非单纯通过大规模训练在语言模型中实现，而是可以通过少量精心设计的样本达成。s1K 数据集就是一个很好的例子。它包含 1000 个经过精心挑选的数学问题，以及从 Gemini Flash 蒸馏出的推理轨迹。在选择问题时，研究者注重难度、多样性和质量。通过在 s1K 数据集上对 Qwen2.5-32B-Instruct 进行微调，研究者成功使其在竞赛数学基准测试中超过了 OpenAI 的 o1-preview，最高提升了 27%。另一个数据集 LIMO 也进一步验证了这一理念。它仅使用 817 个训练样本，就在 AIME 和 MATH 基准测试中取得了出色的表现。LIMO 的作者推测，当模型在预训练阶段已经积累了丰富的知识后，可能只需要少量结构良好的样本，就能解锁高级推理能力。CoT 长度：预算强制与奖励塑造Qwen2.5-32B-Instruct 模型在 s1K 数据集上微调后表现出色，其中一个关键因素是采用了「预算强制」。这是一种测试时的计算技术，通过在模型生成中添加「等待」token 来延长推理时间，或者添加「结束思考」的 token 来截断推理。这种方法使研究者能够灵活调整模型的思考时间，并发现随着思考时间的增加，模型在不同数学基准测试中的准确性也随之提高。同样，Yeo 等人在研究《Demystifying Long Chain-of-Thought Reasoning in LLMs》中探讨了思维链（CoT）长度对模型性能的影响。他们引入了一种名为「余弦奖励」的新奖励函数，用于在正确生成时激励较短的 CoT，在错误生成时激励较长的 CoT。这种奖励机制在模型的最大上下文大小有限且平均响应长度可能失控的情况下，能够稳定强化学习训练。论文链接：https://arxiv.org/pdf/2502.03373此外，当模型在处理难题时出现奖励劫持的迹象（即通过重复而非真正解决问题来增加 CoT 长度），研究者还会采用重复惩罚机制，以避免模型陷入无效的循环推理。Open R1 团队表示，现在 GRPO 已经在 TRL 中顺利运行，他们正在开展一系列广泛的实验，以了解哪些超参数和奖励函数对训练的影响最大。那就让我们静待 Open R1 的好消息吧。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:孙应吉
TOP1热点：黑执事摘下眼罩的少爷
自然资源部矿产资源保护监督司司长薄志平在例行新闻发布会上说，锂被誉为绿色能源金属和“白色石油”，广泛应用于储能、化工、医药、冶金、电子工业等领域。随着全球绿色低碳转型和新能源汽车快速发展，锂资源战略地位日益凸显，各国高度关注锂资源供应安全，纷纷将之列入关键矿产目录。2022年度统计数据表明，我国锂矿储量同比上涨57%，其中江西储量超过青海和四川，居全国第一，占全国总量的40%。2022年度全国锂矿储量增量，江西占94.5%。。
TOP2热点：建议让孩子们共享名师金课
丹麦工业联合会全球市场贸易与发展总监延斯・霍尔斯特-尼尔森在致辞中表示，进博会是丹麦企业向中国市场展示产品的重要平台，协会将动员丹麦知名企业和中小企业参与，为促进供需配对和信息对接做出更多努力。
TOP3热点：她们尽情闪耀浪货今天就把你🌿到服为止视频
中国视协分党组书记、驻会副主席、秘书长范宗钗表示，近年来，中国视协通过开展金鹰奖等重大评奖办节、现实题材剧本扶持、优秀作品研讨等方式，激励引导现实题材电视创作，着力推动电视艺术高质量发展。新时代新征程呼唤精品佳作，希望电视艺术工作者坚定文化自信，生动展现中国精神；坚守人民立场，热情讴歌火热生活；坚持守正创新，技术赋能创作传播，铸就气象万千的电视艺术高峰。
TOP4热点：黑执事摘下眼罩的少爷积积积桶积积的桶直接看
6月5日上午，2023年六五环境日赣州主场活动在赣州经开区举行。市领导何琦、陈水连出席。在活动现场，与会领导和嘉宾上台共同浇灌“生命之源”，“十佳生态示范企业”代表宣读了环保倡议书。现场还为“十佳环保网格员”进行了颁奖，并为生态环境保护教育基地授牌，舞蹈《环保之歌》、歌曲《呵护美丽》、魔术表演《净化之水》、舞蹈《同享一片蓝天》等环保主题节目依次上演，环保知识问答互动小游戏吸引了不少市民踊跃参与，让市民在游戏互动中学习环保知识。
TOP5热点：今天请祝福身边的她18 лет
会上，东阿阿胶还邀请国医大师、专家教授分享中医药最前沿的学术观点，通过专题报告展示当前中医药健康服务取得的学术研究成果，进一步推进中医药创新发展，提升中医药健康服务产业竞争力。山东中医药大学原校长王新陆分享了中医《血浊理论的提出和临床应用》。泰山学者、山东中医药大学原药学院院长田景振就中药现代化研究的进展及趋势进行分享。北京中医药大学生命科学院博士生导师张晓晴针对“数字化中医药传承创新发展”课题进行阐述。中康科技商用大数据事业部总经理廖洪惠发布了《中国阿胶产业发展研究报告》。山东大学博士生导师、秦汉史研究专家孟祥才对中医药史上的第一部通典著作《阿胶历史文化通典》进行了科普解读。
TOP6热点：飞猪会员专享0元租车👙mofos👙فىلىم.
“其中，恶性黑色素瘤是一种恶性度非常高的肿瘤，它是由黑色素细胞逐渐恶变产生的，可以发生在全身各个部位，包括皮肤、肢端、黏膜以及手指、脚趾的指甲、眼睛的脉络膜等部位，临床诊断非常困难。”张寅斌说。
产业振兴是乡村振兴的重中之重。大侯镇副镇长张志永说，聂楼村流转废弃坑塘地建起乡村产业园，为企业经营创造条件，吸引能人返乡创业。
TOP7热点：中国激光产业已迈入全球第一方阵办公室跪下拉开拉链吃应用的优点
“中国以人民为中心的人权观，视人民幸福生活为最大的人权，这既是中国人权实践的最终目标，也在实践过程中得到积极体现。”常健如是说。
针对初创期、成长期、成熟期的科创企业推出符合企业全生命周期需求的科创金融产品，上海银行重点推进投贷联动产品创新、建立投资机构合作生态圈。
TOP8热点：苏新皓感谢黄磊日本亲近相尾换伴结局
会上，东阿阿胶还邀请国医大师、专家教授分享中医药最前沿的学术观点，通过专题报告展示当前中医药健康服务取得的学术研究成果，进一步推进中医药创新发展，提升中医药健康服务产业竞争力。山东中医药大学原校长王新陆分享了中医《血浊理论的提出和临床应用》。泰山学者、山东中医药大学原药学院院长田景振就中药现代化研究的进展及趋势进行分享。北京中医药大学生命科学院博士生导师张晓晴针对“数字化中医药传承创新发展”课题进行阐述。中康科技商用大数据事业部总经理廖洪惠发布了《中国阿胶产业发展研究报告》。山东大学博士生导师、秦汉史研究专家孟祥才对中医药史上的第一部通典著作《阿胶历史文化通典》进行了科普解读。
TOP9热点：白敬亭下播之后一笔巨大的版权费用人畜禽CORPORATION最新版本
“其中，恶性黑色素瘤是一种恶性度非常高的肿瘤，它是由黑色素细胞逐渐恶变产生的，可以发生在全身各个部位，包括皮肤、肢端、黏膜以及手指、脚趾的指甲、眼睛的脉络膜等部位，临床诊断非常困难。”张寅斌说。
TOP10热点：唐奇推理速度赶不上滤镜升级速度我想看胸片曝光2024已更新
通知指出，土地征收、先行用地、建设用地增减挂钩，收回国有农用地等直接关系群众利益，要严格落实法律法规有关规定，确保程序规范、补偿到位。坚决杜绝违法强拆、毁麦割青、强迫农民上楼等违法行为。实施复垦复耕要充分尊重农民意愿，根据实际情况给予经济补偿，要留出一定过渡期，给农户和经营者合理准备时间，坚决防止“简单化”“一刀切”。