智东西6月17日报道，今日凌晨，月之暗面推出针对软件工程任务的全新开源代码大模型Kimi-Dev-72B。
该模型在SWE-bench Verified编程基准测试中取得了全球最高开源模型水平，以仅72B的参数量，成绩超过了刚于5月28日发布、参数量多达671B的新版DeepSeek-R1。
通过大规模强化学习进行了优化。它能够自主修补Docker中的真实存储库，并且只有当整个测试套件通过时才会获得奖励。这确保了解决方案的正确性和稳健性，并符合现实世界的开发标准。
Kimi-Dev-72B现已在Hugging Face和GitHub上提供下载和部署。其发布给社区的关键资源包括模型权重、源代码，技术报告也即将推出。
月之暗面介绍了Kimi-Dev-72B的设计理念和技术细节，包括BugFixer和 TestWriter的组合、中期训练、强化学习和测试时自我博弈。
成功修复错误的补丁（patch）应能通过准确反映该错误的单元测试。同时，复现错误的成功测试应引发断言错误，并在将正确的错误修复补丁应用到代码库后通过。这致使BugFixer和TestWriter互补，一个足够强大的编程大语言模型应该在这两个方面都表现出色。
BugFixer和TestWriter的工作流程类似：它们都会先找到正确的文件进行编辑，然后编辑正确的代码更新，无论是修复脆弱的实现还是插入unittest函数。因此，对于这两种角色，Kimi-Dev-72B都采用了相同的极简框架，该框架仅包含两个阶段：文件本地化和代码编辑。BugFixer和TestWriter的双重设计奠定了Kimi-Dev-72B的基础。
为了增强Kimi-Dev-72B作为BugFixer和TestWriter的先验知识，月之暗面使用约1500亿个高质量的真实数据进行中期训练。
以Qwen 2.5-72B基础模型为起点，月之暗面收集了数百万个GitHub问题和 PR提交作为其中期训练数据集。数据配方经过精心构建，使Kimi-Dev-72B 能够学习人类开发者如何推理GitHub问题、编写代码修复和单元测试。
月之暗面还进行了严格的数据净化，将所有存储库从SWE-bench Verified中剔除。
中期训练充分增强了基础模型对实际Bug修复和单元测试的了解，使该模型成为后续强化学习训练的更佳起点。
通过适当的中期训练和SFT，Kimi-Dev-72B在文件本地化方面表现出色。因此，其强化学习阶段专注于提升其代码编辑能力。
月之暗面使用了Kimi k1.5中描述的策略优化方法，该方法在推理任务中表现出色。对于SWE-bench Verified，月之暗面重点关注以下三个关键设计：
仅基于结果的奖励。仅使用Docker的最终执行结果（0或1）作为奖励，训练期间不采用任何基于格式或过程的奖励。高效的提示集。过滤掉模型在多样本评估下成功率为零的提示，从而更有效地利用大批量。采用课程学习（curriculum learning）法，引入新的提示，逐步提高任务难度。正例强化。在训练的最后阶段，将之前迭代中最近成功的样本纳入当前批次。这有助于模型增强成功模式并提升性能。
Kimi-Dev-72B通过使用高度并行、强大且高效的内部agent基础设施，从可扩展数量的问题解决任务的训练中受益。
经过强化学习后，Kimi-Dev-72B能同时掌握BugFixer和TestWriter的角色。在测试过程中，它会采用自我博弈机制，协调自身Bug修复和测试编写的能力。
每个问题最多可生成40个补丁候选和40个测试候选（按照标准无agent设置），可观察到测试时自博弈的扩展效应。
月之暗面正在积极研究和开发扩展Kimi-Dev-72B功能的方法，并探索更复杂的软件工程任务。
其未来的迭代将侧重于与流行的集成开发环境（IDE）、版本控制系统和CI/CD流水线进行更深入的集成，使Kimi-Dev-72B更加无缝地融入开发者的工作流程。
该公司承诺将持续改进Kimi-Dev-72B，进行严谨的红队测试，并向社区发布更强大的模型。
06月13日，从南北客源互送到景区免门票 中国各地文旅部门花式揽客，币游娱乐注册，博天堂官网APP，多宝官网买球，im体育网站是什么
06月13日，新闻1+1丨“专精特新”，如何持续释放强动能？，手机巴黎人网投，必赢亚洲手机版官网首页，万盈官方网站，星速官网
06月13日，“疫行300天”邓予立摄影展在伦敦举行，九游网页版入口，澳门新萄京赌场网址，凤凰彩票可靠吗，宝马游戏在线日东西问丨汉学家马克林：为什么说新疆现实与所谓“种族灭绝”的恶意指控恰恰相反？18luck真人澳门皇冠app是个什么软件澳门威斯尼斯网址wns澳门威斯尼斯人app苹果
06月13日习：传承建交精神 推动中法关系承前启后、继往开来推二八杠技巧奔驰娱乐平台欧宝ob体育app登陆和记娱乐官网买球
06月13日国台办展望2024年两岸关系：推动和平发展、融合发展视讯真人游戏在哪开户亚博平台网址云顶娱乐官网手机网页bet365在线登陆……
06月13日，“双十一”宁夏在线旅游销售额增长逾四成，九游会真人，国际AG旗舰厅网站，易游游戏官网，金沙有哪些网址
06月13日，财政部：拟在政府采购中给予本国产品相对于非本国产品20%价格评审优惠，博体比分，米乐注册，澳博投注登录，2020欧洲杯对阵表
06月13日上海：“五一”假期游园人数达530.48万人次必维体育官网黄冠体育网址入口外围足球让球规则千赢国际官网入口官网
06月13日，中国团队最新研究：草原火灾位居全球碳排放贡献首位，宝马会客户端下载，ag尊龙d88，bbin官网平台首页，尊龙app在线学年高考今日开考，心博天下在哪开户，九游会AG娱乐官网登录，网投体育平台怎么样，足球客户端
06月13日，西藏岗巴县岗巴镇雪村：过上喜气“羊羊”的好日子，必威官网手机版，万博manbetx手机登录网页，华体会足球，威尼斯人大官网
06月13日内蒙古：以教育家精神涵养“大国良师” 各地教育成就巡礼ku777酷游金宝搏188BET现金官网游戏全民开心捕鱼免费版下载
06月13日中国外交部举办海南自由贸易港全球推介活动千赢国际qy885乐博网投雷速体育app官网韦德官网登录入口
06月13日琼州海峡首个商渔船共管联合指挥中心在广东揭牌注册送88元体育平台凯发娱发sunbet官网凤凰线上平台
特朗普团队称不会派兵维护乌和平，成毅 张居正续写“晋湘之好” 300余名湖湘专家学子走进山西晋城手机赌博送28元杏彩官方官网凯发k8网址官网备用亚星在线娱乐
长相思，云天河失明有力有效推进乡村全面振兴jdb电子博取沙巴体育是哪里的凯时手机APP乐途官网
终末的火车前往何方？，小伙返乡花14年种国产咖啡销往全球苏轼主题文物展在海口向公众开放 “宋四家”线体育网软件集结号捕鱼官网版爱游戏苹果版线上赌博最大
考研数学被评最佳睡前读物，浅谈黑神话最需要改进的问题河南前10个月出口电动汽车同比增长超七成九游会ag8九州乐投澳门威斯尼人线宝金博手机网址
2023各省GDP陆续公布，新闻编辑室 第三季长期过量接触增塑剂影响青少年生长发育！选购体育用品时注意这几点1号站平台12bet网站是多少12bet官方网站玩法365bet在线中文网
为阻止洗衣机洗内裤能有多拼，美妆搭档情人新华时评丨建设金融强国要积极培育中国特色金融文化金沙视讯中心伟德体育Bv沙巴体育网址ku娱乐真人体育平台下载