您的位置: 首页 > 科技频道

清华瑞莱联合团队推出RealSafe-R1大模型

出处:北京商报 作者: 魏蔚 网编:陶凤 2025-02-24

北京商报讯(记者 魏蔚)2月24日,北京商报记者获悉,清华大学与瑞莱智慧联合团队推出大语言模型RealSafe-R1,该模型基于DeepSeek R1进行深度优化与后训练。连日来,国产开源大模型DeepSeek的优异表现令人惊艳,尤其是在复杂问题解决和创造性任务中表现出色。但业内人士认为DeepSeek R1和V3在面对越狱攻击等安全性挑战时仍存在一定的局限性。例如,模型可能会被恶意设计的输入误导,生成不符合预期或不安全的响应。这一安全短板是当前开源大模型的通病,其根本缺陷源于安全对齐机制的深度不足。为此,清华瑞莱联合团队提出了基于模型自我提升的安全对齐方式,将安全对齐与内省推理相结合,使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险,实现基础模型自身能力的自主进化,可以应用于多种开源、闭源模型。RealSafe-R1各尺寸模型及数据集,将于近期向全球开发者开源。

本网站所有内容属北京商报社有限公司,未经许可不得转载。 商报总机:010-64101978 媒体合作:010-64101871

商报地址:北京市朝阳区和平里西街21号 邮编:100013 法律顾问:北京市中同律师事务所(010-82011988)

网上有害信息举报  违法和不良信息举报电话:010-84276691 举报邮箱:bjsb@bbtnews.com.cn

ICP备案编号:京ICP备08003726号-1  京公网安备11010502045556号  互联网新闻信息服务许可证11120220001号