23일, 청화대학교 계산기학부 관련 연구팀이 빅언어모델 RealSafe－R1을 출시한다고 발표했다. 이 모델은 딥시크 R1을 기반으로 심층 최적화와 후기훈련을 진행하고 성능안정을 보장하는 토대에서 안전성을 현저하게 끌어올려 오픈소스 빅모델의 안전발전과 위험관리에 혁신성 해결방안을 제공했다.

근자에 국산 오픈소스 빅모델 딥시크가 자연언어 처리와 여러 임무추리 면에서 강대한 기술실력을 펼쳐보였다. 하지만 탈옥공격 등 안전성 도전시 여전히 일정한 한계가 있다. 이를 위해 청화대학교 연구팀은 모델의 자체 향상에 토대한 안전정 렬방식을 제기하고 안전정렬과 내성추리를 결부해 빅언어모델이 안전의식을 가진 사유사슬을 분석하는 것을 통해 잠재된 위험을 검사하고 기초모델 자체능력의 자주 진화를 실현할 수 있도록 했다.

이 방법에 의거해 연구팀은 딥시크 R1 계렬 모델에 후기훈련을 진행하고 RealSafe－R1 계렬 빅모델을 정식으로 출시했다. 실험 데이터에 따르면 RealSafe－R1은 안전성이 현저하게 제고되여 여러 기준 테스트에서 각종 탈옥공격에 대한 저항력을 효과적으로 증강시킴과 동시에 안전과 성능간의 ‘오르락내리락’ 현상도 완화시켰다.

RealSafe－R1의 각 크기별 모델 및 데이터집은 근자에 세계 개발자들에게 공개될 예정이다.

　　인민넷