Ai2, 기본 가중치 유지한 바이트 레벨 모델 1단계 체크포인트 공개

Ai2는 바이트 레벨 구성 요소의 학습을 마치고 기존 모델 가중치는 변경하지 않은 새로운 1단계 체크포인트를 제공한다. 이 중간 체크포인트는 기존 언어 모델이 바이트 단위로 작동하도록 개조하는 레시피에서 비롯되었다.

1단계 완료 시점의 체크포인트를 제공함으로써, Ai2는 연구진이 초기 적응 단계를 반복하지 않고 새 아키텍처를 테스트하고 전체 시스템을 직접 훈련할 수 있도록 지원한다.