Lambda, 모델 카드에 NVIDIA AI AIPerf 벤치마크 추가
Lambda가 모델 카드를 업데이트하여 최소 사양의 Lambda 하드웨어에서 NVIDIA AI의 AIPerf 패키지로 측정한 서빙 벤치마크를 추가하고, 사용자 동시 접속 임계값에 따른 배포 동작을 제시했다.
Lambda가 모델 카드를 업데이트하여 최소 사양의 Lambda 하드웨어에서 NVIDIA AI의 AIPerf 패키지로 측정한 서빙 벤치마크를 추가하고, 사용자 동시 접속 임계값에 따른 배포 동작을 제시했다.
1억 개 파라미터 모델은 음성이 겹치는 경우를 포함해 누가 언제 말했는지 추적하며, 최대 8명의 화자를 지원한다. huggingface에서 이용할 수 있다.
Nemotron 3 Diarization은 Hugging Face Space에서 직접 써볼 수 있다. Hugging Face 블로그는 모델의 작동 방식과 시작 방법을 다룬다.