Sydney Runkle, 하네스 모델 라우터로 코딩 에이전트 비용 64% 절감
Sydney Runkle은 코딩 에이전트의 하네스에 모델 라우터를 통합해 출력 품질 저하 없이 운영 비용을 64% 절감했다고 전했다. 이 4단계 워크플로는 작업 및 모델 파악, 하네스 내 라우터 내장, 작업 결과 추적으로 구성된다.
#model-routing
모든 AI 뉴스 보기Cline, 프론티어 및 오픈 모델을 라우팅하는 Pareto 26.10 Preview 추가
Cline이 여러 프론티어 및 오픈 모델로 쿼리를 라우팅하고 답변을 평가해 최적의 결과를 반환하는 모델인 Pareto 26.10 Preview를 추가했다. Cline은 이 모델이 작업당 13.41달러인 Fable의 DeepSWE 점수를 0.24달러에 달성했다고 밝혔다.
OpenRouter Chat, Jev Router의 턴별 모델 선택과 점수 표시
OpenRouter Chat의 라우팅 인사이트 패널은 Jev Router가 각 턴마다 고른 모델과 그 선택의 점수를 보여 준다. 점수에는 작업, 난이도, 정밀도, 더 큰 모델의 이점이 포함된다. 이 라우터는 해당 서비스에서 typesafe/jev-router로 이용할 수 있다.
OpenRouter, 캐시 인식 모델 라우터 typesafe/jev-router 공개
OpenRouter가 Jev와 typesafeai 기반의 캐시 인식 모델 라우터 typesafe/jev-router를 공개했다. OpenRouter는 이 라우터가 품질, 속도, 비용의 균형을 맞추면서 요청마다 가장 적합한 모델과 추론 노력을 선택한다고 밝혔다.
LangChain, 관리형 딥 에이전트 모델 라우팅을 위한 Typesafe Jev 미들웨어 강조
LangChain은 nathan drezner를 인용하고 Typesafe AI의 Jev 미들웨어 공식 문서를 링크했으며, 이 미들웨어는 사용자가 경로를 정의한 후 LangChain 관리형 딥 에이전트의 모델 선택을 처리할 수 있다.
TypeSafe AI Jev 미들웨어는 LangChain 관리형 딥 에이전트를 위한 모델을 라우팅할 수 있습니다
Nathan Drezner는 TypeSafe AI의 Jev 미들웨어를 LangChain 관리형 딥 에이전트와 함께 모델 라우팅에 사용할 수 있다고 말합니다. 사용자는 경로를 정의하고 Jev가 모델 선택을 처리합니다.