#ai-infrastructure

Together AI는 IBM Cloud에 호스팅된 전용 B300 클러스터를 기반으로 IBM 및 NVIDIA와 협력해 오픈소스 모델 추론을 확장하고 있다.

Anyscale, 'Anyscale on Azure' 정식 출시 발표

이 서비스는 고객의 Azure 구독 내에서 데이터 처리, 모델 학습 및 추론을 직접 수행할 수 있도록 Azure Kubernetes Service 기반 매니지드 Ray를 제공한다.

Modal은 TypeSafe AI가 자사 인프라에서 Jev 배포 규모를 확장해, 해당 모델이 출시된 목요일부터 일요일까지 1조 토큰을 처리했다고 밝혔다.

AMD는 OpenAI가 플랫폼 경쟁력, 파트너 경험, 위험 감소를 이유로 Jalapeño AI ASIC 배포 호스트에 AMD EPYC Turin 프로세서를 채택했다고 밝혔다.

Polymarket은 Tesla가 AI 인프라, 로보택시, 반도체 제조 지출을 가속하기 위해 300억 달러 신용을 확보했다고 밝혔다.

AMD 는 World Labs 를 인수하는 최종 계약을 체결했다고 밝혔으며, 이 회사의 연구자와 모델 전문가를 AMD 로 데려와 향후 AI 인프라와 개방형 AI 생태계 관련 업무를 맡길 것이라고 했다.

Polymarket는 인도 스타트업 TakeMe2Space가 10월 1일 SpaceX 로켓으로 AI 컴퓨팅 위성을 발사해 고객이 궤도에서 직접 AI 모델을 실행할 수 있게 한다고 밝혔다.

SpaceXAI Memphis는 SpaceX의 Mid-South 슈퍼컴퓨팅 시설이 세계에서 가장 앞선 AI 학습 클러스터에 속한다고 밝혔다. 시설 규모는 250만 피트를 넘고, GPU는 수백만 개, 컴퓨팅 용량은 2기가와트를 넘는다고 설명했다.

CoreWeave는 Harell Data가 학습, 미세조정, 추론을 실행하기 위해 CoreWeave Cloud에 플랫폼을 배포할 예정이라고 밝혔다.