#vllm

Ramine Roane 稱 AMD 在 90 天內向 vLLM 核心提交 502 次

Ramine Roane 稱，AMD 目前是向 vLLM 貢獻程式碼居首的公司，90 天內核心提交 502 次，佔所有組織貢獻的 13%，接近 Nvidia 的四倍。他亦肯定了 Red Hat、IBM、Embedded LLM 和 Inferact 的功勞。

Google Gemma 表示，在 vLLM 中以回應範本為畫布設定初始內容後，DiffusionGemma 可以在單次去噪步驟中，為是非題、選擇題和評分題返回置信度分數與概率分佈。

IBM、Meta 與 Hugging Face 的貢獻者提出硬件無關層，旨在為於不同硬件上運行不同模型的用戶，在前沿效能與可移植性之間取得平衡。

vLLM 表示已整合 PyNvVideoCodec，將視訊解碼從 CPU 卸載至 GPU NVDEC，並稱在 8×H100 上達 2x+ 吞吐量。該項目表示此改動隨 CUDA vLLM 版本一併推出。

vLLM 表示，來自 @Alibaba_Qwen 的 Qwen-Image-2.1 已於 vLLM-Omni 獲得 day-0 支援，並指該模型為 7.1B DiT，配對 Qwen3-VL-8B，可用於生成、編輯及透明圖像。Qwen 感謝 vLLM，並表示此單一模型已可投入服務。