#on-device-ai

Microsoft AI 將 MAI-Code-1.1-Flash 引進 GitHub Copilot 支援本地運行

開發者可在 GitHub Copilot 中使用 MAI-Code-1.1-Flash 於裝置端執行代理編程任務，本地模型調用無需支付推理費用。

Google 公佈了 EmbeddingGemma 2 的運行規格。這款 740M 模型運行時的活動記憶體佔用介乎約 191MB 至 567MB，上下文視窗擴展至 8K，單次最多可處理 5.5 分鐘音訊、29 張圖像或 58 幀影片。

EmbeddingGemma 2 可完全離線處理多模態工作負載，毋須調用伺服器。該模型採用模組化設計，開發者可移除未使用的視覺或音訊組件以節省記憶體；同時提供靈活的維度大小，最多可減少 6 倍本地數據庫儲存空間，並能與 Gemma 4 搭配建立高效的裝置端 RAG 流程。

《Building AI Assistants with On-Device Memory》涵蓋一套處理文字、語音和圖像的本地系統，並與 Qdrant 合作授課。課程包含全新 AI 編程實驗室，報名免費。