#on-device-ai

Microsoft AI 将 MAI-Code-1.1-Flash 引入 GitHub Copilot 支持本地运行

开发者可在 GitHub Copilot 中使用 MAI-Code-1.1-Flash 在设备端执行智能体编程任务，本地模型调用无需支付推理费用。

Google 公布了 EmbeddingGemma 2 的运行规格。这款 740M 模型运行时的活动内存占用约在 191MB 至 567MB 之间，上下文窗口扩展至 8K，单次最多可处理 5.5 分钟音频、29 张图像或 58 帧视频。

EmbeddingGemma 2 可完全离线处理多模态工作负载，无需调用服务器。该模型采用模块化设计，开发者可移除未使用的视觉或音频组件以节省内存；支持灵活的维度大小，最多可减少 6 倍本地数据库存储空间，并能与 Gemma 4 搭配构建高效的端侧 RAG 流程。

《Building AI Assistants with On-Device Memory》介绍一套处理文本、语音和图像的本地系统，并由 Qdrant 参与授课。课程包含新的 AI 编程实验，报名免费。