GitHub Copilot 支持本地推理，微软发布 MAI Code 1.1 Flash

微软在 10 月 7 日旧金山发布会上宣布，GitHub Copilot 将在本月底前支持本地 AI 模型推理，开发者可在 Visual Studio Code、CLI 与 Copilot 应用中让协调器在云端模型和设备端模型之间自动或手动切换。配套发布的 MAI Code 1.1 Flash 是总参数 1370 亿、活跃参数 68 亿的 MoE 模型，经量化与推测解码优化。在 Surface Laptop Ultra 上的解码吞吐量测试显示，提示长度从 2K 到 256K 词元时吞吐为每秒 40 至 63 词元。本地模型可通过 Windows ML 加载，也支持连接 OpenAI 兼容端点。