企业安全相关 AI 资讯 · AITOP

9月2日

15:43

官方一手marktechpost@Michal Sutter

精选73°

Anthropic于2026年9月1日推出企业前沿防护系统(EFS)，该架构将监控数据存储在客户自己的云账户中，而非Anthropic的服务器上。系统保持自动化检测并由Anthropic运行，而数据保管、加密密钥和标记审查则由客户控制。EFS是与超过100家企业共同开发的，将于今年秋季分阶段推出。

事件专题

推荐理由：Anthropic的EFS系统让企业数据完全自控，同时保持AI安全监控，解决了数据隐私与安全监控的矛盾。

原文

06:48

Claude@claudeai

73°

Anthropic 发布企业前沿防护系统(EFS)，为企业客户提供完全隐私保护，等同于零数据保留。EFS 具备最先进的对抗使用预防能力。该系统将于今年秋季分阶段推出。EFS 是 Anthropic 企业安全解决方案的重要组成部分。

AI产品 Anthropic EFS 企业安全

事件专题

推荐理由：Anthropic 推出了企业级隐私保护系统 EFS，零数据保留还能防对抗攻击，秋季开始上线。

原文

05:44

Alex Albert@alexalbert__

Anthropic在Fable 5.1中推出Enterprise Frontier Safeguards (EFS)功能。EFS是零数据保留(ZDR)的增强版本，专为AI代理设计。该功能允许企业数据保留在自己的云中，同时通过自动化监控层标记风险模式。EFS将于今年秋季分阶段推出，提供与零数据保留相同的隐私保护。

AI产品 Fable Claude Anthropic

事件专题

推荐理由：Anthropic给企业级AI加了个安全监控层，让代理访问内部系统时能发现风险模式。

原文

03:28

官方一手AWS Machine Learning Blog@Dani Mitchell

Claude Fable 5.1 现已在 Amazon Bedrock 和 Claude Platform 上 AWS 平台推出。该版本包含多项改进功能。AWS 提供了 Enterprise Frontier Safeguards 保护功能，确保用户数据在可控的云环境中安全存储。开发者可以通过 Amazon Bedrock 开始使用该模型进行应用构建。

AI产品 Claude Fable AWS

事件专题

推荐理由：Anthropic 发布了 Claude Fable 5.1，AWS 用户现在可以直接在 Bedrock 上使用，还新增了企业级数据保护功能。

原文

9月1日

23:48

techcrunch@Ram Iyer

AIR公司完成5000万美元融资，其平台可发现企业内部运行的AI智能体，持续验证这些智能体使用的技能和插件，并阻止任何不必要的行为。该平台专注于解决企业对AI智能体安全性和合规性的担忧。

行业 AIR AI智能体企业安全

推荐理由：AIR获融资推出平台，帮你发现并验证公司AI智能体使用的技能插件，自动阻止不安全行为。

原文

8月22日

05:23

官方一手marktechpost@Asif Razzaq

精选78°

Anthropic 将其最擅长网络的模型 Claude Mythos 5 引入 Claude Security 产品，供企业团队使用。扫描连接到 GitHub 仓库，追踪数据流，并返回带有 CWE 类别、置信度和严重性评分以及建议补丁的结果。设计理念是包装：用户收到扫描结果而不是提示框，因此发现漏洞的模型不会引导编写漏洞利用代码。

AI产品 Claude Mythos 5 Claude Security 漏洞扫描

事件专题

推荐理由：Anthropic 将 Claude Mythos 5 引入 Claude Security，为企业团队提供前沿漏洞扫描功能，无需直接访问模型，安全又高效。

原文

8月3日

23:42

官方账号ElevenLabs@elevenlabsio

ElevenLabs 推出企业级智能体服务 ElevenAgents，内置可配置 guardrails（安全护栏）与区域数据驻留选项。该服务基于同一套安全基础架构，覆盖从初创公司到政府机构及 Fortune 500 企业。更多详情可访问 elevenlabs.io/agents 查看。

AI产品 ElevenAgents ElevenLabs 智能体

推荐理由：ElevenLabs 给智能体加了企业级安全配置，能设护栏、选数据存放地区，大公司用它更放心。

原文

6月23日

07:26

07:26IT之家（博客/媒体）

Meta 已暂停名为“模型能力计划（MCI）”的 AI 训练项目，该项目记录员工键盘敲击和鼠标操作轨迹。因数据泄露，包含员工私人对话、工作绩效数据在内的敏感信息被意外开放给全体员工查看。这是 Meta 在 2025 年 6 月继 3 月 AI 智能体擅自操作、本月黑客利用 AI 客服劫持 Instagram 账号后的又一起安全事件。

行业 Meta 数据泄露 AI训练

推荐理由：Meta 监控员工键盘鼠标的 AI 项目因数据泄露叫停了，之前还有两起AI安全事件，想了解来龙去脉可以看看。

原文

6月12日

04:48

rohanpaul_ai@rohanpaul_ai

精选73°

OpenAI 收购了初创公司 Ona，旨在为 Codex 智能体提供安全的持久云桌面环境。Codex 目前每周用户已达 500 万，增长 400%，但复杂任务需要工具、文件、凭证和日志支持，传统聊天模式已无法满足。Ona 的持久云工作空间让智能体可以独立运行命令、检查系统、保持上下文并跨设备恢复工作。企业用户是此次收购的核心目标，他们希望智能体在企业云边界内运行，并具备权限控制、审计追踪和访问限制。这使得 Codex 更像一个托管执行层，适用于测试、修复、重构、迁移等多步骤知识任务。

AI产品智能体 Codex 云桌面

事件专题

推荐理由：企业团队终于有了让 AI 智能体安全、持久执行复杂任务的方案——Codex 结合 Ona 解决了跨设备、断点续传和权限管控的痛点，做 DevOps 或自动化测试的开发者值得关注。

原文

6月11日

10:55

官方账号arXiv cs.AI@Krti Tallam

精选

企业安全传统上围绕数据边界构建，但生产级AI智能体打破了这一假设——它们代表企业读取上下文、调用工具、修改系统记录，风险从边界转移到了工作流内部。现有策略引擎无法处理这种状态化、复合主体的授权链场景。本文提出一个五平面参考架构：一个推理平面裁决意图，四个执行平面（网络、身份、端点、数据）实现决策，支持任意点中断、复合主体能力衰减和结构化审计。该架构定义了六种中断原语、四个正确性不变量，并在五个具体工作流中演示了七种生产威胁的防范。参考实现显示：裁决在个位数微秒内完成，审计底层的防篡改行为符合设计预期。

论文 AI智能体安全治理参考架构

推荐理由：生产级AI智能体面临的安全治理空白终于有了系统化的架构方案——做AI Agent部署、企业安全架构的团队可以直接参考这个五平面模型来设计自己的治理层，建议点开看看具体的中断原语和正确性证明。

原文

6月3日

09:56

小互@imxiaohu

83°

微软宣布将开源项目 OpenClaw 引入 Windows 生态系统，利用其新推出的 MXC 安全容器技术，使 OpenClaw 的 node 和 gateway 能在容器内原生运行，并提供配套应用方便设置连接。同时，微软在 Build 2026 上发布了基于 OpenClaw 的“始终在线”个人 AI Agent——Microsoft Scout，可连接 Teams、Outlook、OneDrive、SharePoint 等，在后台自动执行协调工作。微软将这类 Agent 称为“Autopilots”，并承诺将企业级策略控制贡献回上游开源项目。此举解决了 OpenClaw 在企业落地的安全痛点，接入了 Defender、Entra、Intune 等企业安全栈，补齐了最大短板。

AI产品 OpenClaw Microsoft Scout AI Agent

事件专题

推荐理由：微软用企业安全栈补齐了 OpenClaw 的落地短板，做企业级 AI Agent 的团队可以直接在 Windows 上原生部署，值得关注。

原文

07:58

GitHub@github

GitHub 宣布为 Copilot 引入云端和本地沙箱功能，旨在为日益增多的 Agent 工作流提供更强的代码安全、隔离和控制保障。企业团队可以通过这些沙箱安全地实验 Agent 工作流，并集中管理安全策略。此举回应了 AI 编程助手在自动化任务中可能带来的安全风险，让开发者能在受控环境中放心使用 Agent。该功能尤其适合需要严格合规的企业开发团队。

AI产品 GitHub Copilot Agent 工作流沙箱

推荐理由：GitHub 终于给 Copilot 的 Agent 模式上了安全锁，做企业级开发的团队可以直接用沙箱隔离实验，不用再担心 Agent 乱改代码。

原文

5月29日

18:35

AI Will@FinanceYF5

谷歌推出了一套全面的 AI 驱动网络安全解决方案，名为 AI 威胁防御系统。该系统能够持续监测网络环境，利用 AI 技术识别并阻断 AI 驱动的威胁，在攻击影响企业业务之前进行防御。这标志着谷歌在 AI 安全领域的重要布局，旨在应对日益增长的 AI 相关网络攻击。企业安全团队可借助该系统提升威胁检测和响应效率。

AI产品网络安全 AI 威胁防御谷歌

推荐理由：AI 驱动的攻击越来越难防，谷歌这套系统直接针对 AI 威胁做实时阻断，企业安全团队值得关注，能省下不少应急响应成本。

原文

5月28日

09:48

官方账号Greg Brockman@gdb

精选76°

OpenAI 宣布支持企业将 MCP 服务器部署在私有网络内，ChatGPT、Codex 和 Responses API 可通过出站 HTTPS 安全连接。这解决了企业数据隐私与 AI 工具集成之间的核心矛盾，让团队在不暴露内部服务的前提下使用 OpenAI 产品。开发者可以保持 MCP 服务器在内部网络，同时享受 OpenAI 的 AI 能力，无需担心数据外泄。该功能现已开放，适合需要安全 AI 集成的企业团队。

AI产品 MCP/工具 OpenAI 企业安全

事件专题

推荐理由：企业终于能安全地让 ChatGPT 和 Codex 连接内部数据了——做 AI 集成或数据安全的团队可以直接用，无需担心隐私泄露。

原文

5月25日

21:45

官方一手marktechpost@Asif Razzaq

精选

随着MCP SDK月下载量突破9700万次，AI Agent进入生产环境，认证成为团队最关键的架构决策。本文评测了WorkOS、Stytch、Auth0、Composio、Nango、Arcade、TrueFoundry和Cloudflare八大平台，从规范合规性、企业身份深度、集成广度及2026年实际部署适配性进行排名。该指南帮助开发者在MCP生态快速扩张时选择正确的认证基础设施，避免安全与兼容性风险。

AI产品 MCP/工具认证平台 AI Agent

推荐理由：MCP SDK月下载量近亿次，AI Agent认证已从可选变成必选项。做Agent或MCP服务的团队，这份八大平台横向评测能帮你避开选型坑，直接参考排名和适配建议。

原文

5月23日

06:54

Aravind Srinivas@AravSrinivas

Perplexity CEO Arav Srinivas 宣布开源 Bumblebee，一个面向 macOS 和 Linux 的只读安全扫描器，用于检测开发者机器上的风险包、扩展和 AI 工具配置。该工具与 Perplexity Computer 集成，可在出现供应链风险时自动触发深度扫描。Perplexity 强调通过将工具置于智能体沙盒中并让安全工作流自主运行，来实现企业级深度嵌入。此举旨在推动 AI 工具在企业中的安全落地，并邀请开发者参与贡献。

AI产品 Perplexity Bumblebee 安全扫描

推荐理由：企业安全团队和 AI 工具开发者终于有了一个开源方案来扫描开发环境中的供应链风险——Bumblebee 直接与 Perplexity Computer 联动，做安全运维的可以试试集成到 CI/CD 中。

原文

5月21日

08:00

Claude@claudeai

83°

Claude 在伦敦 Code with Claude 活动上宣布，Claude Managed Agents 推出自托管沙盒（公开测试版）和 MCP 隧道（研究预览版）。自托管沙盒允许用户在自有基础设施内运行 Agent，默认应用企业安全策略，解决数据隐私和合规痛点。MCP 隧道则提供安全的模型-工具通信通道，进一步扩展 Agent 能力边界。此举让企业团队能在不牺牲安全性的前提下，将 AI Agent 部署到生产环境。

AI产品智能体 MCP/工具企业安全

推荐理由：企业安全团队终于有了可落地的 AI Agent 方案——自托管沙盒让数据不出域，MCP 隧道打通工具链，做企业级 AI 部署的团队可以直接申请测试。

原文

5月19日

18:29

TestingCatalog@testingcatalog

78°

Anthropic 在伦敦“Code with Claude”活动中宣布为 Claude Managed Agents 推出自托管沙箱和 MCP 隧道功能。自托管沙箱允许用户将敏感文件、包和服务保留在自己的基础设施或托管沙箱提供商中，确保数据安全。MCP 隧道则让智能体能够访问私有网络内的 MCP 服务器，而无需将其暴露在公共互联网上。这一更新解决了企业级 AI 部署中的安全与隐私痛点，使 Claude 智能体更适合处理敏感业务场景。

AI产品 Anthropic Claude 智能体

事件专题

推荐理由：企业安全团队和私有化部署的开发者终于有了合规的智能体方案——自托管沙箱和 MCP 隧道直接解决了数据外泄和网络暴露风险，做企业级 AI 落地的团队值得关注。

原文