安全边界相关 AI 资讯 · AITOP · AI热报

8月22日

01:34

01:34

官方账号NVIDIA AI@NVIDIAAI

精选78°

NVIDIA 深入解析堆栈组件，从引导智能体行为的组件到确保其安全边界的基础设施。阅读详细分析：nvda.ws/4zyvjHm

技巧 NVIDIA 智能体堆栈组件

推荐理由：NVIDIA 深入解析堆栈组件，了解智能体行为引导和安全性保障。

7月17日

09:58

09:58

官方账号arXiv cs.AI@Goktug Ozkan

MedFailBench是一个由临床医生构建的开源基准，专门用于检测医疗AI的安全边界失效类型。它定义了6种安全门类型（如错过紧急升级、不安全的远程剂量、证据伪造等）和1-5级严重度评分。当前公开版本v0.2.1包含44个临床医生审查的合成病例及严重度标注。基准还提供HuggingFace排行榜预览、安全门分类法和临床严重度评分标准。该项目不包含患者数据或临床验证声明，采用Apache-2.0和CC-BY-4.0许可。

AI模型 MedFailBench 医疗AI AI安全

推荐理由：临床医生亲自设计的AI安全测试，能精准定位模型在哪类医疗错误上出问题，搞医疗AI的必看。