事件专题 ·多源确认

GPT-6 Astra 仅靠计算工具即可审计临床预测网络,无需直接读取权重

一项仿真实验测试了 GPT-6 Astra 等 5 个 GPT 模型能否从文件层面审计临床预测模型。在无工具条件下,Astra 只能处理 353 权重网络,超过 3,457 权重即不可靠,且默认指令下拒绝 12 项任务中的 11 项。接入仅暴露网络预测的黑盒计算工具后,它在全部 29 次、最高 38,401 权重的实验中找出了植入关系,并在 6 次实验中发现标签少报死亡的偏置亚组。黑盒与白盒访问效果相当,说明审计关键在于计算能力与提示设计,而非读取原始权重。

当前结论

实验设计挺巧的:给 GPT-6 一个只能算数不能读权重的工具,审计临床模型的效果和白盒一样好,对做模型审计的人很有参考价值。

11 个信源37° AI 热度最后更新 2026/11/5 11:28:04

证据链

11 个信源
相关来源 3Artificial Analysis
查看原文
相关来源 8智源研究院 BAAI
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。