#Goodfire

共 2 条 · 7 天 1 条 · 30 天 2 条

AI安全 1 AI对齐 1 智能体 1 泛化控制 1

信息流里打上「Goodfire」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月9日

产品 Agent 与开发者00:15

Goodfire 发布新型监控工具，低成本捕捉失控 AI 智能体

Goodfire 发了个监控工具，直接读模型内部状态而不是雇第二个 AI 盯全部操作，只在可疑时才复查，省钱不少。

#Goodfire #AI安全 #智能体

techcrunch@Aditya Mehta原文

10月1日

模型 Agent 与开发者15:01

Goodfire开发AI对齐新方法

Goodfire找到了防止AI产生不良行为的简单方法，比传统对齐技术更实用。

#Goodfire #AI对齐 #泛化控制

Teortaxes@teortaxesTex原文