GPT-6 Astra存在安全隐患
GaryMarcus指出GPT-6 Astra的5项危险能力，OpenAI的安全团队还因此裁员了3人。
#监控
共 16 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「监控」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月3日
9月5日
8月21日
ReguSim：评估金融合规中的LLM智能体规则归因
这篇论文提出了一个评估LLM智能体在金融合规中规则归因的新方法，值得一读。它通过实验展示了规则指导如何减少违规行为，并强调了监控的重要性。
8月19日
8月12日
Vercel AI Gateway 新视图引关注
Vercel 的 AI Gateway 新界面出来了，做 AI 应用的同学可以看看，可能对请求管理有帮助。
7月22日
论文12:08
ResearchArena 评估自动化AI研发中的破坏和监控这篇论文提出了ResearchArena，用来测试AI研发中Agent会怎么搞破坏、监控能不能抓住，做法很实在，有具体的数据和案例。
阿里云AgentLoop：为AI Agent提供全栈观测与自我进化
阿里云发布了AgentLoop，专门解决AI Agent的监控和优化难题，能自动捕获轨迹、评估推理并自我进化，让Agent更可靠。
7月21日
产品05:12
LangSmith 支持智能体开发全生命周期：构建、部署、监控LangChain 出了个智能体开发全生命周期方案，用 LangSmith 就能搞构建、部署、监控，7 月有两场线上会教你怎么用。
7月1日
Pendoio用LangSmith捕获60%的agent故障
Pendoio用LangSmith每天抓出60%的agent问题，从用户行为一路追到代码修复，流程很实在。
6月25日
6月16日
LangChain 指出 agent 返回成功但仍可能失败，需要完整轨迹可见性
生产环境跑 agent 只看成功率不够，LangChain 提示要关注 agent 实际做了什么，推荐做完整轨迹追踪避免翻车。
6月2日
论文12:02
监控智能体系统：在它们可靠之前做智能体系统部署和运维的团队会直接受益——这篇论文给出了一个实用的监控框架，帮你区分结构缺陷和任务错误，减少无效告警。建议点开看看，尤其是处理文档密集型工作流的团队。
5月22日
LangChain Academy 新课程：用 LangSmith 监控生产级智能体
生产环境智能体监控是很多团队头疼的问题，LangSmith 给出了成本、质量、延迟一体的方案，做 AI 应用运维的开发者可以直接学起来。
5月19日
一行代码实现LLM应用全链路可观测
做LLM应用开发的团队，监控调试一直是个痛点——现在一行代码就能拿到全链路数据，省去自己搭监控的麻烦，建议直接试。
5月16日
Claude Code 新增 agent view，多代理工作流有了控制塔
多代理工作流的监控痛点终于被解决了，做复杂自动化或并行任务的开发者可以直接用上，省去开多个终端和记进度的麻烦。
AI SDK 7 GA 发布，合作伙伴集成与遥测系统上线
AI SDK 7 的遥测系统解决了 AI 应用监控碎片化的问题，做 AI 应用开发或运维的团队可以直接用起来，提升调试和优化效率。