#模型监控

共 10 条 · 7 天 0 条 · 30 天 3 条

AI一致性 1 AI安全 1 arXiv 1 checkpoint 选择 1 DeepSeek Harness 1 Hugging Face 1 LeJEPA 1 OpenAI 1

信息流里打上「模型监控」标签的资讯、产品与论文，按刊登时间排，新的在上。

11月3日

论文10:31

论文：无标签预算下利用免费协变量加速风险监控

模型上线后想及时发现风险升高，但标注很贵。这篇论文算出了理论极限，还展示利用输入数据免费触发能省 1/b 轮延迟。

#模型监控 #风险检测 #arXiv #统计检验

arXiv cs.LG@Yanze Cao原文

10月27日

论文 Agent 与开发者12:31

LeJEPA 编码器退化时，无标签监控信号几乎全部失灵

训练自监督模型时只看 loss 可能掩盖编码器退化，这篇论文用已知答案测试直接验证了这点，做表征学习的人该看看。

#LeJEPA #自监督学习 #模型监控 #checkpoint 选择

arXiv cs.LG@Nilotpal Kakati原文

10月21日

模型22:37

AI 模型的“自言自语”或让未来的模型监控更有趣

有人贴了一段模型自言自语的内容，看完你会好奇以后怎么监控这些模型。

#模型监控 #推理模型 #思维链

@koltregaskes@koltregaskes原文

8月27日

行业官方一手78°04:04

OpenAI分享Hugging Face安全事件调查及加强AI模型安全的措施

OpenAI分析了Hugging Face事件，提出了加强AI安全的策略，值得行业关注。

#OpenAI #Hugging Face #AI安全 #模型监控

事件专题

官方一手OpenAI Blog原文

8月20日

技巧 Agent 与开发者多源确认02:36

豆包开发了DeepSeek Harness监控，自动更新插件网站

豆包搞了个DeepSeek Harness监控网站，自动更新插件，虽然增速放缓但今天加了177个，界面UI和模型服务插件最多，你看看呗。

#DeepSeek Harness #插件管理 #模型监控

事件专题

向阳乔木@vista8原文

8月4日

论文11:26

LLM Agent失败的实时检测与修复方法

不用每步都请大模型当裁判，用轻量监控就能抓到71%的Agent故障，自动回滚重跑后成功率从52%涨到73%。

#智能体 #故障检测 #模型监控 #回声状态网络

arXiv cs.AI@Sunny Dubey原文

7月8日

技巧 Agent 与开发者官方一手精选01:07

用Amazon SageMaker AI和MLflow监控鉴别性ML模型

AWS教你用Evidently+SageMaker+MLflow搭一套模型监控流水线，自动检测数据漂移并报警，实操性强。

#Amazon SageMaker AI #MLflow #Evidently #模型监控

官方一手AWS Machine Learning Blog@Sandeep Raveesh-Babu原文

6月12日

产品 Agent 与开发者02:10

OpenRouter 推出 Activity Explorer，实时查看团队和 AI Agent 的模型使用与花费

OpenRouter 的 Activity Explorer 解决了多模型、多 Agent 场景下的成本与用量可视化痛点，做 AI 应用开发或管理团队模型预算的人可以直接用起来，省去手动统计的麻烦。

#OpenRouter #Activity Explorer #模型监控 #成本管理

OpenRouter@OpenRouterAI原文

产品01:12

OpenRouter 推出 Activity Explorer，一览团队模型使用与花费

OpenRouter 的 Activity Explorer 解决了多模型团队的费用监控痛点，做 AI 应用开发或模型调度的团队可以直接用起来，省去手动统计的麻烦。

#OpenRouter #Activity Explorer #模型监控 #费用管理

OpenRouter@OpenRouterAI原文

6月11日

产品03:16

Lattice Health 监控医院部署的影像 AI，发现准确率下降即告警

医疗 AI 部署后准确率下降是行业盲区，Lattice Health 填补了这个缺口。做医疗 AI 部署或医院信息化的团队值得关注，能直接提升患者安全。

#医疗 AI #模型监控 #影像诊断 #Lattice Health

Y Combinator@ycombinator原文