AITOPAI热报

LTL

共 3 条相关 AI 资讯
8月4日
12:15
12:15官方一手arXiv: DeepSeek@Ruiyang Zhang
精选
基于线性时序逻辑(LTL)和有限自动机(FSA)的运行时监控器用于拦截LLM智能体的不安全工具调用序列。研究发现同一监控器在GPT类和DeepSeek后端上攻击覆盖率约68-75%，在Gemini变体上仅6-13%。攻击分布的Shannon熵差异解释了这一差距：GPT类集中（H≈0.24比特，单个模式覆盖96%），Gemini分散（H≈2.81比特，7个簇各≤7%）。熵对覆盖率变异解释率为76%（Pearson r=-0.87，p=0.005），留一法验证r在[-0.91,-0.82]。论文提出部署前熵测试，可从小样本攻击数据预测监控覆盖率。
论文LTLAI安全智能体
推荐理由：这篇论文说清了同一安全监控器在GPT/DeepSeek上能拦七成攻击、在Gemini上几乎失灵的原因，还给了部署前预测覆盖率的测试。
原文
11:18
7月14日
10:02
10:02官方账号arXiv cs.AI@Parastou Fahim, Constantino Lagoa, Rômulo Meira-G'oes
现有LTL学习方案通常假设演示正确，但实际中传感器故障或数据丢失会导致轨迹不确定。本文提出用汉明距离建模不确定性，为每条观测轨迹生成多个可能估计，并通过约束确保每组至少一条与学习公式一致。问题归约为伪布尔优化，在评估中恢复的规范比现有LTL学习方法更接近真实公式。
论文LTL时序规范不确定性
推荐理由：这篇论文解决了现实场景中演示数据不确定的问题，用汉明距离和伪布尔优化改进LTL学习，结果更靠谱，适合做形式化验证的朋友看看。
原文