PyINE:用可执行程序研究模型捷径行为的监督框架
这篇把模型走捷径的监督问题做成了可复现的实验场:百万条执行轨迹加代码变体,还实测了探针、judge、debate 四种监督方式各自漏什么、贵在哪。
这篇把模型走捷径的监督问题做成了可复现的实验场:百万条执行轨迹加代码变体,还实测了探针、judge、debate 四种监督方式各自漏什么、贵在哪。
这篇论文把合规检测器的底裤扒了:换掉规则文本,检测结果居然不变。想搞懂 AI 合规监控靠不靠谱,看这篇就对了。
这项研究解决了推理模型行为控制中输出质量下降的痛点,做模型对齐或安全控制的开发者可以直接用FPCG方法,在保持生成质量的同时精准引导模型行为。