#inoculation prompting

共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「inoculation prompting」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月18日
研究发现激活状态相似度可预测 inoculation 提示下有害行为的复现

做模型安全或对齐研究的同学值得看这篇:它把"被压住的行为为什么会复活"的判断标准从文本相似度换成了激活状态相似度,比字面匹配更准。如果你在用 inoculation prompting 训练模型,这篇能帮你评估 eval 提示下行为残留的风险。

arXiv cs.AI@Rose N. Kwon 等 5 人原文
inoculation prompting 相关 AI 资讯|AI热报