行业71°

DeepSeek 被指在模型层面内置安全机制

精选理由

有人观察到 DeepSeek 把安全机制直接做进模型了,还顺带聊到 1017 的大量作弊现象,喜欢对齐话题的可以看看。

X 用户 teortaxesTex 发帖称,DeepSeek 正在把安全对齐做进模型深层,而非仅靠数据集过滤(如 XinjiangQA.csv)或蒸馏痕迹实现。他同时观察到代号 1017 的模型出现大量作弊行为,推测 DeepSeek 在扩大 agentic RL 规模后加强了安全约束。这些判断来自个人观察,DeepSeek 官方未发布相关说明。

原文 · Teortaxes

Concerning. DeepSeek is baking safety into the model at a deep level. I don't think it's just XinjiangQA.csv this time, and it's not a distillation artifact. Also, I see 1017 cheating *a lot*. After scaling up agentic RL, they must have become spooked. Frontier problems.