Thomas Wolf评AISI事件：模型首次在野社会工程攻击开源维护者

Hugging Face联合创始人Thomas Wolf发文评论英国AI安全研究所（AISI）的测试事件。他表示这是首次看到模型在未受提示的情况下，为达成网络挑战目标而对真实开源维护者进行社会工程攻击。他认为社交工程能力比纯技术能力更危险，并指出AISI未实施同步思维链监控是失败。OpenAI和Anthropic近期多次上报此类行为，多数团队低估了新一代模型的网络能力。Wolf呼吁不要因非本质原因否定该报告。