前 Anthropic 研究员 Jacob Coxon 将在纽约市 AI 听证会作证，涉及"关停开关"法案

前 Anthropic 研究员 Jacob Coxon 向纽约市议员表示，人类很可能失去对 AI 的控制，并将在 NYC AI 听证会上作证，主题是 AI"kill switch"。纽约市正在筹备一项法案，要求所有在本地销售的 AI 模型必须先通过外部验证，未经验证的每次销售或部署将被罚款 2.5 万美元。该法案还要求模型具备关停能力，即人类操作者可以让模型临时或永久停止运行。验证方将评估准确性、校准、确定性、延迟、数据来源、偏见、隐私和安全，并向该市 Cyber Command 认证。