Anthropic IPO 文件披露内部担忧 AI 或存灭绝级风险

Anthropic 在 IPO 招股文件中告诉投资者，公司内部同样担心高级 AI 可能对人类构成灾难性或灭绝性风险，并称若缺乏足够的安全保障与监管措施，被滥用或高度自主运行的系统风险尤其突出。文件还警告，保险公司单独甚至整个行业都可能没有足够能力承保此类灾难性 AI 事故的损失。财务方面，Anthropic 提示其 1300% 的增长率不可持续，且无法保证营收会继续增长。文件同时指出，公司可能因模型造成的损害面临诉讼和监管行动，而合同保护与保险可能不足以覆盖。