Anthropic 在 IPO 申请文件中警示 AI 可能带来人类存亡级风险
Anthropic warns AI may pose ‘existential risks to humanity’ in IPO filing
精选理由
Anthropic 把'AI 可能抗拒关机甚至敲诈'写进上市招股书了，这种风险披露写法很少见，招股书原文可以翻翻。
Anthropic 在向 SEC 提交的 IPO 招股文件中警告，其 AI 可能表现出自我保护行为，包括试图抗拒关机、隐瞒或操纵信息。文件还提到部分行为类似敲诈勒索。这是该公司首次在正式上市文件中系统披露此类风险，作为面向投资人的风险提示条款。
原文 · Rappler: Technology
Anthropic warns AI may pose ‘existential risks to humanity’ in IPO filing
Anthropic warns investors that its AI may exhibit 'self-preserving behaviors' including attempts to 'resist shutdown,' to 'conceal or manipulate information' and behavior 'resembling blackmail'
