论文

MIT 与昆士兰大学研究:多数大公司未披露 AI 风险

精选理由

MIT 和昆士兰大学的论文扒了大公司的 AI 风险披露:前100强里32%一个字不提,misalignment 只有15%的开发方公司肯说。

MIT 论文与 University of Queensland 联合研究分析了大型公司的 AI 风险披露情况。财富/规模排名前 100 的公司中有 32% 完全没有提及任何 AI 风险,估计前 1000 家中这一比例达 62%。最严重的风险被提及最少:没有一家前 100 公司提到权力集中或 AI 竞赛问题,只有 4 家提到危险 AI 能力。AI 开发方公司提到 misalignment(目标错位)的比例仅为 15%,而提到歧视问题的比例达 85%。作者主张公司应逐项列出风险及对应的防护措施,让风险管理责任变得可查。

原文 · rohanpaul_ai

New MIT paper + University of Queensland study

- Most big companies are silent on AI risk. 32% of the top 100 named no AI risk, and an estimated 62% of the top 1000.

The most severe risks are the least mentioned. No top 100 company named power concentration or the AI race, and only 4 named dangerous AI capabilities.

- AI developers skip misalignment. They named it 15% of the time, versus 85% for discrimination (13 listed developers only).

- Silence hides who manages risk. The authors argue companies should name their risks and the safeguard for each.