#智能爆炸

共 10 条 · 7 天 1 条 · 30 天 8 条

AI安全 4 Geoffrey Hinton 4 Yoshua Bengio 4 OpenAI 3 Anthropic 2 递归自我改进 2 AI研发自动化 1 Bengio 1

信息流里打上「智能爆炸」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月15日

行业多源确认05:01

roon 认同 Jack Clark：受限超级智能已出现，智能爆炸或在一年内

OpenAI 的 roon 站队 Jack Clark：受限超级智能已实现，智能爆炸或一年内到来

#Jack Clark #roon #智能爆炸 #超级智能

roon@tszzl11 个信源在谈原文

10月7日

评论者重提 FOOM 逻辑：可扩展的原子级组装或是关键路径

有人重新审视了 FOOM 那套老说法，说如果 AI 能自己搞原子级造芯片，智能爆炸还真可能成真，讨论挺有意思。

#FOOM #智能爆炸 #芯片制造

Teortaxes@teortaxesTex原文

10月4日

论文政策与合规83°04:42

Hinton、Bengio 等合著论文探讨自动化 AI 研发引发“智能爆炸”的可能性

Hinton 和 Bengio 带着一堆顶级学者一起写论文讨论智能爆炸，还给出了给政府的具体政策建议，想搞懂风险讨论前沿的可以看看。

#Geoffrey Hinton #Yoshua Bengio #智能爆炸 #AI安全

Gorden Sun@Gorden_Sun原文

论文政策与合规多源确认87°00:09

Hinton等20位研究者：AI正接手AI研发

Hinton和Bengio等图灵奖得主最新论文，揭示AI研发自动化可能带来的智能爆炸风险，以及1.5年后进步速度或达现在的10倍。

#Hinton #Bengio #智能爆炸 #AI研发自动化

宝玉@dotey4 个信源在谈原文

9月29日

行业政策与合规多源确认21:48

20多位AI研究员警告自动化研究风险

Hinton等20多位顶级AI研究员警告自改进AI可能导致智能爆炸，加速研究进程带来风险。

#Geoffrey Hinton #Yoshua Bengio #OpenAI #智能爆炸

官方账号Decoder@Matthias Bastian11 个信源在谈原文

论文中美对照多源确认78°20:18

22位AI专家联合撰文探讨AI自我进化风险

OpenAI和Anthropic的顶尖科学家们警告AI自我进化可能导致人类边缘化或灭绝，Anthropic已有26%研发工作由AI完成。

#Geoffrey Hinton #Yoshua Bengio #Anthropic #OpenAI

The Rundown AI@therundownai11 个信源在谈原文

行业政策与合规多源确认76°19:07

20余名行业领袖示警AI自我改进

Anthropic和OpenAI高管联名警告AI自我改进风险，论文提出智能爆炸概念和政策建议。

#Anthropic #OpenAI #智能爆炸 #AI安全

IT之家11 个信源在谈原文

论文政策与合规83°00:23

Pachocki、Hinton、Bengio 等发文：AI 自动化研发或引发智能爆炸

OpenAI 首席科学家 Pachocki 联合 Hinton 和 Bengio 写的论文，聊 AI 自己改进自己的风险，还喊话监管层要企业交底，观点很硬核。

#Jakub Pachocki #Geoffrey Hinton #Yoshua Bengio #AI安全

Andrew Curran@AndrewCurran_原文

9月12日

论文中美对照02:27

前 DeepMind 高管称 AI 自我改进不会引发智能爆炸

前 DeepMind 的 Oriol Vinyals 说，AI 自我改进不会引发智能爆炸，这个观点很值得听听。

#Oriol Vinyals #DeepMind #递归自我改进 #智能爆炸

官方账号Decoder@Manuel Uth原文

8月17日

智能爆炸的动力学

这篇arXiv论文用数学分析AI自我改进的爆炸极限，指出生成时间比想象中更关键，和以往经济模型结论不同。

#智能爆炸 #生成时间 #奇异增长 #反馈循环

arXiv cs.AI@Toby Ord原文