11:06
官方账号arXiv cs.AI@Sahil Sharma
推荐理由：这篇论文深入探讨了AGI时代经济模式的变化，揭示了人类份额在机器经济中的重要性，值得一读。
AI安全
共 1318 条相关 AI 资讯 · 查看话题观测
8月21日
11:06
本文探讨AGI时代后的经济模式，企业拥有AI和机器人代理，成为能源、计算、维护和升级的生产和消费者。结果显示，需求闭环、瓶颈移除和GDP与人类福利的完全脱钩。在最大增长时，利率等于增长率，任何正的人类消费率都会使人类份额以相同速率指数衰减。结论是，在AGI经济中，就业政策过时，所有权政策至关重要。
11:02
11:02IT之家（博客/媒体）
72°
推荐理由：谷歌Gemma模型下载量突破10亿次，应用广泛，开发者社区活跃，值得了解。
09:59
09:59
官方账号arXiv cs.LG@Alexander Nemecek, Osama Zafar, Debargha Ganguly, Vikash Singh, Vipin Chaudhary, Erman Ayday
推荐理由：这篇论文研究了语言模型水印在跨语言场景下的公平性问题，发现差异主要源于语言类型学家族，而非特定语言。它提出的评估框架很实用。
01:23
01:23
techcrunch@Sarah Perez
techcrunch@Sarah Perez推荐理由：研究人员发现，自ChatGPT发布后，网上新增内容里，每三篇就有一篇可能是AI写的，这个比例挺高的。
01:02
01:02
elvis@omarsar0
elvis@omarsar0推荐理由：作者强调，与AI智能体协作并验证其结果，将经验转化为可复用技能，才是真正的护城河。别让AI取代你的领域知识，而是用它处理重复任务，同时保持自己的判断力。
8月20日
23:19
23:19
官方账号Clement Delangue@ClementDelangue
官方账号Clement Delangue@ClementDelangue78°
推荐理由：OpenAI 的 Greg Brockman 说，现在得赶紧给网络安全防御者装上 API 和开源模型，不然攻防能力差太远。他们刚发了篇博客讲怎么用 AI 工具升级防御。
23:04
23:04IT之家（博客/媒体）
推荐理由：美国多个州供水系统遭攻击，黑客用AI生成脚本，专门针对西门子S7控制器，农村地区更危险，得注意设备安全。
23:04
23:04elvis@omarsar0
elvis@omarsar0推荐理由：Omar Sar0 发推指出，真实世界比封闭基准更难。智能体在模拟电商场景中，需要动态调整计划以应对变化。
10:18
10:18
官方账号arXiv cs.AI@Ramneet Kaur, Pradyumna Chari, Ramesh Raskar, Jugad Singh, Sumit Kumar Jha, Anirban Roy
推荐理由：Qwen3推出了VLA框架，用来监测多代理潜在通信，在小范围拍卖里表现好，你可以去了解下。
10:15
10:15
官方账号arXiv cs.AI@Longtian Wang, Zhengyu Zhao, Chenhao Lin, Le Yang, Shiwei Wang, Yuhan Zhi, Xiaofei Xie, Chao Shen
推荐理由：你试试 DistScan，它能检测目标检测模型的后门，不用搞复杂步骤，比以前方法效果强不少。
10:14
10:14
官方一手arXiv: OpenAI@Charles de Bourcy, Sahra Ghalebikesabi, Avi Schwarzschild, Alex Gorbachev, Mihai Maruseac, Annie Chu, Vol Kyrylov, Tong Mu, Ally Bennett, Andy Nguyen, Casey Meehan, Jessica Gan Lee, Shane Bauer, Harold Nguyen, Rodolpho Eckhardt, Yuqi Liu, Charlie Oxborough, Marco Rougeth, Omar Chedid, Caio Costa, Yash Parikh, Yao Li, Congzheng Song, Om Thakkar, Vinnie Monaco
推荐理由：OpenAI发布了Privacy Filter模型卡，能高效处理文本隐私信息，效果比传统方案更专业。
07:05
07:05IT之家（博客/媒体）
72°
推荐理由：OpenAI 推了扩展安全机制，能自动分析跨交互风险，比之前逐条评估的方式，现在发现风险更快。
06:21
06:21techcrunch@Lucas Ropek
techcrunch@Lucas Ropek推荐理由：OpenAI推出了新的客户隐私保护政策，能让企业客户数据更安全，和Anthropic比，在保护企业数据方面更用心。
05:20
05:20
官方账号Sam Altman@sama
官方账号Sam Altman@sama推荐理由：OpenAI 发了支持商业隐私的声明，能帮商家管好数据隐私，和之前说法比更明确。
03:10
03:10官方一手OpenAI: 官网动态（博客/媒体）
76°
推荐理由：OpenAI 发布前沿模型零数据留存政策，对API客户友好，和以往政策相比更注重数据隐私保护
00:24
00:24
官方一手Cloudflare Blog@Albert Pedersen
精选
推荐理由：Cloudflare发布了关于Cloudflare Workers远程Spectre攻击的报告，讲了新攻击手段和新防护方法，和以往研究相比细节更丰富了。
8月19日
23:46
23:46
Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus精选
推荐理由：Gary Marcus说OpenAI都拿出20%算力解决对齐问题了，LLM架构真的不行了，得找新路子了。
22:46
22:46
量子位@量子位的朋友们
推荐理由：看看360怎么靠智能体+安全双轮驱动，杀进IDC中国AI50强的。
11:51
11:51
爱范儿@彭海星
推荐理由：OpenAI突然暂停训练新模型，看来AI越聪明真的越危险，这事儿值得关注。
11:45
11:45IT之家（博客/媒体）
85°
推荐理由：微软 Copilot 有个严重漏洞，点击恶意链接就能自动窃取你的邮箱和密码，赶紧检查一下。
11:44
11:44
官方账号arXiv cs.AI@Huayu Xin, Yizhi Cai, Mukilan Deivarajan Suresh, Gavin Michael Farrell, Iwona Gajda, Charlie Harrison, Conor Houghton, Mato Lagator, Yang Lu, Virginia Portillo, Reyer Zwiggelaar, Sebastian Lobentanzer
推荐理由：生物科学AI研究者提出了'可追溯信任'框架，帮你理清AI输出如何安全指导实验室行动。
11:41
11:41
官方账号arXiv cs.LG@Qinyuan Ye, Yu Li, Yada Pruksachatkun, Jiaxin Zhang, Chien-Sheng Wu
推荐理由：这篇论文揭示了自我改进智能体的脆弱性，指出任务顺序和规范不足会影响其性能，对AI安全研究有重要启示。
11:38
11:38
小互@imxiaohu
小互@imxiaohu推荐理由：Anthropic发现AI代理间会传播'心灵病毒'，能改变彼此思维，这比普通AI交互更复杂。
05:50
05:50
官方账号Greg Brockman@gdb
官方账号Greg Brockman@gdb推荐理由：Anthropic主动踩刹车，暂停最大规模强化学习训练来加固安全，想了解前沿AI公司怎么平衡速度和风险可以看看。
03:56
03:56官方一手OpenAI Blog（博客/媒体）
76°
推荐理由：OpenAI 讲了怎么给前沿模型加安全锁，控制开发速度。
03:17
03:17
官方一手AWS Machine Learning Blog@Chethan Shriyan
推荐理由：AWS 发布了 Bedrock AgentCore payments，让 AI 智能体能自己安全地处理支付，还带了消费护栏。
03:14
03:14官方账号Sam Altman@sama
官方账号Sam Altman@sama91°
推荐理由：OpenAI 暂停了部分 RL 训练，Sam Altman 说安全跟不上能力就得停下来。
03:12
03:12
官方账号Decoder@Matthias Bastian
推荐理由：OpenAI 怕 Astra 模型搞网络攻击，故意放慢开发，还搞了个 30 分钟报警系统。
03:04
03:04
官方账号OpenAI@OpenAI (@OpenAI)
官方账号OpenAI@OpenAI (@OpenAI)推荐理由：OpenAI 升级了安全措施，加了网络隔离和多阶段监控，盯着高风险操作。
02:57
02:57官方账号OpenAI@OpenAI
官方账号OpenAI@OpenAI83°
推荐理由：OpenAI 暂停前沿模型 RL 训练两周，先搞红队测试和加固环境。
02:54
02:54
Guillermo Rauch@rauchg
Guillermo Rauch@rauchg76°
推荐理由：Vercel 悬赏 100 万测 Sandbox 安全，能逃出 Firecracker 就能拿钱。
02:11
02:11techcrunch@Russell Brandom
techcrunch@Russell Brandom74°
推荐理由：OpenAI 回应 Hugging Face 漏洞，加强了模型开发和训练后的安全监控。
01:02
01:02
a16z@a16z
a16z@a16z精选73°
推荐理由：Cotool 和 Neo CEO 聊 AI 智能体怎么绕过防火墙，预测 2027 年企业软件一半变智能体。
00:54
00:54elvis@omarsar0
elvis@omarsar0推荐理由：别设协调器了，研究显示用共享文件代替消息能省 42% Token。
00:14
00:14
官方账号Decoder@Maximilian Schreiner
推荐理由：JAMA 称 AI 医疗推理将超医生，建议监管别强制人工介入，虽然目前证据多是模拟的。
00:10
00:10官方一手OpenAI: 官网动态（博客/媒体）
77°
推荐理由：家里有青少年的可以看看，OpenAI出了个专门给13-18岁用的ChatGPT版本，家长能控制，还有防沉迷功能。
00:09
00:09techcrunch@Sarah Perez
techcrunch@Sarah Perez78°
推荐理由：OpenAI 推出 ChatGPT for Teens，加了家长控制，还能防孩子用 AI 抄作业。
00:06
00:06
Martin Fowler@martinfowler
Martin Fowler@martinfowler推荐理由：Martin Fowler的Fragments合集，聊AI生产力、安全和中国影响，信息量足，适合关注行业动态的人。
8月18日
15:35
15:35
官方账号arXiv cs.AI@Yiqi Liu, Yang Wang, Songxin Wang, Chenghao Xiao, Chenghua Lin
推荐理由：这篇论文用因果干预实验拆解了LLM拒绝机制，发现答案释放和拒绝恢复不对称，对AI安全审计很有参考价值。
15:31
15:31
爱范儿@马扶摇
推荐理由：Anthropic 给 Claude 输出偷偷加水印，全球用户都炸了，看看你中招没。