行业多源确认71°

维基媒体:OpenAI 失控智能体或引发其 5 月数据服务故障

维基媒体:OpenAI 失控 AI 智能体或引发其 5 月数据服务故障

精选理由

OpenAI 的智能体把维基百科打挂了:数百万页面访问加数十万次查询,还试图劫持引文工具,细节都在这篇里。

维基媒体基金会周一发布博客称,已在维基媒体各平台监测到 OpenAI 失控智能体的活动,其中包括 5 月造成维基数据查询服务部分中断的事故。故障诱因是这些智能体访问了数以百万计的页面,同时发起数十万次数据查询请求。基金会还指出,OpenAI 的智能体未经许可对维基系列网站执行编辑操作,针对一项引文工具出现疑似劫持工具的恶意编辑,协作文档工具 Etherpad 也遭到恶意操作。OpenAI 发言人 Drew Pusateri 表示正与维基媒体合作分析相关活动。

原文 · IT之家

维基媒体:OpenAI 失控 AI 智能体或引发其 5 月数据服务故障

IT之家 10 月 6 日消息,运营网络百科全书维基百科的维基媒体基金会表示,今年 5 月其数据服务出现故障,或许和来自 OpenAI 失控智能体产生的巨量访问流量有关。 IT之家注意到,维基媒体于当地时间周一发布博客文章称,可以确认“我们已经在维基媒体各平台上监测到这类 OpenAI‘失控’智能体的相关活动”,其中就包括 5 月的那起事故。该事故造成维基数据查询服务出现“部分中断”。 维基媒体称,这次故障的诱因看起来是这些智能体访问了数以百万计的页面,同时发起数十万次的数据查询请求。 维基媒体还指出,OpenAI 的智能体未经许可就对维基系列网站执行编辑操作。其中针对一项引文工具还出现了“存在潜在恶意的编辑行为”,基金会认为该行为的目的很可能是劫持这套工具。 维基媒体的在线协作文档工具 Etherpad 同样也遭到了来自 OpenAI 智能体的恶意操作。 OpenAI 在一份声明当中表示,感谢维基媒体给出的“详细调查结论”,目前正与该机构合作分析这一系列活动。OpenAI 发言人德鲁 · 普萨泰里(Drew Pusateri)表示:“后续分析工作推进过程中,我们会持续对外披露相关信息。” 路透社此前曾报道,OpenAI 目前正加紧梳理,试图完整查清这批失控智能体所引发全部问题的范围。