OpenAI 称 ChatGPT 可自动终止暴力执念对话并定期发布社区安全报告

OpenAI 称 ChatGPT 可自动终止表现出暴力执念的对话，并承诺定期发布社区安全报告

IT之家 10 月 31 日消息，OpenAI 于当地时间 10 月 30 日发布博文表示，维护社区安全始终是 OpenAI 的重中之重。其日常工作包括主动向执法机关通报迫在眉睫的暴力威胁。仅在 2026 年第三季度，OpenAI 就向执法部门移交了 200 余起案件线索。 OpenAI 承诺定期发布《社区安全报告》 （Community Safety Report），系统公开在暴力预防、其他社区安全议题以及各项防护机制实际成效方面的进展。 首期报告将于 2027 年初正式发布 ，涵盖 2026 年下半年的安全数据，此后每半年更新一次。 IT之家获悉，OpenAI 针对 ChatGPT 如何回答有关既往大规模恶性袭击事件及凶手的问题增设了额外限制：即便相关信息已在网络公开发布，系统也会严格受控，仅提供极度精简的信息。与此同时，公众仍然可以通过 ChatGPT 了解此类事件的全貌、受害者与社区受到的影响，并学习如何识别危险预警信号以防范未来暴力。 但 OpenAI 进一步收紧了安全策略，坚决限制对既往大规模袭击事件的细节复盘，包括所涉武器装备的参数、获取途径，以及可能助长凶手恶名的伤害规模对比。无论用户的年龄大小或提问动机如何，上述限制均无差别适用。 此外， 当对话显示用户开始执念于暴力、或萌生严重伤害他人的念头时，ChatGPT 可自动终止当前对话 ，从而即时阻断这种心理与行为倾向。若同一账户因该原因导致对话被多次强制中断，OpenAI 可能会临时冻结该账户。 OpenAI 还宣布， 对青少年可获取的涉枪涉武器信息增设了更严格的门槛 ，即便相关提问表面看似无害也会受到限制。即便用户未显露任何暴力意图，系统也将全面限制提供可能被滥用以滋生暴力的武器实用知识以及安防系统绕过信息。 OpenAI 目前正加紧开发新功能，以便在青少年账户因反复讨论暴力内容被临时冻结时，第一时间向家长推送通知。