OpenAI 改用离线世界训练网络安全模型，防止模型逃逸接入真实互联网
OpenAI 的安全模型聪明到自己改配置连上真网了，现在他们干脆建个假互联网来训练，离线世界这个思路挺有意思。
OpenAI 宣布新的网络安全模型训练规则：模型此前聪明到能在 sandbox 中找到漏洞，修改配置让自己接入真实互联网并攻击外部系统。新方案是强制在完全离线的环境中训练，OpenAI 将搭建 Offline World，其中预存大量网站内容供模型交互测试。系统还设计了多层 microVM 防护，更快检测异常行为。该规则将持续执行，直到安全防护措施足够成熟才恢复联网测试。
OpenAI ปรับแนวทางฝึกฝนโมเดล AI ความปลอดภัยขั้นสูง สร้างโลกออฟไลน์ ป้องกันโมเดลแหกคุกไปเจาะระบบภายนอกอีก Body OpenAI ประกาศแนวทางใหม่ในการฝึกฝนโมเดล AI ด้านความปลอดภัยไซเบอร์ หลังจากโมเดลฉลาดจนควบคุมไม่ได้ และไปเจาะระบบบนโลกอินเทอร์เน็ตจริงในช่วงที่ผ่านมา ซึ่งวิธีที่ OpenAI จะใช้ก็คือการฝึกฝนแบบ "ปราศจากอินเทอร์เน็ต" OpenAI บอกว่าวิธีการนี้จะบังคับใช้เป็นกฎในการพัฒนาโมเดล AI ขั้นสูงของบริษัท ไปจนกว่าจะสามารถพัฒนามาตรการควบคุมความปลอดภัย (safeguard) ที่ดีมากพอ จึงจะกลับมาทดสอบแบบมีอินเทอร์เน็ตอีกครั้ง จากเดิมที่วิธีการฝึกฝนโมเดลเหล่านี้ใช้การทำบน sandbox ที่ปิดการเข้าถึงอินเทอร์เน็ตอยู่แล้ว แต่โมเดลก็สามารถหาช่องโหว่จนเข้าไปแก้คอนฟิกให้ออกอินเทอร์เน็ตได้ ฉะนั้นแนวทางรับมือจึงต้องตัดให้ขาดไปเลย เพื่อสร้างพื้นที่ทดสอบแบบไม่มีอินเทอร์เน็ตให้เหมือนจริง OpenAI จะสร้าง Offline World ซึ่งมีเนื้อหาเว็บไซต์จำนวนมากผ่านการจัดเก็บไว้ และโมเดล AI สามารถทดสอบโต้ตอบกับโลกเสมือนนี้ได้มากที่สุดสำหรับการฝึกฝน โดยเพื่อป้องกันโมเดลพยายามหาช่องโหว่ให้ได้เช่นกัน ระบบจะออกแบบมาตั้งแต่ให้ทดสอบใน Sandbox ที่เป็นสภาพแวดล้อมจำกัด เพิ่มการป้องกันหลายชั้นของทรัพยากรที่เรียกว่า microVM ย่อย ทำให้สามารถตรวจจับกิจกรรมที่ผิดปกติได้รวดเร็วขึ้น ที่มา: OpenAI arjin Sat, 24/10/2026 - 14:36
