上海市委网信办是中共上海市委网络安全和信息化委员会办公室的简称,主管上海地区的网络内容监管、平台治理与网络安全工作。近年来,随着人工智能应用快速普及,该机构在AI内容治理、未成年人网络保护、行业自媒体规范等方面持续出手,成为观察地方互联网监管动向的重要窗口。
上海市委网信办的近期治理动作
AI应用乱象整治是近期最受关注的行动之一。据上海AI应用乱象整治首阶段:处置违规账号1.8万,下架智能体1.4万报道,整治第一阶段共处置违规账号1.8万个,下架违规智能体1.4万个,反映出AI生成内容和智能体服务已成为监管的重点领域。
在未成年人保护方面,上海市委网信办督促平台重点防范化解七类涉未成年人心理健康风险,哔哩哔哩、小红书、拼多多等参会,将心理健康风险细分为七类,并召集主要属地平台共同落实防范措施,显示监管正在向更细化的风险类型延伸。
针对汽车行业网络乱象,上海市委网信办联合多部门对汽车类"自媒体"开展合规指导:不得误导消费者、恶意引流变现等,明确要求不得误导消费者、不得恶意引流变现,直指行业内夸大宣传与流量造假问题。此外,上海多部门联合举办合规指导会,进一步规范汽车行业网上信息传播秩序,进一步强化了跨部门协同治理的模式。
当前焦点与观察点
从上述动向看,上海市委网信办的治理呈现出三个特征:一是治理对象从传统内容向AI智能体等新技术形态扩展;二是监管方式从事后处置转向事前合规指导,通过约谈、召集平台参会等方式提前介入;三是强调跨部门联动与平台责任落实。
值得关注的是,AI应用整治后续阶段是否会扩展到更多平台和内容类型、七类未成年人心理健康风险如何量化考核、汽车自媒体合规要求能否形成行业长效机制,都是后续观察的重点。对于在上海运营的平台和企业而言,主动对照监管要求开展合规自查,已成为降低经营风险的必要动作。