上海警方通报“和平饭店51万元天价账单”系AI生成,15人被抓
有人拿AI把和平饭店的真实账单改成了自家酒水的51万营销素材,还雇人批量发视频。警方已经抓了15个人,4人被刑事强制措施。做内容运营的看完就知道这条红线在哪儿了。
IT之家原文
有人拿AI把和平饭店的真实账单改成了自家酒水的51万营销素材,还雇人批量发视频。警方已经抓了15个人,4人被刑事强制措施。做内容运营的看完就知道这条红线在哪儿了。
Meta 把广告审核 AI 从只看素材改成了连落地页也一起查,主要用来拦儿童色情引流广告,做投放的可以留意规则变化。
Meta 出了套 AI 工具,专门抓那种看着正常、点进去却跳转儿童不良内容的广告,广告安全方向可以看看。
Mistral新出了3B的开放权重安全模型Shieldstral,能直接装设备上跑内容过滤,轻量又实用,看看它怎么做的。
Mistral出了个3B的开源内容安全模型,能直接在手机上跑,适合做本地内容审核。
Cloudflare 出了个新招:给爬虫打标签,让你能精准拦住AI训练爬虫偷你广告页面的内容,同时允许搜索引擎正常收录。
企业部署 AI 最头疼的就是内容安全合规,NVIDIA 这个模型直接让企业按自己的政策微调安全过滤规则,做 AI 应用落地的团队值得关注。
AI 生成图片的真实感已经跨越了恐怖谷,做内容创作、社交媒体运营或关注 AI 安全的人,建议点开看看这组截图——你很可能分不清真假。
AI应用乱象频发,这次上海网信办动真格了——4个月专项治理覆盖备案、安全、内容全链条,做AI产品、运营平台或内容审核的团队,建议对照自查,避免踩红线。