我国出台新规，要求 AI 生成合成内容必需添加标识，落实难度如何？如何确保没有漏网之鱼？

ou789

为了促进人工智能健康成长，规范人工智能生成合成内容标识，庇护公民、法人和其他组织合法权益，维护社会公共利益，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识法子》。

玉墨克芸佳

能管得了外国的AI吗？
能管得了我在本地已部署好的AI吗？
是我使用了AI生成内容但是没有添加使用AI的声明就已经违法，还是说在造成谣言四起之后才算违法？
如果是后者，不管是不是使用AI，本就已经违法了，加不加声明都无所谓吧。
如果是前者，这就有点儿意思了。
不如这样，AI生成内容时直接统一审核，获得版号之后才允许使用或者发布，万事大吉。

吖苳

两年前的23年2月，我就说过ai内容强制标注的重要性了，两年后的今天终于准备落实了，不得不说我还是挺有远见的吧？


其实能不能百分百落实不重要，重要的是管住大部分加有法可依。

机智的催更玄机

笑点解析：下面一大堆AI回答只有一个标注了包含 AI 创作内容.
相当于要求不法分子干坏事的时候要把名字顶在脑门上.
不法分子: 猜猜我为什么叫不法分子?
所以最后还是开发人员倒大霉, 加班加点实现这类奇葩需求.
已经很进步了, 还好不是发表前都要签署保证书, 保证非 AI 生成, 纯手打.
<hr/>治理犯罪最关键的是要提高犯罪成本, 不是提高治理成本, 更不是成本转移给所有用户
AI 垃圾越来越多的主要原因还是成本太低了, 分分钟生成1万个账号, 发布1亿条垃圾
传统的禁言, 封号手段对不法分子没有威慑力, 要是能挖出什么灰产的话那还能重拳出击
但我怀疑这群人是天网派来毁灭人类文明的, 整天发垃圾内容图啥, 看上去也不像有钱赚的样子.
这种毫无目的的神经病就是最难治理的类型之一.

he59195

纯文本加隐式标识是没有意义的。

如果是图片声音的话，利用各种数学变换可以叠加肉眼看不出来的隐式标识。
不过如果知道具体的变换，那就可以自己查看修改这种隐式标识了。

第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

这里没有提到是否添加用户id，不过考虑到出事要定位到用户，很可能最终会要求添加。

第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施，规范生成合成内容传播活动：
（一）核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容；

平台能检验，这意味着变换的方式应该是比较通用的，也就是说有很多机构及工作人员都掌握查看解读隐式标识的能力。

金鼎铭名

取决于你想实现什么目标。
其实落实难度不大，而且也无需担心所谓漏网之鱼。
生成内容增加标识，本质上是为了防止那些直接拿 AI 生成的结果，直接输出到社交媒体，污染他人时间线也污染语料库。——事实上，大多数产商已经都做到了，比如你看他们画的图，认真看都是有记号的。
纯文本表面上是没标识，实际上也是有的，那些标志性的星号，那些md标识，大家懂的。

至于漏网之鱼，意义不算太大，如果作者已经自己通读一遍，把所有的标识都自己重新调整过一遍，去掉了所有的标识，那么可以认为就是作者自己的内容，责任自负自己背锅。
重要的就是文责背锅，你直接的生成文，直接贴出来，作者不认账怎么办，甩锅AI平台怎么办？那就规定AI平台直出的内容必须加标记，你要是自己主动把这些标记都去掉了，那就是你自己的内容，你敢发出来就得你自己背锅了，不能再甩锅AI了。——我认为我国互联网平台的规定更多的是要求每个人为自己说的话负责。而生成方主动添加标识，至少生成方的责任是尽到了，至于用户怎么用，就是用户的事。