生成式AI成互联网最大污染源，识别虚假内容要“用魔法打败魔法”？

对我变

2 月初，随着 ChatGPT 和微软 Bing AI 接连引爆互联网，ChatGPT 概念股应声而起，此中知乎因为大量问答被广泛地用于生成式 AI 的训练，股价一度暴涨 31%，之后百度文心一言发布时又涨了一大波。

但到了 4 月，一位网友就在知名法式员社区 V2ex 发帖感慨：「ChatGPT 会是知乎最大的仇敌。」

不仅是他，很多人都发现知乎已经充溢了大量 AI 生成的回答，有些可能是无关痛痒的不雅概念，但不少也呈现了「一本正经胡说八道」。与此同时，AI 生成内容也在一步一步扩大本身的「领土」，从互联网延伸真实世界。

海外技术社区 Hacker News 上有人指出，一家网红营销机构网站上的一篇博文呈现了「抱愧，作为一种 AI 语言模型，我无法预测未来的事件或趋势」的提醒，类似的话语还呈此刻卡塔尔的购物中心目录和芬兰的一家电子产物商店的网站等处所。

更多 AI 生成的虚假内容，或许还没有被发现。

没人想要一个虚假的世界





图/AI生成

很多人可能还记得，本年 3 月网上传布出一系列「特朗普被捕」的照片，虽然后续大量报道都指出其为 AI 生成的虚假照片，但照片刚开始被热传时，国表里社交平台上都有不少人信以为真。尔后来呈现的「甘肃火车变乱」「八角大楼被袭」假新闻，也一次又一次挑起了人们的神经。

过去半年我们已经知道，ChatGPT 等生成式 AI 会掉臂真假，生成海量似是而非的内容。而由 AI 生成的虚假内容又会被其他 AI 拿来学习后，再生成更加以假乱真的内容。甚至，AI 还可以按照用户的个人爱好一对一地生成虚假信息。因为 AI 可以扩大和再出产假新闻，未来可能造成更加严重的舆论造假。

更大的问题是，如果未来互联网甚至是真实世界都充溢着各种 AI 生成的虚假内容，一切城市崩溃。而从文字到图片再到声音，今天 AI 生成的内容与真人创作的内容之间变得越来越难以分辩，就像大部门人已经无法分辩 AI 孙燕姿、AI Drake 与真人声音。

同时 AI 的进化速度也太快了。几个月前我们可能还在说 AI 绘画「不会画手」，但等到 Midjourney V5 新版本推出之后，AI 不仅在「画手」上越发娴熟，各种细节也变得更传神。在针对 AI 歌手的回应中，孙燕姿也看到了这一点：

「你可能会否决，说我还是能分辩出区此外，它没有情绪，没有调子和呼吸的变化。很抱愧，我怀疑这只是一个非常短期内的回应。」




图/孙燕姿

所以问题已经不在于我们能不能分辩 AI 生成的内容，而是我们应该如何辨认出 AI 生成的内容。

用「魔法」打败「魔法」？


人工识别首先就不现实，先不说人工分辩 AI 生成内容的准确性，我们还需要投入海量的人力。

去年年底 ChatGPT 发布之后，很多人就用它来生成论文，并取得了很好的成就，同时也吸引了更多的学生效仿。随后，巴黎政治学院在内的一些全球知名学府纷纷出台了 ChatGPT 禁令。但据在线课程供应商 http://Study.com 此前倡议的一项查询拜访显示，1000 名 18 岁以上的学生中，超过 89%的学生都在使用 ChatGPT 来完成家庭作业。

但这个问题总要解决，而最好的法子，可能还是用「魔法」打败「魔法」？

众所周知，一个社区的核心是用户与用户之间的交流，而 AI 生成的虚假内容一旦泛滥很容易摧毁这种交流，这也是所有在线社区极力避免的。但方式呢？除了依靠个人去分辩，很多时候我们又必需依赖 AI，比如前文提到 V2ex，其站长@Livid 为了分辩 AI 生成的灌水内容，就会直接反过来询问 AI「是否由 AI 生成」，以此作为是否封禁用户的依据。




图/V2ex

问题是这种方式还是存在太多的不确定性。

就在 ChatGPT 刚推出的几天后，OpenAI 颁布发表联合哈佛大学等高校和机构一起打造了 AI 检测器——GPT-2 Output Detector（GPT-2 输出检测器）。顾名思义，GPT-2 Output Detector 是基于 GPT-2 模型微调输出的东西，对基于 GPT-3.5 的 ChatGPT 实际效果并不好。

于是本年 2 月 1 日，OpenAI 转头又推出「AI 生成内容识别器」，目的是识别文本由 AI 生成还是人类撰写，本质上是一个分辩真实内容和 AI 生成内容的分类器。不外，OpenAI 在博客中指出，该识别器对 AI 生成内容的检测成功率仅为 26%：

可能还不如网友瞎猜。

国内也呈现了类似的 AIGC-X。这是一款由人民网部属传布内容认知国家重点尝试室、中国科学技术大学、合肥综合性国家科学中心人工智能研究院联合推出的 AI 生成内容检测东西，撑持对 AI 生成内容和人工生成内容的分辩。尽管有报道称 AIGC-X 对中文文本检测的准确率超过 90%，但实测并不如意。



即便有这么多错误，图/AIGC-X，Bing

可以说到目前为止，所有试图用 AI 打败 AI 的测验考试都没有成功，本身这条路径也存在不少争议，有人就将其形容为新时代的「自相矛盾」——用最强的矛打最强的盾。

对比之下，「水印」成了越来越广泛的选择。5 月谷歌 I/O 大会上，谷歌率先颁布发表公司的每一张 AI 生成图片城市内嵌水印，水印无法肉眼识别，但可通过谷歌搜索引擎等软件读取并以标签显示出来，用以提醒用户该图片由 AI 生成。不久后，Shutterstock、Midjourney 等 AI 应用也颁布发表将撑持这种新的标识表记标帜方式。

但 AI 生成文字还在等待一个切实可行的方案。在 AI 生成内容识别器掉败之后，OpenAI 也在考虑在生成的文本中插手数字水印，以降低模型被滥用带来的负面影响。OpenAI 对齐团队（主要负责系统安全性）负责人 Jan Leike 暗示，OpenAI 已经探索在文本中插手水印。

不外，OpenAI CEO Sam Altman 在接受采访也提醒到，不存在一个完美的 AI 生成文字识别东西，原因是人们总会弄清楚他们要改削多少文字，还会呈现改削输出文本的其他东西。

写在最后


之前在某个论坛上看到一个帖子，一位网友通过搜索引擎跳到知乎的一则回答，看到了一半才意识到这则回答概略是由 AI 生成，瞬间有种被喂 x 的感觉。

关键是如果主动使用 ChatGPT 之类的生成式 AI，我们可能对它的真实性、胡说八道城市有必然的预期，但显然我们无法阻止其他人使用并发布 AI 生成的虚假内容。打个比方，如果对历史并不熟悉的人，在知乎上看到一则言之凿凿讨论亚瑟王的回答，会不会误认为亚瑟王是真实存在的人物，甚至是一位女骑士（型月作品中的设定）。

但坦白讲，除了很明显的 AI 生成风格，我们很难在熟知范围之外分辩内容是否由 AI 生成，独一能做的，可能就是更加审视我们所看到的内容。

题图来自《七宗罪》剧照