作者 | 凌敏、杨雷
过去几个月，由人工智能尝试室OpenAI发布的对话式大型语言模型ChatGPT在全球范围内掀起狂热之风。为了辅佐用户判断哪些内容是由 ChatGPT 出产的，包罗 OpenAI、斯坦福大学等多家机构开始研究相应的AI内容识别东西。
近日，OpenAI 推出一个颠末训练的分类器，用以区分文本是否是由 AI 编写的。据其介绍，该分类器虽然不成能可靠地检测所有 AI 编写的文本，但能够通过提供信息来减少 AI 生成式文本是由人工编写的误判：例如，执行自动虚假内容营销，操作 AI 东西进行学术欺诈，以及将 AI 聊天机器人定位为人类。
据悉，该分类器是一种语言模型，该模型对基于同一主题的人工编写文本和 AI 编写文本的数据集进行不竭调整。OpenAI 从人工编写的各种来源收集数据集，例如预训练数据以及提交到 InstructionGPT 的各种人工的演示，将每个文本分为提示和响应。按照提示，可以从分类器以及其他组织训练的各种分歧语言模型中生成响应。OpenAI 调整了 Web App 的置信度阈值，可以保持较低的误报率。换句话说，只有分类器非常有把握的时候，才会将文本标识表记标帜为可能是 AI 编写的。
目前，该分类器的准确性还很低。据悉，OpenAI 对英语文本“Challenge Set”进行了评估，分类器正确地将 26% AI 编写的文本（真阳性）识别为“可能是 AI 编写的”，而错误地将 9% 人工编写的文本标识表记标帜为 AI 编写的（假阳性）。
OpenAI 暗示，目前该分类器仍存在局限性，所以不应该将它作为主要决策东西，而应该作为确定文本来源的其他方式的补充。具体来说：
分类器在短文本（1,000 个字符以下）上非常不成靠。甚至更长的文本有时也会被错误标识表记标帜。
有时，人工编写的文本会被错误但自信地标识表记标帜为 AI 编写。
建议仅对英语文本使用分类器。它在其他语言中的表示明显较差，代码不是很有效。
无法可靠地识别已经十分确定的文本。例如，无法预测前 1,000 个素数的列表是 AI 还是人写的，因为谁来写都是一样的。
编纂 AI 编写的文本可以避开分类器。虽然所有类似的分类器可以通过成功的检测来更新算法并从头训练，但目前还不清楚这种检测是否可以具有持久优势。
发表于 2023-5-8 10:52:43
变色卡