ChatGPT下架官方检测东西，承认无法分辩AI内容

偶是民工 · 发表于 2023-8-8 16:24:05

去年底，OpenAI 推出的 ChatGPT ，带来了生成式人工智能涌现的热潮。它不仅能够协助完成撰写邮件、视频脚本、案牍、翻译、代码等任务，还能通过学习和理解人类的语言来进行对话，并按照聊天的上下文进行互动。

但随之而来的争议也让人们开始怀疑 AI 生成文本的存在是否会呈现一些伦理问题。

据了解，美国已有很多大学生在用 ChatGPT写作业。

为了区分人工智能和人类书写的文本，OpenAI 不久之后推出了一款可以识别 AI 书写的文本的东西 —— AI classifier。

这一技术主要可以识别同样是 OpenAI 开发的 ChatGPT、GPT-3 等模型生成的内容。

它和 ChatGPT 类似，都是一种语言模型，按照来自网络的公开文本示例进行训练。它不仅可以预测来自 ChatGPT 的文本，也包罗来自其他文本生成 AI 模型的内容。

最初，该东西被誉为识别由人工智能生成的文本的潜在解决方案。

然而，由于准确率低，OpenAI已悄然封锁了这款人工智能检测东西。

尽管 OpenAI 并未专门发布博文来颁布发表这项处事的封锁，但他们在原有的博文中进行了更新，正式颁布发表了这一调整。

按照 OpenAI 透露，该东西存在严重的准确性问题，无法可靠地识别文本的出处。据陈述显示，识别 AI 生成内容的准确率仅为 26%，而且有 9% 的人类撰写文本被错误地标识表记标帜为 AI 生成的。

因此，该公司将该东西称为“不完全可靠”的检测东西。

OpenAI暗示，它将继续努力，探索更有效的技术来验证文本的来源。

矛与盾的较量还在继续，我们值得等候。

官网博文地址：
https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text

		自动登录	找回密码
密码			立即注册

ChatGPT下架官方检测东西，承认无法分辩AI内容

本帖子中包含更多资源