威威视觉 发表于 2023-8-27 16:28:37

如何对待知乎回答自动标注:可能包含AI创作内容?

这两天,知乎回答内容的“AI检测审核”功能似乎上线了,如果内容参照了AI,回答界面上方会自动显示:可能包含AI创作内容。但是,就跟内容查重一样,知乎并没有明确表达有多少重合度算作“可能包含AI创作的内容”。因此对于参考了部门内容或进行了适当的改削,仍然有可能触发该提示。

良哥2016 发表于 2023-8-27 16:28:48

误判率太高了,认认真真写的回答很容易被当成包含AI创作内容。
投入的精力越多,损失就越大。不如直接摆烂。
今天的知乎已经不适合写十年前那种论文式回答了。

remcn 发表于 2023-8-27 16:29:25

知乎在所谓的标记"包含AI辅助创作"上有重大的缺陷和问题。
我将结合我的看法说下我对这个问题的理解:
我的故事体验

我在去年10月份接触AI绘画,并且一直在关注这个行业的发展,AIGC发展是一个大趋势,因此我作为知乎10年老用户,之前从未发帖,但是在今年5月份萌生了利用AIGC来进行创作的念头,说干就干我在5月开始了我在知乎的创作生涯。
AI辅助检测的由来

最开始知乎并没有AI检测机制,由于GPT已经出圈,应该可以看到很多无脑生成的AI回复内容,非常影响读者观感及可能污染未来的机器学习,从这点上,知乎推出创作者声明我觉得是正确的
但是问题出在哪里呢?可能是知乎运行了一段发现很多投机者并不会主动打上AI创作的标签,于是知乎又推出了强制措施,采用系统检测,强制外显并且不可取消的标签。
AI辅助检测的影响

这个标签还会导致回答被折叠,并且无法申述。这点在我看来是属于对创作者的极大不尊重,知乎采用机器AI检测的方式来判定内容,并没有通过人工复核,就武断下结论,并且没有告知,直接就采用折叠,删除,封禁手段,可谓是一言堂到了极致
例如我下面两篇回答,我相信对于想要了解这个问题的人来说,我的回答是能够有“获得感”的内容,可是就是由于被知乎判定为AI辅助,直接给我折叠了,并且并未进行任何的通知。哪怕我有一篇回答在里面已经说明了我采用了AI进行润色。
我想我下面这两篇回答比一些毫无内容的回答要有价值的多,哪怕你们真的有进行人工审核也不会这样随意处置。我每天的回答很多,在大部分回答并没有采用AI的情况下,对于有一些仅仅是AI进行小部分文字组织润色的,并不影响文章主要内容,我也不可能想起来特别去设置这个声明(这个声明根本就不明显而且没有提示,很容易遗忘),然而知乎没有任何提示,警告,而是直接封杀。
a

a


我感受到的是知乎这个平台的武断,专横,无知且傲慢。大家可以评评理。
AI辅助检测的误判率极高

目前,知乎应该也是用AI来进行辅助检测回答的内容是否由AI生成,这本身就很可笑,只许州官放火不需百姓点灯。
AI生成的文本结构逻辑性强,有惯用的语句格式,但是这并不代表人类不会这样写作,相反很多论文等严谨的文章都是这样的构造。如果把这种文章不加鉴别直接由AI判断,相信大部分AI人工智能出现之前的论文都会被认为是AI辅助,这就非常可笑了。
之前我已经有好几篇文章被误判,有部分文章我已经申述了并且由知乎小管家给我修正,但是这样修补对于创作者的损害是重大的。


有一些回答就更加可笑,问题里面问的就是关于人工智能的提示词,我回复的内容也是直接为提示词,而且里面的内容都是人工写的,适合机器理解的简介明了的优秀Prompt,然后被判定为疑似AI创作。
如果知乎有人工复核,我想说这个人工复核的人员在渎职。面对AIGC这一个大趋势,采用的不是积极面对,而是机械、消极拒绝及删除。这样长久以往知乎必然面临创作者信任感的流失,失去基础。


我并非不愿意遵守知乎对于AI辅助创作的规定,相反我在意识到知乎有提出这个以后,主动在一些回答文章总加入了创作声明,但是,我并非所有的文章都是由AI辅助,AI辅助的文字只在我的文章总占很小的一部分,我主要进行AI绘画的创作,我大部分AI绘画的创作文章知乎并没有要求我进行创作声明(可能也是因为我在标题及问题中已经说明了)那么社区规定到底是怎么判断呢,我在什么样的文章中需要加入这个创作声明呢?


写这篇回答的导火索

我在7月2日晚间21点多,和往常一样,积极参与知乎的社区活动,写了一个带3图的想法并且带上了#MBTI#的标签,属于聊胜于无的操作,然后10分钟以后,一个通知彻底摧毁了我一天的好心情




是的,由于想法中含有【疑似AI创作】,我直接被禁言一天。疑似就可以直接处罚?“莫须有”都还要押送回京呢,知乎就直接给我关禁闭了,这可太秀了!
作为知乎的盐选会员,我马上联系了专属小管家,申请人工服务,没有得到任何回复,应该是没有人上班,好吧,我点选申述。想说等明天人工上班了来处理,结果没过几分钟秒回,申诉被驳回。


然后无法再次申诉,我那一瞬间火气上来了,这妥妥的是机器复核回复,就这么武断的采用机器判断来处理。我也发上我被删除的想法,请问下我这篇想法到底是哪里违规了?内容错误无脑吗? 就因为语言逻辑严谨就判断为AI辅助创作??再退一万步说,就算是采用AI辅助创作,想法根本就没有提供【AI辅助创作】声明的选项,知乎让用户怎么声明????






如果哪怕有人工稍微复核下,我觉得都能够判断。你要觉得我这个疑似AI创作,删除了我还能忍,给我禁言了???大炮打蚊子,社区那么多灌水,传播负面信息,假消息,直接照搬照抄的不管,我认真参与社区活动的想法删除加禁言,合理吗??我的主页直接显示因为【疑似AI创作】被限制使用1天。


人工客服的服务质量问题

第二天早上,知乎小管家人工回复更是让我血压升高,在这个过程中,我感受到的是傲慢,官僚,以及缺乏同理心,我不知道知乎的客服培训是否专业,反正我在这个过程中没有感受到解决问题的诚意。
截图内容比较长,我截了主要的内容,不影响整体理解。
在线管家并没有解决我的问题,我还打了人工客服热线,人工客服热线我觉得还是具备专业素质的,耐心听我说完我情绪很不好的发泄,重复了我的述求,并且告知我他们的权限无法处理,只能转交相关部门,我的情绪得到了稳定。
但是后面在线客服后面几乎毫无意义的回复,又点燃了我的怒火。










事件反思

昨天晚上9点多,我的禁言结束了,看视回复了正常,我检查了下我的盐值分
辛苦积攒的份数被扣了很多,就因为一个微不足道的想法,我想说这样我是不愿意在这个平台分享太多内容了,付出和得到完全不成正比,这个平台大部分创作者都是用爱发电,这个平台也是公认的几乎无法盈利的平台,连一些基础尊重和关怀都不给创作者,难怪大面积的创作者都流失了。


我的几个疑问希望知乎解答下:

[*]要检测AI辅助创作能不能给出一个令人信服的标准,而不是随意判定?你们的技术手段能够判定吗?知乎要拒绝的是无脑用AI生成的毫无内容的回答,而不是一刀切禁止使用AI。
2. 想法里面没有有AI辅助创作的提示可以选择,如果你们在审核阶段发现疑似内容,能不能有提醒?回答的时候能不能把这个提示放在明显的位置。
3.社区公约的目的是惩罚吗?应该是劝告引导,目前没有看到任何的引导,在产品服务上是有这重大缺陷的。
4. 能不能不要大炮打蚊子,这样即会伤害大部分被误伤额创作者热情,也会让这个处罚显得毫无意义。

artlus 发表于 2023-8-27 16:29:34

实际上gpt的生成内容本来就是来自人类的语料,也就是说因为他发现很多人类是这样写的,所以它这样写。单凭格式去判断其实并不太好。
不过真用gpt的人可以直接请gpt改格式很方便。自己写的人如果恰好跟gpt习惯一致可能就得改自己行文习惯了。这反而是利好ai创作者。

gaogao3275 发表于 2023-8-27 16:30:17

我之前用chatGPT回答的也被自动标注了这个,然后我把这个情况反馈给chatGPT让他修改一下以避开检测,它重新给了我一版文案,果然就好了哈哈哈
所以这种检测最终坑的只是人类写手而已

wrj0619 发表于 2023-8-27 16:30:45

我纯手动打字的也被标注“可能包含AI创作内容”,并且把回答折叠了~~~~


我的回答因AI标识折叠了不少,貌似那种列了条理的1、2、3等结构的都标识了,知乎这个判断非常不准确,希望能改进。
页: [1]
查看完整版本: 如何对待知乎回答自动标注:可能包含AI创作内容?