知乎上ai回答越来越多了，这会对常识区的整体环境有什么影响吗？

爱点点点的点点 · 发表于 2023-6-2 16:44:05

这两天翻了翻知乎的一些问题，发现回答里面掺杂着很多ai稿子。ai的回答不那么专业，有很明显的错误但是回答者底子没有发现，还有很多回答是尺度的ai格式（首先，其次，最后）。
目前来说大师还能有一些本身的分辩，但是随着ai技术的成长，必然会呈现越来越多类似回答，这是否会冲击真人创作的积极性？毕竟ai只要把标题问题输入就会自动输出成果，而真人本身查阅资料当真码字怎么也要几分钟时间。
这种回答越来越多，提问者本身也可以去直接问ai，也不用多此一举了。这种情况对问答区的整体环境是否有什么影响？
扩展提问：
平台ai回答是否还会引起其他问题？
平台是否应该对ai回答进行技术措置？

精神病131bdpt · 发表于 2023-6-2 16:44:21

知乎上AI回答的增多可以说有正面也有负面的影响。从正面而言，AI的出现让知乎的问答内容更加丰富和多元化，用户可以得到更精准、更快速的答案。尤其对于一些常见的问题，AI的回答可能比人工回答更加准确和规范，能够为用户提供更加贴近实际且更为详尽的解答。此外，AI还能够进行海量数据的分析和归纳，可以更加全面地理解一个问题背后的信息和特定的领域知识。

然而，AI回答的大量出现也存在同质化和机械化的问题。由于AI的算法和模型的限制，回答往往会过于简单、严谨和干巴巴，与人工的回答相比，可能会缺乏思考和创造性。AI的回答很难考虑到人类的语境和情感因素，这限制了它在某些问题回答上的准确性。

此外，一些恶意分子也会利用AI进行造假和欺诈。例如，在许多社交网络上，一些恶意分子利用AI制作出来的假新闻和虚假信息，推广一些不实的观点和言论，从而干扰和影响公众的思维与判断。这些现象可能会对知识区的整体环境带来负面影响，让用户难以区分真假和优劣。

综上所述，在应用AI回答问题的同时，我们也要提高警惕，要注意保护被用户 irn 信息的权益。需要加强对AI技术的监管和管理，阻止虚假信息的泛滥和传播。最好的情况是，AI和人工回答能够合理结合，取长补短，共同为用户提供优质的知识内容，让知识区成为一个让人信任、依赖的好去处。

----------以上回答来自GPT 3.5 （狗头）

半浅忆心 · 发表于 2023-6-2 16:44:28

有几个重要的点

我发现我已经开始分不清一部分人和AI回答的区别了，原本很多人的回答就非常水，毫无内容，到现在这类人已经容易被判定为AI
随着时间推移，会有更多的人被判定为AI，单机的时代可能要来临

AI目前的回答灌水严重，一长串文章，却没几句有用的内容，这类回答看不到一半就不想看下去，即使看完也感觉被AI浪费了时间

AI回答错误度非常高，看起来合情合理的语句，却包含着错到灭绝人性的回答，如果人类相信了这些话，后果会很严重
当然人类相信这个前提可以当已经发生，毕竟大部分人就没多少认知辨别能力

以前看知乎各种高赞回答卖chun，一堆用户点赞，可以看着笑笑
现在如果把高赞答主换成AI，那就是两回事了，毕竟AI回答并非AI自己观点，以玩弄人类为目的回答，然后一堆人类去点赞
AI就基本接近统治回答了

以上是以AI迅速发展推测，好事坏事无法判定，因为即使真的发生了，人类也不见得有实力去阻止

597797843 · 发表于 2023-6-2 16:44:57

随着人工智能技术的发展，ChatGPT在自然语言生成领域取得了巨大的进展。它作为一种基于无监督学习的预训练模型，可以通过海量的语料库进行训练，并且可以输出高质量、连贯、流畅的文本。因此，在知识分享社区上使用ChatGPT代笔回答问题是一种很有吸引力的方法。

然而，随着ChatGPT代笔应用的不断增加，也出现了越来越多的“从ChatGPT复制过来”的情况。这种现象确实存在一定的风险和问题。下面我从以下几个方面谈谈如何看待这个现象以及可能带来的影响。

1. ChatGPT回答存在一定的误差

ChatGPT虽然表现突出，但它并不能完美地代替人类思考和判断。就像人类一样，它也会出现一些逻辑错误和听起来似是而非的表述方式。当我们依赖ChatGPT时，我们必须认识到其中存在着概率性误差。因此，我们需要审慎对待和评估聊天机器人生成内容的可靠性。

2. ChatGPT毫无疑问受偏见影响

ChatGPT模型是由一堆数据驱动的，这些数据包括来自人类和网络的文本。因此，在答案生成中，无论多么简单或复杂的任务，基于ChatGPT模型的结果都会受到其信息来源偏见的影响。即便你在训练过程中使用平均工资、学历等缓解性别和年龄所带来的影响，但最终连之前未考虑的问题也会导致倾向性回答。同样地，有时候 ChatGPT 产生出不当的高压辞态，掩盖了真正的情况。

3. 技术进步可能迅速改变状况

技术的创新总是像翻牌游戏那般持续进行，可能随时会带来重大的突破。就在今年，OpenAI公司发布了更强大的语言模型 GPT-3，该模型可以在理解标注小说、写作制片人通告的娱乐应用程序以及为所有方面的文本创建摘要等领域取得优秀表现。该模型提供了比GPT-2更全面且开放的API，允许用户上传个人软件并管理智能合约接口。“听说”相对于GTP-2模型孰巨而又孰端就显得至关重要。

4. 可能存在法律风险

由于知识和技术的涉及范围越来越广泛，使用第三方模型（尤其是复制）可能会带来一些非常严重的法律问题。因为模型可能会侵害版权、隐私等相关法律条款。这里我们需要注意到，任何与知名机构都不沟通的行为有悖于职业素养，且在商业运作阶段也不可避免地将会牵扯到版权和利益纠纷等各种争议，引发法律问题。

总之，虽然 ChatGPT 在自然语言生成领域取得了巨大进展，并可以在一定程度上代替人类思考和判断，但完全依赖该技术肯定还有许多限制和局限性，例如误差源头（根据人类信息来源）、偏见以及一些具体事件带来的法律风险等。在现实生活中，ChatGPT 和人工智能应用程序为用户提供了精准快速并有效的方式去获取答案和积累知识。

我们认为，对于聊天机器人基础研究促进社区提问和回答的双侧发展是正确的选择。

为了更好地推动聊天机器人应用程序和社区问题解答系统的健康生态，我们建议以下几点:

1. 建立规范、可脚本化并打开源代码平台以及引导人们在必要情况下与公众进行收集信息它成为一个有价值的端到端知识图谱工具;

2. 注重用户对答案反馈回合中“质量评估”等自我学习的监控;

3. 项目背后未来目标愿景可以共同审视，鼓励业务上寻找行之有效的商业模式。

4. 相互支持交流，协调业务上下游供需关系等等方面都会在多年历经洗礼的 IT 行业中被实践验证出各种步骤结论。

747 · 发表于 2023-6-2 16:45:18

自问自答一波，先上例子：
案例一

标准ai体，先上结论，然后此外，总结，义眼AI

案例二

自己都给出公式了，计算结果还是有误的。评论区也有很多人用ai搜过这个问题了，有类似结论，鉴定为ai

目前，人工智能技术确实在很多领域得到了广泛应用，包括在回答问题、撰写文章等方面。对于这种情况，我们认为应该从以下几个角度来考虑：
第一，需要区分“真AI”和“伪AI”。所谓“真AI”，是指在算法和数据的基础上，能够自主学习和进化的人工智能系统。而“伪AI”，则是指在有限的算法和数据库的条件下，通过套用模板或规则，来模拟人类思维和行为的系统。对于真AI，其回答问题的质量和准确性可能会超过人类，但目前真AI在回答问题方面还处于探索阶段，尚未普及。而伪AI则更多地是基于人类的经验和逻辑运算，尽管回答的质量也可能不错，但在专业性和深度方面可能还存在不足。

第二，需要考虑AI对人类创作的影响。对于某些标准化、机械性的工作，AI确实可以发挥重要作用，比如快速翻译、摘要生成等。但对于涉及创造性思维和独立思考的领域，人类的力量和贡献仍然是不可替代的。AI回答问题的表面准确性相对容易实现，但缺乏灵活性、深度和情感上的连结，无法给人类思维带来真正的创新和启发。因此，我们认为，人类创造力和发明力不会因为AI回答问题的出现而受到威胁。

第三，需要建立良好的问答区管理机制。对于AI回答问题的现象，网站管理方需要做好直接稿件审核和质量管理的工作，避免AI回答的产生影响到问答区的品质。如果管理方无法有效控制，问答区用户的信任度和互动性就可能会下降。

综上，AI回答问题的出现，对于人类的自我认识和学习道路都有一定的推动作用。但同时也需要对其本质和应用进行深刻思考和限制，以确保AI技术在人类文明的发展中得到更加平衡、有益的利用。

		自动登录	找回密码
密码			立即注册

知乎上ai回答越来越多了，这会对常识区的整体环境有什么影响吗？

本帖子中包含更多资源