人工智能如何帮我们识别出虚假的信息?

mowieghpp · 发表于 2023-5-8 09:58:20

人工智能如何帮我们识别出虚假的信息?

君临天下小逗比 · 发表于 2023-5-8 09:58:40

我来回答这个问题吧，正好我们公司是做人工智能的。
虚假信息属于文本数据，所以我们主要是用自然语言处理技术去进行处理的，那么接下来主要来谈一谈人工是怎么处理虚假信息的，而人工智能又将怎样代替人工。
1、人工是怎么处理虚假信息的

20世纪20年代初，传统的美国新闻业普遍实行了一种行业性制度——事实核查（fact check）。一般来说，在新闻采访过程中，事实核查需要对信源进行检验；而在成稿之后，事实核查会对记者已经成文但未发表的报道逐一阅读与核实，确认报道中事实性信息准确无误。通过信源检验和编辑核查两道流程，事实核查作为一种新闻机构的内部核查机制，在很大程度上保证了新闻报道的真实性。

随着《时代》周刊、《纽约时报》等率先成立事实核查部，事实核查的工作已经成为新闻产制流程中必不可少的一个环节。

事实核查本来就是一项复杂的工作，现社交媒体时代，非专业性信息采集者和发布“事实核查新闻”如何核查新闻者的大量参与，使得专业性的事实核查面临着更大的挑战。这就造成了极大多数的网络新闻报道常常忽视事实核查，甚至于一些传统主流媒体在于新媒体的竞争中不得不放弃了核查制度。在这样的背景下，“事实核查新闻”（fact-checking journalism）的实践应运而生，事实核查从一项行业规范逐渐转向了一种新闻样式。

值得注意的是，事实核查新闻的诞生是以2008年奥巴马竞选美国总统为契机而诞生的。与传统意义上新闻刊出前的事实核查制度不同，它主要进行的是报道刊出之后的核查，是一种类似“勘误”、纠正错误的行为，意在揭发人物言论中的不实之处。因而其核查团队都具有较强的专业性。

虚假新闻不仅会对我们的生活造成影响，还会对社会经济、秩序等方面造成不同程度的破坏，从长远来看，甚至会让人们对新闻媒体的不再信任。特别是在这个“人人都是自媒体”的时代，人们无时不刻在接收着信息的狂轰滥炸，建立标准化事实核查机制的工作就显得格外重要了。而作为从事实核查新闻机制衍生出的一种新闻样式——“事实核查新闻”，能够更好地帮助我们了解事实核查人员的工作方式。

概括主要内容
事实核查人员会大致浏览一遍核查内容。内容既包括时政报道，突发事件，政治人物的言论主张或其社交媒体发布的信息。然后对主要内容进行大致概括，提取出主要的观点。针对这些主要观点，事实核查人员会利用各种渠道和资源寻找能够支撑该观点的论据。值得注意的是，一些具有明显会让人产生情绪波动的言论会使事实核查人员对其真实性产生怀疑。

文章虚假程度评级
事实核查员在对文章进行评级。不同事实核查机构的有着不同的事实核查评级，如FACT CHACKER（传统媒体《华盛顿邮报》自2007 年起创立的一个栏目）采用的是“匹诺曹评分制”，按新闻的虚假程度，将等级从1个匹诺曹到4个匹诺曹依次增加。1个匹诺曹是“基本真实”。2个匹诺曹是“半真实”。3个匹诺曹是“基本失实”，说明事实有明显错误。4个匹诺曹说明是谎言。此外，还设置了“无法判断”的标签，标注复杂议题或特殊情况。而PolitiFact（《坦帕湾时报》（Tampa Bay Times）于2007 年创立）则将信息的真实程度分为六级级别，分为是“真实”、“基本真实”、“部分真实”、“大部分失实”、“失实”、“完全失实”。

给出引用论据
事实核查员在对文章进行评级之后，为了尽可能让事实核查的程序透明化，每一篇文章会附有大量的原始资料或引文的链接，以及文章作者与审核编辑姓名及联系方式，以便于读者深度参与其核查过程进行监督。

而最重要的关于如何分辨假新闻的标准，核查人员一般会从以下六个方面进行判断：

1、新闻来源。调查发布新闻网站是否足够权威
2、阅读全文。通过阅读全文，看文章行文逻辑、遣词造句是否合理。
3、作者信息。快速检索作者信息，考察作者的可信度。
4、检查论据。仔细考察文章论据的真实度，以及该论据是否能支撑新闻中的观点。
5、核实日期。重复发布的旧新闻，不意味着与现在的事件有关联。
6、请教专家。拥有丰富专业知识的专家会提供可靠的信息求证渠道。

综上所述，我们可以看到事实核查人员核查新闻的大致流程是：通读文章，提取关键信息（如来源、作者、时间、主要观点和论据等）→核查事实（通过搜查大量文献或向专家、相关人员求证）→对文章评级→整理评级依据。

作为任何一家负责任的媒体，都会通过这样一套流程去核查新闻。然而，目前为止，大部分验证工作都需要人工进行核实，不仅验证效率不高，更大大浪费了媒体的人力资源，限制了产生一条真实新闻的时间。相比我们验证信息的复杂过程，某些人制作一则虚假新闻的时间就显得“轻松”了很多，这也让媒体业界十分头疼。

但是，如果这套流程是不断重复且有标准化的具体细则（就如前文所写的那样），那么核查工作就可以通过人工智能技术来完成：利用专业事实核查人员积累的数据资料，让机器自主学习判断信息的真实性，从而快速提升媒体人员效率、降低虚假新闻的传播风险。
那么，人工智能如何帮助核查人员核查新闻呢？

让我们接着往下看。

2、AI如何“粉碎”谣言

在上文中，我们提到了事实核查工作是如何对新闻进行核查的，大致是通过这样一个流程：通读文章，提取关键信息（如来源、作者、时间、主要观点和论据等）→核查事实（通过搜查大量文献或向专家、相关人员求证）→对文章评级→整理评级依据。由于流程具有高度的重复性和标准性，所以我们想到了让人工智能代替人类去实现这套审查机制。

接下来，小编就通过举例人工智能的三种功能来谈一谈AI是如何帮助我们有效审核信息的。

观点提取
观点提取不限制具体的词汇表达，而是通过智能解读段落大意，再将相似的观点进行自动整合、归类。例如，人工智能能够通过扫描以下两则消息，概括出“上海超级工厂本月量产？特斯拉否认”的主要观点。

情绪分析
核查人员除了要核查文章的逻辑性和真实性，还要分析文章的情感是怎样的，是否含有煽动性的话术。自然语言处理技术能够对文章的情感进行极值分析（积极还是消极）、12种细节情绪分析（焦虑、愤怒、兴奋等等）、情绪浓度分析（1-10分）以及对文本整体情绪影响最大的关键词分析。例如人工智能在对Trump在推特上说的话进行情绪分析，得出了较为强烈的“愤怒”情绪，且情绪关键词是“fake 60 Minutes”。

智能识谣
人工智能能够通过大量事实核查数据的训练，从新闻源权重、作者权重、信息真实度等等指标对新闻的真实性进行智能识别，例如对【上海超级工厂本月量产？特斯拉否认】这则新闻，人工智能则得出了以下的结论：

基于自然语言处理技术的观点提取、情绪分析和智能识谣等功能，人工智能能够帮助审核人员提取新闻主要观点，识别文章情绪甚至智能分析文章的可信度，这将会大大提高审核的效率，降低虚假新闻的产生率。一旦AI能够在信息战场将“谣言”粉碎，就能促进舆论生态良性循环，从而安抚好公众情绪，为疫情防控工作提供一份助力。

希望我的回答能对你有所帮助。如果有任何关于人工智能方面的问题，欢迎留言提问~
—— 语忆科技，专注于大数据与人工智能

		自动登录	找回密码
密码			立即注册

人工智能如何帮我们识别出虚假的信息?

本帖子中包含更多资源