如何分辩AI生成的视频和音频文件？

多肉小耳朵 · 发表于 2023-7-26 11:06:35

关系到法庭质证时一些提起虚假诉讼的伪证制造者的追责问题。

zhenghuifu · 发表于 2023-7-26 11:06:44

无法鉴别技术上可以做到人类肉身无法鉴别、唯一方法是用AI鉴定AI的代码重复率

ocsic · 发表于 2023-7-26 11:07:27

AI自己说的
鉴别AI生成的视频和音频文件可以使用以下方法：

1. 视觉检测：AI生成的视频可能存在一些图像异常或者不自然的地方。可以通过观察视频的细节、光照、色彩、运动等来判断是否是由AI生成的。常见的迹象包括人物形象的模糊、边缘的锯齿状、人物动作的异常等。

2. 声音分析：AI生成的音频文件可能具有一些声音异常或者不自然的地方。可以通过观察音频的频率、幅度、音调、噪音等特征来判断是否是由AI生成的。常见的迹象包括声音的失真、频率分布不合理、噪音过多等。

3. 其他迹象：AI生成的视频和音频文件可能存在一些其他迹象，比如在文件的元数据信息中可能会包含一些关于AI生成的信息或者制作工具的信息。另外，可以通过查找原始素材的来源，或者追踪文件的制作过程，来确定文件是否由AI生成。

需要注意的是，随着AI技术的发展，生成的视频和音频可能越来越难以鉴别。因此，鉴别AI生成文件的方法需要不断更新和改进。

csyxd · 发表于 2023-7-26 11:08:11

鉴别AI生成的视频和音频文件是一个相对复杂的问题，因为现在的AI技术已经非常先进，可以生成非常逼真的音频和视频内容。以下是一些可能有助于鉴别AI生成音频和视频文件的一些提示：

观察音频和视频的质量：AI生成的视频和音频质量通常非常高，因为它们是通过大量的数据训练出来的。然而，由于它们是生成的，所以可能会出现一些不自然或机械的迹象，如不流畅的运动、不自然的语音、突然的变化等。因此，如果你发现视频或音频的质量不自然或机械，那么这可能是AI生成的内容。

观察音频和视频的内容：AI生成的视频和音频内容通常是基于已有的素材生成的，因此它们可能会包含多个不同场景或音频剪辑的混合。如果你发现视频或音频中出现了不连续的场景或音频剪辑，或者存在不合理的场景或音频，那么这可能是AI生成的内容。

观察音频和视频的元数据：AI生成的视频和音频通常没有元数据，例如创作者、拍摄日期等。如果你无法找到任何有关视频或音频的元数据，那么这可能是AI生成的内容。

使用专门的工具：有一些工具可以检测视频或音频是否是AI生成的。例如，一些AI模型在生成内容时会留下“水印”，这些水印可以通过特定的工具检测到。另外，一些第三方工具可以检测视频或音频的帧率、音频波形等，这些指标可能会揭示视频或音频是否是AI生成的内容。

需要注意的是，以上提示并不能保证100%鉴别AI生成的视频和音频文件是否真实。因为随着AI技术的不断发展，生成的音频和视频会越来越逼真，难以通过简单的方法鉴别。因此，如果你需要确定视频或音频是否是AI生成的，最好的方法是使用多种方法进行综合判断，或者请专业人士进行鉴定。

够鐘 · 发表于 2023-7-26 11:08:30

看现在的换脸表情包多普遍，就知道人脸伪装效果有多以假乱真。
#将朱茵的脸换成杨幂的脸# 换脸后人脸的轮廓、表情都一样，无缝连接，简直看不出是人造的。

https://www.zhihu.com/video/1659274532048236544
对于简单的视频鉴定，网上不难找到技术门槛不高的真伪鉴别方法，常见的有：
看视频文件参数（与同一拍摄设备的其他正常视频文件做对比，看有没有被修改过参数）、
看视频内容（看视频流不流畅，效果真不真实，有没有删减、替换帧等）、
看视频数据信息（视频文件被篡改、剪辑等处理后会记录在某些帧的数据结构里，分析这些帧就可以看出视频真伪）、
看监控视频的完整性（检验视频画面的时钟信息是否连贯、看关键帧图像与其前后帧图像的属性是否保持一致、检验视频画面前后景边缘轮廓比例透视等有没有合成痕迹）
……
还可以关注国内外那些专注于鉴别AI真伪的科技创业公司。
这类公司识别AI换脸技术的方式一般有两种。

第一种比较简单：通过图像里像素的变动以及光线折射等标准，判断图像是否曾被修改。但随着AI换脸技术的升级，用这种方法来识别会越来越困难。
第二种方法是，所有图像在最初拍摄的时候就标记数据，将图像以及拍摄时所在地的坐标、时间、海拔高度、附近的Wi-Fi列表数据等所有信息都上传到数据库，在后续传播过程中，可随时通过比对原始数据来确认图像的可信度。

说白了，人工智能导致的“结症”还得靠人工智能来解。
专攻AI鉴伪的技术公司目前很受重视，据说政府机构正是它们的主要客户来源之一，可见技术公证的需求越来越大。
本质上这类技术公司是在与AI公司进行持续的科技竞赛，所以未来将呈现出攻防互相促进发展的状态。

beekaboo · 发表于 2023-7-26 11:08:49

给AI配上武装就行，法律最后由ai管理就可以。
你们这些人为了点小权力挣个啥，说什么伪造追责。
比如连监控都可以更改伪造，其它的内容更容易更改伪造。不如给他们武器决斗方式解决，物竞天择，适者生存。

		自动登录	找回密码
密码			立即注册

如何分辩AI生成的视频和音频文件？

本帖子中包含更多资源