同一句“急用钱”,声音来源可能完全不同
深度伪造就是用 AI 技术合成或改动声音、图像、视频,让画面里的人仿佛说了没说过的话、做了没做过的事。它骗的是我们的眼睛和耳朵,所以识别它的关键不在"像不像",而在"来源可不可信、本人认不认账"。
假设小林收到一段语音,声音很像哥哥,说遇到急事需要转账。它可能是真人录音,也可能是模仿音色生成的内容。视频也有类似情况:画面中的脸、嘴部动作或音轨可能被合成、替换,让人物仿佛说出了另一段话;而且深度伪造常常只改局部——一张真实的图里,可能只有脸或嘴部动作是合成的。
对小林来说,可靠的确认路径是:声音相似只是第一条线索,接着要看材料从哪个账号、哪个渠道来,最后通过原先可信的联系方式(比如打哥哥常用的电话)核对本人是否真的提出了这项请求。核对的是身份与事件,不只是画面做得像不像。
三件事不能只凭一个“像”来确认
- 01外观与音色
这张脸、这段声音像谁
- 02材料来源
由什么账号、渠道提供
- 03事件真实性
本人是否真的提出了这项请求
概念示意,不包含真人仿声或换脸素材。
为什么普通剪辑与深度伪造要分开
截掉前后文、把旧视频说成今天发生,也能误导人,却未必用了AI。深度伪造更强调AI参与合成或操纵内容;伪造方式与信息真假,是两个需要分别判断的问题。
类似合成技术也可以在明确授权、清楚标注的影视配音或创作中使用。
找破绽有帮助,但不是万能鉴定
找破绽要和核对来源结合着用:眨眼、口型、边缘异常是线索,检测工具、水印和来源记录各能再补一块证据。真实视频的压缩和传输也会产生怪相。
对开头那类涉及身份和紧急请求的材料,通过原先可信的联系方式核对本人,比只反复听声音更能确认是谁提出了请求。核对的是身份与事件,不只是画面做得像不像。