虚假信息与深度伪造（misinformation and deepfakes）
/ mis-in-fer-MAY-shun and DEEP-fayks /
虚假信息，是那些得以传播的、错误或具有误导性的信息——无论有没有人存心欺骗（其中蓄意为之的那一种，叫「造谣／不实信息」）。深度伪造，则是一种合成媒体——由AI生成或篡改的视频、语音片段或图像——它能逼真地呈现某个真实之人说了、或做了他们从未说过、做过的事。两者合在一起，危险就在于：生成式AI让捏造内容变得廉价、迅捷、流畅，并能以人类骗子永远无法企及的规模做到「因人定制」。
真正新鲜的并不是「撒谎」——人类向来撒谎——而是它的「经济账」。从前，一段逼真的假视频要动用一个制作工作室；如今一台笔记本电脑、几分钟就够了，而且一则假货还能为每位观众量身定制。由此引出两种伤害。明显的那种：人们相信了假货（一个克隆出来的嗓音打给祖父母，索要应急钱款；一段在大选前夕被捏造出来的政客片段）。而更微妙、可以说也更糟的那种，是所谓「骗子的红利」：一旦人人都知道视频可以被伪造，真实的证据反而能被一句「八成是深度伪造的」就挥手打发掉，「眼见为实」这个观念本身，于是被侵蚀殆尽。
它为何重要：一套共享的、值得信赖的事实基线，正是一个社会得以有建设性地争论、得以问责权力、得以在危机中协同行动的根基。当这条基线溶解时，代价就不只是个别人「被骗」——而是集体的瘫痪与犬儒。不过，诚实的提醒也要给「恐慌」泼点冷水：检测工具、内容溯源标准（密码学式的「这是真品」标签）、媒介素养，以及老派的编辑核查，全都有用；而且多数有害的虚假信息，至今仍是靠普通而廉价的手段传播的（误导性的配文、被抽离了语境的真实影像），而非什么奇异的深度伪造。深度伪造是那个戏剧性的符号；而日常的问题，要宽泛得多。
一个骗子把某位CEO公开访谈中的三十秒音频，喂进一款语音克隆工具，随后用这位CEO的嗓音致电财务部门，授权一笔紧急电汇。那段音频听起来分毫不差——正是「熟悉的嗓音令人安心」的那份信任，被这则假货精准地利用了。
深度伪造把我们寄托在熟悉面孔与嗓音上的信任，变成了武器——那份信任，就是被攻击的入口。
有两个迷思该丢掉。其一，「检测器会拯救我们」：检测是一场军备竞赛，而生成方一直在赢，所以别只指望它。其二，对社会而言更大的危险，或许不在于「假货骗到了我们」，而更在于：假货只要「存在」，就足以让任何人把不合心意的真实证据一概斥为假——这就是「骗子的红利」。