近来, 和朋友阿杰一道喝茶之时, 谈及了最近相当热门的一个话题, 此话题便是AI换脸技术。
阿杰在一家MCN机构做内容审核，整天跟各种平台规则打交道。
他讲, 当下网络上那类“明星私密视频”, 以及“艺人黑料合集”这般的事物, 十之八九都是借助AI生成出来的。
这事儿说起还得从去年年底开始。
阿杰的公司接了一个大单，给某短视频平台做内容安全审核。
最开始的时候, 只是进行平常的敏感词过滤, 随后渐渐发觉, 越来越多的视频标注当中, 都出现了“疑似AI生成”这样的字样。
明星黑料AI视频哪里来的
阿杰给我看了一些后台数据，触目惊心。
2024年上半年, 平台所收到的来自人工的举报当中, 其中涉及AI换脸的那部分内容, 相比于去年同一时期, 增长幅度近乎达到了四倍。
即便如此, 这些资讯的绝大多数, 都打着“内部流出”“独家揭秘”的幌子, 再配备上一两张号称“实锤”得截屏图片, 其点击量轻轻松松就突破了百万, 最终呈现出这样的结果。
更可怕的是制作成本极低。
阿杰讲，目前在市面上存在着许多开源的换脸工具, 普通的网民花费的钱财不多, 下载之后便可以去使用。
输进一张明星的正面脸部照片, 而后搭配上随便一段视频素材, 短短几分钟便能够生成一段看起来好像是真实的视频。
AI换脸违法吗要赔多少钱
这个问题也是阿杰经常被问到的。
他告诉我，去年有个案例特别典型。
首个网红账号发布了某女星被偷拍的视频, 宣称是某品牌方所流出的。
一则, 视频一经呈现, 播放数量于两日之内, 便冲破了八百万之数, 二则, 账号所拥粉丝数量, 增长了三万之多。
女方的法务团队很快介入，报警并申请了证据保全。
该账号借助AI技术合成了虚假视频, 此行为被法院最终认定侵犯了明星的名誉权, 进而判定需赔偿经济损失以及精神损害抚慰金, 两者共计一百五十万元。
这个数字对普通个人来说，确实是笔巨款。
阿杰说，类似的判决案例这几年越来越多。
有人利用AI技术去伪造他人的肖像, 还伪造他人的声音, 之后进行虚假传播, 法官在裁判理由里明确指出了这点, 这种行为不仅违反了民法典里的人格权编, 要是情节严重的话还可能触犯刑法当中的诽谤罪。
怎么分辨AI合成视频真假
阿杰给我传授了几个实用技巧，我也整理了一下。
第一招看边缘细节。
那些由AI生成的视频, 于人物的发际线之处, 在耳朵轮廓那里, 在手指边缘这般地方, 常常会出现模糊的状况, 还会出现不自然的抖动情况哩。
特别是转头的时候，头发和脸部之间会有明显的违和感。
第二招盯光影一致性。
真视频里的光源方向是统一的，人脸和背景的光影应该是一致。
常出现于 AI 换脸的视频之中, 人脸光的方向跟背景并不匹配，这种情况看着就会让人觉得很不对劲, 感觉就是哪里不太对味。
第三招注意口型同步。
大量AI视频, 于说话场景之时, 嘴唇动作与声音不相匹配, 尤其在辅音部分极为明显会变得特别生硬。
当下, 真人在进行言语表达之时, 嘴巴内部所开展的动作呈现出极为自然的状态, 而现阶段的人工智能却还没办法达成那般精细的程度。
阿杰又讲了, 当下有一些平台已然着手开始上线AI检测工具, 在上传视频之后便会给出一个置信度分数。
虽然不能百分百准确，但作为一个参考还是很有用的。
AI技术会毁掉明星吗
这个问题阿杰想得挺多。
他说，三年前他刚入行时，没人相信AI能做出以假乱真的视频。
然而当下, 某些质量欠佳的换脸视频, 就连普通之人都能够瞧出其中眉目, 不过专业人士偶尔也会出现看走眼的情况。
更让他担心的是信息茧房效应。
有不少人, 宁可去相信那些具有“劲爆”特质的, 关于黑料的视频, 却不愿去瞧一瞧官方所发布的辟谣声明。
毕竟人性就是这样，猎奇的东西永远比真相更有传播力。
阿杰跟我讲, 他们公司当下制订了一套严谨的内容审核流程, 若是关于明星肖像的视频, 必定要历经多重技术检测以及人工复核方可上线。
即便如此，还是有漏网之鱼，平台只能不断迭代检测算法。
普通人怎么防范AI造谣
最后阿杰跟我说了几点实用建议。
第一, 碰到涉及“黑料”的视频时, 不要慌着去转发分享, 稍微多等一会儿官网的回应。
诸多情形下, 辟谣声明会比谣言晚几日亮相, 然而, 只要经过核实, 便不会上当受骗。
要是自身的照片, 或者视频, 被怀有恶意地用于AI合成, 那就得在第一时间去固定好证据, 将链接以及发布时间进行截图保存, 而后去找律师, 让律师发出律师函, 要求把帖子删除掉。
情节严重的一定要报警，别让骗子逍遥法外。
平常于社交媒体之上发布照片以及视频之际, 能够适度地打上水印, 或者增添隐形数字签名, 以此提升被恶意加以使用的困难程度。
虽然不能完全杜绝，但至少能增加追责的证据。
阿杰说，AI技术本身没有错，关键看用在什么地方。
他心里期望着, 某一天时段, 这类借助AI进行换脸从而造谣的事件情形能够越发变少, 所有人都能够凭借理性心去看待网络之内呈现的信息内容, 不要再被虚假不实的内容牵着节奏走了。
喝茶的时候阿杰还说了一句话，让我印象很深。
他讲, 技术迈进的速度越是快捷, 法律以及规范跟着的速度就得越是赶忙，不然遭受不利的一直会是普通的大众。
这话听着平常，其实很有道理。
