云上速配 AI生成乌军投降视频，社交媒体炸了

来源：亚太日报APD

亚太日报丹玮

据媒体报道，一些内容为“乌克兰士兵在前线哭泣并投降”的视频于11月初开始在社交媒体上流传。这些视频的内容看起来很真实，没有明显被剪辑或拼贴过的痕迹，直到有人发现这些视频中出现了自己的脸。

现居纽约的俄罗斯知名直播主阿列克谢·古巴诺夫（Aleksei Gubanov）在观看一个视频的时候，发现其中一个视频中的士兵竟然是“自己”。“起初我并没有认真对待它，但很快我注意到观看次数增长得有多快，更糟糕的是，很多人相信这些视频是真实的，”古巴诺夫谈到他看到的视频时说道。这段视频是由人工智能生成的假视频，该视频利用他的肖像在乌克兰军队中传播有关士气的虚假叙述。

该视频是NBC新闻最近几周审查的21段由人工智能生成的乌克兰士兵视频之一，这些视频是使用先进的人工智能程序创建或操纵的，导致一些画面内容非常逼真，几乎无法追查其来源。

但在这些视频中，至少有一半的视频角落里有一个小标志，泄露了这一点：它们是用Sora 2制作的，Sora 2是OpenAI文本转视频生成器的最新版本。Sora制作的一些视频使用了古巴诺夫等热门俄罗斯直播主的面孔，进行了戏剧性的深度伪造，而另一些视频则展示了成群的乌克兰士兵向俄罗斯军队集体投降的画面。

展开剩余62%

其他看似由其他人工智能平台生成的图像也存在非常微妙的错误，但对于大多数人来说很难发现，例如乌克兰士兵所穿的制服和头盔的错误或简化版本。然而，乌克兰人很容易发现这一点，因为大多数视频的主角都是讲俄语的士兵，21个假视频中只有8个视频的主角是讲乌克兰语的军事人员。然而，这些视频在各大社交平台上传播。所有这些视频都试图将乌克兰士兵描绘成不愿战斗并准备放弃的人。

分析人士表示，这些图像和视频是最新的虚假信息齐射，旨在扭曲公众对俄罗斯与乌克兰战争的看法。虽然尚不清楚是谁创建或发布了这些视频，但它们增加了越来越多的虚假信息，而这些信息只会变得更加复杂和更难以发现。

近年来，人工智能生成的视频迅速发展，从基本、粗糙到近乎完美，许多专家越来越多地警告说，很快就会没有什么方法可以轻松辨别真假。乌克兰国家安全与国防委员会下属的反虚假信息中心告诉NBC新闻，过去一年“使用人工智能创建或操纵的内容数量显著增加”，旨在破坏公众对乌克兰政府的信任和国际支持。

许多人工智能视频生成器试图在用户生成的作品上添加标签或水印，以表明它们是计算机生成的。OpenAI表示，其针对Sora的虚假信息安全护栏包括注明视频来源的元数据以及每个下载视频上的移动水印。但事实表明，仍有一些方法可以消除或最小化这些努力，比如用户可以使用一些工具遮挡自带的移动水印。

据悉，这些需要被审查的“假视频”全部发布在TikTok或YouTube上，因为每天会有大量的欧洲和美国用户在这两个平台上“冲浪”。其中一些视频包含各种语言的字幕，以便不会说乌克兰语或俄语的用户也能理解。

TikTok和YouTube都明文禁止在其平台上发布人工智能生成的欺骗性内容和深度伪造内容，两者都提供“人工智能生成”描述标签，以便观众区分真实和生成的内容。目前，带有“人工智能生成”标签的视频和用户均已从该平台删除。然而，仍有一些视频在其他社交平台如X和Facebook上以转发的形式继续存在。

发布于：北京市

富腾优配提示：文章来自网络，不代表本站观点。