合成深度伪造使事实与虚构无法区分,可能带来伪造的历史

计算机科学家、雷德蒙德微软研究实验室的主任埃里克·乔尔·霍维茨(Eric Joel Horvitz)在新的研究论文《在地平线上:互动和合成的深度伪造》(On the Horizon: Interactive and Compositional Deepfakes)中,描述了新的“合成深度伪造”及其带来的“互动深度伪造”的应用和潜在的重大风险。

“互动深度伪造”是通过多模态深度伪造对真人的数字克隆,例如,在视频通话中,真人的数字克隆与真人难以区分。目前的深度伪造系统大多局限于替换面孔,这只能提供有限的交互可能性。随着头的转动或表情的模仿,错觉会消失。因此,霍维茨设想使用一系列 AI 技术来进行“合成深度伪造”,以再现木偶师风格的真人(“神经木偶”)的姿势、面部表情、手势、语音。

霍维茨说,“合成深度伪造”是一系列伪造的融合,这些伪造共同创造了一个更大的故事,比如恐怖袭击或从未发生过的丑闻。这些深度伪造可能与真实事件交织在一起,以系统地在社会子群之间建立“合成历史”或伪造的历史。霍维茨将这些系统称为“对抗性解释系统”,它们具有追溯性和预测性,可攻击公众对世界事件的理解。

“在缺乏缓解措施的情况下,互动和合成的深度伪造有可能使我们更接近后认识论世界,在那里,事实无法与虚构区分开来。”霍维茨写道。

作为可能的对策,研究人员已经提出过一些防范措施,例如教育公众了解深度伪造的风险,规范技术,自动检测深度伪造。霍维茨主张跨学科思考人工智能的进步用于公共利益和恶意目的的可能性,以尽可能准确地预测未来的发展。【数字叙事 Lighting】

有问题和想法?与数字诗人讨论、交流,以获得更多的信息、意见。

赞赏
lighting
lighting
笛卡尔的“思”正在进入明斯基的“情感机器”
本文系数字叙事原创(编译)内容,未经授权,不得用于商业目的,非商业转载须注明来源并加回链。

订阅

受欢迎的

相关文章
Related