西北大学(Northwestern University)和布鲁金斯学会(Brookings Institution)的人工智能(AI)和外交政策专家的一份新报告显示，尽管公众对深度造假的关注大多集中在大规模的宣传活动上，但这种有问题的新技术要阴险得多。

在这份新报告中，作者讨论了深度伪造视频、图像和音频，以及相关的安全挑战。研究人员预测，这项技术即将得到更广泛的应用，包括在有针对性的军事和情报行动中。

最终，专家们会就如何应对这种令人不安的新技术向安全官员和政策制定者提出建议。在他们的建议中，作者强调，美国及其盟友需要为政府使用深度造假制定一套行为准则。

布鲁金斯学会本月发表了这份名为《深度造假与国际冲突》(Deepfakes and international conflict)的研究报告。

作者写道:“针对特定个人和目标开发深度伪造品的便便性，以及它们的快速移动——最近是通过一种被称为稳定扩散的人工智能形式——指向一个所有国家和非国家行为体都将有能力在其安全和情报行动中部署深度伪造品的世界。”“安全官员和政策制定者需要做好相应准备。”

西北大学的合著者包括世界著名的人工智能和安全专家V.S. Subrahmanian，西北大学麦考密克工程学院计算机科学沃尔特·p·墨菲教授，巴菲特全球事务研究所巴菲特学院研究员，以及Subrahmanian实验室的博士生高重阳。布鲁金斯研究所的共同作者包括丹尼尔·l·拜纳姆和克里斯·梅瑟罗。

深度造假“难度不大”

西北大学安全和人工智能实验室的负责人苏布拉曼尼安和他的学生高之前开发了TREAD(人工智能深度伪造减少恐怖主义)，这是一种新的算法，研究人员可以用来生成他们自己的深度伪造视频。通过创造令人信服的深度造假，研究人员可以在安全背景下更好地理解这项技术。

深度伪造是指经过令人信服的修改，以歪曲某人所说或所做的事情，而他们并没有做或说。人工智能驱动的技术通常用于恶意的虚假信息活动。

苏布拉曼尼安和他的团队使用TREAD技术制作了已故伊斯兰国恐怖分子阿布·穆罕默德·阿德纳尼的深度伪造视频样本。虽然制作出来的视频看起来和听起来都很像阿德纳尼——面部表情和音频都非常逼真——但他实际上说的是叙利亚总统巴沙尔·阿萨德的话。

研究人员在数小时内制作出了栩栩如生的视频。这个过程非常简单，苏布拉曼尼安和他的合著者表示，军方和安全机构应该假设对手能够在几分钟内制作出任何官员或领导人的深度伪造视频。

作者写道:“任何在机器学习方面有一定背景的人，只要有一些系统的工作和合适的硬件，就可以通过构建类似TREAD的模型，大规模生成深度伪造视频。”“几乎任何国家的情报机构，当然包括美国的对手，都能毫不费力地做到这一点。”

避免“猫捉老鼠”游戏

作者认为，国家和非国家行为体将利用深度造假来加强正在进行的虚假信息工作。深度造假可能通过使战争合法化、制造混乱、破坏民众支持、使社会两极分化、让领导人失去信誉等方式，助长冲突。在短期内，安全和情报专家可以通过设计和训练算法来识别潜在的虚假视频、图像和音频，从而对抗深度造假。然而，这种方法不太可能长期有效。

“任何在机器学习方面有一定背景的人都可以大规模生成深度伪造视频。几乎任何国家的情报机构都能毫不费力地做到这一点。”

作者说:“结果将是一场猫捉老鼠的游戏，类似于恶意软件:当网络安全公司发现一种新的恶意软件并开发签名来检测它时，恶意软件开发人员会进行‘微调’以逃避探测器。”“探测-逃避-探测-逃避的循环会随着时间的推移而发生……最终，我们可能会达到一个端点，在那里探测变得不可行的或计算量太大，无法快速和大规模地进行。”

对于长期战略，该报告的作者提出了以下几点建议:

教育公众提高数字素养和批判性推理能力

通过记录处理数字资产的每个人或组织，开发能够跟踪数字资产移动的系统

鼓励记者和情报分析人员在发表文章之前放慢速度，核实信息。”同样，记者可能会模仿情报产品，讨论有关判断的‘置信度’。”

使用来自不同来源的信息(如验证码)来确认数字资产的合法性

最重要的是，作者认为，政府应该制定政策，提供强有力的监督和问责机制，以管理深度造假内容的生成和传播。如果美国或其盟友想通过制造自己的深度造假来“以毒攻毒”，那么首先需要就政策达成一致并落实到位。作者表示，这可能包括建立一个“Deepfakes Equities Process”，以类似的网络安全流程为模型。

作者写道:“生成和使用深度造假作品的决定不应轻易做出，也不应不仔细考虑权衡利弊。”“深度伪造技术的使用，特别是用于攻击冲突环境中的高价值目标，将影响广泛的政府办公室和机构。每个利益相关者都应该有机会在需要和适当的时候提供投入。建立这样一个基础广泛的审议过程是确保民主政府负责任地使用深度造假产品的最佳途径。”

注：本文由院校官方新闻直译，仅供参考，不代表指南者留学态度观点。