人工智能正在改变世界，ChatGPT在全球范围内的大流行更是验证了这一观点。但作为一种技术，人工智能并不是完全中立的，受到其应用者的操纵，并可能产生不良的社会影响。深度伪造技术，便是其中非常典型的人工智能应用，也已在全球范围内引发了广泛的关注。
深度伪造（Deepfake）是一种合成媒体形式，它使用人工智能来创建看似真实的视频或图像。目前，深度伪造技术已被用于影视制作等各种场景，但同时引发了人们对其可能被滥用于恶意目的的担忧，如传播错误信息和操纵舆论。当下已经有很多深度伪造滥用的真实案例，如将女网红或女明星进行AI换头以生成色情内容，如通过伪造公司高管的身份进行金融诈骗。
随着生成式人工智能模型的不断进步和趋于成熟，人工智能技术引发强烈关注。目前，人工智能生成的虚假音视频已经能够达到以假乱真的地步，成功实施的欺骗案例日渐增多。面对这一情形，各国已从立法、技术手段加以应对。但是，深度伪造与反深度伪造仍将是“猫追老鼠”的长期博弈，人工智能技术持续进步产生的深度伪造风险将与日俱增，需要持续关注与应对。
“深度伪造”由英文单词Deepfake翻译而来，而Deepfake是由“深度学习”(Deep learning)和“伪造”(Fake)这两个子单词构成的合成单词。顾名思义，Deepfake就是通过计算机的深度学习技术来造假。深度伪造能完成以下三个方面的工作：
②面部重演：操纵视频中人像的面部特征，扭曲一个人的表情，包括口型、眉毛、眼睛的运动和头部的倾斜。
“深度伪造”本质上是一种人工合成逼真图像的技术，最早出现在2016年，一开始专指基于深度学习的人像合成技术，现在这一概念已经扩展到视频伪造、声音伪造、文本伪造和微表情合成等多模态合成技术。2017年，一位名为“deepfakes”的美国网友上传了经过合成技术编辑的色情视频，这是“深度伪造”在世人面前的第一次亮相，很不光彩。
当下，深度伪造的最知名产品有以Midjourney、DALL-E、Stable Diffusion等为代表的专业生成式人工智能模型，能够通过用户输入的图像和文字生成以假乱真的图像。但实际上，深度伪造的应用范围要更为广泛，比如以下几个方面：
包括人脸替换、专属表情包制作、写真换装等，人们可以一键创造出任何自己想看到的全新图像。比如在一些小程序中，只需上传一张自己的照片，一键换装、一键美颜、一键换背景等都可以通过AI技术轻松实现。就算想要合成“粉红色大象在撒哈拉沙漠玩扑克”等天马行空的图片，也都不是难事。
即通过改变人的面部特征，从而操纵面部表情，可以让一个人看起来在说他从未说过的话。比如，在电影《阿甘正传》中，制作方就曾将肯尼迪的影像填充在影片中，炮制了肯尼迪接见阿甘的画面。而在一些“换脸”小程序里，网友也可以用自己的照片替换影视剧主角的脸，合成一段由自己“出演”的经典影片。近年来，“深度合成”技术已在很多领域大量应用，生产出的内容数量和关注度呈快速增长态势。
综上所述，“深度伪造”技术是当下人工智能时代的一种合成媒体技术，利用深度学习算法进行自动化的数据修改、处理和生产，实现图片、音频及视频的智能模拟和伪造。深度伪造通过自动化的手段、特别是使用人工智能的算法技术，进行智能生产，操纵、修改数据，最终实现媒体传播行为的一种结果。
深度伪造技术与其他伪造技术最大的区别在于其高度的真实性，这也是深度伪造技术难以被发现的原因。人们常说“耳听为虚、眼见为实”。然而在今天，“眼见”的就是真实的吗？
随着深度伪造技术的更大范围应用，人们将再难也相信在社交媒体看到的一切信息，无论是图片、视频还是音频，全都可能是背后电脑合成的，这将进一步削弱人与人之间的信任感。
随着深度伪造技术的不断发展与完善，技术的应用门槛与费用也随之降低，甚至可以实现“一键换脸”。
依托于互联网的深度伪造技术应用范围广泛、使用者众多，一旦被滥用，其伪造的图片或音视频在互联网中传播速度将十分迅速，造成的损失及不良后果很难在短时间内消除。
关于深度伪造技术的社会影响及潜在后果，在归纳了多篇学术论文之后，我们总结为传媒、法律和国际关系三个层面：
借助“深度伪造”技术传播虚假不实或夸张变形的信息，违背了公共传播伦理，破坏了传受双方间的契约原则，就会产生传播秩序的失范，加剧网络世界的混乱无序，由此衍生一系列新型的违法行为。
“深度伪造”技术的滥用还引起民众精神世界深层次的危机，产生迷茫、怀疑、恐慌、焦虑、抑郁等负面情绪，对信息真实性的怀疑和对媒体信任的衰退将使媒体公信力变得更加脆弱，进一步挤压官方正面信息的传播空间，最终可能引起国家和政府舆论引导的失灵。
深度伪造导致社会信任异化和假新闻泛滥。假新闻是一个全球性的重大问题，而深度伪造技术和当前人工智能算法的流行，为炮制深度假新闻提供了越来越多的机会和方式。鉴于政治领袖、行业专家、知识分子和公众人物都适合被深度造假，这进一步加深了假新闻的负面效应，引发公众对新闻媒体的不信任感。
同时，一旦事物的真实性在社会认知层面遭遇整体性破坏，深度伪造就会降低人们对生活世界任何存在事物的信任感，从而削弱社会基本认同感和社会共同体的道德一致性。因此，深度伪造可能会放大政治偏好、竞争行为、社会交流模式，从而加剧社会的两极分化。
未经授权的深度伪造视频开辟了一个新的法律灰色地带——名人难以保护其肖像权，其对个人形象商业化的控制也受到影响。随着AI技术的革新，生成人脸的技术难度和成本大幅降低，侵害他人肖像权的行为层出不穷，而法律法规滞后于技术变革，个人形象权的保护面临着法律上的挑战。
在意识到深度伪造技术的强大破坏力后，某些国家或正在考虑将深度伪造技术作为冲突中的对抗手段，从而维护自身的政治外交利益。
随着人工智能技术进步、计算成本不断下降，深度造假技术在武装冲突期间对在线信息环境构成越来越大的挑战。一国可以伪造冲突方军事领导人的音视频指令，在公众和武装部队中制造混乱。
例如，俄乌冲突初期，一条关于乌克兰总统泽连斯基的深度伪造视频在社交平台广为流传。为此，布鲁金斯学会建议：美国及其盟友的安全官员和政策制定者更深入地了解该技术的工作原理，以及它在国际武装冲突中的多种使用方式；在部署深度伪造技术前需充分评估收益和风险，并借鉴现有的国际规范和先例，为政府使用深度伪造技术制定行为准则。
在未来，深度伪造技术可能会成为网络战和信息战的一种手段，用于国际层面的战争冲突等军事应用场景中。而这无疑会对将对全球政治安全和稳定产生严重冲击。
那么，在认识到深度伪造这一威力巨大的技术可能带来的社会后果之后，我们又该如何应对以及如何治理它呢？同样，根据文献，我们按照治理主体分为政府、法律和公司三类。
政府目前可行的规制策略主要体现在两个方面：其一，建立系统性的“事实核查机制”。我国应当在法治框架内，完善或建立不同类型的事实核查机制。其二，开发专门的深度伪造辨识技术。深度伪造的辨识是规制框架中的核心部分，只有辨识出深度伪造内容，才能进一步采取相应的应对措施。因此，我国的官方机构、民间组织、私营企业要致力开发深度伪造辨识技术。
“深度伪造”的治理，需要从法律规制的层面来寻求解决方案。为了能够最大限度地减少深度伪造引发的社会风险，我国应当建立并完善相应的规制框架，在遵守言论自由保护基本原则的前提下，充分发挥政府、企业、行业在规制中的合作规制作用，巧妙运用技术规制、行政约谈、信用工具等多元化规制工具。
中国方面，2021年起，国家网信办、国家发改委、教育部、科技部、工信部、公安部、市场监管总局、广电总局等有关主管部门已出台《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等法律法规，对计算机合成内容进行管控。
《互联网信息服务算法推荐管理规定》要求对算法生成合成的信息做显著标识，并要求提供互联网新闻信息服务的算法推荐服务提供者和使用者，不得生成合成虚假新闻信息。
《互联网信息服务深度合成管理规定》则更加细致地规定了包括智能对话、智能写作、人脸生成、人脸操控、姿态操控等具有生成或显著改变信息内容功能的深度合成服务应当遵守的要求，包括以显著标识的形式向公众提示。
《生成式人工智能服务管理暂行办法》进一步对生成式人工智能的开发与使用等进行规范，旨在促进生成式人工智能健康发展和规范应用。
一方面，深度伪造技术的提供者和使用者应树立责任意识；另一方面，还需培养公众的数字素养，提高公众对深度伪造的认识和辨别能力，通过社会各界的努力，来共同控制深度伪造的风险，让技术服务于创新与生产力进步。
本文由:金年会,金年会官方网站,金年会官网首页,金年会官网入口提供 上一篇：“一键换脸”可能触及多个法律禁区 下一篇：DIY表情包APP下载-DIY表情包v260下载安卓版
