在综合娱乐方面深度合成同样表现不俗 ， 某互联网大厂常用的脸部特效、换脸短视频等已经在我们的生活中屡见不鲜 。 虚拟偶像、虚拟主播、甚至已经有能力为消费者提供娱乐、购物、向导等服务 。 另外 ， 在教育、艺术、医疗和科研等领域 ， 深度合成技术都可以为这些产业带来新的应用 。
二、深度合成技术存在的风险
自从2017年Deepfake（深度伪造）出现后 ， AI技术在造假方面的潜力为世人所惊叹 。 此后 ， GAN算法的突飞猛进不仅仅可以做到AI换脸 ， 甚至能自动生成文本、人工语音、图像等各种数字内容 。
深度合成技术在为我们的生活提供便利的同时 ， 也带来了一系列的风险 。 例如AI换脸制作的大量色情视频正在网络上泛滥成灾 ， 不仅严重侵犯了他人的肖像权、隐私权和名誉权、个人信息安全等个人私益 ， 对社会公共秩序和善良风俗也造成了严重的侵害 。 甚至有不法分子利用AI换脸、合成声音等技术实施诈骗等犯罪活动 。
2021年 ， 山东省公安厅网络安全总队就公布了几个利用深度合成技术实施诈骗的真实案例 。
2020年12月 ， 某公司财务接到领导电话要求立刻给供应商转款两万元 ， 并将转账信息以邮件形式发送到对方邮箱 ， 理由是避免缴纳滞纳金 。 由于电话中老板的口音十分逼真 ， 公司财务毫无怀疑地在一小时内完成了转账 。
更有甚者 ， 在山东网安总队公开的第二个案例中 ， 犯罪分子利用了社交媒体视频进行诈骗 。
其首先通过盗用了他人社交媒体账号 ， 获取他人面部信息 ， 通过与账号原所有人亲属进行视频电话的形式要求亲友向其指定账号转账 ， 成功地取得了受害人的信任 ， 骗取了大量钱财 。
利用深度合成技术实施违法犯罪活动是其风险的表象 ， 而深度合成技术真正危险的是其对社会信任关系的严重破坏 。 信任关系的存在 ， 对于任何个体、社群来说都是无比重要的 ， 甚至有学者认为 ， 信任是自古以来人类社会存在的基础之一 ， 关于人与人之间的信任关系的重要性 ， 无论做出多高评价都不为过 。
张康之老师认为 ， 在人类历史的农业社会阶段中 ， 人们之间的信任关系以传统习俗的形式表达 ， 而近代工业社会中所存在的人们之间的信任关系 ， 则属于契约型的信任关系 。 虽然社会信任的形式会随时代变迁而改变 ， 但无论如何 ， 社会的维系必须建立在社会信任的基础上 。
深度合成技术拥有破坏社会信任的潜力 ， 俗话说 ， 眼见为实 ， 但当眼见、耳闻都不再是真实 ， 谎言和欺骗甚嚣尘上时 ， 社会信任将会荡然无存 。
康德在《实践理性批判》中就曾论证了“无信任社会”的可怕 。 按照康德的理论 ， 假如谎言是社会的通行法则 ， 那么人人可以说谎 。 在这种情况等下 ， 作为一个拥有正常理智的人 ， 我们不会再去相信说谎的人 ， 也就不会再相信这世界上的每一个人 。 不被相信的谎言也就不再有意义 ， 这就形成了一个悖论 。
康德也正是据此反推“不说谎”和社会信任才是社会存在和发展的正常形态 ， 因为只有在社会信任中 ， 说谎者才能以谎言获利 。
如今 ， 信息网络已经深入到我们生活的各个角落 ， 毫无节制地滥用深度合成技术 ， 会给我们带来的必然是一个价值混乱、信任丧失并分崩离析的社会 。 因此 ， 以法律的形式对其进行合理规制具有紧迫性和必要性 。
三、深度合成技术合规要点
《深度合成征求意见稿》作为我国第一个专门规制深度合成技术的法规 ， 对元宇宙企业等科技公司的合规发展有着至关重要的作用 。
相关经验推荐
- 华为|比5G更让美国担心！这项技术确实“先进”，国产技术未来可期
- 交易|家电动销要严守一个底线：重点突破绝不撒“胡椒面”
- 华为p40|“冰旗舰”稳了！新骁龙8掌握“低功耗”秘钥
- |这3款“大降价”的老旗舰手机，往日战神级别，闭眼买也没问题
- 彩电业|又一电器惨遭“嫌弃”？曾经是每家的标配，而今却“无人问津”
- 苹果|飞利浦成行业“黑天鹅”！强势发布6元激光鼠标，罗技、雷蛇直接“懵”了！
- realme gt neo|三星离开中国真的是好事吗？国产品牌的崛起，消费者发现“猫腻”
- iphone13|反超苹果iPhone13，给小米、OV开了个好头，“国产黑马”有点厉害
- 电视机|电视要被“淘汰”？这样东西已成为消费者的“新宠”，你会买吗？
- 三星note7|全球第一的手机品牌，在我国“惨败”，市场占有率不足1%