研究人员称,人们无法区分使用人工智能(AI)合成的人脸和真实人脸,他们呼吁采取措施防止“深度伪造”。
人工智能合成的文本、音频、图片和视频已经被用于所谓的“报复色情”、欺诈和宣传。
兰开斯特大学的索菲·南丁格尔博士和加州大学伯克利分校的哈尼·法里德教授进行了一项实验,要求参与者区分AI合成人脸和真实人脸,以及这些人脸唤起的信任程度。
结果显示,AI合成人脸不仅高度逼真,而且与真实人脸几乎难以区分,甚至被认为更值得信赖。
他们在研究报告中写道:“我们对AI合成人脸的照片真实感的评估表明,AI引擎已经解决了恐怖谷效应的问题,能够创造出比真实人脸更难以分辨、更值得信赖的人脸。”
他们同时警告说,人们无法识别AI生成的图像可能带来的负面影响。
“也许最有害的后果是,在任何图像或视频都可能被伪造的数字世界中,任何不方便或不受欢迎的记录的真实性都可能受到质疑。”
在第一个实验中,315名参与者从800张面孔中选取128张面孔进行分类,区分哪些是真实的,哪些是AI合成的。他们的准确率为48%,接近一半。
在第二个实验中,219名新参与实验者接受了如何对人脸进行分类的培训。他们同样从800张面孔中提取出128张面孔进行分类,但尽管经过训练,准确率仅提高到59%。
研究人员决定测试对可信度的感知是否能帮助人们识别AI合成图像。
“人脸提供了丰富的信息来源,只需几毫秒就足以推断隐含的个人特征,比如可信度。”“我们想知道,人工合成的面孔是否也会激活同样的可信度判断。如果不是,那么对可信度的感知可以帮助区分真实面孔和合成面孔。”
第三项研究要求223名参与者对同一组800张面孔中的128张面孔的可信度进行打分,打分范围从1(非常不值得信任)到7(非常值得信任)。
AI合成人脸的可信度平均分竟然比真实人脸的平均分高出7.7%。
“也许最有趣的是,我们发现AI合成的脸比真实的脸更值得信赖。”
黑人的面孔被认为比南亚人的面孔更值得信赖,但除此之外没有其他人种特征的影响。
女性明显比男性更值得信赖。
“笑脸更有可能被认为是值得信赖的,但测试中65.5%的真实面孔和58.8%的AI合成面孔是微笑的,所以面部表情本身并不能解释为什么AI合成面孔被认为更值得信赖。”
研究人员认为,AI合成人脸可能被认为更值得信赖,因为它们与普通人脸相似——而普通人本身也被认为更值得信赖。
为了保护公众免受“深度伪造”的伤害,他们还提出了AI合成图像创作和传播的指导措施。
“安全措施包括在网络上的AI合成图像和视频中加入水印,以便提供更可靠的识别;我们还鼓励重新考虑对公众的放任政策,以及不受限制地发布代码,让任何人都可以使用任何应用程序。”
“正如其他科学和工程领域所做的那样,我们鼓励图形和视觉界为合成媒体技术的创造和传播制定指导方针,其中包括研究人员、出版商和媒体分销商的道德准则。”
最热文章
人工智能写科幻小说,和作家写科幻小说有什么不一样?
德国概念设计师Paul Siedler的场景创作,宏大气派。
《静音》是一部 Netflix 电影。尽管 Netflix 过去一年在原创电影上的表现并不如预期,但是《静音》仍让人颇为期待
最近,美国最大的经济研究机构——全国经济研究所(NBER,全美超过一半的诺奖经济学得主都曾是该机构的成员)发布了一份报告,全面分析了 1990 到 2007 年的劳动力市场情况。\n
坏机器人制片公司最新的一部电影名为《霸主》(overlord),背景设置在二战时期,很可能是一部在半遮半掩中秘密制作的科洛弗电影系列。
我们都知道,到处都在重启;我们也知道,如果有钱,啥都能重启。所以,会不会被重启算不上是个问题,只能问什么时候会被重启。自然而然地,世界各地的各种重启现象衍生出了一个有趣的猜猜游戏:哪一部老作品会是下一个接受这种待遇的?\n