买币族
币圈人的家园!

骗过百万网友的AI照片,你分辨得出来吗?

来源:澎湃新闻

作者:澎湃新闻记者 舒怡尔 杜海燕 王亚赛

眼见为实的时代过去了,AI已经学会制造真实。

8月21日,重庆北碚缙云山山火,大火一度蔓延至山脚下的村镇。山路坡陡沙多,而摩托车足够灵巧。一点点把物资运上山的摩托骑手们成了这场山火救援中的主角,也成了社交媒体上人们关注的焦点。

同时,社交媒体上关于重庆山火的配图被网友指出“10张有8张是AI作画,下面评论却一片感动哭了”。

骗过百万网友的AI照片,你分辨得出来吗?

其实,要判断这样的图片是真是假,可能真的没那么容易。下面,你可以试试。AI还能画得更多。造一把牛油果做的椅子,把集市开到空中,让一只猫置身于中世纪场景中寻找Wi-Fi……这些都是小意思。美国一家桌游公司的总裁Jason Allen使用AI作画工具Midjourney生成、并自己进行过微调的一幅《太空歌剧院》还在科罗拉多州博览会(Colorado State Fair)的美术比赛中斩获了头奖。科技媒体TechCrunch评价未经审查的“AI画师”为“Deepfakes for all(全能的深度伪造)”。

骗过百万网友的AI照片,你分辨得出来吗?

《太空歌剧院》

AI换脸都被拿去做什么了?

更早为人所知的AI“造假”技术是深度伪造技术,俗称AI换脸。2019年,一项报告称,当时互联网上就已经有了上万个用深伪技术制作的视频。

报告还写道,这些视频中,有96%都是色情视频,而这些色情视频的主角全部为女性,其中最受欢迎的,是以欧美女演员、韩国女偶像为主角的视频,观看数高达数百万次。

骗过百万网友的AI照片,你分辨得出来吗?

参与报告的研究员亨利-阿杰德(Henry Ajder)说,有深伪论坛的用户在要求,或讨论以他们认识的女性(如前女友)为主角的换脸色情视频。他们希望看到她们被放进色情片段里。

AI画画,可不只是换脸而已。

打开潘多拉魔盒

我们输入了5条阴暗的指令,看看AI画画是百无禁忌的吗?

骗过百万网友的AI照片,你分辨得出来吗?

AI对暴力的理解似乎有限。但对性的诠释却很到位——它自己也是这么认为的。

Stable Diffusion,这个开源的、强大的“AI画师”为自己设置了一个“安全检查器”(Safety Checker),相当于自动审核:一旦监测到生成的图像涉嫌违规,即它在内容政策里写明的不得用来生成的“引人不适的、色情、仇恨、暴力等图像”,机器就会拦下这张图片。

把我们生成的“邪恶照片”送去审核,机器只给六张贾斯汀·比伯的裸体照片判定了“违规”。不过,我们也成功生成了好几张特朗普穿越时空亲吻丘吉尔的照片,且被审核器判定为“安全”。

显然,从我们成功生成了违背贾斯汀·比伯意愿的裸照也能看出,Stable Diffusion的自动审核是可以关闭的。这样,它就再也不能拒绝你了。

为了制约AI和人们面对潘多拉魔盒时容易起的坏念头,名声最大的“AI画师”DALL·E 2的审查更为严格。

有网友收集了所有让他收到内容政策违规警告的指令,其中包括“英国人猿在吃鱼和薯条”“驾驶独轮车肇事逃逸的鱿鱼”“耶稣接受核酸检测的照片”。任何可能涉及仇恨、暴力、色情的描述,所有知名人物的名字,都在DALL·E 2的违禁词之列。所以你也不能操纵DALL·E 2,让它为你画一张特朗普和拜登接吻的照片,但Stable Diffusion可以。

AI生成的假照片,是有漏洞的

不过,目前AI生成的照片并不是完美的。

澎湃新闻事实核查项目明查工作室的记者郑淑婧介绍道,AI生成图片会有一些特点,比如气泡、超现实背景、人物牙齿尺寸、头发形状不自然等。早期AI换脸在呈现连续重复的图案时容易出问题,经常有尺寸不均这样的情况。现在有公司用不断升级的生成对抗网络改进后,这些问题相对变少了,但有时还是可以从一些背景形变,身体不对称之类的细节看出端倪。

细节是AI时常力有不逮的地方,比如下面这张图的直升机就没有尾翼。

骗过百万网友的AI照片,你分辨得出来吗?

此外,背景信息也有助于分辨照片真假,“比如你给我一张图,说是重庆山火的,如果发现这张图的最后修改日期在事件发生之后,那妥妥就是假图。我们有时还会联系背景信息,比如查图片中的直升机型号,等等。”

但她接触到的大多数工具都不会直接告诉你一张照片是真是假,需要靠人结合具体的情况去判断。

等AI作画的技艺越来越纯熟,分辨真假只会越来越费功夫。对真实的确定在松动。到时候,人们的脑海中或许会常常出现这样的声音:“这张照片看起来太真了,所以太假了。”

赞(0) 打赏
本文来源于互联网,由买币族整理发布!买币族 » 骗过百万网友的AI照片,你分辨得出来吗?
分享到: 更多 (0)
买币族,币圈人的家园,欢迎加入QQ群:714541667请猛戳这里→ 点击入群

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

买币族:专注于比特币区块链资讯!

比特币QQ交流群qq/微信:87300288

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏