Ins、抖音上的网红一定都是真人吗?

答案还真不一定。

最近国外出现了一批售卖“假人”的网站,面向所有人开放,只要付费就能通过API快速获取一个假人IP,而且也不贵,2.99美元(不到20元)一个。

先来看下它们的成品。

这些拥有光滑皮肤的人脸照是不是像极了社交平台的网红照?

可能你会怀疑他用了美颜相机一键磨皮瘦脸了,但肯定想不到他们都是不存在的“假人”

不止如此,这个名为Generated.Photos的网站还为购买者提供了极大的发挥空间,如果对年龄、容貌、肤色、种族、性别,甚至情绪不满意,统统都可以根据需求自己调整,而调整方法就像使用美颜APP一样简单。

比如想要变大双眼,直接滑动下面的滚动按钮即可。

从青年直接跨到老年,头发、神情、皱纹,过渡的相当自然,还应景地配了副眼镜。

如果一张假人照不足为奇,那么一个名为Rosebud.ai的网站还能让他们“动”起来。

Rosebud ai是一款生成文本、图像、视频和语音的工具,它对于生成性媒体完成故事创作非常重要。比如,小说故事中的人物形象总是很丰富多彩,我们可以通过AI技术呈现与之最相符合人物容貌。同时,GPT3能够进一步通过人物特点合成了具有亲和力和情感丰富的独白,这些独白在刻画人物形象,丰富故事内容方式也发挥了非常重要的作用。

也就是说,这项技术原意是被用来辅助艺术创作。事实上,无论是GPT-3,还是GAN技术都是以科技向善为初衷研发的,比如GAN在人脸融合方面的惊人效果,可以被广泛应用于娱乐、电影制作等行业。

但有人曾说过,“技术本没有错,错的是利用技术的人。”GAN技术被不少不良分子用来创造了大量Deepfake视频,或是内容或是伪造政客言论,此前雷锋网也有多次报道。

Rosebud ai等工具也一样。

被间谍利用,用于身份造假Rosebud ai主要被人用来身份造假。相关案例也不再少数,其中最大的一起案例要属2019年某间谍利用假面孔混入华盛顿领域事件。

当时一名凯蒂·琼斯(Katie Jones)的红发女郎以网络专家的身份,与美国副国务卿助理,高级参议员助手以及经济学家保罗·温弗里(Paul Winfree)都建立了密切联系,Winfree当时正在竞选美联储的职位。

后来经调查发现,这位30岁的女性是由AI创建的“假人”,她在职业社交平台Linkedin上的个人资料和照片全部虚构。

美国国家反情报与安全中心主任威廉·埃文纳(William Evanina)曾表示,

“这是在专业社交网站上进行间谍活动的典型案例,很多外国间谍通常会使用虚假的社交媒体资料把自己包装成美国知名专家,并进行大规模间谍活动,对他们而言,相比于派间谍到某一个国家,不如坐在家里的计算机后面,向30000个目标好友发送请求效果更高。”

不过,因及时发现该事件并没有产生更恶劣的影响。同样是在LinkedIn平台,今年7月份也发生了一起重大身份造假事件。

这位“假人”名为拉斐尔·巴达尼(Raphael Badani),他将自己包装成美国知名新闻平台Newsmax的内部人员,从事“风险顾问、国际关系高级分析师”相关工作。

图中的耳环看起来很相似,但细心一点可以发现有明显区别。另外眼镜也是一个常用的衡量配饰,GAN创建的眼睛,框架两端经常会不对称,或有轻微变形。

在对称方面,GAN在耳朵、眼睛的生成上也会有不一致出现。

最后,最明显的痕迹就是伪影和背景。

伪影就是在原图像上出现了并不存在的各种形态的混色影像,这一点最容易识别。伪影也是衡量合成图像质量的关键指标。此外,目标人脸之外的背景也是重点,如变形的树木、错位的草坪等。

引用链接:

https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html?action=clickmodule=RelatedLinkspgtype=Article

https://apnews.com/article/bc2f19097a4c4fffaa00de6770b8a60d

https://www.thedailybeast.com/right-wing-media-outlets-duped-by-a-middle-east-propaganda-campaign

雷锋网雷锋网雷锋网

作者 admin