向人工智能换脸发布虚假消息说NO:脸书捐赠100亿美元向换脸发起挑战

在开源项目的加持下对图片甚至是视频进行换脸已经非常成熟,人工智能修改下的面容可以达到以假乱真的地步。

尽管刚开始这类换脸主要集中在技术圈领域并热衷处理色情视频,但显然技术带来乐趣的同时也会有相反的作用。

其中最典型的负面优势就是可以用来炮制虚假图片或视频内容等,然后用来发布虚假消息引导甚至是操纵舆论等。

多数普通用户根本无法判断消息中的配图到底是真是假,如果是视频的话判断难度会更大所以潜在可信度也更高。

上图:左侧为原图、右侧为小图与原图合成的图

向炮制的虚假消息说NO:

国外社交网络领导者脸书日前宣布与众多知名机构合作,大家共同训练模型然后来检测人工智能炮制的虚假内容。

用于检测虚假内容实际上既是脸书应该做的事情也是不得不做的事情,因为虚假内容问题已让脸书多次遭到指控。

因此不论是从用户角度考虑还是从合规性方面考虑脸书都需要积极打击虚假内容,而人工智能炮制的内容是重点。

脸书希望行业能够使用创新的方法检测和防止通过人工智能操纵的媒体来误导或者利用他人、引导或操纵舆论等。

脸书向项目投入100亿美元:

要说借助开源项目炮制虚假视频或图片还是非常容易的,但想要准确地检测这些虚假内容却是个非常困难的事情。

这也是脸书为什么要找多家知名研究机构合作的原因 ,  为这个项目脸书将投入100亿美元来激励机构的研究人员。

而参与这个项目的公司或机构也都是行业内的佼佼者,例如人工智能合作关系联盟、微软公司以及麻省理工学院。

同时康奈尔理工、牛津大学、加州大学伯克利分校、马里兰大学帕克分校和纽约州立大学奥尔巴尼分校也将参与。

脸书官方发言人表示希望通过这个项目促进行业进行更多的研究和开发,确保有开源工具能够检测各类虚假内容。

本文来源 蓝点网,由 山外的鸭子哥 整理编辑,其版权均为 蓝点网 所有,文章内容系作者个人观点,不代表 蓝点网 对观点赞同或支持。如需转载,请注明文章来源。
扫码关注蓝点网微信公众号

评论:

1 条评论,访客:1 条,站长:0 条
  1. fudashuai
    fudashuai发布于: 
    Maxthon 5.2.7.5000 Maxthon 5.2.7.5000 Windows 10 64位版 Windows 10 64位版

    换脸带来的风险越来越大了!

发表评论