【今年今期特码多少号_今年今期特码多少号官网】 新华调查:名人“画皮”、换脸恶搞、色情合成——AI视频换脸技术滥用调查

  • 时间:
  • 浏览:1
  • 来源:彩神88下载_彩神app下载的广告如何拦截

  新华社上海5月13日电 题:名人“画皮”、换脸恶搞、色情合成——AI视频换脸技术滥用调查

  新华社记者兰天鸣

  随着AI技术发展,视频换脸技术门槛降低,普通人都里能 制作换脸视频。记者调查发现,这项技术被用于恶搞视频、色情视频合成上,其不良效应也引发了社会的关注和担忧:放任自流,任其“异化”,将会成为侵害他人合法权益和危害社会公共安全的工具。

  “我要要的样子我都是”,AI“画皮”只需2.5元

  “我要要的样子我都是”“女人不瞬间变女人不,毫无违和感”“用亲戚亲戚朋友圈视频就可换脸”……近日,AI换脸视频在不少平台上风靡。记者在哔哩哔哩网站搜索“换脸”,出来的视频达千条。

  其中,有外国外国网友将影视剧中不同演员的脸进行互换;另一人及将某平台女主播瞬间“变脸”成不同女明星的样貌;还另一人及则制造“假新闻”,把国外电视节目嘉宾的脸打上去国内公众人物的,标题则为国内某某在国外接受采访……

  视频中的人物被换脸后,几乎都里能 “以假乱真”,有外国外国网友评论其为“AI画皮”“有图不须有真相”“细思极恐”。

  在“deepfake”的贴吧里,与AI换脸有关的帖子超过9000条。后边有小量明星换脸视频的售卖信息。另一个名为“合成联盟”的用户在群里公开售卖换脸色情视频,清单里的数量达30多部,并称“白菜价全部而是58元”。在名为“明星论坛”的论坛上,另一人及贴出了多个换脸视频色情网站网址。

  记者在淘宝网上搜索“AI换脸”“deepfake”等,出现了不少换脸软件售卖信息,包括“商业背书视频”“明星偶像互动视频”“恶搞视频”,并号称“动作逼真清晰”。有的还提供换脸视频制作服务,另一个淘宝ID为“专业定制换脸视频”的卖家表示,都里能 代为制作换脸视频,三分钟以内的价格为30元。

  记者在某二手交易平台上以2.5元的价格购买了一款名为“fakeapp”的换脸软件,根据教程,导入提供的视频素材,只须要按“提取”和“合成”键等,就都里能 将视频素材中的人脸进行互换,几乎看没得痕迹。

  擅自换脸“一时爽”,或致违法侵权

  “AI换脸技术原理不须复杂性,AI将多个视频内的人脸结构自动提取并进行分类,再利用编码技术,对视频中的特定位置编码重构合成等即可。”长期从事影视换脸业务的北京聚力维度科技公司首席技术官赵天奇介绍。

  “之前,相关制作费用每分钟可达上百万元。随着一点AI技术的开源,换脸制作不仅价格大幅下降,门槛而是断降低。”你说歌词 。

  中国传媒大学政治与法律学院副院长王四新说:“目前,通过AI技术高度伪造他人的肖像、声音主要用于网络‘恶搞’,但仿真效果已逼近真伪难辨的边界,随着技术发展,结合短视频结构的快速传播,将会使用不当,会产生很强的负面作用。”

  近期,民法典人格权编草案二审稿对此作出规定,任何组织将会当时人不得以丑化、污损,将会利用信息技术手段伪造等土法律法律依据侵害他人的肖像权。当时人格权的许可使用和自然人声音的保护,参照适用有关规定。

  “将会正式通过,这导致 除法律另有规定的情况汇报外,将会用他人肖像进行AI换脸等,而是未经当时人同意,即便只有营利目的和主观恶意,同样有将会构成侵权。”北京大学法学院副院长薛军说。

  他还提醒,侵权者不须抱有侥幸心理,即使换脸后都是30%同类,而是换脸视频和原视频能达到一定同类度,经由第三方都里能 识别,就将会被认作是侵权,“如将他人的脸与色情视频中人物的脸替换,并进行传播,则涉嫌构成传播淫秽物品罪,需承担相应刑事责任”。

  AI换脸“双刃剑” 只有放任自流

  “AI换脸技术在影视制作行业有一定的需求。有的演员在电影拍摄完成前去世了,依靠换脸技术就能在荧幕上‘复活’。”赵天奇说,AI换脸都里能 实现演员没得场拍摄,提升了拍摄带宽,极大节省了经费。

  而且,有关专家表示,应当保证新技术被正当使用,只有放任自流,任其“异化”,成为侵害他人合法权益和危害社会公共安全的工具。

  ——使用者需秉承善意使用原则。技术是中性的,但使用有正反两面效应,须要处里对新技术的滥用。

  “使用者须要自律,让工具都里能 在合理合法的用途和目的上使用,须要对法律常识和公序良俗有底线意识。”薛军说。

  ——平台只有只躲在“避风港”里。国内某大型短视频应用相关负责人告诉记者,换脸视频在审核上常常隐蔽性较强,除了涉恐、涉黄等明显违法视频外,比如一般的恶搞视频,将会平台不须是被侵权主体,不够主动作为的动力。只有是事后用户举报后,再作处里。

  王四新认为,平台应完善事前处里机制,加强对违规换脸视频的自动研判与编审,严控疑问视频的架构设计 ,“平台将会明知视频违法违规而不采取土法律法律依据,继续对他人和社会造成损害,平台也需承担连带责任”。

  ——监管要重拳出击。王四新建议,监管部门对于违法侵权视频,要重点关注和监测,对将会造成恶劣社会影响、危害国家安全和社会公共利益的换脸视频,要严格监管,对违法侵权行为重拳出击。