苏北网
当前位置:首页>热点 >

环球关注:“眼见为实”不灵了?|焦点网谈

时间 2023-06-07 07:56:18 来源:顶端新闻  


(资料图片)

近段时间,与AI变脸相关的话题热度居高不下。AI变脸火了,没想到第一个“失业”的会是孙燕姿。这位在B站悄然走红的“AI孙燕姿”,翻唱了周杰伦、赵雷、刘欢等的歌曲,作品覆盖从流行到民谣等多种风格,《发如雪》《下雨天》播放量均已突破百万。B站的“AI孙燕姿”翻唱五花八门令人惊讶的是,“AI孙燕姿”与真人演唱的音色并无二致,可轻松驾驭各类曲风,且每天都有数十首“新作”面世。一些孙燕姿的忠实粉丝感慨,已经很难分清到底是歌手本人还是AI,“连换气声都能清晰听到,咬字尾音都非常像本人。”“AI孙燕姿”足可以假乱真,让人感慨眼见为实不灵了。随着AI技术的不断发展,有人说,以“智能换脸”为主要展现结果的Deepfake技术,即深度伪造技术给人类社会带来新威胁。潘多拉魔盒一旦打开,你害怕了吗?一2023年最火的歌手是谁?可能“AI孙燕姿”是最佳人选。根据网友提供的教程,如果你想让“AI孙燕姿”翻唱一首歌,只需要以下几个步骤:

通过软件的提取,获得去除噪声、混响和伴奏的原声素材。

将这些人声素材用于训练孙燕姿的歌声音色转换模型。

用模型将歌曲的人声替换成孙燕姿,一首由“AI孙燕姿”翻唱的歌曲便诞生了。

对于“AI孙燕姿”的出现,孙燕姿本人在社交平台发文回应称,凡事皆有可能,凡事皆无所谓,“做自己,已然足够”。AI换脸换声技术,其学术名为“深度伪造”,即Deepfake,是由“deep machine learning”(深度机器学习)和“fake photo”(假照片)组合而成。其基本逻辑就是通过深度学习、特定算法将目标人物的人脸、表情、声音等(源图像、源音频)“嫁接”“迁移”到模仿视频中,最终实现视听合成的高仿真性。

人工智能的发展历程可以追溯至上世纪50年代。1950年,“人工智能之父”艾伦·图灵(Alan Turing)提出了著名的“图灵测试”,即如果一台机器能够与人类展开对话(通过电传设备)而不能被辨别出其机器身份,那么称这台机器具有智能。1956年夏天,美国达特茅斯学院举行了历史上第一次人工智能研讨会,被认为是人工智能诞生的标志。会上,科学家们探讨用机器模拟人类智能等问题,并首次提出了人工智能(AI)的术语,AI的名称和任务得以确定,同时出现了最初的成就和最早的一批研究者。此后,人工智能穿越了黄金、低谷、繁荣等历史周期,迎来又一个辉煌时代。也许在不少90后记忆中,人工智能的火出圈有个标志人物“阿尔法狗”。2016年3月15日,Google人工智能AlphaGo与围棋世界冠军李世石的人机大战第五场经过长达5个小时的搏杀,最终以李世石认输结束。这一次的人机对弈让人工智能正式被世人所熟知,整个人工智能市场也像是被引燃了导火线,开始了新一轮爆发。近年来,短视频已成为人们记录日常生活的重要工具。当下网络上流行的名场面翻拍、仿妆拍摄、搞怪表演,模仿名画中的人物等。而制作这些视频,不需要有高超的演技、过人的天赋,人工智能技术仅仅需要一张照片就可以实现,这就是AI换脸技术。用户轻轻一点拍同款,上传个人照后,一分钟即可生成一段风情万种的港剧风经典视频,定睛一看,这不是自己嘛?哈!获得感满满的同时,也在这种新奇体验中过了一把换脸、换身材的“明星瘾”。二AI换脸、AI换声、三维重建、智能对话……深度合成技术应用日益广泛,催生了美颜美妆、影视制作、智能客服、虚拟主播、元宇宙等应用服务,其在影视、娱乐、社交、广告、教育等领域不断深化应用,展现出强大的技术价值和商业潜力。但这一技术在崭露头角的同时,也存在着被恶意利用的现象,弊端也日渐显现。

诸如,泄露隐私信息,侵犯个人权益。“换声”“换脸”“姿态操控”等应用可能在当事人没有授权的情况下非法使用他人肖像,甚至可能故意丑化或者恶搞当事人形象,侵犯他人的肖像权、名誉权、隐私权等合法权益。这些应用也可能被用于非法收集和使用他人信息、非法摄取大众数据,侵犯他人个人信息和隐私权。此外,深度合成技术还有可能成为违法犯罪行为的“帮凶”。例如,5月20日,包头警方发布消息称,福州市某科技公司法人代表郭先生10分钟内被人用AI换脸诈骗430万元,在不到一周的时间里,安徽警方也通过当地媒体披露了一起类似案件,诈骗分子使用了一段9秒钟的智能AI换脸视频,佯装“熟人”,导致安庆的何先生被诈骗245万。诸如,生成和传播虚假信息,扰乱公共秩序。近两年,虚拟数字人以各种身份形象出现在我们的视野中,当它们与真人越来越接近,连表情、声音都能和真人一模一样。深度合成技术的出现,使得人类的传播活动步入“深度后真相”时代,传统的“眼见为实”失灵了。虽然机器人写稿、虚拟主播的出现,提高了信息传播速度、提升了传播效率和质量,但稍有不慎,就是在生产虚假信息。一个新近发生的例子是:科大讯飞股价意外跳水,原因竟是网上流传了两篇由生成式 AI 虚构的“小作文”,直指科大讯飞涉嫌非法获取用户数据、存在被美国列入实体清单的风险。前些天,一段郑州航空港区一小吃店门口斗殴的视频引发网络关注,陈某沛为了吸粉引流,利用ChatGPT生成虚假不实信息,发布“郑州鸡排店惊现血案,男子用砖头砸死女子”等相关文章,使虚假信息大面积传播,影响社会稳定。最终,陈某沛被公安机关采取刑事强制措施。诸如,以智能化辅助舆论战,威胁国家安全。深度伪造技术降低了国家之间信息战的成本,恶意行为主体会利用深度伪造技术编造虚假信息发动舆论战,影响国家安全。一个迫在眉睫的威胁就是,AI技术推动形成了智能化“水军”,通过培育写稿机器人、对话机器人、虚拟账号和水军等,大批量制造“人机乌合之众”;同时,智能生产技术可通过大数据搜集进行议题的谋划设置,制造相关内容给“水军”供给弹药,大大增加了舆论战、认知战的风险。2018年,加蓬总统Ali Bongo因中风在公共视野中消失了数月。政府为了安抚民心,在新年时公开了一段总统录制的新年致辞。这段新年致辞使用了Deepfake技术进行生成,但这个视频非但没有起到安抚民心的作用,反而让军方的资深大佬发现异常,最终导致了兵变。在这个事件中,“AI换脸”技术成为干扰政治选举,降低政府公信力的一大推手。2019年初,Facebook上流传一则关于特朗普的假视频,视频中的“特朗普”严厉批评了比利时在气候变化问题上的立场,而实际上这并非特朗普本人。三从在围棋界战无不胜的“阿尔法狗”,到铺天盖地的“人脸识别”,人工智能给人们的生活带来了翻天覆地的改变,也带来了诸多困扰。《猎罪图鉴》中有这样一句台词:“脸明明是我们最重要的识别符号,可偷走这些东西只需要几分钟甚至几秒钟,我们甚至连对手是谁都不知道。”如何防止深度合成技术被“恶用”?如何克服算法歧视,让人工智能实现可知、可信、可控、可用?生成式人工智能要发展更要规范,尤其是要做到合法合规、向上向善。做到合法合规。使用个人肖像如果没有征得同意,就去互联网上采集使用的话,这属于违法行为。平台上如果有类似应用,平台就有责任去监督。根据国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》,提供人脸、人声等生物识别信息显著编辑功能的,应当取得授权,应当在显著位置标注“人脸合成”字样,避免公众混淆或者误认。如果平台自己去提供这一类服务,还要求用相应的工具去识别它不是真实的,这就对平台提出了更高的要求。做到向上向善。随着技术的成熟,曾经只有在科幻电影里才能出现的换脸、变声等“黑科技”走进了现实生活,但是也带来了新的伦理问题。“AI换脸”技术滥用行为挑战了法律和公序良俗的底线,恶意使用“AI换脸”技术的案例频频发生,表明“AI换脸”技术已被非法滥用,违背了技术发展的向上向善原则。因此,需要对“AI换脸”作法律和社会道德伦理审查,并尽快制定完善技术发展和应用标准,给其划定法律和技术“红线”,对其予以规制,引导“AI换脸”合规发展,防范不当使用。对于个人来说,要树牢法律意识,对涉嫌存在法律风险的“AI换脸”视频积极进行举报,倒逼“AI换脸”服务提供商遵守法律法规,以实际行动促进“AI换脸”技术向上向善。尤其是跟机器人去对话要非常小心,如果没有干预就可能产生误导,但它没有办法承担责任。特别是在教育医疗这样一些敏感的高风险场景,个人尤其要提高警惕,减少AI被恶意利用的现象。AI技术是柄“双刃剑”,向善向恶也许都在一念间。如果缺乏应有约束,打开的就是一个潘多拉魔盒,惊喜变惊吓。有人说,黑科技Deepfake会让普通人难以辨别真假,就算是近亲之间视频通话也最好有一些“暗语”,不然你连对面的人是不是亲人都不知道。盲盒变魔盒,你怕了吗?本稿图片及视频来源:新华社、央视新闻、中国人工智能学会、广州政法、B站等

标签:

相关阅读RELEVANT

  • 版权及免责声明:

内容搜集整理于网络,不代表本站同意文章中的说法或者描述。文中陈述文字和内容未经本站证实,其全部或者部分内容、文字的真实性、完整性、及时性本站不做任何保证或者承诺,并且本站对内容资料不承担任何法律责任,请读者自行甄别。如因文章内容、版权和其他问题侵犯了您的合法权益请联系邮箱:5 146 761 13 @qq.com 进行删除处理,谢谢合作!