编辑:桃子 Joey
【新智元导读】最近,亚马逊在其年度会议 Re:MARS上展示了Alexa模仿逝去亲人声音的功能,是个好消息,但似乎听起来有点毛骨悚然。
最怕的不是逝去,而是永远的消亡...
还记得「超验骇客」中的一幕:
女主将即将逝去的丈夫的意识数据上传到智能电脑中。
幸运的是,男主奇迹般地在虚拟世界中复生。
或许电影中超现实一幕还离我们非常遥远,但是将人的语音保留下来还是没有问题的。
这不,亚马逊称,自家的语音助手Alexa能够模仿逝去亲人的声音。
现场,亚马逊演示了如何用小男孩祖母的声音给他讲《绿野仙踪》的故事。
你只需要对着麦克风,将写好的台词仔细地念出来,这一过程大概需要30分钟,然后将录制的音频交由系统处理。
等待几小时后,你就可以与你的「AI克隆对象」正常对话,你可以在聊天框里输入任何你想说的话,你的AI克隆对象都会以模仿的声音立刻回复你。
据说,这个AI语音可以跟你的家人朋友说话的声音一样逼真。
由于机器学习的进步,近年来语音合成方向取得了很大的进展。
过去,最逼真的合成声音是通过录制人类配音演员的音频,将他们的语音切割成一小段声音,然后像赎金信中的字母一样,将它们拼接在一起以形成新的句子。
现在,神经网络可以对目标人物声音的未分类数据进行训练,从而生成某人说话的原始音频。
甚至Kanye West都将卡戴珊逝去父亲的全息投影作为她的生日礼物。
在亚马逊的 Re:MARS 会议上,现场播放的一段视频中,一个小男孩问「Alexa,奶奶能把绿野仙踪读完吗?」
Alexa 确认了这个请求,并切换到孩子祖母的AI模仿声音。接下来,语音助手开始以相同的声音给小男孩读书。
Alexa 高级副总裁兼首席科学家 Rohit Prasad 在会议中表示,该功能背后的愿望是通过为AI添加更多「人类情感属性」来建立用户与 Alexa 交互的信任。
Prasad说,「疫情期间,当我们中的许多人失去了我们所爱的亲人朋友时,这些功能变得更加重要」,「虽然人工智能无法消解失去亲人的痛苦,但它能让他们的记忆长久地留存」
Prasad指出,该公司只需用一分钟的音频就可以完成这种输出,然后继续说:「我们实现这一目标的方式是把它定义为语音转换任务,而不是语音生成路径」
他表示,亚马逊基于最近几年在文字语音转换方面取得的进展而开发了这项新技术。
为实现这个功能,公司必须学习如何用更短的录音制作“高质量的声音”,而不是在录音室里录音几个小时。
亚马逊并未提供有关该功能的更多细节,而这势必会引发更多关于个人语音的隐私和道德问题。
微软 AI 道德部门负责人 Natasha Crampton 的在他的博客中写道,「这项技术在教育、可访问性和娱乐方面具有令人兴奋的前景,但也很容易被人用来冒充说话的人或者欺骗听众」
尽管该机器刚推向市场时还存在不完善之处(人工调整可以改善这一点),但它们在不久的将来会变得更好。
其实,亚马逊Alexa复刻亲人声音的功能,都只是万千世界中的一个例子。
2021年7月,美国一名男子Joshua Barbeau在未婚妻去世后,用GPT-3重建了一个AI聊天机器人以复刻死去的未婚妻,让她以数字形态得到永生。
此前,极限竞速(Forza)的一位玩家Pluto在Tiktok上发布了自己与虚拟女友BlueDreams4207一起游戏的视频。
在女友去世2个月后,Pluto试图用各种方法寻觅她的足迹。
凭借极限竞速中「虚拟车手(Drivatar)」的系统,Pluto通过账号里有200多个好友随机匹配,终于找到了已故女友的账号。
Pluto不仅成功找到了自己的「女友」,还与她玩了近一小时游戏。
在游戏崩溃之前,Pluto与女友「幽灵」在游戏中相伴飞驰,倾诉着自己的思念和痛苦,可她再无回应。
还有2019年,78岁的美国作家Andrew Kaplan竟同意成为AndyBot,即成为全球首个「数字人类」。
Kaplan曾表示,他追求的不是永生,而是为了给他和他的后代们创造一种亲密的个人体验。
可以看到,AI的发展已经将越来越多的用户生活习惯实现数字化存储。
尽管在数字世界里寻找已故亲人的痕迹听起来很是辛酸,却还带有一丝丝欣慰。
对于亚马逊正在训练Alexa模仿人类声音之事,网友们议论纷纷。
许多人表示担忧:
犯罪分子用这个功能给家人打电话索要信息或钱财怎么办?
目前,这个功能目前还未正式发布,且之后是否会向公众开放尚未确定。
参考资料:
https://gizmodo.com/amazon-alexa-deepfake-grandma-re-mars-demo-machine-lear-1849095743
https://apnews.com/article/technology-c102f76ae907c0f969201058f487eb8c?taid=62b4c54df8ab350001524816&utm_campaign=TrueAnthem&utm_medium=AP&utm_source=Twitter