网站首页
手机版

他“复制”了女儿,她被“偷”了脸

更新时间:2024-03-01 11:58:09作者:佚名

他“复制”了女儿,她被“偷”了脸

久未露面的57岁著名音乐人包小柏,这两天再次进入大众视野已是一头长白发。距离他上一次成为话题人物已过去14年。彼时,他为《快乐女声》担任评委,点评辛辣、意气风发。

这次,他用AI技术在数字世界里“复活”了去世的女儿,“她”不仅可以即时回复对话,而且还在妈妈生日时唱了生日快乐歌。

同样是最近,另一群中老年网友却被AI的深度伪造伤了心。他们发现自己真心实意追了一阵的叶琳娜、娜塔莎、April安娜、艾莉儿……通通不存在。这些热爱中国文化,会说一口流利中文的俄罗斯美女博主,都是有人“偷”了一位乌克兰女孩的脸,批量生产的AI换脸数字人。

技术,再次展露出了“双刃剑”的特性。


“复活”亲人的不止是包小柏

2021年,包小柏22岁的女儿因病去世。在此前台媒的一期节目里,他首次透露自从女儿去世后,再也没有理发的原因:头发有一段曾经天天触碰女儿的额头。


包小柏透露女儿去世后没理发的原因

这两天,这段视频被翻出来,和AI“复制”女儿的报道一起在社交平台上扩散。

思女心切的包小柏这几年里攻读博士,自学AI技术,经过反复训练,如愿克隆了一个“女儿”,“对我而言,AI可以让我明确地知道,能把思念的模式换一种工具来表达。”



包小柏用AI“复活”女儿

用AI“复活”亲人,包小柏不是第一个吃螃蟹的人。1月下旬,我们曾报道过一支90后的创业团队,专门提供克隆数字人的服务,“浙江父亲想用AI复活儿子”的话题当时还冲上微博热搜榜第二。


“浙江父亲想用AI复活儿子”的话题冲上热搜

创始人张泽伟及其团队,2023年5月至今已为600多个家庭提供AI克隆服务,其中过半为失去子女的年长父母。

在张泽伟看来,团队所从事的属于“AI+情感疗愈”创业,可以缓解与逝去亲人分离的悲痛。但他同样承认技术是把双刃剑,“也有可能被坏人利用,防不胜防。”

日臻成熟的AI克隆技术,也给普通人带来了新的伦理挑战,让人不得不重新思考逝者和生者间的关系。


“复制”一个人更容易了

如果放到这轮AI浪潮前,包小柏想要“复制”一个电子女儿,几乎是不可能的事。现在,只要有充足的数据,从声音、嘴型到整张人脸都能通过深度学习算法,活灵活现地还原出来。

这两天,阿里巴巴智能计算研究所发布了一款全新的生成式AI模型EMO(Emote Portrait Alive),仅需一张人物肖像照片和音频,就可以让里面的人物按照音频内容“张嘴”唱歌、说话,且口型基本一致,面部表情和头部姿态非常自然。

再往前,一款名为HeyGen的AI肖像克隆软件因为让泰勒·斯威夫特说中文,让孙燕姿唱周杰伦的歌走红网络。用户只要上传一段30秒以上包含人声的视频,HeyGen就能模拟嗓音和表情,再与新的内容对上“口型”。


AI肖像克隆软件让泰勒·斯威夫特说中文

“他们至少用了三个小型的AI模型,分别完成翻译、语音提取和克隆、嘴型同步等功能。”看到包小柏“复制”女儿后,从事数字人研发的NextHuman唯物科技创始人吴靖仇感慨技术的进步,“当局部技术不断涌现,把它们集合在一起,就可能会出现爆款应用。”

但硬币的另一面是技术被滥用。阿里没有把EMO推向市场,已经有网友担忧它会被骗子利用,而HeyGen目前最贵的商业版本只需要72美元/月,网上到处是免费教程,意味着想要拿着它去做违法的事,成本很低。


AI视频生产过程

此前,欧洲刑警组织就发布过一份观察报告,预测到2026年,90%的在线内容可能是AI生成或者合成的。这其中就包括对照现实里某个真实人物,用深度伪造技术“复制”出来的“人”,让他做没做过的事,说没说过的话。

“从现在AI的进步速度来看,这个趋势正在加快。”吴靖仇表示,随着AI学习能力的提升,“复制”一个内容或者人,所需的数据量和时间都会进一步下降。


乌克兰女孩的脸被“偷了”

一部分网友已经被技术滥用伤了心。

俄罗斯大妞叶琳娜,在中国生活8年、能说一口流利中文的April安娜,卖俄罗斯进口食品的32岁娜塔莎,喜欢分享中国日常的艾莉儿……



网上的各种俄罗斯美女博主

过去的一两个月,只要爱逛短视频和社交平台,大概率就会刷到一些长相精致的俄罗斯美女博主。她们热爱中国文化,表示想嫁中国男人,会谈论一些争议性的热门话题,像是婚嫁的彩礼问题,聊着聊着还会推荐起俄罗斯特产。


“俄罗斯美女博主”推荐起俄罗斯特产

但她们的脸都是从一位乌克兰网红身上“偷”的。

不久前,YouTube上拥有1万多粉丝的奥尔嘉在一段近15分钟的视频中,控诉了这件事。


乌克兰女孩奥尔嘉现身谈自己的遭遇

“她们有我的脸、我的声音,且说得一口流利中文。”奥尔嘉愤怒而无奈。这些账号用AI生成的短视频内容赚取流量,为俄罗斯巧克力、糖果等特产带货。卖进口零食的娜塔莎,在账号被平台下架前已拥有超20万粉丝,远多于她本人的账号。


已被下架的俄罗斯美女博主账号

“这让人不寒而栗。”奥尔嘉说以前见过名人被模仿,从未想过自己也会深陷其中。“在这些AI生成的博主背后,作为原型的普通女性可能还不知道自己的脸被盗了,然后被用于何处。”

对此,相关平台很快采取了行动,并且强调“禁止任何以他人照片或视频进行换脸的行为”。然而,换脸的“潘多拉魔盒”已经被打开,仅靠自觉和举报,似乎无法阻挡。

去年6月10日,国家反诈中心辟谣“AI诈骗在全国爆发”,确认全国AI诈骗实施不超过10起,主要是提前制作了换脸视频,并不是实时的视频互动通话。但随着技术持续进步,相关平台和监管政策准备好了吗?

律师说法

用AI技术伪造他人肖像属于侵权行为

北京竞天公诚(杭州)律师事务所合伙人 何远

关于AI换脸侵犯肖像权的问题,我国《民法典》已做出明确规定,利用信息技术手段伪造他人的肖像,属于侵害肖像权的侵权行为。所以,从法律层面讲,大家可以放心,《民法典》已经预见这些技术的发展,规定侵害肖像权属于侵权行为,而声音属于一种独立的新型人格权,并参照肖像权提供法律保护,还规定了保护其他人格权的兜底条款。

同时,《生成式人工智能服务管理暂行办法》中明确规定,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、隐私权和个人信息权益。

如果你在网络上发现自己的肖像被不法侵害了,请立即采取录屏或摄像等方法固定证据,及时向侵权责任人主张权利,包括立即向网络平台发起投诉、向国家网信办违法和不良信息举报中心投诉、向人民法院起诉等。

此外,网络平台对于用户所发布的信息,是负有审核责任的。所以,如果收到被侵权人投诉后不作为,没有及时核查、删除侵权信息,平台很有可能会因为存在过错要承担相应的法律责任,比如赔礼道歉、赔偿损失等。

记者观察

新的数字鸿沟正在产生

生成式AI时代下,耳听未必为真、眼见未必为实,你接收到的文字、图片、音视频信息都可能是AI的产物。而逐渐模糊的现实边界,正在诞生新的数字鸿沟。

用AI工具生成一张美女照片,贴上“80后单亲妈妈”“每日分享自用好物”等标签,加入商品图片和介绍,这种简单而粗糙的AI美女种草/情感博主,眼下正在短视频平台上批量出现,瞄准中老年群体。

没抠好的头发丝,几乎一样的脸,循环的表情和动作,哪怕破绽多到“一眼假”,哪怕平台已经给部分作品标注了“内容疑似AI生成,请仔细甄别”,仍有大量中老年网友热情互动,并掏出真金白银。批量的美貌和廉价的情感鸡汤大有市场。




在一些AI主播账号下的网友留言

对于许多中老年人来说,智能手机和互联网还没有完全弄明白,AI就又来捣乱。他们中的大多数,可能并不具备鉴别真人和AI数字人的能力,也理不清楚新型网络诈骗是怎么回事。

今年,杭州某小学开学第一天,校长上台就讲了OpenAI的GPT和文生视频大模型Sora,等上信息课的时候,任课老师再次提及。成年人的知识体系,同样面临着更新和重构。

就在前些天,为了应对AI时代所带来的机遇与挑战,新加坡政府提议对新加坡公民给予一项补贴,支持40岁及以上的人返回高等教育。这个群体将能在5月获得额外4000元的技能创前程培训补助。

橙柿互动·都市快报记者 童蔚 梁应杰

本文标签: 侵权  女儿  克隆  复制  包小柏  肖像权  短视频  

为您推荐

他“复制”了女儿,她被“偷”了脸

他“复制”了女儿,她被“偷”了脸,侵权,女儿,克隆,复制,包小柏,肖像权,短视频

2024-03-01 11:58

美防长称“乌方战败可能导致北约与俄发生直接军事冲突”,扎哈罗娃回应:荒唐!

美防长称“乌方战败可能导致北约与俄发生直接军事冲突”,扎哈罗娃回应:荒唐!,北约,乌军,普京,俄军,俄罗斯,美防长,扎哈罗娃,乌方战败,军事冲突,军事同盟,军事条约,克里米亚大桥,北大西洋公约组织

2024-03-01 11:58

日本企业出现加速离开中国倾向 日本企业出现加速离开中国倾向的原因

日本企业出现加速离开中国倾向?中国驻日大使回应,中国,日本,外资,外商,驻日大使

2024-03-01 11:57

2024龙年纪念币发行量是多少 2024龙年生肖纪念币预约

2024贺岁纪念币、纪念钞全国发行数量分别为1.2亿枚、1亿张,2024年贺岁币每枚面额10元,2024年贺岁钞每张面额20元

2024-03-01 11:20

2024龙年纪念币预约入口(2024龙年纪念币什么时候预约)

全国预约时间为2024年1月3日22时至1月4日24时,部分地区可能间隔半小时,错峰预约即纪念币2024年1月3日22时预约,纪念钞2024年1月3日22时30分预约

2024-03-01 11:20

2024龙年纪念币预约(时间+入口)(龙年纪念币发行数量)

纪念币纪念钞预约时间2024年1月3日22时至1月4日24时2024年贺岁钞预约时间2024年1月3日22时30分至1月4日24时

2024-03-01 11:19