最好看的新闻,最实用的信息
12月22日 °C-°C
纽币 : 人民币=4.1243

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图)

2024-03-28 来源: 益美传媒 原文链接 评论4条

不得不说,这年头为了利益,人是可以没有底线的。

昨天的一条热搜,看得让人既生气又害怕:

浙江杭州的虞某接触到“AI换脸”软件,为吸引流量,他利用该软件制作大量淫秽视频并传播,被换脸的有不少是女明星。

虞某称,“只要能看到脸的都能换。”

有人甚至要定制暗恋女生的换脸视频。

虞某最终因犯制作、传播淫秽物品牟利罪,被判有期徒刑七年三个月,并处罚金6万元。

恶行得到惩罚,是好事。

科技不断发展,AI技术应用在各行各业,也是好事。

可,一旦人心变坏,“虞某”遍地都是。

再好的事,也只能是坏事。

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 1

01

AI复活技术

让思念变得触手可及

1月19日那天,台湾知名音乐人包小柏在个人社交平台上分享了AI生成的逝去的女儿的视频。

并写道:

“亲爱的Feli,欢迎从数位世界回来。”

在和数字女儿对话的那一刻,这位中年丧女的父亲,所有的遗憾和思念都变得具体。

患上罕见病的女儿,在2021年12月离开,年仅22岁。

从那以后,包小柏和妻子便将自己封闭了起来。

甚至,包小柏再也没有理过发。

因为他的头发曾经触碰过女儿的额头。

只要留着头发,就等于留住了女儿的温度。

他不愿、也不敢面对“女儿已经离开”的事实。

直到他接触到了AI技术。

思女心切的他,决定攻读博士,希望女儿能在数字世界里复活。

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 2

“晚饭时间到了,待会儿你要吃什么?”

“我打算吃披萨。”

“别总吃快餐,对身体不好。”

经过反复训练和大量的投入后,包小柏终于如愿和AI“复活”的女儿,进行了第一次对话。

他把这段对话录了下来,想起来了就要听一听。

除了简单对话,妻子生日当天,“女儿”还录制了一首生日歌为妈妈送上了祝福。

人生有三大幸事:虚惊一场、久别重逢、失而复得。

包小柏当然知道,这份幸运不是百分百的圆满,它更像是编织出来的一场梦。

但,当思念无处寄托,悲伤没有出口的时候,一个可以见面的机会,足以填补太多遗憾和空白。

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 3

AI技术的成熟,让这样的温情片段,不断上演。

辽宁抚顺的孙先生用AI换脸技术,“复活”了病逝的父亲。

并以父亲的口吻,向91岁的奶奶报平安。

他说:“我把这段经历记录下来,就像是和过去告别。

尽管现在我依然无法接受父亲的离世,但我相信生活总会有新的开始。”

前不久,AI还重现了雷锋的声音,来了一场穿越时空的对话。

如网友所说:

这才是AI的正确打开方式。

才是科技发展的初心。

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 4

02

再牛的技术

也会沦为利益的工具

可惜,总有人能以一己之力将美好粉得稀碎。

前段时间,“李玟”出现在各大社交平台。

一开始我以为就是她生前的某个视频,又被拿出来做文章了。

没想到听到的声音,却真的是她本人:

“在我离开这个世界的那一刻起,我一直能感受到你们无尽的爱和支持。”

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 5

不光是李玟,这位博主利用AI复活技术,再现了高以翔、乔任梁等多位已逝的明星。

配合上类似“我的心与你们同在”这些温情文案,的确能瞬间勾起不少回忆。

但很快,舆论就开始反转。

高以翔的家人和乔任梁的父亲,强烈要求下架相关视频。

“他们未征求我们同意,这是在揭伤疤,不尊重我们。”

同样是AI复活,包小柏制造的这场“重逢”,是一个父亲的思念和不舍。

但作为局外人,去操作这样一场“回忆杀”,只有四个字:有利可图。

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 6

如江歌妈妈所说:

“如果能复活,也仅限于我亲自来做这件事。

你们懂得我们(痛失挚爱的人)逝去的亲人吗?

你们不懂我们,又凭什么为我们(我与女儿)做决定?”

他们要的,不是真正的“科技暖人心”。

而是利用复活已逝明星的噱头,去赚流量和实打实的利益。

翻开这些博主的主页,能看到清晰的价目表:

逝者照片说话视频(AI配音),1分钟,198元;

逝者照片说话视频(逝者的声音),1分钟,398元。

......

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 7

亲人的离世,不是暴雨,而是一生的潮湿。

对于李玟、乔任梁还有高以翔的家人来说:

接受失去,是一个无比漫长且揪心的过程。

每一次提起,都是一次阵痛。

他们不需要一场突如其来的互联网回忆杀,硬生生地撕开伤疤。

有时候,不去触碰,就是最好的保护。

强行帮痛苦的人回忆痛苦,不是蠢,就是坏。

03

AI诈骗

成功率99.9%

而以上这些操作,还不是最坏的。

前段时间,中国驻新加坡大使馆发布了一条关于AI诈骗的公益广告。

一对母女通过微信视频对话:

“妈,我太倒霉了,我飞机延误了,还丢了部手机。”

“你把护照也丢了才好呢。”

“你不是亲妈,我要跟你断交。”

“断交好啊,挂了。”

“不嘛,给我转钱。”

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 8

在女儿的撒娇攻势下,这位母亲打开了电脑登陆网银准备转账。

就在这时,门铃响了。

打开一看,竟然是女儿回来了。

而此时视频里的“女儿”还在一个劲洗脑:

“妈,快给我转钱啊,我最爱你了。”

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 9

看到这,大家也明白了:

视频里的女儿是用AI模拟的人脸和人声。

你看,自打有了AI技术,“眼见为实”变得没有了说服力。

警方也发出警告:AI诈骗潮真的来了,成功率接近100%。

恐怖吗?

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 10

央视新闻曾报道过一起典型的诈骗案例:

陕西西安财务人员张女士与老板视频通话,老板要求她转账186万到一个指定账号。

视频是老板,声音也是老板,老板也明确表示很着急。

作为打工人当然是按指令行事。

结果,当张女士汇完款把汇款单发到公司财务群时,老板却问她这笔资金的用途。

张女士这才意识到被骗了,幸好警方及时介入,才保住了大部分被骗资金。

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 11

这不是个例。

当AI换脸,以各种形式中伤我们的生活,我们需要几百个心眼子,才能与之周旋?

一条曾采访过一家人工智能工作室。

针对“换脸技术是否会被人利用”,负责人是这么说的:

“现在也没有行业标准,没有相关的法律法规。

没办法百分百去防范,只能尽力去约束。

就像你是卖菜刀的,你也没办法知道对方买了菜刀会去做什么。”

很清楚了,真正用AI技术解决陪伴问题的,不需要约束。

带着其他目的去的人,你也约束不了。

一句话,防君子防不了小人。

如今,也只有欧盟出台了相关约束方案:

要求开发人员实施技术保障措施,防止技术的滥用。

但请注意,是约束,是预防,并没有实际的惩罚措施。

面对那些消费逝者谋利益的博主,我们能做的只有谴责。

他们的损失,也只是在家属的要求下下架视频。

这并不妨碍,其他人成为他们赚流量的对象。

对于那些利用AI换脸诈骗、制作淫秽视频的行为,我们能做的也只有防范。

这才是最让人觉得无力的地方。

继李玟被“复活”之后,一起AI换脸涉黄案又上热搜:逃无可逃,看得我后背发凉(组图) - 12

20世纪技术哲学奠基者弗里德里奇·德绍尔说:

“现代技术改变世界,也见证了其超出经验的道德价值。

人类创造了技术,但它的力量就像一座山,一条河,一个冰川纪或行星,它超过了世界上本来的各种力量。”

人与人之间最大的差别是什么?


是对于技术工具的使用。

在有底线、有道德的人手里,工具能撬动一切出奇迹。

在利益至上,人性低劣的人手里,工具只能变凶器。

所以啊,错的从来不是技术,而是用技术的人。

在此,益美君只想呼吁:

严格规范AI技术从业者及行业规则,要预防,更要严惩。

纸上谈兵,事后补救,毫无意义。

也想送给那些在利益边缘游走的人,一句话:

你希望生活在一个什么样的世界,就选择去做什么样的事情。

当世界上有了千千万万个“虞某”,那你也逃无可逃。

今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(4)
奔跑的小圈圈 2024-03-28 回复
凯特是ai换脸吗?
迷糊兔Lydia 2024-03-28 回复
一张照片就能换脸,而且技术越来越先进,效果也越来越真实,以后所谓的视频取证的可靠性就大打折扣了
吴尐洋 2024-03-28 回复
以后会不会有人那换脸视频要挟勒索?
小爷-宝 2024-03-28 回复
AI的出现到底是好事还是坏事?


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

分享新闻电话: (02) 8999 8797

联系邮箱: [email protected] 商业合作: [email protected]网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:[email protected]