继李玟被“复活”之后，一起AI换脸涉黄案又上热搜：逃无可逃，看得我后背发凉（组图）

不得不说，这年头为了利益，人是可以没有底线的。

昨天的一条热搜，看得让人既生气又害怕：

浙江杭州的虞某接触到“AI换脸”软件，为吸引流量，他利用该软件制作大量淫秽视频并传播，被换脸的有不少是女明星。

虞某称，“只要能看到脸的都能换。”

有人甚至要定制暗恋女生的换脸视频。

虞某最终因犯制作、传播淫秽物品牟利罪，被判有期徒刑七年三个月，并处罚金6万元。

恶行得到惩罚，是好事。

科技不断发展，AI技术应用在各行各业，也是好事。

可，一旦人心变坏，“虞某”遍地都是。

再好的事，也只能是坏事。

01

▼

AI复活技术

让思念变得触手可及

1月19日那天，台湾知名音乐人包小柏在个人社交平台上分享了AI生成的逝去的女儿的视频。

并写道：

“亲爱的Feli，欢迎从数位世界回来。”

在和数字女儿对话的那一刻，这位中年丧女的父亲，所有的遗憾和思念都变得具体。

患上罕见病的女儿，在2021年12月离开，年仅22岁。

从那以后，包小柏和妻子便将自己封闭了起来。

甚至，包小柏再也没有理过发。

因为他的头发曾经触碰过女儿的额头。

只要留着头发，就等于留住了女儿的温度。

他不愿、也不敢面对“女儿已经离开”的事实。

直到他接触到了AI技术。

思女心切的他，决定攻读博士，希望女儿能在数字世界里复活。

“晚饭时间到了，待会儿你要吃什么？”

“我打算吃披萨。”

“别总吃快餐，对身体不好。”

经过反复训练和大量的投入后，包小柏终于如愿和AI“复活”的女儿，进行了第一次对话。

他把这段对话录了下来，想起来了就要听一听。

除了简单对话，妻子生日当天，“女儿”还录制了一首生日歌为妈妈送上了祝福。

人生有三大幸事：虚惊一场、久别重逢、失而复得。

包小柏当然知道，这份幸运不是百分百的圆满，它更像是编织出来的一场梦。

但，当思念无处寄托，悲伤没有出口的时候，一个可以见面的机会，足以填补太多遗憾和空白。

AI技术的成熟，让这样的温情片段，不断上演。

辽宁抚顺的孙先生用AI换脸技术，“复活”了病逝的父亲。

并以父亲的口吻，向91岁的奶奶报平安。

他说：“我把这段经历记录下来，就像是和过去告别。

尽管现在我依然无法接受父亲的离世，但我相信生活总会有新的开始。”

前不久，AI还重现了雷锋的声音，来了一场穿越时空的对话。

如网友所说：

这才是AI的正确打开方式。

才是科技发展的初心。

02

▼

再牛的技术

也会沦为利益的工具

可惜，总有人能以一己之力将美好粉得稀碎。

前段时间，“李玟”出现在各大社交平台。

一开始我以为就是她生前的某个视频，又被拿出来做文章了。

没想到听到的声音，却真的是她本人：

“在我离开这个世界的那一刻起，我一直能感受到你们无尽的爱和支持。”

不光是李玟，这位博主利用AI复活技术，再现了高以翔、乔任梁等多位已逝的明星。

配合上类似“我的心与你们同在”这些温情文案，的确能瞬间勾起不少回忆。

但很快，舆论就开始反转。

高以翔的家人和乔任梁的父亲，强烈要求下架相关视频。

“他们未征求我们同意，这是在揭伤疤，不尊重我们。”

同样是AI复活，包小柏制造的这场“重逢”，是一个父亲的思念和不舍。

但作为局外人，去操作这样一场“回忆杀”，只有四个字：有利可图。

如江歌妈妈所说：

“如果能复活，也仅限于我亲自来做这件事。

你们懂得我们（痛失挚爱的人）逝去的亲人吗？

你们不懂我们，又凭什么为我们（我与女儿）做决定？”

他们要的，不是真正的“科技暖人心”。

而是利用复活已逝明星的噱头，去赚流量和实打实的利益。

翻开这些博主的主页，能看到清晰的价目表：

逝者照片说话视频（AI配音），1分钟，198元；

逝者照片说话视频（逝者的声音），1分钟，398元。

......

亲人的离世，不是暴雨，而是一生的潮湿。

对于李玟、乔任梁还有高以翔的家人来说：

接受失去，是一个无比漫长且揪心的过程。

每一次提起，都是一次阵痛。

他们不需要一场突如其来的互联网回忆杀，硬生生地撕开伤疤。

有时候，不去触碰，就是最好的保护。

强行帮痛苦的人回忆痛苦，不是蠢，就是坏。

03

▼

AI诈骗

成功率99.9%

而以上这些操作，还不是最坏的。

前段时间，中国驻新加坡大使馆发布了一条关于AI诈骗的公益广告。

一对母女通过微信视频对话：

“妈，我太倒霉了，我飞机延误了，还丢了部手机。”

“你把护照也丢了才好呢。”

“你不是亲妈，我要跟你断交。”

“断交好啊，挂了。”

“不嘛，给我转钱。”

在女儿的撒娇攻势下，这位母亲打开了电脑登陆网银准备转账。

就在这时，门铃响了。

打开一看，竟然是女儿回来了。

而此时视频里的“女儿”还在一个劲洗脑：

“妈，快给我转钱啊，我最爱你了。”

看到这，大家也明白了：

视频里的女儿是用AI模拟的人脸和人声。

你看，自打有了AI技术，“眼见为实”变得没有了说服力。

警方也发出警告：AI诈骗潮真的来了，成功率接近100%。

恐怖吗？

央视新闻曾报道过一起典型的诈骗案例：

陕西西安财务人员张女士与老板视频通话，老板要求她转账186万到一个指定账号。

视频是老板，声音也是老板，老板也明确表示很着急。

作为打工人当然是按指令行事。

结果，当张女士汇完款把汇款单发到公司财务群时，老板却问她这笔资金的用途。

张女士这才意识到被骗了，幸好警方及时介入，才保住了大部分被骗资金。

这不是个例。

当AI换脸，以各种形式中伤我们的生活，我们需要几百个心眼子，才能与之周旋？

一条曾采访过一家人工智能工作室。

针对“换脸技术是否会被人利用”，负责人是这么说的：

“现在也没有行业标准，没有相关的法律法规。

没办法百分百去防范，只能尽力去约束。

就像你是卖菜刀的，你也没办法知道对方买了菜刀会去做什么。”

很清楚了，真正用AI技术解决陪伴问题的，不需要约束。

带着其他目的去的人，你也约束不了。

一句话，防君子防不了小人。

如今，也只有欧盟出台了相关约束方案：

要求开发人员实施技术保障措施，防止技术的滥用。

但请注意，是约束，是预防，并没有实际的惩罚措施。

面对那些消费逝者谋利益的博主，我们能做的只有谴责。

他们的损失，也只是在家属的要求下下架视频。

这并不妨碍，其他人成为他们赚流量的对象。

对于那些利用AI换脸诈骗、制作淫秽视频的行为，我们能做的也只有防范。

这才是最让人觉得无力的地方。

20世纪技术哲学奠基者弗里德里奇·德绍尔说：

“现代技术改变世界，也见证了其超出经验的道德价值。

人类创造了技术，但它的力量就像一座山，一条河，一个冰川纪或行星，它超过了世界上本来的各种力量。”

人与人之间最大的差别是什么？

是对于技术工具的使用。

在有底线、有道德的人手里，工具能撬动一切出奇迹。

在利益至上，人性低劣的人手里，工具只能变凶器。

所以啊，错的从来不是技术，而是用技术的人。

在此，益美君只想呼吁：

严格规范AI技术从业者及行业规则，要预防，更要严惩。

纸上谈兵，事后补救，毫无意义。

也想送给那些在利益边缘游走的人，一句话：

你希望生活在一个什么样的世界，就选择去做什么样的事情。

当世界上有了千千万万个“虞某”，那你也逃无可逃。