收徒卖课圈钱多没底线?他们靠已逝明星引流

收徒卖课圈钱多没底线?他们靠已逝明星引流
2024年04月29日 22:30 科技狐

古人都追求长生不死,现代人更牛,轰轰烈烈地搞起了赛博“复活”。

段时间,多位已经去世的明星,被神奇地“复活”了。天后李玟突然在短视频平台亲切地和大家打招呼,粉丝们顿时泪流满面。

这犹如打开了潘多拉的魔盒。紧接着,高以翔、乔任梁、张国荣等知名艺人纷纷在网上向公众问好。不得不承认,乍一看场面确实很温情,但却又令人细思极恐。“复活”他们,究竟是谁同意的?

以前老祖宗们吃仙丹,做法事,统统被嘲封建迷信。现在讲究的是科学,AI “复活”听起来就高端多了。但这何尝不是一种当代招魂术?只不过各路大师神婆,变成了前沿科技的代表 AI 。

一场“AI 复活热”悄然展开,各路牛鬼蛇神悉数登场……

AI 复活热来了

最开始,“复活”仅仅是存在于科幻电影中的桥段。还记得在《流浪地球 2》里,科学家图恒宇“复活”了在车祸中去世的女儿。

没想到这么快,科幻就照进了现实。同样是出于父亲对女儿的思念,著名音乐人包小柏成了现实中的“图恒宇”。

2021 年,包小柏的女儿因病去世,为了走出痛失爱女的阴影,他苦心钻研 AI 技术,还读了个相关专业的博士。

经过反复地尝试训练后,今年 2 月,他终于用 AI 复刻出了“数字女儿”,瞬间引发轩然大波。

一时间各大媒体纷纷报道,成为“技术疗愈人心”的正面教材。

无独有偶,在商汤科技年会上,创始人汤晓鸥的数字人现身,一开口就引来现场无数的掌声和泪水。

他看起来还和生前一样,能说能笑,能跟大家插科打诨……

之后,在媒体的推波助澜下,“AI 复活”的案例层出不穷。有人看到的是感动,有人看到的生意。特别是今年清明节期间,用 AI “复活”亲人仿佛成了一种新的“潮流”。

化悲痛为生意?

有需求便有市场,各大电商平台都相继推出了 AI “复活”服务。

他们以“复活去世亲人”为噱头,有的甚至直接用包小柏“数字女儿”的图片,给店铺打广告。

只需要花上 10 块钱,就可以重新看到逝去亲人的音容笑貌,已经有 2000 多人下单了。

不过,这些收费便宜的店铺只能做到“让照片动起来”、“照片开口说话”等简单服务。效果粗糙,动作幅度很小,基本上“一眼AI”,甚至有点尴尬。

如果想实现聊天功能,看起来栩栩如生,还得找专业团队进行一对一定制服务。这就需要建立面部模型,用大量声音样本进行模拟训练等,才能让死者“活过来”。

南京有一个“超级头脑”团队,他们从 2022 开始涉足“AI 复活”领域。因需求火爆,不到一年就完成了 650 多个订单,每单平均收费几千到一万元不等,大约一周的时间就可以完成。

在短视频和二手交易平台,也出现了相关业务,甚至有些成立了专业团队,大张旗鼓地招学徒、招代理……

他们自称科技暖人心,实则做着“黑心”的买卖,往往利用 AI 换脸逝世明星来引流,然后再收费、割韭菜。

“代理 199 元,半价拿货;收徒 399 元,包技术指导,免费派单。”

这也是为什么一时间有那么多明星被集体“复活”,千篇一律的问候语,无不透露出流水线的生产模式。

几分真心未可知,但热搜却很扎心。乔任梁的父亲站出来,表示未经许可,不能接受。这不是在怀念,而是揭他们伤疤,希望对方尽快下架。

高以翔家人也喊话要求下架有关视频。让逝者至亲再度陷入悲伤的漩涡,这样的“人血馒头”好吃吗?

AI 复活逐渐跑偏

随着 AI 复活的火热,肖像权侵犯、隐私数据保护、诈骗等诸多法律风险也逐渐浮出水面。

尽管很多店铺都一再强调:“只帮助缅怀亲人,不做人脸识别,也不做违法的内容。

但如何断定被复活的“人”只是用于缅怀,而不是干别的?这个问题即便是专业团队,也只能凭直觉去判断。

在过去的一年里,AI 换脸诈骗层出不穷,有人甚至在短短 10 分钟就被骗数百万元。

为了更逼真的“复活”,就需要尽可能多的提供死者的照片、视频或者语音样本,这也就不可避免造成隐私的泄露。

1993 年,英国发生了一桩震惊全球的儿童杀人案。有个叫詹姆斯的两岁幼儿被残忍虐杀,而犯罪者却是两个十来岁的男孩。

如今 30 年过去,热度不减当年,有些网友为了继续收割流量,开始热衷于AI “复活”詹姆斯。

无孔不入地收集受害者的隐私信息,好借他之口去还原当初的案情经过。詹姆斯的母亲因此深受打击,不得不出面在推特上强烈谴责。

这些所谓的 AI “数字人”,伤害的不仅是逝者的家属,还有更多普通大众。

一位油管小博主发视频控诉,中国有人把她克隆了。原来,某制作团队利用她的形象,通过 AI 技术创建了“数字人”,凭借定居中国的俄罗斯美女人设迅速吸粉。粉丝比本体还多,足足有 20 多万,并定期直播带货。

事实上,中文互联网上这样的“外国美女”,还有一大堆。她们无一例外,都操着一口流利的普通话,自称在中国生活多年,卖着“本国”的特色产品,专门收割中老年人。

此外,数字生命还有一个更深层次的问题需要直面,那就是伦理问题。

一个人死后,他的数字遗产便能任由其他人支配?他同意别人复活自己吗?

通过 AI 复活的,还可以称之为“人”吗?万一这个“亲人”出现与真人不相符的行为模式,能不能接受?

美剧《黑镜》里有这样一个故事。男友车祸死后,女孩利用他在社交网络上留下的大量数据,制作出了一个仿生机器人男友。

声音和外表都一模一样,女孩起初欣喜不已。但很快发现不对劲,这个机器人男友虽然比真人更完美,但只不过是在呆板地按照命令行事。

他不用睡觉,也不会受伤,没有喜怒哀乐……故事的最后,她不得不选择将机器人锁在阁楼上。

亲近的人逝去,一时难以接受是人之常情,但复制一个同样的人,每天沉迷和逝者交流,真有助于从痛苦中解脱吗?

如果是“过渡期”,尚可借助 AI 暂时缓解悲痛。但就怕有人走不出来了,一直活在过去中。所以,利波特在去禁林赴死前,最终还是把复活石扔在地上了。

数字生命何去何从

人生原本就是一个不断得到和失去的过程。面对失去,有人选择坦然接受,有人假装“失而复得”。

其实无论做出何种选择,都不如先学会珍惜当下。很多人就算想要复活亲人,却发现连一张能喂给 AI 的照片也没有。在还有机会的时候,多陪陪他们,比什么都强。

如今 AI 复活这门生意,显然已经开始跑偏了,一开始我们希望它能够安慰生者,而现在更多的是在消费死者。

现在还只是开口说话的视频,未来可能是无限接近于人的“类人”,直到他们拥有了自我意识。有时候比科技更先撞到南墙的,是人类的想象力。以前我们只是担心 AI 取代工作,以后可能还要担心 AI 取代自己。

很多世界级富豪还活着呢,就开始忙着复制自己,搭建数字永生库。说不定这可能将会变成一种标准服务,就和打印照片一样简单。

任何足够先进的科技看起来都和魔法无疑,如今高速发展的 AI 就是一个无法再放回瓶中的精灵,不要轻易许愿,因为真会实现。

“技术先行,监管滞后”,人工智能领域也是一样。AI 复活带来的麻烦越来越多,单靠从业者的自律显然不够,还必须得监管到位才行。

一时间,我们还分不清是那些被复活的数字人是亵渎,还是救赎。但可以确定的是,它已经成了一本万利的生意。

参考资料:

南风窗:知名艺人被AI“复活”,家人称“不能接受”

科技君:元宇宙的清明节,用AI“复活”亲人?

酷玩实验室:AI下一站:从"复活"明星到数字永生?

电商头条:清明节,有人用AI“复活”亲人

法制日报:AI“复活”未获逝者家属同意 目的是为推销相关课程

编辑:茶茶

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部