AI“复活”已故亲人引发热议:谨防技术被不法分子使用

AI“复活”已故亲人引发热议:谨防技术被不法分子使用
2023年04月18日 20:01 丁道师

前不久,UP主“吴伍六”通过AI技术,“复活”了已经去世的奶奶,引发了各方关注。

通过这位UP主发布的视频来看,他的“奶奶”基本可以做到日常对话那般随问随答。“吴伍六”也坦言,自己运用了包含ChatGPT在内的最新工具,希望通过AI技术填补自己的小遗憾。

在ChatGPT大模型的加持下,AI竟然如此神通广大。关于这条视频,网络上出现两派截然不同的声音。

支持者认为,通过AI技术“复活”逝者可以一定程度上缓解丧亲之痛,这项技术应该迅速普及;担忧者认为,虚拟世界与现实世界的界限应该保持清晰,不可沉迷其中;反对者认为,如果不法分子也掌握了这项技术,就可以实施电信诈骗等危害行为,因此要限制AI的发展。

日前,我做客 《北京新闻广播·新闻天天谈》节目,就“AI复活已故亲人”“大模型技术发展”“虚实融合”相关话题,谈了一些观点和看法。今天分享出来(有补充),供大家参考。

1、我们关注到,在“与奶奶对话的视频”里,博主花了2分50秒的时间来讲述自己合成奶奶形象以及与奶奶对话视频的过程,从这个视频来看,看起来时间不长,但是,所谓“内行人看门道,外行人看热闹”,对于不是从事这个行业的人来说,是不是还是有一定门槛的,还是想请教请教您,他的这番操作是否算是高科技,没有AI技术基本功的人,也能做出这样的虚拟人吗?

答:我们透过视频可以看到,整个流程没有用到编写代码,也不需要懂指令集。理论上来说,任何人借助这种工具,都可以生成以假乱真的数字人。

不过,所涉及到的大模型GPT,以及AI内容生成图片产品,有几款是美国的。这就需要使用者掌握一定的翻墙或者间接翻墙技能,以及需要有一定的英文基本功。

所以,目前UP主的这番操作虽然不需要太高深技术含量,但对于普通网友还是有一定的使用门槛。

2、此外,我们也看到有报道说,国外与逝者聊天的相关服务,近年来已经形成了一条产业链,有需求的人只需要花费十美元就能创建属于自己的聊天机器人,AI会扮演你最熟悉的那个人,陪在你的身边,而那些收费更高的AI技术则可以记录人们的生活故事,并且打造专属的虚拟形象。国内市场上,现在是否有提供相关服务的公司和业务?

答:国内大模型发展虽然比国外落后几个月,但也可以实现,也需要打一套组合拳。

我们可以用百度的文心一言,生成标题、脚本、内容。可以用APUS旗下的简笔成画和墨染生成你想要的图片或者形象,可以用科大讯飞旗下的讯飞配音生成定制语音库。

至于虚拟人形象,科大讯飞以及即构科技等公司,也可以定制。也可以期待百度,百度的虚拟人很早就实现了语音、唇动、肢体动作的相互配合,期待它能够迅速对公众开放。

另外,想把这些过程输出为一个完整的视频,可用剪映这样的工具完成最后的剪辑。

再补充一个信息,现在阿里巴巴正在研发自动生成视频的技术,有17亿个参数。不过这个服务我体验后,效果还很差,将来进步后也有引爆市场的机会。

3、“AI复活已故亲人”给人带来的温暖和安慰,当然如果深度依赖也会给人带来负面影响。也想请问您的观点,对于“科技是否能够用于逝者追思”这样的问题,您会给出怎样的回答?

答:这个话题几年前我就思考过。

我记得在几年前,有部名为《与你相见》的纪录片在韩国引发关注。在这部纪录片中,韩国母亲张智星失去了7岁的女儿,有一支制作团队借用虚拟现实技术,来帮助她在元宇宙世界中与女儿重逢。

当元宇宙中的女儿喊着“妈妈,妈妈”奔向张智星时,所有人都泪目了。

我在想,随着技术的高速发展,真与实的界限逐步模糊,将来借助虚拟技术,每一人都可以和已故亲人重逢,该是多么激动人心的事情啊。

还有电影《美国队长3》我们都看过吧,在这部电影中,钢铁侠耗资6.11亿美元,打造了一个与去世亲人可以相见并且互动的虚拟模型项目,骗过了麻省理工学院所有学生。这个模型,应用了二元扩张倒退框架,通过海马体消除创伤记忆,虽然无法改变真实发生的事情,但在虚拟世界可以改变一切,因此一定程度上治愈了失去双亲的内心创伤。

至于深度依赖也会给人带来负面影响,这个是心理学话题,我不是很懂。

4、这条新闻之所以能够引起大家的广泛讨论,甚至是争吵,实际是因为大家担忧科技的边界到底在哪,尤其是CHATGPT带来的这一波生成式AI热潮,在拥抱新世界的热情之余,一些面对未知的恐惧、不安也开始涌现。未来生命研究所此前公布一封公开信,呼吁所有AI实验室至少在未来6个月内暂停训练比GPT-4更强大的AI系统,公开信一出,舆论迅速发酵;意大利个人数据保护局宣布,3月31日起禁止使用聊天机器人ChatGPT,并限制开发这一平台的美国人工智能公司OpenAI处理意大利用户信息。在您看来,大家担心的AI失控背后的本质是什么?

答:很简单,大家担心的问题就是那个永恒问题--到底是人控制AI,还是AI控制人。一旦AI有了思想和自主意识,它是要造福于人类世界呢,还是会毁灭人类世界呢,没人能给出答案。

所以,为了谨慎起见,有人呼吁未来6个月内暂停训练比GPT-4更强大的AI系统,欧洲那边更是把最擅长的立法拿出来,意图限制AI的发展。不过,以Gpt4为代表的自然语言生成模型,发展到今天,只能继续往下发展,它不会以任何人的意志而扭转。

就像宝刀屠龙一样,人人均知它的威力和危害大,但人人对它垂涎三尺。这段时间,国内包括百度、阿里、360等陆续抢先发布大模型,已然证明了一切。

5、数字虚拟人技术的发展已经成为一个不可逆转的趋势。随着AI技术和计算机图形学的进一步发展,数字虚拟人将会变得越来越逼真和精细。我们需要正视生成式AI可能带来的哪些风险?我们可以做些什么来规避这些风险?

答:现在AI生成视频还做不到以假乱真,但生成文字和图片,已经可以骗过大多数网友了。我们要警惕不法分子,利用AI技术施行电信诈骗、侵犯用户个人隐私等行为,所以我国也开展了积极立法。

4月11日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见,内容的真实性、训练数据的安全性等备受关注的话题皆在其中。意见稿提出,利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。根据征求意见稿,生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

另外,我们的行业也在积极自律。比如我们通过百度文心一言或者阿里通义千问,输如一些敏感和违规词条,它们不会给你输出任何答案。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部