据英国每日邮报报道，英国一名公司高管被一男子诈骗了24万美元(170万人民币)，该男子使用某种语音模仿软件，假装成该高管的老板要求汇款。据报道，此案被认为是全球首例人工智能诈骗案，可能将重新引发人们对人工智能软件被用于犯罪的担忧。
网络安全公司Symatec的研究人员称，他们发现了3起类似的案例，都是高管被使用人工智能技术的骗子通知，往另一个账户汇款。该公司透露，其中一个案例的损失总计达数百万美元。
人工智能让“眼见为实”成为过去
近期人工智能可谓“闯祸”不断，除了AI电信诈骗，ZAO等利用AI进行视频换脸技术的也引发了巨大争议。通过AI技术，用户只要上传一张自己的正脸照，就能将电影片段中演员的脸换成自己的脸，从而在熟悉的影视作品中，与明星偶像同台“飙戏”。用户还可以将制作完成的视频分享到微博、朋友圈等社交平台。一时间，朋友圈里被“换脸”视频刷屏。
ZAO的出现迅速引来了公众的质疑与担忧。根据“ZAO”的默认用户协议，用户的面部识别特征等个人隐私信息能够被“ZAO”保存、修改与再利用，也就意味着，用户在使用这个App时，已经将肖像资料与权利完全让渡出去。
除了引发大众对AI的焦虑，ZAO的推出也确实助长了一些违法犯罪的行为发生。据澎湃新闻报道近日，二手交易平台闲鱼上出现了多位卖家通过AI换脸技术制作出当红女明星的不雅视频，进行售卖。一位类似卖家给出的报价是：75元套餐中有40多位女明星上百部的AI换脸视频，99元套餐则可“永久外网观看任意资源”。针对这一现象，阿里安全日前在官方微博上给出了回应，称已经在第一时间下架违规不雅视频。
虽然AI模仿语音、AI换脸等技术在日前引发了一阵热潮，但这些技术却并不是新鲜事。早在2018年就有换脸App在国外出现，该App可生成的视频内容包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星身上，与ZAO的功能类似。这种做法也引发了外网的大量争议，虽然利用App制作的视频被各大视频网站明令禁止，但AI换脸技术却一直进化至今。
事实上，这些利用人工智能达成的深度伪造技术已经对社会安全造成了威胁。计算机科学家图雷克表示，这让我们对图片和录像都不信任了。Instagram总裁莫斯里也在接受采访时表示，目前业界还没有大规模的数据或标准对这些假视频进行检测。在人工智能肆虐的时代，我们还能靠什么辨明真伪？
人工智能未来的发展目前仍然难以判断
针对这一现象，学界、业界以及政策都在积极思考对策应对这种对AI技术的副作用。就在昨天，Facebook和微软(Microsoft)发起了一项新的运动，将打击那些看起来极其逼真的深度伪造视频。
不仅是美国，我国也在积极探索如何正确引导人工智能向善。百度CEO李彦宏以及腾讯CEO马化腾都曾在公开场合表示人工智能需要监控和监督才能更好的发展。在今年的世界人工智能大会上，备受关注的马云、马斯克的辩论也在围绕人工智能未来的威胁。
除了科技巨头，监管部门也在积极制定关于人工智能的各项规章制度。今年6月国家新一代人工智能治理专业委员会发布报告，提出发展“负责任的人工智能”。7月24日，《国家科技伦理委员会组建方案》被通过，根据《国家科技伦理委员会组建方案》要求，组建国家科技伦理委员会。
然而，以BAT三巨头为代表的中国科技企业，应对人工智能高速发展所带来威胁的策略都仅仅停留在口头上，针对人工智能的监督目前仍没有实际上的进展，中国科技企业在应对人工智能所带来的威胁方面所做的努力远远不够。此外，国家层面有关人工智能伦理的政策也刚刚起步，并未对人工智能行业起到实质性的监管作用，未来一段时间内利用人工智能的犯罪是否会迎来爆发尚且很难预测。
未来人工智能究竟将成为强大助力还是难以控制的灾难，目前依然难以判断。
