AIGC时代 vivo的安全世界观

AIGC时代 vivo的安全世界观
2023年09月08日 15:54 深度-围观

世界观是企业的灵魂,它决定了企业看待世界和解决问题的方式,对于企业的长远发展具有至关重要的作用。

最新的数据显示,vivo的产品覆盖全球大概60多个国家,超过5亿活跃手机用户。另外,vivo在整个全球线下的销售及售后网点超过了32万个,在AIGC时代vivo所面临的安全挑战众所周知。

vivo公司创始人、总裁兼CEO沈炜曾经说过:“数据安全和隐私保护是消费者的基本权利,是企业获得消费者信任的基石,我们要把数据安全、隐私保护与守法合规作为企业研发经营活动中绝对不可以触碰的红线和基本底线,来指导各项工作的开展。”

每个手机品牌厂商都有其自身的市场策略和发展战略,对于安全问题的处理方式也会因公司文化和市场策略的不同而有所不同。

沈炜的表态,表明vivo公司高度重视数据安全和隐私保护,将此作为企业的重要价值观和行为准则,同时也表现出其对法律法规的尊重和合规经营的态度。

迎接挑战

vivo祭出“四板斧”

不可否认,AIGC会给手机等智慧终端带来巨大的创新与变革,同时也会带来新的挑战。

由于AIGC可以生成高度逼真的内容,包括文章、视频、音频等,平台需要面临对内容真实性和可信度的验证和审查的挑战。区分AIGC和真实用户生成的内容将变得更加困难,可能导致虚假信息的传播。

AIGC可能会涉及到版权和知识产权的问题。手机等智慧终端需要确保生成的内容不侵犯他人的版权,并且需要解决AIGC内容的知识产权归属问题。

AIGC可能会使用大量的用户数据进行训练和生成内容,需要加强对用户隐私和个人信息的保护,避免滥用用户数据。

AIGC生成的内容可能会涉及到道德和伦理问题,如虚拟人物的权益、不当内容的传播等。需要关注和解决这些问题,确保不会对用户和社会造成负面影响。

AIGC生成内容会有风险漏洞,包括涉政、黄赌毒等敏感信息,对使用者会造成不良影响。

vivo首席安全官鲁京辉

“ AIGC以其强大的创造力和多样性,为用户带来了无限的想象空间和乐趣。vivo作为一家以用户为中心、以科技创新为核心竞争力的企业,一直在AI这个赛道深耕,以期为用户提供更好的产品体验和服务。” vivo首席安全官鲁京辉受邀出席2023 亚马逊云科技re:Inforce中国站时表示。

vivo高度重视AIGC带来的新的安全和合规挑战,以保护用户数据与隐私为核心,从AIGC的内生安全、内容安全、运行安全和合规四个方面进行了探索和实践。

首先,建立AIGC业务开发和安全合规的流程制度,明确相关能力和应用的安全标准。

其次,确保训练数据的安全性和合规性,有效预防恶意攻击者的投毒样本、后门样本等的注入,同时加强数据质量管理和标注人员的安全资质培训,确保数据标注的准确性。

另外,为AIGC业务提供安全可靠的工具和环境,使用安全的框架软件和API,并将AI模型的安全性测试(如对抗样本攻击测试)纳入开发流程,作为测试验收的安全指标。

最后,与产业、学术界保持交流沟通,及时了解前沿情报和安全实践,共同探索更好的AIGC安全保障措施。

通过制定AIGC相关流程制度的内生安全来确保模型安全。

在内容安全上。

首先,vivo基于科学、道德、伦理、核心价值观和公序良俗构建了合规语料库和图像库,以全面识别和过滤违法、违规、违德内容。

其次,内容过滤平台具备针对图像、文字、语音对抗等AI攻击的特殊防御和加固能力,并通过内部模拟蓝军,模拟各种可能的攻击,形成多种防御手段。

针对大模型文字交互场景,内容过滤平台也进行了专项研究,以应对“角色扮演”、“反向诱导”等已知主流攻击方式。

最后,vivo配备了全天候的人工审核巡检以及完善的应急响应流程,以确保及时发现并降低线上内容安全风险。

在保证云上安全时,无论是在手机端独立运行的AI产品,还是端云协同的AI产品,vivo都通过数据安全体系和AI安全推理,确保高权限的AI应用能够安全地触及相关模块/系统。

同时,vivo的原生安全能力能够提前感知并拦截恶意操作,防止核心资产被恶意应用和黑灰产盗取,以及重要数据泄露。

在合规和保护隐私方面:

vivo将部分高敏的垂类模型部署在端侧,在端侧完成业务的闭环,让用户获得智能服务的同时,防止数据泄露。

vivo按《生成式人工智能服务管理暂行办法》要求,将对用户输入内容进行过滤,对大模型生成内容进行审核,有力保障大模型生成内容合规。

“相关产品也将接入vivo隐私中心,方便用户快速地行使数据主体权利。”鲁京辉表示:“vivo在AIGC服务产品将支持未成年人模式,有效地管控未成年人过度依赖或者沉迷的风险。”

“千镜”护航

构筑移动可信互联网生态

2020年,vivo意识到随着全球化和数字化的发展,手机厂商在保障用户安全和隐私方面面临着越来越大的挑战。为了更好地保护用户的隐私和数据,vivo提出了“PROTECT”安全策略,并将其作为公司的一项长期战略。

据悉,“PROTECT”涵盖了数据隐私保护、数据风险管理、产品对象安全、关键安全技术、安全工程和合规管理、安全攻防七个方面。

同时,vivo在内部建立了数据保护管理委员会,作为最高管理和决策机构,确保“PROTECT”安全策略的有效实施。

在技术实践上面,抽象出来千镜安全范式。vivo的安全团队是以千镜安全实验室的形态对外进行交流、能力沟通。

鲁京辉说:“我们的核心点,是以整个千镜安全架构为核心,通过安全技术、安全工程、安全攻防来形成整体的能力建设的技术主架。”

在构建端侧的千镜安全架构的同时,通过不同的技术服务形态去推动,赋能于行业,构建一个健康的可信生态。

核心点是通过一些安全能力的开放,包括基于千镜架构设备的安全性检测、可信度,充分利用手机终端提供的“护城河”的能力,去构建相应能力,同时赋能于合作伙伴。

vivo通过采用亚马逊云科技安全可靠的全球性基础设施,直接继承亚马逊云科技全球基础设施方面相关的安全合规认证。

借助亚马逊云科技的多种安全服务,例如威胁检测与事件响应(Amazon GuardDuty)、身份认证与访问控制​(Amazon IAM)、网络与基础设施安全(Amazon WAF​)、数据保护与隐私(Amazon CloudTrail)和风险管控及合规​(Amazon Trusted Advisor)等相关服务,去构建相应的云上数据安全。

另外,近期,vivo还做了68项云上安全的相关检查。通过云上的安全检查和相关的共创活动,进一步厘清和梳理了PROTECT战略中需要进一步的改进和合作的潜在点。

“这一块,是我们在过去一年中除了采购服务以外,和亚马逊云科技合作的一个亮点。” 鲁京辉表示。

从另一方面来看,中国移动互联网生态整个产值大概是10万亿,其中有20%到30%最后是进入了黑灰产的池。

因为手机厂商不光是提供一个硬件设备,其实是承载了各种各样的类似支付、广告、视频、游戏等服务。

最近两年千镜引擎以后,每个月能够识别出的欺诈行为,帮助消费者挽回的资产都是百万级甚至千万级。PROTECT战略最后一个“T”就是攻防,每年都有很多的专项行动。

“要整个产业的上下游共建,才能构建真正有序的、健康的、安全的移动互联网生态。”鲁京辉表示:“不要指望因为我们做好了,黑灰产就能消失,一定要抱很卑微的姿态知道我们面临的攻击只可能越来越强”。

结 语

vivo认为,安全是智能手机的基础,只有确保用户的隐私和数据安全,才能让用户放心地使用智能手机。

因此,vivo一直致力于提供全方位的安全保障,让用户的智能手机使用体验更加安全、便捷。

为此, vivo一直在不断探索和研发安全技术。其中,人脸识别技术和指纹识别技术是vivo的两大核心技术。

除了核心技术,vivo的安全防护技术也是其安全体系的重要组成部分。vivo的安全防护技术包括应用加密、数据加密、文件加密等多项技术,可以有效保护用户的隐私和数据安全。

为了构建安全的智能手机生态,vivo一直在积极与各方合作,打造安全的应用商店、安全的网络环境等。

如果用一句话来总结那就是:做正确的事,把事做正确。

vivo的安全世界观是一种全面的、系统的安全观念和态度,可以更好地理解和应对安全问题,保障系统和应用的安全性和稳定性。

鲁京辉说:“vivo的目标是以设计和驱动来创造伟大的产品,以智能终端和智慧服务作为主要的载体,提供给消费者最佳的使用体验,这是我们的基本目标。”

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部