■赛迪智库安全产业研究所 程明睿【译者按】
2021年8月，世界经济论坛首次发布了《为老年人设计人工智能技术》报告。当前，老龄化成为多国面临的主要问题，人工智能可以有效解决老年人服务需求，但在设计中如果没有考虑到潜在的风险隐患，老年人则会受到威胁，因此，制定严格的人工智能设计准则，满足老年人服务需求十分必要。报告研究了人工智能设计理念、隐私安全与数据安全等关键问题，提出了14项指导原则，为人工智能的适老化发展提供相应指导和启示。赛迪智库安全产业研究所对该报告进行编译，期望对我国有关部门有所帮助。
【关键词】老龄化 养老 人工智能
概述
随着全球各地平均寿命的显著延长，老龄化成为多国面临的重要问题。在生育率下降、预期寿命延长以及移民的推动下，全球60岁及以上的人口正在快速增加，预计2050年将超过16亿。几乎所有国家都将面临老年人口的增加，因此，各国政府、卫生系统和私营部门都应做好准备，急老年人之所急、思老年人之所需。虽然医疗服务与经济安全是基础，但随着人们步入老年，人们需要的不再仅仅是病例表和抚恤金，老年人需要针对性的服务，以满足其生理、心理及社交需求。
科技进步日新月异，运用人工智能(AI)等新兴技术满足老年人的服务需求，让老年人成为人类精神和物质社会中的完整一员不再遥不可及。人工智能具有变革性和广泛适用性，但如果在设计中没有重点关注潜在风险隐患，则将会造成不可估量且无法挽回的后果，对从人工智能中受益颇多的老年人群体来说，后果更加严重。此类问题庞大繁杂，需要社会科学家、工程师、哲学家和政策专家等协作解决。人工智能的设计不应该刻板地将老龄人视作附属群体，开发者必须深刻考虑老年人的生活特点，开发满足用户需求且保留用户控制权限的AI程序，构建有利于健康、能促进有益互动和发展的方案。自主式辅助机器人、无人驾驶汽车、智能健康软件、可穿戴装置、声控设备和智能家居等人工智能技术可用以应对就地养老(即希望在自主选择的社区中独立生活)、健康、流动性、社会参与、经济福利和照顾者负担等老龄化关键问题，但必须以设计意图指导技术开发，且应充分考虑隐私政策与用户同意。另外，还应平衡自主性与安全性，防止数据滥用，最大程度减少社会隔绝，也要尽量避免对人工智能的过度依赖。
本报告借鉴人工智能现有文献、专家访谈和专题小组的成果，为发展负责任的人工智能和满足老年人需求提供指导。本报告旨在为人工智能开发提供启示，而非详尽的指南。
为老年人设计人工智能的指导原则
(一)挖掘人工智能服务老年人的潜在价值
在产品生命周期的初期，应当明确老年人能够如何从人工智能中获益。该工作包括明确老年人的观念、待解决的问题、技术解决方法以及老年人如何从中受益。要通过用户与市场调研来证明人工智能的潜在价值，还必须分清技术带来的积极与消极影响，并防患于未然。
(二)采用以老年人为中心的设计流程
从早期的概念构想到后期的开发实践，须邀请老年人和其他相关者(如家人和专业护理人员)在整个产品开发过程中提供反馈。访谈、专题小组、相关群体和相关设计技术可以帮助了解这类人群的需求、期许和关注点，从而最大限度地减少推行人工智能可能遇到的障碍。可以通过多种方式招募老年人进行产品调研：报纸、在线招聘平台(例如亚马逊在线劳动交易平台)、社交媒体以及与地方机构建立合作等。
(三)将老年群体特征纳入人工智能数据集
在机器学习训练和测试中，将老年人的数据属性清晰描述出来，是创建服务老年人的人工智能系统的关键一环。但最近一项公开人脸数据集的分析表明，许多数据集对老年人的描述不足，甚至不包含与年龄相关的元数据。创建捕捉老龄人口多样化信息的数据集(年龄、性别、遗传、身体缺陷)，并在数据集中标注基本元数据，这是为老年人构建公平、积极的人工智能体验的第一步。
(四)开发对老年群体包容性强的产品
与常见观点相反，生理年龄并不是老年人的关键特征。换言之，老年人的身体、感官和认知能力因人而异，教育水平和科技体验也各有不同。在人工智能开发过程中，预先征集和考虑不同群体特征的老年人的需求，包括来自不同地域、不同社会经济地位以及生活在农村的老年人，有助于开发普适性产品。
(五)考虑老年残疾人群体的服务需求
虽然老年人的残疾可能是感官、肢体和认知功能随年龄增长而衰退下降所致，但个别老年人也可能是因为以前的生理损伤而导致残疾。除遵循广泛性原则外，获取遭受长期生理损伤的老年人对人工智能系统的反馈意见，是使人工智能系统满足众多用户需要的关键所在。
(六)公开人工智能的能力与局限性
用户往往对高保真性、高可靠性的人工智能系统抱有更高的期望。当系统功能无法满足这些期望时可能导致用户进行不当操作，且造成意想不到的后果，因此理清并公开人工智能的局限性至关重要。
(七)建立评价指标体系评估软件应用成果
制定用户对人工智能技术满意度的评估指标非常重要。根据人工智能的预期用途，制定标准时还应考虑技术对生活质量、孤独感、幸福感和乐观情绪的影响。此外，通过遥测技术和分析错误报告，还有助于评估人工智能系统的运行状况和有效性。
(八)尊重老年人隐私的五项原则
一是仅收集绝对必要的数据，防止人工智能泄露老年人期望保护的隐私。
二是通过规范数据存储和删除过期数据保护隐私。老年人常常质疑长期存储数据的必要性，不能将收集与保留数据设置为默认选项，而只应该用于特定有利用途。
三是在家庭中使用计算机图像系统时，应尊重老年人的选择权，考虑将系统安装于哪些房间。老年人通常将浴室和卧室等房间视为隐私，因此应尊重老年人的选择权，让他们能够自主权衡保护隐私与获取安全和自动化服务(例如跌倒检测)的利弊得失。
四是严格限制数据的获取权限。应将获取权限严格限制在能够在必要时为老年人提供帮助的特定人员中，例如亲密的家庭成员和专业人士。
五是为老年人提供隐私保护的用户控制。例如可以根据需要轻松打开和关闭某些人工智能设备/功能，或查看监控者视图。这些设计能让老年人感受到自身对人工智能的控制能力，对于为老年人营造成功体验非常重要。
(九)公开人工智能收集数据的目的和范畴
老年人非常担心侵犯住宅和网络隐私。他们无法完全理解人工智能技术是如何运作，或者如何使用用户数据的。因此，必须要做好信息披露，并应预先解决老年人可能关心的所有问题：例如介绍他们使用的智能家居设备、被收集和处理的数据、数据收集的目的、对老年人的好处、有权获取数据的相关方、数据的保留期限以及现有的隐私保护和安全措施等。
(十)人工智能产品必须获得老年人群体的认可
构建的人工智能系统必须得到老年人发自内心的认可，这既是对各种数据采集的法律要求，也是建立用户信任的关键。人们会考虑数据授权的利好和风险，还会利用既有经验和认识——如其他公司或产品对待他们个人数据的方式进行辅助判断。
用户常常要面对冗长又晦涩的隐私保护政策，并被迫选择同意。只有用户能够意识到正被索要授权、明白被索取的是哪些数据，不被强制要求同意授权、且可以在不影响获得基础功能的情况下撤销授权时，才可以称得上是真正有意义的用户同意。在知情、理解、选择自由和控制这四大基础上构建用户同意体验，并通过严格的用户调查协议评估隐私授权活动，有助于判断用户同意流程是否符合预期以及解决老年人关系的主要问题。
人们还必须认识到，这种授权并非毫无边界。换句话说，一种情况下的授权不可自动转移至其他情况。
(十一)最大程度降低老年人受骗风险
人工智能虚拟化身(例如护理教练)越来越多地用于与老年人互动，并为满足老年人的需求提供自定义服务。相关报告显示，使用高仿真声音与老年人互动时，向老年人明确该声音为合成声音，有助于调整老年人对人工智能的合理期待，并最大程度降低欺骗造成的危害后果。有关详细信息，请参阅微软关于如何披露的部分——“披露设计指南”。
对于患有中度至重度认知障碍的老年人，披露和同意可能被认为无效，此时应细心核查该项智能技术对这类老年人的利与弊，甚至需要获取监护人的同意。
(十二)保护数据免遭滥用和意外获取
应通过有效的安全防护措施保护老年人的隐私，阻止试图恶意获取隐私的行为。
(十三)引导老年人构建对人工智能的合理期望
人工智能是概率系统，不可避免地会出现偶然错误。当老年人在理财或健康管理等高风险情况下使用人工智能时，人工智能的失误可能造成严重后果。此外，由于认识能力随着年龄增长而衰退，老年人更容易过度依赖人工智能。因此，老年人正是从成功的操作体验中理解人工智能的操作，准确描述人工智能的作用，并对人工智能的可靠性产生合理期望。出现超出人工智能实际能力的过度信任时，需要将其调整为与人工智能能力相匹配的合理信任度。
(十四)评估护理机器人可能导致的社会隔离加剧风险
为解决护理员的需求缺口，世界各国将目光转向护理机器人，其中日本处于领先地位。然而，一些学者认为机器人无法完全满足老年人的社交和情感需求，过度依赖护理机器人，尤其是将机器人作为与人类互动的替代品，可能会降低老人的幸福感。低收入老年人也会因为过度依赖护理机器人而饱受其害。因此，设计人工智能系统应优先考虑老年人的幸福感，最大程度降低机器人的滥用风险，将高强度劳动任务交给机器人，让护理人员能够专注于个人护理。
结语
在全球范围内，60岁及以上年龄的人口增长比其他任何年龄组都要迅速。老龄人口的增加堪称当今时代社会、经济与政治的一次重大变革，影响着医疗、政府和社会系统，这些系统还远远无法满足老龄人口的需求。现在，应调动各级政府、社会、学术界和私营部门共同投资这些支持系统，并借助技术扩大其规模。人工智能等新兴技术有潜力应对老龄人口的护理和供养挑战，然而，这些技术的开发和部署应以老年人为中心，全面考虑老年人的生理需求、心理需要和社交需求，在尊重、维护老年人数据隐私的基础上，努力提升老年人的生活水平，通过精细化、人性化服务，让老年人作为社会的一份子被尊重、被爱护。
译自：
DesigningArtificialIntelligenceTechnologiesforOlderAdults,August2021byWorldEconomicForum
