全球数治 | 美国规制人工智能,发布问责框架

全球数治 | 美国规制人工智能,发布问责框架
2021年07月16日 19:17 澎湃新闻

这里是“全球数治”专栏周报,追踪近期全球数字治理动态。

近日,美国政府问责署 ( the U.S. Government Accountability Office, GAO)对联邦机构及其他组织机构发布了人工智能(Artificial Intelligence, AI)问责框架,该框架分为治理(Governance)、数据(Data)、性能(Performance)和监测(Monitoring)四个部分。每部分都包含关键做法,关键问题和问责程序等内容。(来源:

美国纽约大学的 AI Now 研究所曾在其2018年发布的《

》中专门研究了AI问责的重要性。报告认为,随着AI应用的普遍性和技术复杂性不断上升,缺乏有效的问责机制日益成为一个迫切问题。主要原因在于:第一,AI发展过程中,责任分配上的鸿沟日益扩大,创造并部署这些技术的人获得了更有利的地位,但这是以牺牲那些受到技术影响人群的利益为代价;第二,利用AI实施监控,特别是与面部和情感识别相结合,可能加重集中控制和压迫的潜在威胁;第三,政府越来越多地使用会直接影响公民和社区的自动决策系统,但相应监督机制缺位,导致不公正;第四,对人群进行各种不受管制、不受监督的AI实验有可能触发伦理风险;第五、仅用技术解决偏见和歧视问题存在很大局限性。现实的挑战促使人们越来越关注程序正义、责任分配以及针对损害的问责和追究,并呼吁制定相应法规和政策。

AI问责具体是指,一旦AI系统采取了某个行动,做了某个决策,就必须为由此产生的结果负责。当然,由于AI系统本质上是机器,无法承担法律责任,因此问责的对象实际上是系统背后的人或机构。GAO认为,AI的运行和操作对用户是不可见的,透明度缺乏将为监管和审查带来阻力。同时,AI有可能放大与公民自由、道德和社会差异相关的偏见和担忧。因此,GAO强调应重视AI问责,以确保相关技术和系统的公平、可靠、可追溯和可治理,并引导美国政府和所有参与设计、开发、部署和持续监测人工智能系统的机构与企业负责任地使用该技术。当然,在有效监管的同时,也需要平衡好保护公众免受人工智能技术潜在有害影响与鼓励积极创新之间的关系。

目前,美国还没有联邦层面统一的数据保护立法,但电信、金融、健康、教育等行业,以及加利福尼亚等部分州和地方制定了各自的数据法规。也有一些关于AI的政策与规划陆续出台,但未上升到法规层面。其中,2016年,美国发布《为人工智能的未来做准备》、《国家人工智能研究与发展战略计划》两份报告,人工智能被提升至国家战略高度。2019年11月,美国发布《人工智能伦理道德标准》,但并不具有强制约束力。2020年,美国发布《人工智能倡议首年年度报告》,回顾在人工智能方面取得的进展,为未来的AI计划提出了长期愿景。然而,这些都未就如何防止AI系统可能产生的危害确定解决方案。此次GAO出台AI问责框架,为今后创设相关立法、出台政策设定了原则和方向,是美国在AI治理方面一个比较重要的进展,也体现了美国上下对AI伦理问题的关注。

科学技术永远是一把“双刃剑”。它一方面为创造人类更加美好的生活开拓了广阔前景,另一方面又不断挑战着人类的伦理底线、为破坏人类生存基础提供了条件。长远来看,AI导致的问题并不仅局限于侵犯隐私,还将体现在诸如算法歧视、人类对智能化过度依赖、AI对人类造成身体或精神伤害等方面。AI给行业和社会带来的变革,最终是为了服务于人,而非超越人、替代人。世界各国在顺应未来趋势,大力发展AI技术与应用的同时,也需要重视制定适当规则,施以有效治理,保障AI技术长期可持续发展。

规则:

中国网信办发布《网络安全审查办法(修订草案征求意见稿)》

7月10日消息,中国网信办发布关于《网络安全审查办法(修订草案征求意见稿)》公开征求意见的通知。其中提出,掌握超过100万用户个人信息的运营者赴国外上市,必须向网络安全审查办公室申报网络安全审查。(来源:

政策:

欧盟:暂缓推进数字税征收计划

7月11日,欧盟委员会宣布,出于美国财政部长珍妮特·耶伦(Janet Yellen)的施压,欧盟可能推迟到秋季提出数字税计划,以提高达成全球税收改革协议的可能性。近年来,欧盟一直在酝酿出台新的税务规则,以应对美国谷歌、苹果、脸书、亚马逊等科技公司巨头在欧洲国家的避税举措。美国曾多次公开施压欧盟,要求其放弃数字税征收计划,并指责其对美国公司公开歧视。(来源:

欧洲议会批准300亿欧元“连接欧洲设施”计划

7月7日,欧洲议会批准更新版“连接欧洲设施”计划,拟在2021年至2027年间划拨300亿欧元于交通、能源和数字化基础设施建设,旨在确保到2030年如期完成一系列跨欧洲重要基建项目,包括波罗的海铁路、替代燃料充电基础设施、5G覆盖交通枢纽等。按照计划,欧盟将通过该计划投资约230亿欧元用于交通项目,50亿欧元用于能源项目,20亿欧元用于数字化项目。(来源:

美国或将与俄罗斯就勒索软件问题建立定期沟通机制

7月9日,美国总统拜登宣布,美国政府或将与俄罗斯政府就应对勒索软件攻击达成合作。此前,拜登与俄罗斯总统普京在日内瓦峰会上就勒索软件攻击事件进行了会谈。拜登称,应禁止对关键基础设施部门的攻击,并称两国专家将就具体的禁止措施展开谈判,打击“非国家支持”的黑客组织。(来源:

美国纽约市启用网络防御中心

7月8日,美国纽约市在曼哈顿启用了一个酝酿已久的网络关键服务和基础设施运营中心,以抵御重大网络攻击。该运营中心由公私部门联合运营,其中的参与者包括亚马逊、联邦储备银行、IBM、纽约市警察局和多个医疗保健机构。如果发生网络攻击,这些机构将展开密切合作,并调动资源共同抵御攻击,防止纽约市基础设施遭到破坏。(来源:

监管:

美国36个州及华盛顿特区起诉谷歌公司违反美国反垄断法

7月7日,美国36个州和华盛顿特区于加州北区地方法院起诉谷歌公司在运营其安卓应用商店时违反了反垄断法。起诉书称,谷歌在提供应用购买和订阅服务时存在向程序开发者收取了30%费用;禁止带有异议内容的应用在其应用商店上架;通过排他性合同、技术壁垒和“误导性”安全警告为潜在竞争者设置障碍等行为。(来源:

中国工信部、网信办、公安部联合印发《网络产品安全漏洞管理规定》

7月12日,工业和信息化部、国家互联网信息办公室、公安部近日联合印发《网络产品安全漏洞管理规定》,旨在维护国家网络安全,保护网络产品和重要网络系统的安全稳定运行;规范漏洞发现、报告、修补和发布等行为;明确网络产品提供者、网络运营者,以及从事漏洞发现、收集、发布等活动的组织或个人等各类主体的责任和义务;鼓励各类主体发挥各自技术和机制优势开展漏洞发现、收集、发布等相关工作。《规定》将自9月1日起施行。(来源:

产业:

中国工信部发布《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》

7月12日,中国工信部公开征求对《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》的意见。征求意见稿指出,到2023年,中国网络安全产业规模将超过2500亿元,年复合增长率超过15%。一批网络安全关键核心技术将实现突破,达到先进水平。(来源:

德国马普研究所实现纠缠光子的无损检测

7月9日,德国马克斯·普朗克量子光学研究所研究人员实现纠缠光子的无损检测,成功地重复两次检测到单个光子在光纤中的运动而不产生破坏。马普研究所研究人员基于困于反射腔内的铷原子制作出一种非破坏性探测器,使用激光脉冲进行探测。根据测试结果,研究人员在相距60米的两个探测腔内均检测到同一个运动的光子,并没有产生损耗。该成果或将为量子传感和量子通信的研究铺平道路。(来源:

德国马普研究所官网)(本文来自澎湃新闻,更多原创资讯请下载“澎湃新闻”APP)

财经自媒体联盟

新浪首页 语音播报 相关新闻 返回顶部