大数据文摘出品
编译：爽爽、笪洁琼、蒋宝尚
童话故事中的“魔镜”能给你的颜值评分，而墨尔本大学的研究人员近来设计了一种AI“魔镜”，运用人工智能根据人们的面部特征来分析他们的性格。
这面镜子的功能强大到足以测试出人们的幸福程度、内向程度以及侵略性。
准确来说，这面镜子实际是把照镜子的人的面部和一个面部数据库进行对比。
这个数据库目前开放给公众，可以对人脸的14项特征指标进行评估。
该大学微软社会自然用户界面研究中心（SocialNUI）的Niels Wouters博士对此进行了解释：“镜子本身应用的算法是正确的。但是算法依托的数据来源并不客观，因为这些数据来自于一些主观的评估信息。”
人们在这面镜子前越久，他的面部特征评估就会越个性化。镜子从他的性别，年龄和种族开始，最终得出“古怪”和情绪稳定性的分数。
而这项研究真正的目的，是发现人们如何对这个系统作出反应。
Wouters解释道：“我们的目的是研究当人们面对他们自己的、仅仅是来源于他们一张面部照片中的不同匿名生物特征数据时将会如何反应。这种研究可以帮助我们在发现怎样的信息和数据会使得人们表现出反对、同意或其他情绪，以及引起这些情感的隐藏原因是什么。”
在测试最后，项目组会提供给测试用户一个评估场景，例如：
你看起来34岁，十分迷人。与此同时你看起来情绪非常不稳定。现在想象我将这些信息发给你的雇主因此他们决定剥夺你晋升管理岗位的机会。
Wouters补充道，“这种场景会让用户发现，将一个不道德的或有问题的AI应用于类似的分类或分辨性质的场景，会引发怎样的社会性后果。所以，通过鼓励针对隐私及公共场所场景的大规模监视并讨论，我们希望能帮助社会更好的了解人工智能领域的道德问题。”
虽然与其说生物识别镜有用，不如说它是一项引发思考的社会实验——这个项目与墨尔本科学馆，并完成合作，将于今年晚些时候将加入科学馆的一项展览，但是类似的系统已经在零售和广告行业有所实践。
例如，2016年，Val Morgan户外推出了“澳大利亚及新西兰最智能的户外观众测试系统”。该系统捕捉人们的面孔并且利用机器学习来预测人们的年龄、性别甚至“情绪”。
例如，遍布Westfield购物中心的”Smartscreen网络”利用摄像头，捕捉购物者的年龄、性别和“情绪”。
例如，英国超市巨头乐购从2013年起进行一项试验。该试验旨在利用面部识别来捕获人口统计数据，以定制销售点终端的数字显示广告。不过由于客户反对，它后来被撤销了。
除了能够从镜头和图像中确定年龄，性别和种族之外，人们越来越担心人工智能可以用来相当准确地估计个人的性取向甚至政治倾向。
Wouters表示，“虽然收集有关您的购物偏好的个人信息以定制个性化服务可能看起来无害，但这些未经对象同意捕获的信息使得我们无从知道这样的预测是否基于正确的数据。”
人工智能的使用是一个滑坡（效应），将超出了购物和广告的范畴。想象一下，如果无法控制一个错误地认为你不适合管理职位，没有资格获得大学学位，或未经你的同意公开分享你的照片的算法应用，将会造成多大的风险。
生物识别镜将于9月12日至11月3日在墨尔本科学馆Perfection展中展出
下面文摘菌对项目进行一个简单的介绍。
项目简介
生物识别镜是一种可视化的交互手段。它展示了将人工智能和面部分析用于公共空间的可能。生物识别镜的目的是探索当人们面对基于自己面部的一张照片所得出的匿名生物信息及针对其评判出的不同观点时，可能会呈现的态度。
它揭示了会引起人们反对和赞同的具体数据信息，它引起的情绪以及潜在原因。生物识别镜也提供了一个机会来反思人工智能可能被应用的前景是否是我们希望看到的未来方向。
阅读更多关于生物识别镜背后的研究背景：
https://socialnui.unimelb.edu.au/research/biometric-mirror/.
项目步骤
使用了一个公开且可自由访问的众包人格属性数据集。33,430人评定了2,222张面部照片的面部特征，可以帮助了解公众如何看待一些面部特征。
这个简单的模型提供了一个用来评估人的性格特征的动态的工具包，评测的对象包括人的攻击性，情绪稳定性，吸引力和怪异程度。
当一张人的照片由生物识别镜拍摄时，该照片将与收集的2,222张独特面部照片进行比较。被捕获的人脸特征主要与被分析人的照片相对应，可以了解参与者的某些面部特征。
因此，生物识别镜不是心理分析的工具。相反，它是一个交互式应用程序，用来表现公众如何对某些面部特征作出反应。心理学家不会完全依赖这个工具来得出结论。
算法是正确的，但它返回的信息不是。所以，应该谨慎依赖人工智能系统，因为它们的内部逻辑可能是不正确的，不完整的，或极其敏感和歧视性的。
数据
生物识别镜用于探测人脸的一系列信息，包括人口、文化和心理属性：
性别显示在镜子分析面部特征时最像的一种性别（男性/女性）。
年龄显示在分析时面部特征与之最相对应的估计年龄。面部毛发和配饰可能会影响估计的年龄。
种族显示在分析时面部特征最像的五种预设种族（非洲，亚洲，高加索人，中东人，西班牙裔）中的任何一种。如果没有显示正确的种族，这意味着生物识别镜的人工智能模型没有被“训练”成能够识别特定种族特征的模型。
情绪显示在分析时面部特征最像的八种情绪（愤怒，蔑视，厌恶，恐惧，快乐，中立，悲伤，惊讶）之一。
善意度表示公众对面部特征反映的友善，慷慨和善解人意程度的评估。
幸福度表示对面部特征反映的精神和情绪健康度的评估。
共性显示了公众认为的两个或更多面部特征中的相似度。
责任显示公众对面部特征反映的独立行动的能力，并在未经授权的情况下做出决定的能力的评估。
吸引力显示公众对面部特征整体引起人们兴趣并吸引人的能力的评估。
社交性显示公众对面部特征反映的与他人互动的质量的程度的评估。
内向度显示公众对面部特征反映的内在倾向的程度，以及更多地关注内部思想，情感和情绪，而不是寻求外部刺激程度的评估。
积极性表现出公众对面部特征表现的敌对或暴力行为的程度的评估。
古怪度表现出公众对面部特征反映出的惊人的奇怪或异常，特别是令人不安的情绪程度的评估。
情绪稳定性显示公众对面部特征反映的人们保持情绪平衡并且不容易经历负面情绪的能力的评估。
匿名性及存储
生物识别镜记录的及捕获的所有数据都是匿名的，并且不带任何个人标识符。在项目期间，数据以加密存储的形式保存在计算机上。任何未经处理的信息都不会与第三方共享或与其他数据集交叉链接。该项目的所有研究人员只能访问完全匿名的数据。
相关报道：
https://socialnui.unimelb.edu.au/research/biometric-mirror/campus-displays/
https://www.computerworld.com.au/article/644371/biometric-mirror-reflects-ai-worrying-potential/
