Facebook的内容审查又从人工智能的道路上折返了

Facebook的内容审查又从人工智能的道路上折返了
2018年08月11日 03:15 VZOO手机科技

分享科技方面的资讯,好玩有趣,让您的茶余饭后不再无聊,欢迎关注评论

“ Facebook决定今年要多雇3000个内容审查员,人肉审查Facebook上的不合规内容,曾经裁撤了整个trending页内容审查团队的facebook似乎又从人工智能的道路上折返了……

内容人工审查团队扩容67%

320亿次

Facebook每天观看的视频次数

47.5亿条

Facebook每天分享内容

3亿张

Facebook每天产生的照片

扎克伯格最近宣布,Facebook将会在今年对人工内容审查团队进行扩容,额外增加3000个岗位用以帮助Facebook更好的完成内容审查。

Facebook可是一度裁撤整个Trending编辑组用AI替代人工智能内容筛选的公司!他怎么回头了?

4 月 15 日,一位叫自美国俄亥俄州克利夫兰的中年男子史蒂文森在街上随机杀害了一名 74 岁的老人,并将这个过程在 Facebook Live 上进行直播。这条杀人视频在举报 3 个小时之后,才被 Facebook 撤下。

不到半个月时间内,一名泰国男子又在 Facebook Live 直播杀女随后自杀的视频,它在网上传播了 24 小时。最后还是因为有用户举报,所以审查员才发现视频,并且撤下。

Facebook的人工智能审核怎么了

Facebook去年上线了一个新功能:Facebook Live,和国内的直播有点类似。不少小伙伴可能还记得,之前国内的快手直播遇到一系列的社会化直播问题:直播破坏超市、直播打猎、直播吃玻璃……Facebook一样也遇到了这些问题,而且是全球化的此类问题。

在直播出现之前,Facebook出了一个”Tranding”产品,主要是列出试下热门的话题和新闻。

几年来,在这个平台背后默默工作的是一支孜孜不倦的编辑审核团队。而在去年,FB宣布要把这整个团队裁员。原因是,他们认为,目前人工智能算法已经可以替代这些人工审查团队的工作。

...

...

...

随后...人工智能就上线了

...

...

...

再然后,Facebook就污大发了,

依据训练和经验管理内容审核的AI对于偶发性的时间显然管理准备不足

比如人工智能接管后的Trend开始出现这种信息:

#Megyn事件#

这什么意思呢?翻译一下基本就是:《震惊!央视新闻联播主持人其实支持蔡英文 》假新闻出现之后,在Fox干的开开心心的Megyn直接那就蒙逼了有木有!

最后Facebook不得不人工处置了这条推荐,还公开向Megyn道歉。

#麦乐鸡汉堡事件#

无独有偶,突然有一天Facebook的Trending上出现了#McChicken#字样,也就是麦乐鸡汉堡哦~!

这个话题随后直接在各大社交网站上红爆棚,原因是这个话题的原始主题是一个小哥发布了一条视频,内容是他用这个汉堡-打--飞--机……

这个视频被Facebook的人工智能内容筛选通过并且推荐给了大量用户

人工智能的短板

这些事件让我们引发的思考其实是人工智能的短板——

缺乏“常识”的概念,严重依赖单领域的经验

机器学习方式训练的人工智能往往严重依赖训练的样本,当训练样本不够大或者出现了非简单的单领域经验可以解决的“常识性”问题的时候,人工智能便容易产生判断偏差

99.99%准确率未必就够了

不少AI公司都宣称自己的智能机器拥有超过99%的准确率,但是这一定就够了嘛?

一个AI在判断机场人流是否为恐怖分子的时候,及时每个进出门的人员都判断“否”也有99.9%以上的准确率。由于恐怖分子数量有限,机器训练的样本可能会不足导致关键的偶发事件的判断不能由人工智能进行。当这个事件对整个社会的影响程度很高的时候,雇佣真人来进行判断便在所难免了。

配图来源网络,如有侵权联系删除。

作者文章

新浪首页 语音播报 相关新闻 返回顶部