道客优

你的AI帮手，正在……或许正在窃听你。

苹果、微软、Google……海外几家大公司，都先后被曝出使用智能音箱/手机，偷录用户谈话，并将部分含有用户隐私之录音，发送给了担任识别准确度核对的第三方承包商。

这些片段的内容形形色色：性录音、家庭八卦、亲友之间的通话内容……乃至还有疑似毒品买卖现场的谈话。而外包团队在担任核对之余，还会将含有“笑料”的片段，在公司内部传播取乐。

一个AI背面，到底有多少人在偷听你？

隔墙有耳

第一个倒下的是亚马逊。

今年4月11日，彭博的一篇报导，拉开了“AI窃听门”的前奏：亚马逊为了强化Alexa智能帮手的体现，在全球规模内雇用了上千名人类职工，对Alexa智能音箱录下的声响片段进行人工检查和监听。

一名人类职工，每天最多会听到大约1000条亚马逊发来的用户录音。他们需求将录音转述成文字，为特定的关键词打上符号，最后再将转写下来的文字和音频归档。

问题在于，亚马逊送来的对话里，有时会搀杂一些古怪的东西：浴室里传来的跑调歌声、小孩子的尖叫、模糊不清的求助声……这些都是语音帮手被误唤醒时录下的片段。而据报导，担任审阅的职工们，似乎并不太在意这些录音的私密性。遇到特别有意思的片段，还会在公司内部共享，以此取乐。

面临这种丑闻，亚马逊方面迅速做出了回应，称人类职工对录音作出的符号，有助于Alexa改善理解能力。并且公司有着严格的保密措施，职工无法直接取得跟录音相关联的账号信息。被符号的用户录音，也只是Alexa所录片段中极少数的一部分。

7月份，事情开端失控：Google的语音助理也被曝出，有人类职工在背面监听智能音箱，和手机App的录音内容。外媒乃至拿到了一段Google语音助理录下的片段，垂手可得地找到了这份录音的原主人。

等到月底，苹果的Siri也加入了窃听门的行列。因为Apple Watch更简单误触，审阅人员听到的内容也愈加糟糕：拉拉链的声响（显然是刚上完厕所）、毒品买卖现场、以及……不慎被HomePod/Apple Watch录下来的滚床单片段。

说好的“What happens on your iPhone, Stays on your iPhone. ”呢？

8月份，更过火的来了：微软被曝出监听用户的Skype通话内容，以及跟Cortana之间的交谈记录。据外媒报导，微软这边能听到的内容也是形形色色：翔实的地址信息、十分露骨的搜索恳求、和某些不能详细描述，反正是带点色彩的Skype记录。

至于监听用户Skype通话的理由，微软后来回应称，是为了改善那项2015年发布的，内置在Skype当中的AI同传服务。只不过他们其时没告知你，除了AI之外，听你说话的还有其他人。

最后一个沦亡的是Facebook。尽管没有语音帮手，但他们仍是将旗下Facebook Messenger 中用户发送的语音转文字消息，通过外包方式交给了第三方进行核对。尽管涉及规模不如前面几家公司广泛，但爆料人士依然指出，有部分录音内容“相当灵敏”。

大公司们为什么要做这种事？人工智能，不是挺聪明的吗？

人工智能的B面

有多少智能，就有多少人工。

现如今什么产品都讲究一个“增才智”。从AI摄影到AI帮手，线上才智生活无处不在。但鲜少人知的是，养AI跟养孩子差不多。需求有人不断地教给它们什么是对，什么是错，才干得到越来越准确的成果。

图像切割 、图像识别、语音转文字、语义切割……这些都需求有人类从旁协助。原始录音便是问题，而人类整理好的书写内容，就像单词卡片背面的答案。

人工智能越来越热，这些用数据饲喂AI的人，也越来越多。需求让AI理解人类言语？那就让人类把一句话依照规则拆开，再交给程序去学习。需求让AI学会看路？那就先让真人把照片里的车、人、路灯……通通做好符号，再交给AI去渐渐认就好了。

没错，拿脱敏过的用户录音给人类听，再用成果去矫正AI，其实算是举球通行的惯例。假如不信，你能够看看百度DuerOS的这份隐私政策：

以及，这是小爱同学的：

和天猫精灵的：

换句话说，你有权保持沉默（或许拔插销），但你被录下来的每一句话，不论有意仍是无意，都或许成为喂食AI的饲料。并且他们并没有告知你，“用于改进和提高产品”的潜台词是，你对音箱所说的话，也或许会有人类作业人员听到。

严格来说，这些信息应当只在企业内部共享，并且职工对录音内容负有保密义务。尽管你不小心被AI录下来的黄段子（或许别的什么更糟糕的东西）有一定概率会被人类听到这件事十分让人不爽，但平心而论，这算不上什么隐私泄露事故。

当然了，这不代表这些做法没问题，咱们等会儿再说这个。

“饲养AI”曾经一度催生了巨大的下游产业。智能音箱最炽热的时分，乃至呈现了很多专做数据标示的外包团队。不需求学历，不需求经验，通过简单的培训，一个人很快就能学会给图片拉框，给人脸加点，把语音转成文字……

不知道有没有人意识到这当中的荒唐：从诞生的第一天起，这份作业的最高目标，便是消除本身。

（这种验证码本质上也是数据标示）

还有一些公司，将这种“时刻密集型”作业，做成了谁都能够在家赚外快的网络任务。他们需求做的或许是教AI听懂人话、识别人类的骨骼点，或许是给聊天机器人编写一些有意思的回复。

被制造的素材，和标示数据的人一样，都只是完结AI所有必要的东西罢了。

大数据=无隐私？

欢迎来到21世纪。

收集数据-脱敏-分析，是当代大数据应用的通行做法，也被多国监管部门认可。但是有研究表明，这种做法其实没什么效果。

英国伦敦帝国理工学院的研究人员，使用揭露的匿名数据训练了一个AI，成果只用到了生日，性别，居住地邮编和子女数量，就能从匿名数据集中，定位出整个马萨诸塞州79.4%的人口。假如特征量进一步添加，准确度乃至能到达99%以上。

换句话说，即便拿掉了姓名、电话和身份证号，仍是有办法从大数据中找出特定的某个人。何况依据之前的报导，检查人员仍是能听到用户亲口说出的私密内容。所谓的隐私把控，好像从数据脱敏这一步开端就现已失灵了。

更可怕的是，集中存放的隐私数据，本身便是一块亮光的肥肉：海外一间指纹锁公司Suprema因为安全漏洞，被人摸到了超过100万人的指纹和人脸识别数据，且关键信息大多未经加密。密码走漏能够再改，人脸识别数据被人偷走，恐怕只有换脸才干解决。

（走漏出来的后台数据截图）

随着智能设备越来越深入地进入家庭，咱们在各种系统中被留下，又被走漏的痕迹，只会越来越多。这样说来，在家里洗澡时的跑调歌声被数据标示员听到，现已是各种AI相关事故乡损害最小的一种。

数据便是力量

某种意义上说，被大数据和AI包围的，极点便利的现代生活，是以咱们对本身隐私数据的让渡为价值的。麦克风、摄像头、GPS、指纹传感器……他们收集到的数据，随时能够成为追寻和监看你的绝好素材。不同在于，看着这些数据的究竟是无爱情的机器，仍是活生生的，怀有好心或恶意的人类？

大多数人对此毫无知觉，也无法操控。被曝光之后，海外的几家大公司，都先后宣布中止了外包团队对用户录音的审阅。Alexa和Google也提供了入口，答应用户删掉他们留在平台上的录音材料。最少在海外，他们对自己的数据多了一点掌控。

但在国内，想删去自己的数据没这么简单。小米和百度的个人信息删去，都需求向指定邮箱发送邮件来提出申请，天猫精灵则需求联络客服。并且跟海外不同，这些删去恳求都带有十分严格的附加约束。

这些东西都藏在几乎没人会读的隐私条款里。粗略看下来，一个普通用户想删掉自己的个人信息，难如登天。

跟AI一起走向老练的这一代人，现已不可避免地，成了大公司喂饲给机器学习的数字饲料。仅有的问题是，等到AI足够聪明的那天，这种饲喂会停下来吗？