1. aiia人工智能网首页
  2. 大数据

ZAO被约谈,天下苦人工智能窥探用户隐私久已!

ZAO被约谈,天下苦人工智能窥探用户隐私久已

最近一款名为ZAO的APP火了,用户只需上传一张照片,通过AI技术替换短视频中某位演员的脸,满足用户出演经典影视片段,跟偶像、好友飙戏的愿望。

但ZAO一夜走红之后,霸王条款、信息安全、用户隐私、伦理道德等各种问题纷至沓来,可以说这是AI技术首次在一款APP上引起用户恐慌,接着工信部就“ZAO”App网络数据安全问题开展问询约谈。

可以看出,随着智能化时代的到来,人们在不同场景享受智能生活的同时,面临着怎样的隐私安全问题也随之暴露出来。

人工智能无处不在,我们的隐私正被人窥探

人工智能的核心技术是数据与算法,智能设备往往拥有出色的隐私数据收集能力,这意味着人工智能越智能,就越需要海量的个人信息作为支撑,同时也意味着处理个人信息的能力也就越强。

例如,当你和朋友家人私下开怀畅聊时,安装语音识别技术的智能助手正在记录着你们所说的每一个字;而借助图像识别技术,无处不在的数字摄像头就像安装了大脑的眼睛一样,可以精准地从人群中自动识别人脸,锁定监控对象,甚至预测和判断人的行为。

另外,人工智能技术也极大增强了对网络空间的直接监控能力,人们利用网络搜索过什么,购买过什么,与哪些人聊过天、甚至聊天的内容等无不处于监控之下。

涉及到居家生活场景则更令人细思极恐,智能手表上的生物感应器,能测出你真正在晚上几点睡;智能扫地机上的激光探头,分分钟就能把你家床底有没人探得一清二楚;而智能摄像头更不必说,结合红外镜头,即时在没有亮光的暗夜里,也能真实记录下你房间发生的动人小故事。

ZAO被约谈,天下苦人工智能窥探用户隐私久已

当年的艳照门事情向人们表明,自主记录生活的习惯也是不安全的,除非你能保护好你的硬盘。但是,智能设备让用户没有选择,它们无时不刻都在为用户发布作品,上传用户的隐私数据。

能根据食材给你推荐菜谱智能电饭锅很强,但这都是上传你平时做饭的数据基础上实现的;能每天为你拉窗帘、开灯、开空调的智能家居很炫,但不把你每天作息行踪一一反馈给服务器,怎能化身贴心管家。

只不过,这些隐私数据只向特定方向传送,并不是公诸于众,即便如此,我们凭什么能够相信那些企业能够保护好我们的数据呢?

算法让我们无处可逃,其弊端也已显现

来看一下这个案例,当你用谷歌搜索本地的塔吉特商场,驱车前往以现金方式购买一台游戏机,然后在回家的路上用万事达信用卡为车加满了油。

对此,三个独立的公司分别获取了上述三种信息:谷歌公司只知道你搜索了塔吉特商场,但不知道你是否去过那里或者购买了什么商品;塔吉特商场只知道你购买了一台游戏机,但并不知道你是如何找到这家店的;而万事达公司知道你用信用卡加了油,但并不知道你做的其他两件事。

然而,如果你有一台谷歌自动驾驶汽车的话,那么一切将变得简单,谷歌公司将知道你搜索了塔吉特商场,知道你前往这家商场购买了一台游戏机,还知道你在回家的路上去了加油站。

通过自动驾驶汽车,谷歌公司将你所有的行动串联起来,并可能在未来利用它们向你推销产品。

如同我们在京东上搜索一款苹果电脑后,刷朋友圈时立马看到这款苹果电脑的广告一样,当你的觉得这很神奇的时候,实际上却是别人出卖你的隐私换来的。

众所周知,人工智能具有超强的“画像识别”能力,借助物联网、大数据等技术,人工智能的数据整合和分析能力得到了极大的增强,能够轻易地描绘出用户的完整“画像”。

这种超强的数据整合和分析能力,意味着人工智能能够轻易地取得用户的完整“画像”,从而掌握着我们生活的动向,尽管如此,人工智能也存在很多弊端。

ZAO被约谈,天下苦人工智能窥探用户隐私久已

如果说数据是人工智能的基础,那么算法就是人工智能的本质。正是算法的不断突破,人工智能才得以像人一样智能,才能独立于人类的干预实现自动化决策,为人们提供极大的便利。

然而,人工智能的自动化决策并非真的完美。2016年举行的首届“人工智能国际选美比赛”,由于训练人工智能的照片没有包含足够多的非白人面孔,结果导致绝大多数获奖者都是白人选手,开发人员却很难识别或解释其决策背后的逻辑原理。

因而,人工智能自动化决策的歧视和不透明问题,也对于隐私保护提出了更加复杂的挑战。

保护隐私不仅要靠法律,用户自身也要提高警惕性

面对人工智能时代的隐私危机,早在2016年欧盟就通过《一般数据保护法》(General Data Protection Regulation)对用户隐私做出了相关规定,主要涉及明确调整对象、增强信息处理的透明度、拓展用户权利等方面。

ZAO被约谈,天下苦人工智能窥探用户隐私久已

该法第13条和第14条规定,对于涉及包括识别分析在内的自动化决策的情形,数据控制者除了向用户披露数据控制者的身份、数据处理的目的、数据的种类等通常需要披露的信息之外,还必须向用户提供自动化决策过程中所运用的逻辑程序信息、该处理的重要性以及其对于用户可能造成的后果。

用户有权要求数据控制者删除其收集的所有个人信息,这极大增强了用户对于个人信息的控制。

用户有权将数据控制者收集的个人信息畅通无阻地直接迁移至新的数据控制者,这对于以数据为基础的人工智能企业来说,无疑是一项很好的回击。

如此一来,那些无法取得用户信任的人工智能企业将会陷入困境,因为他们将失去训练人工智能的基础数据。

而今年6月,我国新一代人工智能治理专业委员会也发布了《新一代人工智能治理原则——发展负责任的人工智能》,要求人工智能发展应尊重和保护个人隐私,充分保障个人的知情权和选择权。

人工智能从业人员要树立社会主义核心价值观,加强自律,规范技术应用的标准、流程、方法,最大限度尊重和保护个人隐私。

对于用户来说,除了享有法律层面的保护外,还要通过操作进行自我保护。首先要对智能设备设置可靠的密码,不少智能设备是需要输入密码后才能访问的,例如很多智能摄像头就是如此,必须输入绑定的帐号密码信息才能使用网络远程访问的功能。

其次,要避免智能设备暴露在公网之上,对于个人设备来说,暴露在公网会大大增加风险,如果你具有一定的网络安全知识,可以通过路由器对智能设备进行端口映射,让智能设备使用冷门端口。

另外,要对智能设备的一些分享功能提高警惕,一些用户喜欢把智能摄像头这类设备安装到自家卧室这类完全属于私人的场合,而智能设备往往还会带有分享这类的功能,例如跑步后可以把智能手表的心率、GPS等信息分享到网络上,某些智能摄像头甚至还带有直播!

ZAO被约谈,天下苦人工智能窥探用户隐私久已

不得不说,人工智能已然是时代发展的必然趋势,无可阻挡,这应该是全社会的一个共识。

然而,避免野蛮生长的方法不仅需要法律约束,更加需要提高企业的自觉性和用户对自我隐私保护的认知,只有我们共同努力,在不久的未来才能看到人工智能得到飞跃式的发展。

原创文章,作者:aiia人工智能网,如若转载,请注明出处:https://www.aiiaw.com/326.html

发表评论

登录后才能评论

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息