越来越多的智能婴儿监视器和人工智能(AI)赋能的玩具在进入澳大利亚市场,但这些价格昂贵的产品可能带来巨大的隐私代价。
我们越来越多地在家中放入智能家电,从电视机、电冰箱到居家助理,这些智能家电被宽泛地称为“物联网”。现在,物联网延伸到瞄准新手父母的设备,宣称会让养儿育女更加容易,让婴儿们更加安全。
其中包括大家预计得到的产品类型(Wi-Fi联动的婴儿监视器)和更多品类繁多、让人吃惊的产品(遥控白噪音生成机;能够安抚婴儿睡觉的智能婴儿床;能监测婴儿心率和血氧水平的袜子;能逐渐了解儿童主人的智能玩具)。甚至有能够解读婴儿面部表情、声音和动作的监视系统,那些系统承诺会向父母们发出警告,提醒他们小宝贝的婴儿床里的潜在危险。
许多婴儿监视设备采用面部识别技术,旨在识别婴儿表情的变化。譬如说,婴儿是否在哭泣,有没有面露痛苦。一些设备也可以记录下婴儿的快乐时刻,譬如发出笑声或露出微笑,并将它们储存在制造商的云端服务器内。
这在理论上很妙——婴儿面对危险时,另一间房内的父母能收到警报,并实施行动,或者在另一方面,原本可能被错过的喜悦时刻被捕捉和储存下来——然而在实践中,结果可能偏离初衷。
蓄意侵犯隐私
智能婴儿监视器采用AI系统来识别婴儿的活动。这些AI系统已经用婴儿面容和哭泣数据库训练过,而且数据库规模越大,这些AI系统就运作得越出色。
《华盛顿邮报》报道,许多智能监视器会把它们收集到的原始影像馈送给那些为产品赋能的AI系统,改进产品的性能。所以,本质上来说,购买了智能婴儿监视器的家庭不单单是消费者,他们也是产品的一部分。
监视私密的家庭空间,从中收集数据,使得这些设备实现允诺的功能。澳大利亚“数字权利观察”组织的萨曼莎 · 弗洛雷亚尼(Samantha Floreani)说:“有许多这类设备按照设计就是蓄意地要提取数据,侵犯隐私,没有充分的隐私保护或安全防护措施。”
这些数据能被用于其他方面。弗洛雷亚尼说:“还要关心的是,他们可能把那些数据卖给谁,那些数据如何与其他数据集相整合,假如那家公司发生数据泄漏会发生什么。”
与此同时,美国儿科学会“不推荐使用视频监视器或直面消费者的脉冲血氧监视器(譬如智能袜子和智能马甲)作为降低睡眠相关死亡风险的对策”,并表示对于这些产品的精确度和可靠性的总体担忧。
尽管如此,全球婴儿监视器市场还是被预测到2025年时会增长到16.3亿美元,智能玩具市场预计到2023年时会达到180亿美元。在澳大利亚,智能监视器越来越流行,售价在50到200美元之间,而其他的高科技设备可能是上述售价的许多倍。
所以,父母们不仅付出高价购买一些并未被证明对于婴儿具有健康益处或安全好处的产品,他们在这么做的时候,生活的最私密部分还将被采集数据。
持续一生的数据
大家十分关心的不仅仅是目前有什么公司在使用数据,还有那些数据在未来可能遭遇什么。维多利亚州信息专员办公室注意到,各家公司常常把从智能家居设备中收集到的数据永久保存,“以防”数据在未来万一变得有用处。
鉴于婴儿监视器设备从一个孩子出生就开始储存与他有关的数据,而目前在澳大利亚没有法律或规章条款授予个人擦除数据的权利,也没有规定商业公司能把数据储存多久,或者能保存哪些数据,所以在一个孩子的余生中,婴儿监视器捕捉到的数据有可能会储存在某个地方,产生不可知的后果。
但是,一些后果是可知的:一个最明显的后果是未来会受到广告商的操纵。弗洛雷亚尼说:“单台设备收集的数据也许就其本身而言看不出危险,但是当你将它与其他设备以及它们收集的数据相结合,就可以绘制出一幅十分清楚的图景,展现你的生活、习惯、人际关系和行为特征。”
在一个孩子的一生中,那幅图景能给予广告商一个难以逾越的优势,转化为操控受众偏好和行为的力量,并最终侵蚀和破坏个人选择。
根据从婴儿床、并在小孩一生中收集到的数据建立的个人画像也可能影响他们的社会和经济参与。世界经济论坛警告说,数据被出售给第三方——以及对个人持续的剖析——可能导致孩子在以后的人生中遇到差别待遇。譬如说,在应征工作或申请银行贷款时,一切都基于过去“在家中隐秘环境下实施的行动”。
婴儿和儿童无法有认知地同意那些产品附带的隐私声明,也无法有认知地同意自己受到监视。在隐私声明和保护规则的方面,种种的不一致也使得父母们难以确切获知他们签署的文件代表了什么。
薄弱的安全一环
当数据得到合法使用时,上述的这些问题都有出现。在保险公司Medibank、电商MyDeal和电信公司Optus发生数据泄漏之后,谁也无法保证这些智能设备收集到的信息不会落入邪恶第三方的手中。
设备也可能直接被黑客侵入。2021年《连线》杂志报道,由于在超过8 300万台设备上使用的软件(不是因为产品自身的关系),数百万个网络摄像头和婴儿监视器的视频馈送易被黑客侵入。软件的安全防护薄弱,能容许“攻击者实时观看视频馈送,有可能看到敏感的安保影像或者窥视婴儿床内部”。
弗洛雷亚尼注意到,家里面单单一个保护不力的智能设备就能成为一个薄弱环节。“假如安全防护薄弱,它就可能成为黑客侵入你家网络里其他设备的入口。”她说道。
想要听一个警世故事的话,就看看“我的朋友凯拉”(My Friend Cayla)。这款早期智能玩具使用面部识别和声音识别来发挥功能,但在玩具30英尺(一英尺约等于0.3米)内的任何人都能访问它,只要他们早已下载好控制玩具的应用——意味着附近任何人都能通过玩具偷听用户。在这个安全漏洞被曝光后,该玩具在许多国家被指控违法。
但弗洛雷亚尼谨慎地指出,家中智能设备的责任不该由个人承担。“尽管我认为,我们永远都应该批判性地思考我们请进家中的数字技术的类型,我们也需要落实更强大的法规,确保设备满足安全标准,各家公司尊重我们的隐私。个人应该不必为了保护隐私而拼尽全力,或者选择完全不用那些智能设备。”
总之,婴儿监视器依靠放大和利用父母们的恐惧和不安全感来出售产品。但那些研发和销售婴儿监视器的公司极不可能比那些购买他们产品的家庭更加关心儿童的隐私和安全。
资料来源 The Guardian
——————————
本文作者凯特·乔治(Kat George)是一位作家和公共政策专家。她的著述着眼于“访问与包容”“消费者与人权”“规章与新技术”等方面