数据经纪人使用欺骗性设计来阻止用户选择退出
新报告揭示了 38 个数据收集者如何使用操纵性设计模式来阻止用户选择退出数据收集。人工智能公司和国防承包商受到牵连。
对数据收集实践的全面调查发现了一个令人不安的模式:多个行业的众多公司都故意将其选择退出机制设计得令人困惑、难以驾驭并最终无效。这项新研究揭露了数据经纪人、人工智能公司、国防承包商和约会应用程序如何采用专家所说的“黑暗模式”——欺骗性的用户界面设计,旨在操纵用户违背其实际偏好交出个人信息。
该研究确定了从事这些有问题的做法的 38 个主要数据收集者,揭示了一种协调策略,该策略优先考虑企业数据收集而不是消费者隐私权。这些操纵性设计策略明显背离了透明的商业实践,并引发了有关数字时代监管执行和企业责任的严重问题。试图保护自己隐私的用户经常会发现自己对复杂的表单、隐藏的设置和误导性语言感到沮丧,这使得真正的选择退出几乎不可能。
报告涉及的公司中有一些著名的人工智能公司,它们正在迅速扩展其技术能力,同时使用户更难控制其数据的使用方式。鉴于人们越来越依赖个人数据来训练和改进机器学习模型,这些人工智能公司的加入尤为重要。随着人工智能公司日益成为科技生态系统的核心,他们的数据收集实践值得加强审查和监管关注。
调查还强调了国防公司和国家安全承包商如何采用类似的数据收集策略,尽管他们的操作往往在公众视野中更加模糊。这些组织出于情报收集和预测分析等目的购买和利用大量个人数据,但他们在使选择退出程序变得简单或用户友好方面投入了最少的努力。不透明性和操纵性设计的结合造成了一种特别令人不安的情况,公民甚至可能没有意识到他们的数据正在被与军事有关的实体收集和分析。
约会应用程序是报告中确定的另一类重要的犯罪者。这些平台收集有关用户的极其私密的个人信息,通常采用激进的数据保留政策,并故意模糊选择退出途径。认为自己已删除帐户或禁用数据共享的用户经常会发现他们的信息继续被收集并出售给第三方,通常包括数据经纪人,他们汇总这些信息并将其转售给无数未知的买家。
“深色模式”的概念越来越受到隐私倡导者、研究人员和监管机构的关注,他们认识到这些设计策略是数字操纵的一种形式。深色图案故意让用户更容易同意数据收集而不是拒绝数据收集——这种现象被称为“摩擦不对称”。例如,选择加入数据共享可能需要单击一下,而选择退出则需要导航多个屏幕、输入个人验证信息并多次确认请求。
该研究提供了这些数据收集公司为阻止用户隐私选择而采用的具体策略的详细记录。一些组织将选择退出链接隐藏在其平台内的不起眼位置,通常是在冗长的隐私政策底部的灰色小文本中,很少有用户真正阅读。其他人创建选择退出表格,故意要求提供过多的个人信息,表面上是为了验证目的,有效地阻止用户尝试行使其权利。还有一些公司故意误解用户偏好,要求客户在每次登录或应用更新后反复选择退出相同的数据共享做法。
这些做法的盛行引发了有关现有隐私法规的有效性和当前企业责任水平的重要问题。尽管各个司法管辖区都实施了隐私法,例如欧洲的《通用数据保护条例》和美国的《加州消费者隐私法》,但执行情况并不一致,事实证明,处罚往往不足以阻止大公司继续存在问题的做法。
行业分析师认为,这些欺骗性设计策略的根本原因在于基本的商业激励:公司直接从数据收集和货币化中获利。当消费者隐私保护被定位为盈利的障碍而不是核心业务价值时,操纵性设计模式就成为一种有吸引力的企业战略。数据收集带来的经济回报往往远远超过任何潜在的监管处罚或声誉损害。
这项调查背后的研究团队采用了各种方法来记录这些欺骗行为,包括用户测试、界面分析和不同平台之间的比较研究。他们的研究结果表明,这些不是孤立的事件或技术疏忽,而是从一开始就嵌入到企业数据收集策略中的系统方法。当检查公司如何促进数据共享与如何促进数据保护之间的鲜明对比时,这些设计的意图是显而易见的。
隐私倡导者强调,有效的监管改革对于应对这些挑战至关重要。拟议的解决方案包括更严格地执行现有隐私法、大幅增加对违规行为的经济处罚、对用户界面设计进行强制审核,以及对授权欺骗性设计实践的高管承担潜在的刑事责任。一些司法管辖区正在探索要求选择加入和选择退出流程必须具有同等的轻松程度和摩擦程度。
这 38 名数据收集者的身份的确定标志着数据收集行业朝着提高透明度和问责制迈出了重要一步。消费者权益保护组织正在利用该报告的调查结果向监管机构提出投诉,并对特别严重的违法者采取法律行动。还发起了公众意识活动,以教育用户有关欺骗性设计实践的知识,并提供有关在现有平台内保护其隐私的指导。
展望未来,这项研究的影响将远远超出个别公司的范畴。研究结果表明,如果没有重大的监管干预,欺骗性数据收集行为可能会激增并变得更加复杂。随着科技公司不断开发先进的数据分析能力和人工智能系统,不受控制的数据收集的风险持续上升,使得有效的隐私保护变得越来越紧迫。
鼓励面临这些欺骗性选择退出程序的消费者记录他们的经历,向相关监管机构报告违规行为,并考虑支持倡导加强隐私保护的组织。虽然个人行动对资源充足的企业影响有限,但集体压力和监管关注最终可以迫使发生有意义的变革。数据隐私和企业透明度之争仍然是我们这个时代决定性的数字权利问题之一,这项研究为那些倡导消费者保护的人提供了重要的证据。
来源: Wired


