如何重新看待隐私，才能提升问责与信任。

不，恐怕不行。当别人使用你的数据时，你已经没有正当的抗议权了。很久以前，你就把这件事当成互联网社会契约的一部分接受了下来。想活在数字时代，就是这么回事。你交出了自己的数据，换来一个应用、一份性格测试，甚至只是为了下载一份关于博茨瓦纳数字化进程的报告。

[预计阅读时间：9 分钟。来源：Read-O-Meter]

阅读西班牙语原文。

A. 所有权，还是使用权？

你的数据已经不再只属于你。你把它交了出去，也换回了某样东西。我明白，你的挫败感并不来自所有权这个概念（在数字时代，这份所有权本来就是共享的），我明白，你最大的挫败感来自另一件事：其他公司拿着以你的个人数据为基础汇总起来的数据，在做各种各样的使用。

在新的数字经济里，我的眼睛是什么颜色能不能用来计算我车险续保的保费，我们把这个决定交给了数据科学家，或者刚毕业的数学家去自行判断。我们让一位预测模型专家去决定：我的身高、我住在哪里、我的子女，跟我的信用状况是不是有直接关系。其实我们活在相关性的暴政之下。数学是新的齿轮，从动态定价模型给出的产品和服务价格，到发放一笔补助时所依据的公平，全都由它来定义。给我们发补贴的，是一个蒙特卡洛模型、是博弈论，或者是马尔可夫链。

自 2016 年 4 月《通用数据保护条例》（GDPR）的第一版草案出台以来，我一直强烈反对「收集和处理个人数据必须不断取得许可」这一要求所带来的种种后果。我帮助过数百位管理者理解技术、数据和人作为数字化转型杠杆的角色，既包括在现有业务模式上的深耕，也包括对新模式的探索。不仅如此，我还批评过隐私法规，认为它们在数据的收集、处理和优化上打乱了欧洲的竞争格局。在我看来，错误不在于保护所有权，而在于把个人数据用作汇总层面推断的一部分。

来源：https://www.digitalinformationworld.com/2018/12/here-is-what-the-big-tech-companies-know-about-you.html#postimages-1

B. 给算法立规矩：走向数据专家验证者

我改变了看法。自从 2017 年 5 月《卫报》发出关于剑桥分析的第一篇报道（The great British Brexit robbery: how our democracy was hijacked，即《英国脱欧大劫案：我们的民主是如何被劫持的》）以来，全世界在数据隐私这件事上有些东西变了。我们的数据已经不再属于我们；那些以我们的个人数据作为输入的模型所做出的推断和决策，应该接受一定程度的审视、分析和审计。

这不是正义的问题，而是一个需要审慎对待的问题：面对一个模型，它有可能因为自身被构建的方式而推断出错误的结论，并由此衍生出责任。预测模型的质量和监督频率，既是、也应该是某种隐私监管的重点。而且就民事责任这一层而言，我说的确实是监管。我们活在一个数据和技术已经改变了人类的时代。可即便如此，在我看来，当有人推断出带有演化性后果的结论时，仍然必须由人来为所做的决策负责。

「未经我的许可不行」「未经我的同意不行」这样的说法，也许并不必然指向对我个人数据的使用。我早就给出了许可和同意：我浏览了你的网站，下载了那份报告，做了那个性格测试，或者只是下载了一个用来测量 Justin Bieber 演唱会分贝数的应用。是的，我接受你使用我的个人数据，我把它给了你，也换回了某样东西。那是一次正当的交换。然而，我从来没有同意过把我的个人数据用在某个预测模型里——那个模型对构念和变量的定义，最后会伤害到我。我拒绝为这种使用给出同意。你已经没有我的许可了。

一种新的企业社会责任概念正在浮现。而它的全部内容，就是控制、监测并验证那个处理海量数据的企业黑箱是否被正当使用。新的常态应该是：把外部验证纳入大型组织所做的一切预测模型和一切算法工作，以此实现透明和问责。我们都接受一点：我们活在第四次工业革命里，在这个时代，数据和技术改变了我们描绘进步的方式。终端用户必须有权对预测模型的结果采取行动。这不只关乎更正权，也关乎透明。

那些愿意就预测模型的输出保持透明的企业，就会产生信任。这场战争不在所有权上。所有权一直是所有隐私法规的误导性目标。真正的战场在算法的设计、治理和更正。否则，当一个算法变成另一个新生算法的数据集时，我们可能会犯下把偏见永久化、并且照单全收各种决策的错误。

我在此邀请大家共同推动一件事：把对预测模型设计和汇总数据工作的审视提高一个层级。这意味着要创造出一个独立监督者的角色，负责数据输入、输出模型、设计和定义这类工作。「IDEA」（Independent Data Expert Auditor，独立数据专家审计师）这个角色由此登场。

一群专业人士，负责验证并保证企业对预测建模的使用是均衡而公正的。既然我们已经能给敏捷教练做认证，我们也就能照看数据层面的质量，以及某些结论是怎么推导出来的。否则，我们就要冒这样的风险：数据工程师和数据科学家那么有价值的工作，最后只由最机会主义的管理层标准来验证。而这个故事的结局我们早就知道了。增长或效率，成为唯一的成功指标。

C. 算法的暴政

一辆自动驾驶汽车把车内乘员的生命看得比行人更重要，这说得通吗？我们明明已经知道电车难题（维基百科：电车难题）是一个伦理学上的思想实验，还要靠一个算法去解决它吗？

如果我们让相关性和算法替我们思考，那么在寻找商业成功模型的时候，我们就会冒着奖励男性特质和白人特质的风险。算法改变不了历史数据序列，也改变不了多样性的缺失。只有人，才能在为「算法」寻找新的偏移方向时问出正确的问题。

如果我们去找一个关于美国青少年犯罪的预测模型，我们会得出这样的结论：是黑人、来自结构不完整的家庭、住在低收入社区，这些就能解释一切。我们究竟是在创造预测模型，还是在让偏见永久化？预测模型永远不会为性别平等找到解决方案。它只会强化偏见，加剧已有的不平等。只有人的创造性介入，才能改变历史性的偏见，并提出新的假设去验证。人可以在使用数据的基础上创造一个更好的世界。很久以前，商学院就把伦理推理纳入课程，用来避免这类偏见。但是，只要「结果最大化」是数据科学家唯一的绩效指标，就总会有一块隐蔽的空间。

我的朋友 Gam Dias 给我讲了美国食品券兑换的这个案例，它完美地说明了在打击食品券欺诈行为时算法里的偏见。美国农业部把小商户踢出了食品券计划，理由是涉嫌欺诈。短时间内连续多次的兑换被判定成了欺诈；而这些兑换之所以发生，是因为食品券持有者住得离食品店很远，又没有私家车，只能拼车前往。结果，一些商店被永久逐出了食品券计划。显然，有人不再监测这个模型了，于是现实变成了一种偏见。现实真该死，谁让它不符合我的模型！

设计一个提升透明度的框架：确立某些治理规则，让用户能够对企业主导的汇总数据输出结果做出「回应」。这个想法划出了一片新的公平竞技场，在那里，企业要为个人数据的汇总使用负责。我们说的是数据使用上的企业社会责任吗？也许吧。我的看法是，我们应该谈的是第四次工业革命里的可持续性。关键不是把数据黑箱变成数据透明箱，而是把它变成负责任的数据箱。靠数据做出差异化、并把它当作竞争优势的来源，这已经是现实；而我的提议是去倡导另一种现实：组织应当为汇总层面使用数据所带来的种种影响承担责任。

几天前，Mark Zuckerberg 在一篇 Facebook 帖子（A Privacy-Focused Vision for Social Networking - March 6, 2019）里承认，他的公司在构建以隐私为基础的服务这件事上口碑并不好。在同一篇帖子里，他也承认，Facebook 新的重心将会是一系列保护隐私的新服务：

「我明白，很多人并不认为 Facebook 有能力、甚至有意愿去建造这样一个以隐私为核心的平台——因为坦白说，我们目前在构建保护隐私的服务方面口碑并不好，而且我们历来把重心放在更开放的分享工具上。但我们已经反复证明过，我们能够演进，做出人们真正想要的服务，包括私密通讯和快拍。」（……）

「我们打算按照开发 WhatsApp 的方式来建造它：聚焦最基础、最私密的使用场景——通讯——把它做得尽可能安全，然后在这之上再搭建更多让人们互动的方式，包括通话、视频聊天、群组、快拍、商家、支付、商务，最终形成一个承载许多其他私密服务的平台。」

承诺已经许下！Facebook 正在颠覆数字支付和电子商务。为的是什么？我们真的愿意在不监督任何一家科技公司如何使用数据的情况下，再一次去改变美国总统大选或者英国脱欧公投吗？

是时候打开大门，让第三方来监督从个人数据中获取的价值了。在我看来，这就是隐私监管（而不是所有权监管）的新思路。数据的所有权，我们很久以前就交出去了。我真心希望，这不只是一个「想法」（idea），而是「IDEA」（Auditor of Independent Data Experts，独立数据专家审计师）的遍地开花。

不管我们喜不喜欢，监管都只是问责与信任的一个不完美替代品。在特朗普和英国脱欧之后，恐怕我们当中有很多人已经不再信任那些人了——我们把数据交给他们，换来我们在那一刻认为有价值的东西。是时候监测汇总数据的使用，别再就所有权做空洞的辩论了。

「你骗了我，这并不让我难过；难过的是从今往后我再也无法相信你。」 . ― 传为尼采（Friedrich Nietzsche）所说

“Nicht daß du mich belogst, sondern daß ich dir nicht mehr glaube, hat mich erschüttert.”

原文帖子：

______________________________________

关于我：

经 Newfield Network（ACTP ICF 哥伦比亚）认证的本体论教练。企业管理学学士，并在英国圣安德鲁斯大学修读了管理学与经济学荣誉学士课程的最后一年。关系营销、CRM 与电子商务硕士。

IE 商学院数字化顾问委员会成员，以及 IE 商学院数字化转型学术主任。esc-XL.com（高管数字排毒）的发起人与灵魂人物，2016 年被 EXPANSIÓN 报评为西班牙数字化转型 50 位顶尖专家之一。

在 YouTube 上观看主题演讲合辑