为什么硅谷的程序员必须学会用隐私来扮演恶魔的倡导者

生活在华盛顿特区的好处之一就是它为执法，情报和军事社区每天在世界各地进行的谈话提供了前排座位，关于如何将硅谷的最新创作转化为政府服务，从建立最终的监视网络到创建所谓的“杀手机器人”，以抑制被视为威胁的想法和言论。在某些情况下，公司的销售，法律和政策方面参与这些讨论，偶尔积极地推销他们公司的产品，以达到公开和口头反驳的目的。在其他情况下，政府聘请了大量的分析师，他们的工作就是发现双重目的的Valley创新。在多数情况下，作为Valley创新渠道生命线的工程团队很少意识到他们的创作是如何被重新利用的，并且在考虑建筑设计以减少误用方面花费很少的精力。如果程序员学会了扮演魔鬼的倡导者，他们的隐私和公民自由对他们的创作有何影响，并强调防止监视的设计呢?

华盛顿世界经常被设想为与硅谷地理上一样遥远的文化。然而，随着数字革命颠覆了每个行业，政府也是如此。虽然公众对数字政府的关注大多来自面向公民的举措，如“电子政务”服务，但真正的革命已经落后于幕后，因为世界各地的执法，情报和军事社区已经学会了如何利用定义现代生活的巨大数字洪水。

正是政府开创了我们今天与硅谷联系的基于兴趣和行为的数据挖掘，政府通常首先发现利用数字洪水监视或压制其人口的新方法。对于公众眼中发生的商业监视的所有公众愤慨，在阴影中运作的政府监视机器是一个如此广阔的奥威尔式创作，甚至连好莱坞都难以想象出令人恐惧的东西。

那些在华盛顿轨道之外的人可能会发现很难理解硅谷与其公开谴责的国防机构和倡议积极合作的程度。公共和私人参与之间的这种分歧往往是令人震惊的观察。

一家公司以其坚定而绝对的公民自由而闻名，其首席执行官在一次大型会议上宣布其政府使用其技术的绝对禁令可能会在同一天在华盛顿召开一个代表团，宣传其面部识别技术可以用来将民用无人机变成致命的行动平台，并为这个精确的用例提供定制系统。以类似的方式，在同一天，一家公司有一个高级代表团在人权会议上介绍其工具如何用于记录某个国家的侵犯人权行为，同一家公司的另一个高级代表团可能正在与安全部门会面在这个国家，出售它的工具，以帮助保护其活动免受公众监督。

鉴于硅谷在工程队伍中的积极性，开放性和社会效益的悠久历史与华盛顿的保密和使命重点传统相比，程序员并不总是充分意识到他们被要求创造的一些调整和创新的预期目的。充分意识到硅谷工程团队可能不愿为“杀手机器人”创建面部识别系统，团队可能会负责为基于无人机的增强现实游戏创建一个具有里程碑意义的识别系统，其中无人机飞过不同的着名旅游景点，它显示了他们过去的样子，并自主导航到他们。该公司甚至可能公开发布这些结果，甚至可能发布基于它的产品，但实际上，

虽然不像政府选择那么普遍，但这种发展误导每天都在发生，因为从大到小的公司都在追逐利润丰厚的政府合同。其中大部分涉及小调整，但很少注意到，但使产品符合政府要求。实际上，随着世界变得越来越多地受到数据和人工智能的驱动，硅谷的一些名字可以与当今许多技术驱动的防御项目联系在一起。

在任何一周内，DC和世界各地的首都都有无数的非机密演示文稿，其中硅谷的大腕明确详细说明了如何将他们的工具重新用于执法，情报和军事用途，通常是在隐私保护应用中这与他们的公司格言背道而驰。

此外，美国研究型大学正在越来越多地模仿这种模式，其中的Proposer Day活动充斥着寻求国防资金的大学学者。具有讽刺意味的是，许多同样的机构公开谴责情报和军事调查他们的研究，即使私下寻求支持这种资金。在某些情况下，出现在Proposer Days的大学研究人员在他们提出项目的领域与硅谷公司进行了深入的合作，为Valley研究创造了不知不觉的管道，直接流入政府手中而没有公司的知识。

在许多情况下，公司的政府工作对于他们的工程和隐私人员来说完全不为人知，他们经常毫不掩饰他们的公司在向政府机构销售服务和公司反对的举措方面做得很好。并非所有公司隐私人员都仔细审查每个新政府RFP，以调查与其产品线的潜在重叠，或监控其整个销售人员的会议，以便与具有政府链接的实体举行会议以进行进一步审核。

这种华盛顿的观点可以为理解硅谷出现的创新流提供独特的背景。知道某个特定平台的政策和法律工作人员在那年早些时候同意让公司实施某些新的反恐功能，那年晚些时候其研究人员的一项平凡的技术演示突然发生了新的含义，当它巧合地恰好符合商定的功能和公司的政策工作人员向早先会议的与会者发送一份后续通知，提请他们注意该演示文稿

当然，现实情况是，绝大多数政府重新利用Valley的创新都是在没有这些公司的知识或合作的情况下进行的。

世界各国政府雇用庞大的分析师团队，仔细审查每一项新的创新，以寻找潜在的情报实用工具。观察哪些技术在未分类的信息列表上传播，或者在华盛顿各地每天都在无数次公开会谈中被单独列出，这可以为许多山谷创作的无意双重目的提供重要线索。

在Facebook成立仅仅四年之后，其在构建大规模行为图表方面的智能效用已经非常突出，可以在DNI开源会议上获得提及。今天，尽管大多数平台禁止监视使用，但另一项政府提案要求对主要平台进行挖掘和深度分析。

问题在于，Valley通常会通过网络安全的狭隘视角来看待安全和隐私问题，保护他们的产品和系统免受外部损害，而不考虑如何将其误用。

人们不得不看到欧洲各国政府在2016年美国总统大选中引发的迅速演变的俄罗斯数字影响力运动的喧嚣，概述了他们利用平台的合法特征和警告强烈迹象的具体方法和策略。将采用策略干预2016年美国总统大选。

不幸的是，大多数公司通过网络安全的狭隘视角看到了选举干扰，加强了他们的系统对抗外国系统的妥协，但却没有采取什么措施来解决仅涉及普通用户账户的全国范围影响力运动的情景。

公司如何减轻这种伤害?

首先，安全不仅仅是网络安全。

一家公司硬化他们的智能相机以防止未经授权的登录，对于在运输过程中可以物理拦截该相机并将额外的电路焊接到其中的状态对手几乎无能为力。对于包含麦克风，摄像头或其他类型传感器的每种产品，政府都会将其拆分，以了解如何将其重新用于监控设备。对于依赖于流量到不同域的每个软件或云服务，有一个政府使用该流量来清点产品的用户。今天，这种损害通常被视为公司停止的范围之外，而不是被视为公司可能通过可信系统设计或物理变化(例如可由用户物理拔出的传感器)至少部分缓解的设计挑战。

第二种方法是让他们的安全团队不仅与网络安全专业人员合作，而且与以前的对抗分析师，非网络情报，执法和军事背景以及世界各国政府合作，代表他们的不同观点。这种全球化的观点尤为重要。这样的分析师可以帮助公司在网络安全框之外思考并通过分析师的眼睛来查看他们的产品，这代表了与大多数网络团队中存在的完全不同的心态。

第三是远远超出思路。在政府的某些部门，有一个悠久的传统，即从相关领域之外召集创意思想家小组，如科幻小说作家和好莱坞剧本作家，并要求他们设想政府中很少有人想象过的无数场景。同样，情报界长期以来一直围绕着感兴趣的主题召集和播种会议和论坛，并引进远非学科和主题的非传统发言者。

第四个是工程师自己扮演魔鬼的倡导者，围绕他们的技术如何被重新用于伤害以及如何减轻这种伤害，至少部分是这样。所有技术都可以利用，但通过精心设计，可以显着减少或减轻这种伤害。

在我作为计算机科学本科生的时候，没有任何课程可以教会学生如何对抗他们的创作如何被重新利用以进行伤害。滥用主要通过网络安全的视角来看待，而不是通过无意中双重使用不妥协的系统来实现预期的效果。直到研究生院，图书馆和信息科学，才强调重新利用信息和损害工具的概念，教师们在课程中深刻强调了这些概念。当然，图书馆员长期以来一直站在公民自由问题的最前沿，从为公众策划权利资源到积极打击政府收集图书馆记录的努力。

即使在今天，随着计算机科学系增加了道德课程，他们经常强调程序员自己的道德行为，花费更少的时间来探索如何设计系统以挫败政府的再利用和设计考虑因素，这可以使一个应用程序同时防止几乎完全相同一。

在许多方面，隐私与许多计算机科学部门推动的数据驱动思维方式是对立的。学生将被教导以最高分辨率收集他们可以获得的所有数据，以便利用其洞察力。即使在GDPR等隐私法的范围内，指导通常围绕“最小化”来遵守法律。有目的地最小化的概念，其中每个数据点被无情地仔细检查以确定它是否可以被移除或其分辨率降低是一个通常不被强调但可以对平台可以重新利用的方式产生巨大影响的概念。

Twitter的地理标记推文提供了一个有力的例子技术公司可以设计其系统以提供服务的方式，以减轻其外部滥用的可能性，包括监控。虽然一个有数据头脑的程序员可能会设计一个地理标记系统，以便始终在思维模式下收集精确的GPS坐标，这样的高分辨率数据可以实现丰富的未来分析和产品，而Twitter则遵循隐私保护方法，不仅提供了用户可以选择共享粗略的城市级位置信息而不是精确的GPS坐标，但仔细构建其用户界面以强调此选项并帮助用户做出明智的决策。它不是将这个开关深埋在一系列菜单中，而是将这个开关放在前面和中间位置，以便用户轻松地将每个推文的定位隐私交替。

这样的设计确保了用户在感到舒适时能够共享他们的位置，同时挫败了GPS坐标非常宝贵的政府监视的愿望。虽然典型的程序员会强调永远在线GPS，因为它最大限度地提高了能力，但Twitter的隐私保护方法通过将服务限制为用户希望在每个时刻分享的信息来降低隐私服务的能力。

实际上，Twitter在2015年4月对其JSON记录中处理地理信息的方式的改变引起了政府监管工作的极大关注，这些监管工作之前曾利用这些信息来映射抗议者和其他直接违反公司使用条款的人。在为用户提供共享低分辨率定位信息的能力以及让用户完全控制共享过程方面，Twitter正在牺牲一个令人难以置信的信息来源，但反过来又将其用户的隐私放在前面和中心位置。通过单一的设计变更，该公司能够阻止对其数据的充满活力的滥用。

最后，如果他们希望阻止政府滥用他们的平台，硅谷的程序员必须学会超越网络安全思考并扮演恶魔的隐私倡导者。