技术人员：记住，它必须为我们工作，而不是反过来

　　法国哲学家保罗·维利里奥(Paul Virilio)写道，发明船，也就发明了海难。每一项技术创新都会带来收益和意外损失——现代政府面临的巨大挑战之一，是帮助将前者最大化，同时减少后者。

　　从科学研究的前沿到自动驾驶汽车，从新的人机界面到大量苦工的自动化，像人工智能这样的技术——托尼·布莱尔(Tony Blair)正在敦促唐宁街10号的新政府开发——给人类带来了巨大的好处。但它们也为技术过度扩张的风险提供了一个有针对性的研究案例。到2024年底，历史上参加某种选举的人数最多(超过40亿人，占人类的一半)。公民的指尖上从未有过如此多的信息，也从未有过如此多的操纵和错误信息的机会。

　　作为一个物种，我们分析和改变周围世界的能力是前所未有的。但是，一些个人和企业手中的权力集中、我们的环境恶化以及我们面临的长期挑战的严重性也是如此。

　　面对这一切，新政府能做什么，也应该做什么?2023年11月，英国主办了一场人工智能安全峰会，专门讨论技术领域一些最重大的存在问题。超级强大机器的崛起会对人类的生存构成威胁吗?或者它们会一下子解决我们所有的问题?埃隆·马斯克(Elon Musk)等人物占据了新闻头条，警告称“某种比我们聪明得多的东西”即将到来。

　　但大多数公民社会的代表都缺席了，公民的声音也缺席了，他们担心的不是假想的超级智能，而是被裁员的前景、因算法内置的偏见而遭受歧视或剥削的前景，或者他们的在线活动被以最低限度的透明度跟踪和分析的前景。

　　我认为，正是这些日常的危险和挫折——而不是未来学家所钟爱的科幻小说场景——在技术方面带来了最大的挑战和机遇，唐宁街10号的新主人必须牢记这一点。

　　生活在21世纪的社会意味着拥有非凡的学习、交流和发展的机会。但它也生活在一个技术设计、远见和部署失败可能造成一系列危害的时代——在这个时代，问责制和透明度比以往任何时候都更难执行。

　　最近解决这些问题的最大胆尝试之一是欧盟的人工智能法案，经过数月的辩论和游说，该法案于2024年3月通过，试图为人工智能的部署建立一个共同的监管和法律框架。至少可以说，这是一项雄心勃勃的立法，旨在确保在欧洲部署的任何人工智能系统都是值得信赖的、公平的，并符合民主价值观。

　　为此，它有双重重点。一方面，它试图限制可能造成伤害的高风险技术的使用，例如公共面部识别系统和生物识别分类形式。另一方面，它在法律上规定了一系列原则，旨在使人工智能与非歧视、尊严和隐私等基本权利保持一致。这些原则包括算法的可解释性、透明度和防止偏见，以及环境可持续性、抵御操纵和人为监督的能力。该法案的影响可能是相当大的。

　　这是一个引人注目的、有原则的尝试，旨在开创一个全球先例，这种大胆可能同时证明它最大的优势和最大的弱点。它把人工智能的伦理问题牢牢地提上了国际议程，并提供了一个深思熟虑的愿景，说明技术服务而不是颠覆民主可能意味着什么。

　　然而，与此同时，诸如什么构成“高风险”体系之类的高层次判断带有模糊性，可能导致数年的法律纠纷，而其雄心壮志将对监管机构提出巨大要求。

　　此外，对于一些批评人士来说，欧盟要求的规模似乎可能会扼杀创新，使欧盟在吸引创新和人才方面处于不利地位。

　　新总理能从中学到什么?也许从欧盟和其他地方的立法努力中吸取的最大教训是，尽管推动者声称，在充分利用技术方面，过于关注人工智能等尖端系统本身就存在问题——而最重要的原则与社会的其他方面密不可分。

　　想想过去几年最具悲剧性影响的科技故事之一:邮局的Horizon IT丑闻。它的细节已被无休止地讨论，但其轮廓值得重复。

　　1999年，英国邮局(UK Post Office)引入了一种名为Horizon的新IT系统，用于在其数千家分支机构中集中和自动化会计。然而，这个系统充满了漏洞和错误，导致了神秘的会计短缺。而不是调查和解决这些问题，邮局把它们归咎于邮政局长，在接下来的15年里无情地起诉了700多名盗窃和虚假会计。

　　它还不遗余力地掩盖真相。2009年，《计算机周刊》(Computer Weekly)报道了这一事件，导致邮政局长们组成了一个活动小组。2019年，经过长期的法律斗争，丑闻的真实规模终于变得清晰起来——尽管直到2024年的一部电视剧才让受害者的清白成为政府的首要任务。

　　借用文化人类学家玛德琳?克莱尔?埃利什(Madeleine Clare Elish)的话来说，在这一系列令人遗憾的事件中，邮政局长们实际上充当了“道德崩溃区”的角色。汽车的崩溃区保护的是车内的人类乘客，而道德崩溃区则由人类承担责任，以保护技术系统。

　　邮局拒绝考虑地平线存在缺陷的可能性。受一项尖端技术显而易见的简单和绝对可靠的诱惑，它的基础是，任何错误都必须是人类无能或恶意的结果，而它的任务是不惜一切代价保护系统的完整性(更不用说那些将自己的命运与系统结合在一起的人的职业和良心)。

　　在Horizon丑闻中起作用的是公共技术领域两种非常普遍的趋势的腐败效应:假设自动化系统是绝对正确的，以及对其用户的现实体验漠不关心。从中吸取的教训远远超出了邮局的范畴，它们强调了英国政府自己的数字服务在21世纪初建立的一个原则的重要性。好的设计从确定用户需求开始。如果你不理解这些，你将无法建立起有效的东西。如果你不和人们交谈，听他们说什么，跟着数据走，你的理解永远不会足够。

　　换句话说，追求宏大技术目标的最佳方式，可能是一种数字化的地方主义，这种地方主义关注于细微层面上的体验、需求和关注，并寻求赋予公民权力，而不是从高处强加给他们。实现这一目标意味着投资基础设施，让公民有意义地参与影响他们生活的技术:资源丰富的图书馆，普遍接入互联网和数字设备，专家建议和指导的蓬勃发展，真正的民主呼吁力量。

　　正是这些举措使透明度和问责制等原则在实践中变得强大;而未能投资于这种支持最有可能使公民容易受到错误信息、操纵和脱离接触的影响。

　　从这个意义上说，将人类有意义地保持在循环中的原则远远不止适用于人工智能。这也是治理的黄金法则——如果有正确的激励措施和对未来有原则的愿景，一个熟练的、充满活力的数字经济可以带来巨大的好处。

　　因此，在围绕未来技术的炒作和童话背后，隐藏着真实的生活、危害和机遇:数据中蕴含的不平等和排斥;剥削性和不充分的自动化形式;不可思议的操纵者和寻租者。解决办法不是讲更多的故事，也不是寄希望于好的原则本身会让人们获得自由。

　　更确切地说，技术的根本在于制造有用的东西:具体来说，是为公民服务的东西;满足他们的需求，使他们能够找到满足和创造价值;这实现了它声称要做的事情，而不会产生隐藏的代价;这是可靠的、安全的、经过充分审查的，并有强有力的补救途径。十多年来，英国在基础设施(工具获取、培训、支持、教育、咨询、投资和监管透明度)方面经历了痛苦的投资不足，如今，英国有机会再次引领世界。基础设施是这一切的基础。但前提是它的新政府能有足够大的眼光来关注大局。

　　汤姆·查特菲尔德是一位作家和科技哲学家。他的新书，聪明的动物(Picador)，探讨了人类和技术的共同进化