迪诺·希莫纳斯：数字时代的法治问题——沙箱监管

Deno Himonas（迪诺·希莫纳斯）［美国］

数字时代的法治问题——沙箱监管

监管沙箱并非新鲜事物，英国金融行为监管局早在2015年就首次开发和部署过。它们提供了几个与人工智能（AI）相关的优势。例如，沙箱已被认为是良好的监管工具，为人工智能“开发人员提供单一的端到端空间来构建和测试系统”。此外，“它们的特点是提供监管指导和为测试提供便利”，包括多管辖权测试。

一项文献综述表明，沙箱的使用和发展很大程度上限制在金融领域内。然而，这种情形正在发生着迅速的变化，包括法律领域也开始使用沙箱。美国犹他州的一个管辖区和加拿大不列颠哥伦比亚省的另一个管辖区已经启用了法律监管沙箱。北美洲内外的其他司法管辖区也注意到了这一点，并开始认真探索他们是否有机会运用法律监管沙箱。

一、沙箱的简要背景介绍

监管沙箱是由行业监管机构创建的一个机制，该机制允许私营公司在受控环境中对创新项目进行小规模的现场测试，以促进社会创新和技术创新。沙箱的参与者拥有一定的、受限的特权，如果没有这些特权，他们在正常监管制度下可能无法或极难对产品和服务进行测试。在参与者试行其创新的同时，监管机构能够密切监测沙箱中的活动，查看参与者的创新活动是否实现了预期目标，并确保能在沙箱的受控环境中对负面结果（如果有的话）进行控制和研究。

监管沙箱的核心原则是：尽管监管机构会解除对沙箱参与者的一些监管，但为管理和控制沙箱内的风险，监管机构依然会对参与者施加一系列限制，并且要求参与者进行测试和 告。这类限制可能包括：限制参与公司的规模和年龄；验证公司是否有必要的资源来实施他们提出的创新想法；以及在公司处于沙箱阶段时，对可使用公司新产品的顾客或客户的数量设定上限。

世界各地的监管沙箱大多用于金融产业以及开发金融领域的技术。然而，其他行业的监管机构看到沙箱促进创新和竞争的潜力后，也决定在各自的领域试验这种监管模式。例如，2019年，英国国家健康数据研究所在一个与患者数据和预测健康状况有关的项目中采用了一个监管沙箱。为了能让更多人访问电信基础设施，哥伦比亚为国内电信公司推出了一个监管沙盒；此外，巴西正在效仿英国的模式，逐步推出监管沙箱，尽管只是在商业、产品和服务领域。

在犹他州，我们已经在法律领域中运行已知的第一个沙箱，并在一年多一点的时间里看到理想的结果。具有创新性的新服务和法律产品让更多犹他州人更容易获得司法救助，且价格更实惠。

沙箱给所有新的实验性产品都留出了创新空间，从自动获取消费者服务，到为金融交易实施区块链技术，再到使用人工智能技术更好地分析数据并提供更智能的解决方案，无所不包。

二、人工智能相关沙箱项目的潜力

机器学习系统和其他类型的人工智能开发既具有创造更便宜、更易获得、更可靠产品的巨大潜力，也给用户隐私和安全带来了不小的风险。这使得推动人工智能驱动创新的公司非常适合参与监管沙箱。在监管沙箱中，人工智能技术可以在可能已经过时数年甚至数十年的法律限制之外，对真实数据进行测试。与此同时，实施此系统的结果可以被密切监控，以观测是否发生了意外伤害，譬如系统偏差或侵犯隐私。潜在的不良影响可以被控制在沙箱内部，收集的数据可以帮助监管机构在更新21世纪的监管计划方面做出更明智的决定。

以金融部门一直在探索的人工智能实施领域——机器人顾问为例。如果机器人顾问能够提供与人类顾问相当的建议，那么通过将任务委托给一个可以在不增加开销的情况下增加客户量的自动化系统，来增加人们获得金融咨询的机会，这一想法可能很有用。但该领域研究人员的目标是创建一种能够分析大量宏观和微观经济数据的人工智能系统（数据包括客户的个人财务状况），以便做出比人类顾问更准确更个性化的建议，且优于真人顾问的建议（当然机器人顾问在可操作规模上相比真人可以做得更好）。

当然，任何此类系统都存在风险，特别是在其早期阶段。机器人顾问可能在最基本的情形下给出错误建议。客户遵循错误建议可能会做出轻率的投资，遭受经济损失。也许更令人担忧的是潜在的隐私问题：拥有人工智能的公司依赖于规模更大、更准确的数据集，将会无止境地追踪这些数据。这些公司可能试图说服客户披露敏感的个人信息，或从其他已经收集了大量客户数据的公司购买其客户数据。

然而，这些担忧恰恰说明了为何监管沙箱是测试此类系统的理想环境。在沙箱中，负面结果可以被限制、控制。更重要的是，沙箱内的实验结果（无论正面和负面）为监管机构提供了最稀有的宝藏：经验数据。为了做出明智的监管决定，机构需要通过现场测试收集真实信息，以了解哪些担忧是合理的，哪些是不合理的，以及哪些他们认为不该被关注。

在这些沙箱中开发的人工智能系统也可能被证明不仅对市场有益，还对监管机构本身有益。最初为帮助投资银行家进行高速交易而开发的算法,也催生了能够自动标记可疑、潜在欺诈交易的系统。这样一来，在沙箱那狭小而受控的空间中开发出来的算法交易技术，帮助解决了在不受控制的市场环境中管理同样技术的问题。

监管沙箱也易于吸引大量的资本投资，这对任何严谨的人工智能研究都是至关重要的。人工智能的开发的过程，特别是机器学习，本质上成本高昂。人工智能系统需要技能娴熟的开发人员和庞大的数据集才能得到改进。沙箱可以帮助实现这一点，因为国际清算银行的研究人员发现，参与监管沙箱的公司更有可能获得外部资本投资，而且往往会获得更多的资金。

当然，也有人批评这种方式。他们认为，无论是从参与沙箱的公司还是从试运行期间使用沙箱的客户来看，沙箱都是一个不具代表性的样本空间。这意味着人工智能对更广泛客户群体的系统性影响在很大程度上仍是未经测试、结论未知的。如果沙箱参与者离开沙箱并加入到更广泛的市场中，他们就不再是旁观者，而是该市场的积极参与者。试想一个股票交易人工智能在沙箱内表现良好，但在更大的市场中，因为它未能考虑到自身对市场价格的影响，而意外地导致了市场崩盘。

沙箱参与者与监管机构之间的沟通缺乏透明度，或监管机构与行业内部人士之间产生更糟糕的利益冲突也是人们所担忧的。这些担忧都值得认真关注，任何计划创建监管沙箱的国家或机构都应仔细考虑这些担忧。然而，如果在创建沙箱、评估目标、测试缺点、维护其程序结构和严格监督其参与者的过程中采取谨慎的态度，那么这些问题就可以被大大缓解。

三、 法律监管沙箱：弥合司法资源缺口

“据估计，全球有50亿人的司法需求未能得到满足。这种司法差距体现在有的人无法为日常问题获得正义、无法获得法律提供的帮助，以及生活在极端不公正的条件下。”这包括正式被排除在司法系统之外的人（例如那些因被认定“无国籍”，而没有资格进入其居住国家的司法系统的人）和因贫困和无法获得司法资源等条件而被正式被排除在外的人。2020年，美国在承担司法服务费用方面，在128个国家中并列第108位。在犹他州，对于最大自治市成人法院的54664起案件调查显示，在93%的民事和家庭法律案件中，至少一方在诉讼全程中未出现。这破坏了抗辩制度，让有正当主张的原告和有正当辩护的被告因缺乏适当的资源（指负担得起的律师或易于使用的信息系统等能够代表自己发声的资源）落入司法制度不足中，而被忽视。

为弥合上述差距，犹他州司法体系实施了自己的监管沙箱法律服务，尝试放宽法律服务的行为准则和限制，让这些服务更便宜、更容易获得。沙箱的创建者试图通过两种主要方法弥合司法差距：1）通过放宽对执业律师和合伙人的限制，来提供非传统的、以人为本的服务；2）推动由非律师提供的新型创新解决方案（包括技术解决方案），该方案受到法律服务创新办公室监督，以帮助犹他州人无论是否有律师的帮助，都能在司法系统中找到方向，充分维护自己的权利。

一些犹他州法律监管沙箱参与者的例子有参考价值。在人的方面，AAA公平信用基金会和人民法律援助（PLA）合作创建了一个债务转移计划，以帮助减少消费者债务。在该计划中，非律师人员接受培训，为医疗债务索赔中的被告提供指导和建议。通过培训和授权非律师人员提供建议，AAA和PLA希望扩大在消费者债务案件中提供免费、合格的法律建议的机会。这些案件构成了美国民事诉讼的一大部分。

在技术方面，法律监管沙箱的几个参与者正使用包括人工智能驱动程序在内的新软件以帮助客户填写法律文件。许多法律文件可以由客户自己起草，无需律师的帮助，而这些公司提供的软件可以帮助非专业客户处理合同、遗嘱、就业和住房的复杂法律术语。LawGeex公司正在开发人工智能软件，以管理公司合同中常规但又至关重要的组成部分，从而减少内部律师的繁忙工作。他们希望使用沙箱进一步开发系统，使其不仅涵盖样板文件，还可以对合同的生命周期进行独立的法律评估。

其他公司正寻求可通过互联 免费获取的低成本、低投入以及低耗时的建议。1Law 是个处于发展中的软件，帮助客户迅速获取可靠的法律建议, 通过即时消息既可与其他在线客户也可以和现实中的律师对接。此外，还能通过开发新的聊天机器人来帮助没有律师对接的客户。该软件填补了目前市场上缺失的需求 : 对于那些不需要投入大量费用和精力来聘请律师的问题，该软件具有低成本, 快速获取可靠法律建议的优点。人工智能的进一步发展将让这些聊天机器人在向客户提供关于更复杂情况的相关建议时更有效, 也让任何人可以以更低的成本通过互联 获取可靠的法律建议。

另一些公司正在尝试以一种新的软件来为诉讼提供驱动力。LawHQ 正在开发一个应用软件，旨在为客户举 垃圾电话。该应用对接客户以及供职于LawHQ的律师，提供个人帮助并且（也许更重要的是 ）帮助LawHQ为集体诉讼收集潜在的客户信息。使用该应用程序可以精准收集用户关于垃圾电话的数据， LawHQ也许能帮助客户集体维护自己不受骚扰的权利， 反之很难以个人名义提起诉讼来维护该权利。

人工智能会在缩小司法差距方面发挥巨大作用——小到个体通过聊天机器人和文件分析器获取价格低廉甚至免费的帮助，大到企业通过数据分析获取大规模侵权诉讼相关信息。当然，人工智能并非万用良方，它也会造成许多社会问题。其中最令人担忧的问题之一，是人工智能会自然而然地带有其创造者及其数据库中固有的偏好设置。为了确保人工智能可以缩小司法差距，而非阻碍司法，就必须发现这些固有的偏好设置，并予以根除。这就是为什么要严格测试沙箱，确保这项新技术有效且公平地实现其创造初衷：增加民众诉诸法律的机会。

所有这一切的关键是法律服务创新办公室监管沙箱所使用的数据驱动方法。美国犹他州最高法院委托该办公室监管沙箱，然而其在运作时仍不知长期使用这些新方法的影响。这就是为何该办公室会基于其收集到关于沙箱效果的数据，决定是延续还是调整沙箱的程序。事实上，这就是沙箱的关键之处：测试先前未经验证的想法，以便根据数据和确凿的证据而非猜测，长远规划其实施计划。