司法人工智能应有边界限制

本文转自：法治日报□ 郑 曦

前不久，最高人民法院发布《关于规范和加强人工智能司法应用的意见》（以下简称《意见》），规划了司法人工智能体系建构的两个阶段，明确了司法人工智能应用的原则、范围和具体要求，对人工智能应用于司法的相关重要问题作出了规定，引起了法学界和司法实务界的普遍关注。

在科技浪潮迎面袭来的时代，人工智能应用于司法乃是必然。人工智能应用于司法的初步构想在20世纪七八十年代即已受到重视，但其真正运用于司法实践却时日尚短。近年来的司法人工智能应用与其他技术的应用一样，既给司法带来了机遇，也为其带来了挑战。于是，如何在司法工作领域合理应用人工智能技术，促使人工智能技术与司法产生良性互动，已成当前司法领域亟须研究的重要问题之一。此次《意见》就对相关问题作出了规划和安排，明确司法人工智能应用应当遵循安全合法、公平公正、辅助审判、透明可信、公序良俗原则，这对于确保司法人工智能正确的价值取向具有非常积极的意义。

在司法领域合理应用人工智能技术，首先需要解决的前提性问题就是司法应以何种姿态面对人工智能这一新技术。不断变革的人工智能技术应用于司法领域，不可避免地会给相对保守稳定的司法带来冲击。在此种现实下，司法既不能对人工智能技术的发展视而不见、无动于衷，也不能只是一味追逐人工智能技术变革的最新潮流，毕竟包括人工智能在内的科学技术的发展是以一定的错误率为代价的，而这种错误在司法领域就可能体现为案件的错误裁判、公民人身自由的错误剥夺等，这是作为保障公平正义最后一道防线的司法所无法承受的。因此，司法面对人工智能等新技术，既应当有开放的心态，也应当审慎稳健，尽可能应用经过科学验证、已趋成熟的技术。

其次，在司法领域妥善引入人工智能技术后，仍需对其予以明确定位。司法的运作有其固有的规律，司法过程也非数字、方程的机械运算，其中既有成文规则的运用，也包含天理人情的价值衡量，而这是刚性的、去价值化的人工智能技术无法取代的。因此，人工智能在司法领域应被明确定位为司法辅助工具，其应用目的在于辅助法官、检察官等更准确高效地办理案件，而非代替他们办案。对于人工智能的辅助性工具定位，此次《意见》已然予以明确，因此，人工智能技术应用于司法应有边界之限制，例如不应允许其介入司法裁判的规则制定过程、需避免其对司法人员的办案形成实质性干预等。

再次，为明确人工智能在司法领域的辅助工具定位，需理顺司法机关与人工智能背后的科技企业之间的关系。例如应明确在人工智能应用中司法机关作为需求提出方和科技企业作为服务提供方的角色，在二者间做职责、人员、应用程序等方面的必要分离，并进行必要的监管，以防止二者权责、利益的混淆。司法机关与科技企业之间关系的厘清，一方面有助于防止科技企业利用人工智能技术的应用将其观念、利益诉求等向司法领域渗透，从而保障司法的公正性，另一方面也有助于降低甚至禁绝人工智能应用于司法的政府采购等诸环节中的腐败风险，从而确保科技企业向司法机关提供高质量的人工智能工具。

最后，人工智能应用于司法归根到底是为了服务公众，所以，必须始终坚持司法为民之初心。要坚持遵循司法规律、服务公正司法，保证无歧视、无偏见，不因技术介入、数据或模型偏差影响审判过程和结果的公正，尊重不同利益诉求，实现普适包容和机会均等。要保障人工智能系统中的各个环节能够以可解释、可测试、可验证的方式接受相关责任主体的审查、评估和备案。同时，人工智能司法应用不能损害社会公共利益和秩序，不能违背社会公共道德和伦理等。唯有如此，才能创造更高水平的数字正义，推动智慧法治建设迈上更高层次。

（作者系北京外国语大学法学院教授，北京外国语大学智慧司法与数字法治研究中心主任）