将人工智能在审判中限定为辅助工具纺织机械

王新锐 近两年来，人工智能越来越深入地介入人们的生活，司法领域也不例外。如何看待审判活动中采用自动化算法对程序正义的影响，也颇为外界关注。 2016年4月，威斯康辛州对卢姆斯提起公诉，指控其犯有一级肆意危及安全、驾车逃避警察执法等五项罪名，卢姆斯对其中两项较轻的罪名表示认罪并请求法院判处缓刑。 量刑调查环节中，法院使用compas工具对卢姆斯进行了风险评估，并基于评估结果和其他量刑因素，判处卢姆斯入狱8年。卢姆斯对量刑结果提出异议，被法院驳回。案件上诉后，二审法院将争议提请威斯康辛州最高法院处理。威斯康辛州最高法院于2016年7月13日作出终审判决，维持了一审法院的量刑意见。 compas是northpointe公司设计的一款风险评估工具，会根据被告犯罪档案和问卷调查中记载的信息，对其再次犯罪的可能性进行风险评估。区间均为1到10，数字越大风险程度越高。 本案中，卢姆斯被识别为对社会具有较高危险性。一审法院综合考虑其所犯罪行的严重性、个人经历和监视记录以及compas风险评估结果等因素，未支持卢姆斯的缓刑请求，判决其入狱8年，出狱后还要接受5年的监视。 卢姆斯对量刑结果提出异议并请求进行量刑听证，其认为：一审法院使用compas进行风险评估违反其依据宪法享有的“正当程序”权利。compas的专有保密属性使其无法对风险评估的科学有效性提出质疑，调查报告中使用compas进行风险评估，剥夺了自己获取量刑报告全面信息的机会，因此无法确保自己基于准确信息而获得量刑的权利。 一审法院认为，其在量刑判决中引用compas评分是为了证明判决内容，并不会改变判决结果，继而驳回了卢姆斯的异议申请。卢姆斯不服提出上诉。 威斯康辛州最高法院审理后认为，compas可以在一般意义上评估具有类似前科的人被释放后再次实施犯罪的可能性，评估的目的是识别出那些能够通过评估获益的罪犯，以及提示监管中需要注意的风险点。因此，该风险评估工具有助于法院衡量所有量刑因素。法院在判决中考虑compas工具的风险评分，并未侵犯被告应当享有的权利。 威斯康辛州最高法院进而指出，由于northpointe公司在公开发布的《compas实务操作指南》中解释过风险分值主要基于犯罪历史等静态信息和犯罪同伙、药物滥用等少数动态变量计算所得，因此，被告完全有机会核实compas报告中列出的问题和答案是否准确。一审法院和被告能够看到的compas风险评估报告内容相同，该案中被告并非没有机会对法院依据的信息进行反驳、补充或解释。最终，威斯康辛州最高法院驳回了卢姆斯的异议。 依据2007年美国首席法官会议签署的《支持促进公共安全和减少再犯的审判实践》决议以及相关文件中关于减少再犯率的精神，威斯康辛州最高法院在本案中明确，法院量刑时可以使用compas工具的风险评分，但对具体的使用方式提出了限制和警示要求。如，compas工具的作用，在于帮助法官针对每个被告的个体情况，更好地评价、衡量和适用其他量刑因素；compas评分结果不应成为判断对罪犯采取监视居住措施是否安全有效的决定性因素等。 卢姆斯案提出了一个重要的问题，即应如何看待审判活动中采用自动化算法对程序正义的影响。 在国外，人工智能产品的算法歧视带来的相关问题已日益引起关注，用看似客观公平的人工智能算法代替人进行自动化决策，虽然会带来效率的提升，但也有可能带来难以预料的风险。 从技术原理上讲，人工智能主要由数据和算法两部分组成，通过用海量数据不断地训练算法而提高决策的效果(当然也有部分技术可以不依赖于数据)。不论是在数据中已经存在的不公平结果(如少数族裔或弱势群体被歧视对待)，还是算法在设计中考虑不周，都有可能导致整体效率提升、个体利益受损的结果发生。 目前，在国内外法律领域采取的人工智能技术普遍应用深度学习技术，这一技术本身的特点就是决策过程难以具体解释，有所谓“黑箱”的特点。如果人工智能本身有可能因为其现阶段的技术特点(依赖历史数据)带有不公平性，而又无法作出确定性的解释，那么在司法领域可能需要作出更谨慎的审视，先作为辅助性的工具，而不是决策的唯一依据。 把人工智能作为决策的参考，应严格限制在辅助性地位，而不是作为唯一的依据，这也是目前医疗领域监管的普遍共识。例如，国家卫生计生委于2017年2月发布的《人工智能辅助诊断技术管理规范及其临床应用质量控制指标(2017版)》和《人工智能辅助治疗技术管理规范及其临床应用质量控制指标(2017版)》均指出，人工智能辅助诊断、治疗技术作为支持系统，在医学实践中仅处于辅助性地位，最终决策和重要实施步骤仍然需要由具备一定资质和经验的医师来完成。 2017年7月，国务院发布了《新一代人工智能发展规划》，在鼓励发展人工智能的同时，也明确提出“制定人工智能产品研发设计人员的道德规范和行为守则，加强对人工智能潜在危害与收益的评估”“建立健全公开透明的人工智能监管体系，实行设计问责和应用监督并重的双层监管结构，实现对人工智能算法设计、产品开发和成果应用等的全流程监管”。这说明，国家层面也注意到了人工智能技术影响的双重性。 目前，在司法活动中，各地法院也纷纷开始了人工智能项目试点。 根据笔者的观察，人民法院目前开展的司法人工智能项目，主要集中在以下三个方向： 一是自动化。此类项目旨在通过计算机自动操作，减少机械化、重复性劳动。在司法活动的特定环节和特定案件类型的审理中，自动化能够显著提高司法效率。 二是规范化。此类项目旨在借助大数据和算法分析证据和裁判文书，挖掘司法规律，辅助法官进行决策。受制于图像识别和自然语言识别技术的发展水平，此类项目在数据训练、输入、标注等环节需要投入大量人力，将算法与具体案情匹配的准确度也有待提高，其应用价值更多体现在通过集中整理类案审判规律，节约法官的类案检索成本。 三是综合化。此类项目将自动化与规范化结合，旨在通过深度介入数据输入、处理和输出全过程，全面提高工作效率，为审判活动提供全程辅助和信息化管理服务。此类项目想要发挥作用，必须依赖于全部司法活动信息的标准化录入、模型和算法的准确训练以及证据、案情等小前提的有效匹配，其必要前提是审判活动完全信息化。在不具备上述前提的情况下，此类项目仅能提高局部效率，难以根本性地改变全系统的生产力水平。 人工智能能否取代人类法官？笔者给出的答案是否定的。人民法院的审判活动本质是司法判断，法官需要对司法判断的后果负责。无论使用怎样的技术手段，只要人工智能技术还无法做到百分之百准确，就必须有人类法官进行复核，由于复核的过程无法跳过任何环节，其效率与传统的办案方式并不存在根本性的差异。因此，期待人工智能技术根本上改变审判方式甚至替代人类法官，在现有技术发展水平下还过于遥远。 回到人工智能司法项目上看，笔者认为三种方向中，自动化和规范化的方向可以在一定程度上提高法官的工作效率，缓解法院当前案多人少的主要矛盾，而综合化的应用方案发挥作用需要的前置因素和资源过多，不应被视为最优先的发展方案。 （作者系北京市安理律师事务所高级合伙人） 责任编辑：马蓉蓉

青山湖区腾威服装加工厂

SK505黄油泵

海林市威虎山商厦秀清精品屋

橡皮艇充气泵报价

泌阳县德彦花花牛乳业门市

恒顺绿化有限公司

湖南省湘中水利水电工程建设有限公司河南分公司

洗衣粉包装机

修水县矿产监察稽查大队

延津县天时利农业种植专业合作社