一、问题的产生

随着互联网技术的发展，带来了生产方式的巨大变革，大数据、人工智能技术作为新的生产工具引发了制度变革和创新模式，极大地提高了司法的工作效率。我国司法之中，人工智能主要在立案、证据、刑事侦查、起诉、审判、质证、证据的评价等阶段有所应用，对于人工智能在司法当中的应用，虽然在世界范围之内，我们是遥遥领先的，但是也存在无法突破的困境。比如算法黑箱的存在冲击着其公信力。对于智慧司法的发展趋势，如何化解算法风险对于智慧司法的冲击，进一步促进人工智能更好适配司法实践是我们必须慎重考虑的问题。

二、智慧司法的算法逻辑及应用

（一）智慧司法的算法逻辑

智慧司法以计算机算法技术为基础，目前的智慧司法系统主要建立在“知识图谱+机器学习”的基础上。在我国的智慧司法领域，首先是收集案例，将司法案例以数据化的形式转化为机器语言，并通过法律逻辑与技术逻辑的相互衔接，构建起数字化的类案知识图谱。其次，通过机器学习，并在此基础上进行学习，形成相应的算法模型，对相关案件进行预测和分析，实现算法技术的智能学习。当前我国实践中的司法辅助系统建立在这种算法逻辑基础之上。

（二）智慧司法的应用

作为新时期引领我国人工智能发展的纲领性文件，由国务院发布的《新一代人工智能发展规划》明确将“智慧法庭建设”列为我国推进社会治理智能化的重点任务之一。河北法院“智审”审判辅助系统、移动微法院、南通法院支云庭审系统等技术的投入使用，承担了司法信息公开与检索、在线诉讼服务、简单裁判工作智能化、在线监督管理等任务，为法官决策提供了有力支撑。

三、智慧司法的应用担忧

智慧司法系统的应用对于审判工作有着极大的提升效率的作用，提高了案件处理的效率，减轻了司法工作人员工作压力，解放了司法人员的劳动力，对于案多人少的矛盾进行了更好的化解。当前智慧司法仍然受到算法技术发展水平的限制，无法摆脱自身的机械性、滞后性的桎梏。当智慧司法普遍推广之时，应当警惕随之而来的算法隐忧。但是，从全球范围的实践上看，在司法领域应用智慧司法并不像人们想象的那样容易，也存在被主观因素侵入的危险。

（一）算法具有一定的权力属性

首先，智慧司法中的算法决策是数字时代的新型权力。对于算法，人们曾把算法视为一种一种不可告人的秘密或是一种基于宪法的言论自由。就智能辅助办案系统而言，它所进行的证据标准和规则指引、证据链和全案证据审查判断等，也都是在行使算法裁断权力。这些算法不仅仅是一种简单的数学计算，而是从一开始就赋予了确定的法律知识与逻辑，所以算法是复杂的，需要司法者最终确认才会产生效力，我们可以得知的是，算法具有权力属性。

（二）算法黑箱对司法公正的影响

对于司法而言，司法公开才能保证正义以看得见的形式存在智慧司法中的人工智能所依赖的深度学习技术就是一个“黑箱”。在我们在实际应用中，也许对于计算机的操作仅仅是简单的点击、输入、检索等简易操作。但是在这种简易操作的背后，是被封装起来的是一个无法被打开、无法被窥视的算法黑箱，它的存在将会损害司法的公信力。但是即便对于算法进行公开，对于外行人来说，也只是一串晦涩难懂的代码，所以如何破解算法黑箱的问题成为了亟待解决的难题。

（三）算法存在歧视

“算法歧视也可被称作自动化歧视，是指算法在作出自动化决策的过程中，算法的分析预测系统对特定群体的合法正当权益产生了一种具有反复性的不平等侵害。”对于算法歧视而言，是很难规避的。首先算法是由人类设计的，在人类社会中存在歧视是在所难免的，因为在算法的设计过程中，会掺杂人类价值观的影响，而这些价值观恰恰会影响算法，也最终会产生相应的算法歧视。

四、智慧司法算法缺陷的应对

人工智能终将成为历史潮流，时代变化将带来司法变革。在新形势下，应当明确智慧司法的发展方向，对算法技术进行法律规制，以修正技术风险，应对风险挑战，破解司法难题。

（一）尽量避免算法的权力属性

第一算法应该尽可能透明和可解释，使用户能够理解算法如何作出决策，避免黑箱操作。第二算法应受到独立的审查和监管机构的监督，确保其符合道德、法律和社会准则，这样有助于避免算法滥用权力，对用户或社会造成不良影响。

第三建立反馈机制，允许用户提供对算法决策的反馈意见。

（二）算法黑箱的应对措施

应对算法黑箱在设计阶段注重其透明度，推动数据公开和对普通人民群众的共享，加强对其算法的审查与监管，可以建立相应独立的算法评估和监督机构。这样可以有效地减少算法黑箱带来的负面影响，并促进算法的公平、透明，来最大程度减少算法黑箱的存在，以便更好应用在智慧司法领域。在具体措施上，在设计算法时，可以应用更加透明和更具有可解释性的方法。

（三）对于算法歧视进行改变

对使用于训练算法的数据集进行审查，确保数据集具有多样性和代表性，并避免包含偏见或歧视性因素。通过消除数据集中的不平等和不公平，可以减少算法的歧视潜在风险。同时，使用独立的验证机制来评估算法的公平性和准确性。此外，有研究表明，由于在系统中选择“其他”按键必须单独填写理由，就导致法官为了避免额外的工作量而往往选择一个相近但不准确的选项，进而扩大结果偏差。

五、结语

在当今时代，对于人工智能的应用已经深入到多个领域。我们在看到智慧司

法带来相应价值的同时，也必须清醒地认识到，现阶段我们仍处于弱人工智

能时代。算法技术的应用，在当今时代并不能完全取代人类法官的工作。虽然智慧司法系统在提升一些机械性工作的效率方面确有价值，但这种效率的提升，不能以牺牲公平公正以及其他权利为代价。在司法活动的过程中对于智慧司法的运用，我们应当保持相当的理性，正视算法技术应用存在的潜在风险并积极规制，在法治轨道上让智慧司法能行稳致远。

参考文献：

1. 冯浩波.智慧司法的算法隐忧及其规制[J/OL]．四川行政学院学报.

2. 马长山：司法人工智能的重塑效应及其限度[J]，法学研究。

3. 童建明：努力让人民群众在每一个司法案件中感受到公平正义——学习习近平总书记关于公正司法重要论述的体会[J].国家检察官学院学报,2021,29(4):3-16.

4. 章小杉.人工智能算法歧视的法律规制:欧美经验与中国路径[J].华东理工大学学报(社会科学版),2019(06):63-72.

5. 张凌寒：智慧司法中技术依赖的隐忧及应对[J].法制与社会发展,2022,28(4):180-200.

作者简介：李木子（1998年1月-），男，汉族，黑龙江克山人，在读硕士研究生，辽宁师范大学法学院，研究方向:诉讼法学。