技术原理

崔亚东:人工智能应用与治理

↑点击上方行政管理改革关注


文 |崔亚东 上海市法学会党组书记、会长、二级大法官

来源 |《行政管理改革》2020年第6期

行政管理改革图片来源于网络转载请注明出

摘 要

司法要积极推动与人工智能的深度融合,让法治插上科技的翅膀。上海法学法律界在这方面进行了积极探索与实践,上海刑事案件智能辅助办案系统开创了人工智能在司法领域深度应用的先河。人工智能的发展同样要有法治作保障,需要加强人工智能法治研究和治理,构建人工智能法治体系,培养人工智能法治复合型人才。

人工智能已上升为国家战略。谁拥有人工智能,谁就拥有未来。自2017年以来,美国、中国、英国、德国、法国、日本、韩国、俄罗斯、欧盟等国家和组织纷纷将“人工智能”发展上升为国家战略。人工智能时代的来临,法律人将如何面对?人工智能时代,法律人的责任何在?

我认为至少有两点:第一,“AI+法治”;第二,“AI法治”。这是两个不同的概念:AI+法治——即主动拥抱新科技,抓住机遇,积极推动AI与法治的深度融合,让法治插上科技的翅膀,更好地维护社会公平与正义;AI法治——即积极推动人工智能法治体系建设,营造人工智能法治生态,运用法治思维和法治方法,引领、规范、促进、保障人工智能安全、可靠、可控、健康持续发展,让AI更好地造福人类。在这方面,上海法学法律界进行了积极探索与实践,努力打造“上海人工智能法治高地”。


一、上海刑事案件智能辅助办案系统—— AI+司法的成功实践

上海刑事案件智能辅助办案系统是人工智能与司法深度融合的标杆,开创了人工智能在司法领域深度应用的先河,实现人工智能在刑事司法应用0-1的突破。

(一)中央政法委确定运用高科技助力诉讼制度改革的思路

2017年1月中央政法委作出研发“推进以审判为中心的诉讼制度改革软件”的重大决策。中央政法委之所以作出这一重大决策,有着深刻的历史背景。一是依法纠正冤假错案的大背景。党的十八大以来,在全面推进依法治国大背景下,人民法院依法纠正了呼格吉勒图案、聂树斌案等46起重大刑事冤假错案(截至2019年2月28日),冤假错案的纠正,极大提振了全社会对司法公正的信心。二是推进以审判为中心的诉讼制度改革的大背景。如何从根本上防范冤假错案的发生呢?党的十八届四中全会作出“推进以审判为中心的诉讼制度改革”的重大决策。习近平总书记在党的十八届四中全会上讲话强调:“推进以审判为中心的诉讼制度改革,目的是促使办案人员树立办案必须经得起法律检验的理念,确保侦查、审查起诉的案件事实证据经得起法律检验,保证庭审在查明事实、认定证据、保护诉权、公正裁判中发挥决定性作用。这项改革有利于促使办案人员增强责任意识,通过法庭审判的程序公正实现案件裁判的实体公正,有效防范冤假错案产生。”三是人工智能等新科技提供了重大历史机遇和强大科技支撑。如何让以审判为中心的诉讼制度改革真正落地见效,切实防止防范冤假错案的产生?智联世界,无限可能。科技是破解难题、推动改革的利器和动力。当代人工智能等新技术的发展及应用,为实现这一目标提供了重大历史机遇和强大科技支撑。

鉴于以上,中央政法委确定了运用高科技助力以审判为中心的诉讼制度改革的思路,作出了研发“推进以审判为中心的诉讼制度改革软件”这一具有历史性、战略性、里程碑式意义的的重大决策部署。

2017年2月6日,中央政法委将“研发推进以审判为中心的诉讼制度改革软件”的任务交给了上海,简称“206工程”、“206系统”。由上海高院承担研发推进以审判为中心的诉讼制度改革软件。在市委政法委的领导下,由上海高院牵头,全市政法各部门协调一致,与中国科大讯飞公司紧密合作,经过三年的努力拼搏,成功完成研发“上海刑事案件智能辅助办案系统”。

2018年12月,“206系统”3.0版本(具有26项功能、102项证据标准指引)上线运行,全市全面应用,上海刑事案件办理实现了立案、侦查、批捕、审查、起诉、庭审、判决等均在“206系统”中运行,效果良好。2019年1月,“206系统”向4.0版本迈进。

(二)“206系统”主要特点

1.系统定位:智能辅助办案

我们根据刑事诉讼有关法律规定,遵循、把握司法规律及其特点和人工智能发展规律及现阶段特征,把“206系统”科学定位为“智能辅助办案系统”(不能理解为机器办案)。系统起到的是“智能助理办案”的作用,等于是为每一名法官、检察官、侦查员配备了一名“AI法官助理”“AI检察官助理”“AI侦查员助理”。

为什么这样定位?一是司法规律和司法的特殊属性决定了人工智能只能是辅助办案。司法具有其特有的规律和特有的属性,如司法的公正性、公开性、亲历性等,尤其是司法活动的亲历性,决定了办案人员是案件办理的主体,人工智能只能是辅助办案人员办案。二是人工智能现阶段的发展特征决定了人工智能只能是辅助办案。目前,人工智能的发展仍处于初级阶段,具有一定的局限性。具体到司法领域的应用,机器还不能做到像法官、检察官、侦查人员那样去思考和判断。因此,人工智能只能是辅助法官、检察官、侦查人员办案,决不能理解为“机器办案”。三是推动人机协同、增强智能辅助司法是正确路径。准确遵循司法规律和特点,准确把握人工智能现阶段的发展特征(人机协同,跨界融合是当前AI的主要特点),并将二者紧密结合起来,用好这一科技利器,使其更好地服务司法。

2.“206系统”技术应用

实现司法现代化是一项复杂的系统工程,既要坚持以正确的方向、以先进的理念为指引,又必须要以现代科技为动力和支撑。“206系统”运用光学字符识别、自然语言处理、智能语音识别、要素提取、机器学习等人工智能新技术,为办案人员收集、固定证据提供指引,并实现对证据的判断、校验、把关、监督等功能。可以概括为:一是让机器学会识别证据。机器自动对证据类型进行识别,并自动归类到相应卷宗目录。二是让机器学会理解证据。基于机器对大量标注证据的学习和积累,机器能够自动对证据内容进行理解,抽取与查证事项相关的内容,提示证据中存在的瑕疵和证据之间的矛盾,及时提示给办案人员,由办案人员决定是否补正或者作出说明。三是让机器学会分析证据。比如在笔录问答聚类系统中,对于言词类证据自动进行语义分析,并对相似问答进行聚类。

3.“206系统”功能设计

“206系统”设计有26项主功能,88项子功能。

4.创六项知识产权,实现0-1的突破

三年来,“206系统”研发团队集中700余人(其中法检公专业骨干400余人,科大讯飞技术人员300余人)日夜奋战,先后攻克证据标准及规则指引、证据校验、网络、庭审、电子卷宗等5大类技术难关,突破了OCR手写体检出、案情要素自动抽取、证据审查校验、公检法网络联通等4类技术瓶颈,解决了900多个技术及应用具体问题,获得国家6项知识产权,实现了0-1的突破。

(三)“206系统”主要功能及其作用

1.证据标准、证据规则指引功能(世界首创),为办案人员收集、固定证据提供统一的指引

按照《刑法》《刑事诉讼法》刑事诉讼制度的相关规定、原则、要求,坚持完整性与阶段性相统一的原则,制定出刑事案件证据标准、证据规则指引(目前常涉罪名102个,覆盖了90%以上的刑事案件总量),共设置校验点(对案件事实的关键内容进行校验)19404项,并嵌入办案系统,为办案人员收集、固定证据提供统一、适用的标准化、规范化、数据化、清单式办案指引。这一创新丰富完善了刑事诉讼理论体系和刑事证据体系,为刑事诉讼制度改革作出了历史性的贡献。

2.证据校验、提示、把关、监督功能(世界首创),有效防范冤假错案

运用光学字符识别、自然语言处理、要素提取、机器学习等人工智能新技术,适时、精准、全面、科学地对证据进行校验、提示、把关、监督,及时发现证据中存在的瑕疵和证据之间的矛盾,及时提示给办案人员,由办案人员决定是否补正或者作出说明,防止“起点错、跟着错、错到底”的情况发生,有效保证公正司法。

3.智能辅助庭审功能(世界首创),让正义以看得见方式实现

“推进以审判为中心的诉讼制度改革”的另一个重要内容,是保证庭审在“查明事实、证据认定、保护诉权、公正裁判”中的决定性作用,使“案件事实查明在法庭”“证据认定在法庭”的庭审实质化的要求真正落地见效。智能辅助庭审功能综合运用了多项人工智能技术,在庭审时可以做到庭审进行到哪里,文字就记录到哪里;庭审进展到哪个阶段,系统就同步抓取证据材料展示到哪里。“206系统”的智能辅助庭审功能按照证据裁判的要求,从梳理证据、校验证据、展示证据、审查证据四个方面突出庭审重点,使庭审实质化真正落地见效。

4.统一网络运行平台(世界首创),实现办案流程再造

“206系统”真正实现了公检法办理刑事案件网上运行、互联互通、安全传输、数据共享,整个刑事诉讼活动全程可视、全程可控、全程留痕、全程监督,防止司法任意性。打破政法各单位的信息壁垒,实现刑事诉讼办案的工作流程再造,更好地体现了“分工负责、互相配合、互相制约”的刑事诉讼原则。

5.多项功能集成应用,节约司法资源、成本,提升了办案质效

如法律文书自动生成、电子卷宗移送(一键传输)、辅助庭审、类案推送等多项功能的结合应用,推动了长期困扰司法公正和效率难题的解决(迟到的公正不是公正),大大地提高了办案质量和效率,成为办案人员离不开的智能助手。


(四)“206系统”的延伸

“206系统”运用人工智能人机协同、跨界融合的特点,不断发展和延伸,推进与司法的深度融合。

1.延伸至司法行政系统

“206工程”已将系统功能拓展至减刑、假释等环节,实现了刑罚执行、回归社会的刑事案件全流程覆盖。

2.延伸至民事、行政审判领域

上海高院于2017年8月将“206系统”延伸至民事、行政审判领域。自2017年12月1日起,上海民商事辅助办案系统上线试运行。经过两年多的努力,“民事、行政206系统”已完成20个案由的办案要件指引的制定工作;完成了证据审查判断、争议焦点预归纳等19项功能研发工作。截止至2019年8月底,办理案件14705件。

3.部分省、市推广应用

2018年初,中央政法委作出在全国部分省、市试行推广应用的部署。2019年5月,中共中央办公厅印发《关于政法领域全面深化改革的实施意见》(中办发[2019]32号)明确要求,“完善并逐步推广刑事案件智能辅助办案系统,探索把刑事案件基本证据标准嵌入数据化办案程序中,深化以审判为中心的刑事诉讼制度改革。”截至目前,“206系统”已经在安徽、山西、云南、新疆生产建设兵团、贵州等省市试点应用,取得良好成效。2019世界人工智能大会法治论坛期间,来自美国、英国、荷兰等地的大法官及专家学者专程到上海高院调研206系统。


二、构建人工智能法治体系,推动人工智能全球治理,让AI更好造福人类

法治是最好的治理方式,法治环境是最重要的发展环境。人工智能的发展同样需要有法治作保障。如何应对人工智能发展带来的风险挑战?

(一)构建人工智能法治体系,保障人工智能健康发展

人工智能法治是一个新概念、新理念,人工智能法学是一门新学科、新领域。构建人工智能法治体系包括立法、执法、司法、守法等方面,其研究内容涵盖人工智能法治的基础理论、体制机制、规范体系、法律体系以及前沿问题等诸多方面。加强人工智能法治研究,构建人工智能法治体系,营造人工智能法治生态,将人工智能发展应用纳入法治轨道,运用法治思维和法治方法,引领、规范、促进、保障人工智能安全、可靠、可控、可持续发展,趋利避害,使人工智能更好地造福人类,是人工智能发展的必然。我国《新一代人工智能发展规划》中提出:“到2025年初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力”,最大限度地防范风险。

(二) 凝聚战略共识,加强人工智能法治研究和治理

人工智能的发展应遵循和把握人工智能发展的规律和特征,坚持面向全球、面向未来、面向和平,坚持以人为本、向善安全、创新发展、共享成果、可靠可控、规范有序的原则和理念,积极构建人工智能未来法治体系,将人工智能发展纳入法治的轨道,运用法治思维和法治方法,引领、规范、促进、保障人工智能健康持续发展,更好造福人类。

1.构建人工智能法治体系,推动引领人工智能法学研究,用法治促进规范、保障人工智能发展

人工智能法治是人工智能健康、安全发展的必然要求。人工智能法学是一门新学科、新领域。人工智能时代的来临,法律人如何面对?针对人工智能可能带来的风险与挑战,推进人工智能法治研究的跨学科融合,加强人工智能法治的研究与实践,致力推动、引领人工智能法学研究,是法律人新的重要职责之一。

2.防范和应对人工智能风险与挑战,应纳入人工智能国家战略同步推进

人工智能是引领新一轮科技革命和产业变革的颠覆性技术,在为人类创造巨大福祉的同时,也会催生各类全新的安全风险。在物联网、人工智能、大数据互相作用的情况下,人工智能之间形成了一个网络结构,而智慧网络结构使得各种因素的作用变得更加复杂,更加难以预测。在深度学习的情况下,对人工智能的控制与治理成为了一个非常突出的问题。治理风险分成三个层次的风险。一为传统的风险,即新一代信息技术的全面深度应用而引发的隐私保护丧失;二为在以自主和深度学习为基础的机器学习之下,出现了人机之间的竞争;三为哲学或者伦理学层面的反思。例如,目前部分社会人士对人工智能技术使用过程中个人隐私与数据安全问题存在争议。针对人工智能可能带来的风险、挑战及应对研究,我认为,应树立忧患意识、风险意识、危机意识,未雨绸缪、超前布局、超前研究,并纳入人工智能国家战略,与人工智能的发展同步推进。

3.人工智能法治体系建设及治理,需要形成国际共识,全球共同努力

要在福祉、安全、共享、和平、法治等原则的基础上进行细化,达成国际共识。要以原则为基础,形成人工智能治理的国际公约。要在国际公约的基础上,成立执行机构,通过国际公约和国际组织强有力的执行,转化为国内的规则。中国应该尽快明确与法律相关的人工智能研发的原则、政策、伦理标准、指导方针等,统一规格和形式并加强国际对话,赢得国际话语权。中国国务院2017年颁发的《新一代人工智能发展规划》提出了人工智能发展的中国式制度安排以及九条主要原则,与国际社会已经形成的基本共识是相洽的;但在不同价值取向发生冲突时,怎样决定取舍的元规则和优先顺序还有待进一步明确。需要尽快明确人工智能研发与法律相关的原则、政策、伦理、标准、指导方针等。

4.加强人工智能法治的顶层规划设计,建立国际领先的标准体系

中国人工智能法治应用是在国家信息化战略的顶层设计下展开的,顶层设计的功能在于统筹规划,协调人工智能法治应用的全盘发展,保证系统间的互联互通,形成整体视野。在制定和落实顶层设计的同时,应当注重寻求重点问题的突破,对重点难点问题要攻坚克难、及时总结经验,形成具有中国特色的人工智能法治标准体系。

5.深化法律和技术的融合,跨越学科鸿沟

法治是人工智能的一个独特应用场景,法治的特性决定了人工智能法治应用并非通用技术在法治场景中的平移运用。人工智能法治体系需要法律人和技术人秉持开放协作的原则进行深度融合。为了保证人工智能法治应用的持续健康发展,需要在更为广泛的意义上,推动法治运行多主体、多要素的协调互动,鼓励法律与技术跨学科、跨领域的交流合作,重视探索法学教育和人才培养的新方案。

6.建立人工智能发展的评估研究体制机制,保证安全、可靠、可控

要建立行之有效的人工智能发展评估研究体制、机制。针对人工智能发展在公民隐私权、信息权、知情权以及知识产权保护、未成年人保护等方面可能带来的风险与挑战,认真评估人工智能发展可能引发的法律、安全、伦理和社会治理等方面问题,提前布局不断升级的智能化的法律问题前瞻性研究,确保人工智能安全、可靠、可控发展。

7.完善人工智能规则建构,加快人工智能立法,确保有效规制

强化对人工智能发展相关法律问题的前瞻性思考与研究,建立健全人工智能开发应用的制度规则和法律规范,加强人工智能领域的立法,保证人工智能发展有法可依、依法规范,提高制度供给的及时性、有效性。目前,对人工智能法治应用的法律规制重点是对于法治领域人工智能的开发和应用,例如涉及到对AI应用中数据、隐私的保护问题,以及算法不可解释性(算法黑箱)掩盖自动化决策所导致的数据歧视等问题。

8.建立涉人工智能案例研判机制,引导、促进涉人工智能案件审理的科学规范

随着人工智能技术社会应用的不断扩展,涉及人工智能等新技术案件纠纷也逐步增多。因此要加强对涉人工智能案件审理的指导,提高涉人工智能案件审理的质量;要建立对涉人工智能典型案例研究分析的机制,注重对典型案例的研究,探索我国涉人工智能案件纠纷的现状及规律,检视现行法律的应用情势,为审理、办理并防范这类案件的发生提供借鉴,为下一步人工智能领域的科学立法、严格司法提供支撑。

9.协调人工智能伦理发展,由“善”的算法到“善”的治理

“上海倡议”提出,人工智能的法治应用,应坚持以人为本、向善安全、可靠可控的基本理念。制定技术设计阶段的法律规范,通过规则设定促进人工智能算法的公正、透明、安全,避免算法歧视,杜绝有悖伦理价值及公序良俗的技术应用。2019年4月欧盟委员会发布人工智能(AI)伦理准则,2019年6月中国新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,均强调这一理念。协调人类伦理,避免人工智能偏见,可以促进人工智能向善、促善,平衡效率性和公平性,由“善”的算法,实现“善”的治理。

10. 推进“政产学研用”合作,培养复合型人才,为科学立法提供基础保障

习近平总书记指出,“人工智能具有多学科综合、高度复杂的特征。要加强人才队伍建设,以更大的决心、更有力的措施,打造多种形式的高层次人才培养平台,加强后备人才培养力度,为科技和产业发展提供更加充分的人才支撑。下一步应”推进“政产学研用”合作,整合科研机构、高等院校、高端智库资源,更好发挥作用。高等院校应当发挥培养高端人才优势,在学科设置、课程设置等方面调整布局。加快人工智能法治复合型人才培养,建立人工智能与法学交叉学科,培育具备法学素养并熟悉人工智能的复合型人才。

(三)成立“人工智能法学院”,培养人工智能法治复合型人才

2019年5月在上海法学会的支持下,上海政法学院成立了人工智能法学院。2019年9月首届招收“人工智能法学专业”本科新生40名(全国第一个招收人工智能法学专业的本科生)、研究生10名。人工智能法学院的成立,开创了一门新的学科,是人工智能发展的必然要求,是深入推进“政产学研用”的典型。上海政法学院发挥政法院校的优势,紧跟时代步伐,将率先为国家培养出一批既懂人工智能又懂法律的复合型人才。

改革永无止境,科技发展永无止境,人工智能法治研究应紧盯现代科技的发展前沿,发挥法治引领、保障人工智能发展的积极作用,让人工智能更好地造福人类。[本文系作者在中央党校(国家行政学院)“互联网、大数据、人工智能融入和推动科学立法、民主立法、依法立法论坛”上的演讲,内容有删节]


可点击底部“阅读全文”或上中国知网下载全文

你也可能喜欢

发表评论

您的电子邮件地址不会被公开。 必填项已用 * 标注

提示:点击验证后方可评论!

插入图片
人工智能教学视频 投稿者
我还没有学会写个人说明!
最近文章
  • * 没有更多文章了
  • 热门搜索

    分类目录