医疗人工智能应用的法律挑战及其治理

医疗人工智能的高效性和先进性对公共卫生和医疗保健领域的技术创新产生了深刻影响。医疗人工智能有望使公民更好地享有健康权,并对整个公共卫生领域带来裨益,但同时也需注意医疗人工智能的发展速度远超对其监管框架的部署规划,会对个人权利和公共健康构成严重挑战,亟需法律作出相应回应。从相关当事人的尊严和自主性的保护、健康数据处理中的隐私和个人信息保护、医疗人工智能应用的公平性和透明度、问责制度和归责原则等方面分析了医疗人工智能应用的法律挑战,并从明确医疗人工智能的治理原则,建立包含硬法和软法在内的初步立法框架,构建科学、合理、高效的监管体制等角度构思了我国医疗人工智能的治理框架。     

国家机关处理个人信息的特殊风险及其法律规制

国家机关作为我国数据资源的最大掌控者，在履行法定职责过程中涉及大量个人信息的处理。国家机关处理个人信息存在处理失控、处理泛化、信息监控和信息泄露等特殊风险，但我国现有立法对国家机关处理个人信息所涉及的特殊风险缺乏足够多的有实际约束力的制度设计。面对国家机关处理个人信息的特殊风险，针对我国现有立法对国家机关处理个人信息法律规制的不足，国家机关处理个人信息的法律规制应从细化国家机关处理个人信息的告知义务、规范国家机关对个人信息处理的授权、明确国家机关处理个人信息的比例原则、强化国家机关处理个人信息的安全保障义务、建立国家机关个人信息处理的分级机制等五个方面展开。     

大数据时代网络犯罪的刑法应对——兼论人工智能犯罪的规制

网络技术发展促成了网络代际更迭。在大数据为核心的Internet 3.0阶段,网络在犯罪中的作用和地位发生变化,网络的刑法属性由传统的犯罪对象、工具演变为网络犯罪的场域空间和存在方式。网络犯罪的表现形式也随之演化,在传统犯罪网络化趋势加强的同时,出现了人工智能犯罪等新的犯罪形态。在对比网络犯罪与传统犯罪的危害性评价差异的基础上,可以将网络犯罪区分为三种类型:危害性评价等价于传统犯罪的网络犯罪类型、线上线下危害性评价背离的网络犯罪类型、以网络大数据为核心的新型网络犯罪,后者尤以人工智能犯罪为代表。人工智能的法律问题冲击着以人为核心的法律制度体系,也给刑法提出了新的命题。大数据、云计算以及人工智能技术的发展,意味着新的风险时代的到来。刑法对以网络为工具和对象的犯罪进行了有效立法应对,但对大数据时代的网络犯罪规制不力,对以"网络为空间"的犯罪应对不力,对以" 网络为存在本质"的犯罪尚未作出实质回应。刑法缺乏应对新型网络犯罪的风险机制,一是对大数据系统安全、算法安全和数据与信息安全为内容的新型网络安全风险应对不足,二是对滥用人工智能技术、人工智能技术瑕疵带来的刑事风险缺乏应对。同时,在立法规制网络犯罪的过程中,刑法对计算机信息系统予以了必要重视,但失衡于网络安全法益的保护,尤其对网络公共安全和数据信息安全未予以必要重视。刑法应当进行立法调整,建立风险刑法理念,对大数据时代的网络安全风险和技术风险进行刑事预防,明确对网络公共安全法益的立法保护,其内涵为包括网络空间的数据和以信息为内容的网络秩序的安宁性;建立网络安全法益的保护体系,并增设新罪名对新型网络犯罪行为予以规制;明确人工智能在网络犯罪中的工具属性和非主体性,确立对利用可控型人工智能犯罪的过错责任、对自控型人工智能犯罪的监督过失责任;通过选择适当的路径和立法技术实现刑法对网络犯罪的应对。     

生成式人工智能数据风险的法律保护与规制研究——以ChatGPT潜在数据风险为例

ChatGPT是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的自然语言处理工具,其深度的学习能力和自我纠正能力,提高了人工智能与人类之间的交往。ChatGPT在实现科学技术革新的同时,也存在敏感数据泄露的风险。ChatGPT在保护个人主体数据、企业主体数据和国家主体数据方面需要法律予以规范。因此,如何应对ChatGPT带来的数据安全,成为生成式人工智能亟待解决的问题。为此,通过分析ChatGPT运作阶段和数据主体应用现状可能存在的数据风险,以我国数据规制法律框架为基础,借鉴域外人工智能立法模式,探究ChatGPT的数据风险法治化应对策略,以此合理构建我国生成式人工智能的数据风险法律规制体系。     

我国民间借贷规制法律问题研究

民间借贷是中小企业融资的主要方式,对我国实体经济贡献巨大。对我国民间借贷进行立法规制和监管具有必要性和可行性。我国民间借贷规制中存在未能体现融资公平、适度竞争等原则,缺乏促进经济发展原则和民间借贷风险控制等原则的规定,立法数量少且法律位阶低,监管主体不明确,监管范围及如何规制不确定等法律问题。应当对民间借贷的概念加以界定;明确规制和监管原则;加强立法进行规制;明确监管主体;明确监管范围等以提高监管效率。     

生成式人工智能场景中个人信息保护的风险、逻辑与规范

生成式人工智能的应运而生使得个人信息保护面临着日益严峻的新风险,生成式人工智能从个人信息收集、使用和生成场景中引发了信任危机,传统的个人信息自决路径已然无法适应数字时代的变革。生成式人工智能应用场景中个人信息的算法识别本质成为个人信息保护的新契机,算法对个人信息识别从因果关系转向相关关系,而个人信息流通则基于场景一致性理论建构起信息规范,使得个人信息流通具备合理性,并将个人信息流通的风险控制在信息规范的限度之下。重塑以算法可识别为核心的风险规范路径,需要建构数字守门人的二元规制机制,形成个人信息流通的外部监管规范;同时在个人信息识别流通中,对知情同意原则以信息信托义务进行补充,从而实现个人信息的内部流通机理;对个人信息流通风险基于场景化分置,将个人信息和模型算法进行分级分类,促进个人信息保护的敏捷性治理,以此实现个人信息保护和流通的平衡。     

社会治理：人工智能时代算法偏见的问题与规制

随着人工智能、大数据的快速发展，社会已经进入了算法社会。算法已经全面渗透于社会经济、生活及管理的运行。然而算法并非是完全客观、价值中立的技术。算法运行过程中产生的偏见及问题，其本质是社会偏见在人工智能时代的映射，逐渐显现侵害社会公众的人格平等权、隐私权，并对数据安全形成威胁甚至破坏，从而导致对社会危害现象的发生。因此，不应禁锢于算法中的技术乌托邦理念，通过把握算法偏见产生的环节及其存在的法律及事实风险，减少其因不确定性危害风险带来的对社会秩序的冲击，有必要及时建构法律和综合治理的风险防控体系，并将对算法偏见的防控治理纳入常态化社会治理体系中。     

论智能裁判中的个人信息保护

随着我国大力推动"人工智能+"建设,大数据收集及智能化信息处理在法庭裁判中的运用也逐步发展.智能裁判需仰赖大量数据采集及使用,其中包含了案件中当事人的个人信息数据采集.人工智能在后台数据进行学习、分析的过程,不可避免地涉及对个人信息的侵犯,并由此引发新的问题——隐私风险和算法歧视风险.需要从技术层面和法律层面联合对个人信息进行保障,并重视人本身在科技运用中的价值,使人工智能更好地发挥其社会效能.     

论智能裁判中的个人信息保护

随着我国大力推动"人工智能+"建设,大数据收集及智能化信息处理在法庭裁判中的运用也逐步发展.智能裁判需仰赖大量数据采集及使用,其中包含了案件中当事人的个人信息数据采集.人工智能在后台数据进行学习、分析的过程,不可避免地涉及对个人信息的侵犯,并由此引发新的问题——隐私风险和算法歧视风险.需要从技术层面和法律层面联合对个人信息进行保障,并重视人本身在科技运用中的价值,使人工智能更好地发挥其社会效能.     

法律人工智能：科学内涵、演化逻辑与趋势前瞻

法律人工智能面向法律大数据和法律知识，运用机器学习算法与符号逻辑，在遵循法律运行规律的前提下满足法律实践的需求，辅助法律人做出法律决策，提升法律任务的质效。法律人工智能科学内涵之厘清明确了其概念体系，由此确立其交叉学科地位。法律人工智能的理论和技术演化历程展示了法律人工智能的发展逻辑，法律推理与法律论证理论是法律人工智能的理论来源，知识引导和大数据驱动形成了符号主义与联结主义法律人工智能的技术分野。在理论方面，法律人工智能需要探索法律与人工智能深度融合的法学理论，回应伦理和法律关切，制定法律智能系统的运行或使用规则，规制算法偏见和不可解释性问题。在运行模式方面，法律人工智能需要重塑“以人为中心”的智能辅助模式。在技术方面，法律人工智能表现出符号主义与联结主义相融合的趋势，在智慧立法和智慧司法领域中有待深度拓展。     

论人工智能领域个人信息安全法律保护

人工智能时代的个人数据和信息支撑着人工智能系统的运行，个人信息在当下的重要性和具有的价值已不言而喻。个人信息的识别要素包括"可识别性"和"可固定性"，人工智能领域的个人信息在此基础上呈现出不同形式，包括被"智能物"收集的个人信息和被智能系统分析得出的个人信息。而人工智能在不同情形中侵犯个人信息，其侵权主体在现行法律的规定下难以判定。"智造时代"，人工智能严重威胁着个人信息的安全。因此，在人工智能时代到来的同时，更应当对人工智能领域中的个人信息安全问题提供有效的法律保障。     

人工智能助推多种监督类型贯通：逻辑·障碍·进路

人工智能时代的到来促进了政府治理方式的变革，助推监督方式向智能化方向发展。实现多种监督类型的贯通是党的十九大报告的基本要求之一。人工智能技术在推进多种监督类型贯通方面体现出符合现实需要的合法性逻辑，突显有效性的赋能逻辑和彰显人民主体地位的价值逻辑。然而，在利用人工智能技术推进多种监督类型贯通时也遇到了多重障碍：数据黑箱、伦理风险、人工智能人才缺失、制度保障阙如以及贯通合力不足等。对此，应致力于破解数据黑箱、加强伦理反思、制度建设提升、人工智能人才培养以及多种监督类型贯通的促进机制的健全，以提升监督体系的贯通力。     

The Development of Law Education in the Era of Artificial Intelligence

The rise of legal artificial intelligence in China's legal practice will bring many challenges to legal professionals. Low-end legal profession will be replaced by artificial intelligence. Legal artificial intelligence will bring some difficulties to judicial work and legal research. Legal professionals must master various legal methods, learn to use common sense and reason in legal work, and master certain basic knowledge of artificial intelligence technology, in order to meet the requirements of legal profession in the era of legal artificial intelligence. Therefore, the law education in China should be reformed and adjusted in order to cultivate legal talents adapted to the era of legal artificial intelligence. Firstly, the education of legal methods should be strengthened from the aspects of curriculum, textbooks and teaching methods; secondly, the education of common sense and reason should be integrated into the legal education; finally, the education of basic knowledge of artificial intelligence technology should be added to the legal education to train compound legal talents.     

论技术赋能背景下的环境法法典化——迈向智慧型环境法典

随着大数据、人工智能、遥感遥测等新兴信息技术应用于环境监管实践的程度不断加深,技术赋能已然成为当前及今后开展环境治理的重要途径,也成为环境法法典化的时代背景。然而,技术赋能在提高环境治理效率的同时也挑战了现有环境法范式:一是新兴信息技术介入环境实践引发了新的不公正现象,使实体性环境正义和程序性环境正义都受到了挑战;二是环境法律规则滞后于治理需求,由于在环境法律规制场景中,以技术代码等为主的"算法程序"能够成为实然层面的"环境法律规则",会导致权利义务失衡;三是环境监管过程中大量运用新兴信息技术,可能出现数据失真、算法偏见、规制俘获等风险,影响环境监管部门在决策、监督、管理及执行等过程中的职能履行效果。随着环境法典编纂提上议程,如何权衡技术赋能的风险与收益成为亟待解决之题。由于技术赋能环境治理突破了既有环境法范式,出现环境治理场景去人工化和环境法律规制在线化现象,这意味着技术成为环境治理和环境法律规制场域的介入因素,导致环境治理实践面临社会系统和规制系统双重"脱域"之境遇。可见在大数据时代,不仅要关注环境法典编纂的篇章结构、规范体系等具体问题,也要立足环境法范式转型之时代需求,为研究环境法典的未来样态提供理论支撑。因此,技术赋能背景下的环境法法典化要在祛魅技术风险的同时保障治理效能,并逐渐迈向智慧型环境法典。其一,要塑造新型环境法典理念,重构环境法与新兴信息技术之间的关系,以回应技术赋能对传统环境正义所带来的冲击,进而形成能被环境法共同体所接受的共有价值,实现数字环境正义;其二,要结合新兴信息技术改造环境法律规则,实现环境法律规则与技术代码的沟通,并以此为基础创新环境法律规则形式;其三,智慧型环境法典要关注风险预防,实现风险与收益相平衡,利用新兴信息技术建立智慧型环境风险防治机制,提高事前、事中及事后全流程环境风险防治效能。     

人工智能刑法主体地位的积极论——兼与消极论的答谈

智能技术及其应用的迅猛发展,对以人类的主体性地位为根本存立前提的当代法律体系形成强烈冲击,智能主体的刑法地位成为关键问题。目前,消极论和积极论处于相持阶段,加速了现行刑法理论体系的知识变革进程。"人造物"等不同程度的消极论,以现行刑事法律制度难以直接接纳及其所裹挟的潜在的刑事风险等为由,虽有其可取之处,但其逻辑机理正是过度释放人类中心主义的预设效应。完全按照人类中心的立场进行审视会得出无法调和的结论,也显示了智能技术应用的工具属性被深度放大之倾向,但上述消极事由不尽然合乎规制人工智能犯罪的现实需要,也与法律主体制度的演进规律不符,甚至会压制刑法主体的自主进化。"电子人"等不同形式的积极论,率先走出绝对的人类中心主义及其观念束缚,以发展的眼光看待人工智能与刑法的互动及其动向,更加契合了人工智能犯罪的发展动态。而意志自由、刑事责任能力、道德伦理规则、智能程度与智能主体类型、刑事责任的客观存在、算法的特殊地位与意义等既有的知识框架与新的要素累积,意味着人工智能可以在发展的刑法体系中实现衔接与契合。经由不真正完全背离刑法原理的认识扭转,亦供给了学理层面的支撑。而且,遵循功利主义的理路,以及在一系列有关人工智能主体方面的先行立法之做法的引领下,应分阶段、类型化、动态化厘定智能主体的刑法地位,使其在法律拟制的路径上可以继续延续和拓展。在人工智能的刑法主体地位得以澄清下,有必要接受智能主体可以享有一定的新兴权利之现实情状,但应具体地确证权利类型等具体内容。在现阶段的技术代际之策动下,智能主体的权利内容与范围目前是限制性的,无法采取与"人"对等的保护策略,保护方式也应有别。这种"降维"保护有其现实合理性,通过积极制度设计与规则配置,能够最大限度策应人工智能主体的刑法地位之更迭态势。     

“人工智能黑客”的法律规制

从历史上看，"黑客"迭代到"人工智能黑客"，是伴随着计算机、互联网、大数据和人工智能等科学技术迅猛发展而产生的。现如今的"人工智能黑客"是人机交互体，既非人也非物，介于两者之间，它可以模仿人类、干扰人类认知，为达到设计者或决策者的目的对网络系统漏洞进行智能化侵入和破坏。"人工智能黑客"区别于传统"黑客"的主要特征在于其可以依靠智能算法自主学习、寻找网络系统代码漏洞和加强分布式攻击。部分学者将人工智能技术划分为弱人工智能、强人工智能、超人工智能三个阶段，甚至有学者建议从伦理上赋予强人工智能法律主体地位，赋权理由是强人工智能算法具有独立的"机器意思"表示能力，与人类有情感的联结。显然，这种赋权方式不仅违背"人本主义"原则的主体创新，而且现行法律主体包括自然人、法人、非法人组织，"人工智能黑客"不属于任何一类主体，突兀地将法律主体的理性意思表示与人工智能算法指令的"机器意思"相等同，容易形成"人工智能黑客"行为在算法正义法律评价和民事法律行为构造上的困境，干扰我们对"人工智能黑客"本质的判断。溯本清源，应当以法律上权利义务构造标准去判断"人工智能黑客"的法律属性。"人工智能黑客"本质上是自然人主体通过人工智能算法技术，利用网络媒介进行网络侵权或犯罪的行为。"人工智能黑客"的核心是通过计算机代码设置、大数据运算与机器自动化判断进行决策的一套机制。"人工智能黑客"在责任承担上不是适格的法律主体，只具有特殊的"人格性工具"法律属性。"人工智能黑客"的智能化攻击外在表现为算法程序的自动执行，但程序的设计和算法运行归属于现实经济生活中的人，也完全符合法律上间接侵权的调整范畴。对于"人工智能黑客"的侵权或犯罪行为，应当通过揭开"人工智能黑客"的"面纱"，找到其背后隐藏的可规制法律主客体，利用"穿透"方式对"人工智能黑客"的非法行为进行伦理、技术和法律三个维度的有效规制。     

信息化时代刑事诉讼面临的挑战与应对

随着信息化时代的发展,大数据、人工智能等在刑事诉讼中得到广泛运用,在给刑事诉讼带来便利和高效的同时,也对刑事诉讼的理念原则、规范制度和司法实践带来问题和挑战。对理念原则的影响主要体现在与程序正当原则的冲突,对法官自由裁量权的挑战和对控辩平等原则的影响;在规范制度方面存在的问题主要是立法滞后,使信息技术在刑事诉讼中的运用缺乏法律的规范和指引;在司法实践中存在的问题是司法信息化建设缺乏顶层设计和统筹规划,实务部门缺乏适应信息化需求的专业技术和专门人才。应对这些问题和挑战,应科学界定信息化技术在刑事诉讼中的地位和作用,及时增改完善相关法律制度,加强刑事诉讼中对信息技术运用的监督和公民个人权利的保障,重视司法信息化建设的统筹规划和整体协调,重视公安司法人员专业知识培训和专门人才培养。     

个人信息侵权法保护的价值与理据新论——基于大数据悖论的分析视角

为有效应对信息科技发展引致的个人信息保护和信息产业发展的矛盾冲突，必须创新优化个人信息侵权法保护的制度设计，肯定个人信息受法律保护的同时又限制信息主体的排他性控制权，制衡"数据权力"以抑制个人信息处理者的恣意和滥权，谋求信息时代人权保护以及为信息产业内置发展空间的"双赢"。基于大数据透明化悖论、权力悖论、身份悖论的视角，个人信息处理事实上同时存在正负效应双重外部性，这决定了个人信息法律保护不能仅依赖"基于权利的方法"，还应直面大数据时代面临的认知和结构困境，并"基于风险的方法"对个人信息的法律保护进行路径重构。大数据悖论决定了个人信息侵权法保护的价值取向不能简单化、绝对化，其实质是要求在信息处理者秘密搜集处理信息与个人主张信息处理透明化、信息处理者的数据特权与个人对信息权利的"让渡"或"牺牲"、信息处理者识别个人身份与个人主张身份隐私保护等博弈关系中求得优解。为此，个人信息侵权法保护的价值既要定位于保护公民个人的人格尊严，保障数字时代人权，又要衡平信息有序流动、跨境交易以及信息产业发展中的各方利益。大数据悖论非但不应成为个人信息权利保护、政府信息治理权力、信息产业发展间"非零和博弈"的"共赢"目标之障碍，作为源流之诱因反而要求个人信息侵权法保护的价值不仅定位于救济信息主体遭受损害的权利和筑牢个人信息权利的边界，还在于制约公权力可能对个人信息的侵犯，对信息业者利用个人信息予以明确规范并提供"负面调整"的方向警示。个人信息侵权法保护的理据也因此不仅限于人权保护理论，还应从经济分析理论、危险控制理论、营业收益风险理论、企业社会责任理论等多维视角进行深度审视，籍以考索个人。     

人工智能辅助地方立法的应用与规制

我国地方立法权随着2015年《立法法》的修改扩至所有设区的市，随之掀起地方立法热潮。但目前地方立法的质量普遍不高，存在诸多问题，人工智能技术的应用能为地方立法开辟新路径。基于互联网及大数据的人工智能，能被应用于资料检索、立项论证、立法公开与意见征集、辅助草案起草、立法后评估与备案审查。与此同时，当人工智能被应用于地方立法工作时，需要确立“辅助原则”，规范人工智能地方立法程序的选用标准，限制人工智能地方立法程序的算法，以此来规制人工智能带来的不利影响。