ChatGPT法律风险及其规制

ChatGPT的爆火宣介人类打开了强人工智能时代的序幕,其凭借着强大的数字孪生能力、创作能力、编辑能力及类人性推动着人类社会向更敏捷的时代转型。ChatGPT的出现势必会对现有规则提出挑战,可能诱发生成违法或不良信息、算法偏见、数据泄露、借势贩卖租赁账号等诸多法律风险。但ChatGPT可能产生的法律风险与现存的社会风险并无实质差异,仍未脱离个人信息保护、数据安全、服务提供者应当承担的义务等核心议题。因此,对ChatGPT法律风险的规制,仍应根据ChatGPT技术发展的特征,依托阶段性规制理论,注重风险防范,及时对现行的基本法律条款进行解释适用。     

生成式人工智能的三大安全风险及法律规制: 以ChatGPT为例

以ChatGPT为代表的生成式人工智能的诞生,标志着人工智能技术从“决策式AI”向“生成式AI”的重大技术跃迁,引发了从“时空革命”到“知识革命”的技术演进。生成式人工智能技术在带来众多科技红利的同时,也引发包括数据安全问题、个人隐私侵犯、知识产权侵害、误导性和虚假信息泛滥、市场垄断、偏见和歧视等诸多现实风险。为了鼓励生成式人工智能技术的创新发展以及规避其所带来的风险,中国采取“包容性法律治理”模式。在治理原则上,包容性法律治理始终坚持协同共治、提升透明度、提高数据质量、发挥法治效能等基本理念;在治理主体上,包容性法律治理提倡多方主体协同治理,充分发挥政府机构、科研机构、行业协会和公民团体等社会组织的力量;在治理过程中,包容性法律治理主张运用多种治理工具,通过技术方案、伦理标准和法律政策全面提升生成式人工智能的风险治理水平;在治理方法上,采取分类分级治理策略;在治理结果上,包容性法律治理强调要注重数字社会的分配公平,弥合数字鸿沟,保障数字空间的基本人权。     

ChatGPT的法律风险与治理路径

以ChatGPT为代表的生成式人工智能具备在自动学习的基础上生成新内容的能力,在引发生产力革命的同时也形成了法律规制难题。ChatGPT会造成隐私侵权、数据安全风险以及知识产权确权与保护困境等难题,其主要原因在于数据中心主义、算法高度信任以及规范滞后于技术等。治理ChatGPT应当秉持捍卫人的尊严原则和倡导有限信任原则,坚持以公共利益为导向确定权属分配,并构建以开发设计者为主体的合规方案,发挥科技伦理引领与法律规范的双重作用。具体可采取对数据采集的合规控制、以技术治理技术、优化数据管理方法等措施。为了防范ChatGPT过度模糊人与机器之间的信任边界,还应根据用户的专业性程度配置不同的披露义务。     

基于生成式人工智能法律服务的数智化发展逻辑与建构路径

生成式人工智能在将法律服务的运作场景推向一个崭新境界的同时,也必将在“器”和“道”的层面对法律服务产生结构性影响,使法律从业者面临职业角色的转型和工作归属的重塑。从功能主义的角度看,对生成式AI在法律服务中地位和角色的考察,不应再囿于现有制度体系和职业逻辑,而是要超越传统的职业视角和“工具论”立场,理解法律服务数智化发展的复杂动态和不确定性,全面考察生成式AI应用于法律服务的技术机理、行业可行性和赋能场景,分析“工具论”心理可能引发的法律职业“去技能化”现象,系统探讨生成式AI在重塑法律服务的基本内涵、运作范式、群体构成、市场供给关系等方面的深层次影响。不过,以宏观视角考察法律与技术的关系,生成式AI还不能完全取代法律职业群体,因为蕴含于其衍生逻辑中的一些根源性问题以及AI技术与法律固有属性之间的内在张力尚未得到解决。以生成式AI赋能法律服务,需要在国家、职业、市场、技术等层面调和法律职业与智能技术之间的属性张力,并关注可能存在的风险。     

生成式人工智能数据风险的法律保护与规制研究——以ChatGPT潜在数据风险为例

ChatGPT是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的自然语言处理工具,其深度的学习能力和自我纠正能力,提高了人工智能与人类之间的交往。ChatGPT在实现科学技术革新的同时,也存在敏感数据泄露的风险。ChatGPT在保护个人主体数据、企业主体数据和国家主体数据方面需要法律予以规范。因此,如何应对ChatGPT带来的数据安全,成为生成式人工智能亟待解决的问题。为此,通过分析ChatGPT运作阶段和数据主体应用现状可能存在的数据风险,以我国数据规制法律框架为基础,借鉴域外人工智能立法模式,探究ChatGPT的数据风险法治化应对策略,以此合理构建我国生成式人工智能的数据风险法律规制体系。     

生成型人工智能的刑事风险与防治策略——以ChatGPT为例

生成型人工智能在通过程序生成具有创造性的新内容方面实现了新的突破,同时蕴含诸多的刑事风险。生成型人工智能的刑事风险包括不当获取数据信息的刑事风险、生成违法犯罪信息的刑事风险、使用者不当利用生成内容的刑事风险。规制生成型人工智能的刑事风险时,刑法应有所为有所不为,始终保持内在的谦抑,坚守不阻碍科技发展的底线。为此,应采用分级治理策略：通过生成型人工智能研发企业刑事合规计划,探索生成型人工智能所涉违法犯罪的预防性治理模式;加强科技监管手段在行政监管手段中的运用比重,通过有效的行政规制手段降低生成型人工智能刑事风险现实化的可能性;当刑事合规计划与行政监管手段失灵时,才可考虑采用轻重程度适当的刑法规制手段。实施分级治理策略,有利于督促生成型人工智能研发企业从源头上降低风险,并充分发挥行政监管与行政前置法“过滤”犯罪的作用,实现遏制技术风险和促进科技发展的双重目的。     

人工智能司法审判的限度审视与应用路径——基于对ChatGPT算法的法律批判

人工智能在参与司法审判的过程中常被认为是辅助法官的工具,这是新兴技术之工具理性与司法制度之价值理性博弈的结果,也是在弱人工智能情境下的法学共识,即人工智能处于辅助审判的定位。如今,ChatGPT作为人工智能的新应用,在智性上有显著提升,甚至具有产生算法意识的可能。ChatGPT的技术特征与算法逻辑使其具有更高的智能水平,但其仍受到法律的限制,无法具有法官能力。同时,ChatGPT目前仍无法具有心性与灵性,无法通过民事诉讼基本原则的检验,不具备公正司法的能力,并不能替代人类法官。例如,ChatGPT无法满足独立行使审判权的要求,也无法替代当事人的意思自治。ChatGPT确实有助于提升司法效率,并保障法院与当事人的程序利益,却无法确保公正司法,无法替代当事人处分实体利益。在这个角度,ChatGPT更大的作用是促进司法效率,而非保障司法公正,法官的审判权与当事人的处分权仍是其应用的禁区。技术革新并不足以颠覆人工智能在司法应用中辅助审判的基本原则,人工智能需对程序性事务与实体性事务区别对待,慎入诉讼后阶段的审判权行使活动,以此保障人类法官公正、独立、自由地进行司法裁判。     

ChatGPT与人工智能时代：突破、风险与治理

本文介绍了自然语言处理技术的人工智能应用程序ChatGPT在AIGC(人工智能生成内容)领域的突破性进展,以及这种进步的重要意义。通过回溯历次工业革命对社会的影响,提出以下观点：人工智能发展将带来新的工业革命,人工智能社会已经成为趋势;人类的历史就是不断突破自身局限的历史,人工智能正带来一次新的工业革命,前两次工业革命人类扩展了肢体的机能,从第三次工业革命开始扩展的是大脑和神经系统的机能,进入对自身局限挑战的最高阶段,人工智能将推动大脑和其他身体机能整合式扩展,形成智能社会。还分析了ChatGPT可能带来的就业问题和社会分化与不平等,分析了人工智能技术的风险,如隐私和数据安全、算法黑箱可能带来的偏见和歧视、人工智能依赖等问题。最后,介绍了国外研究者关于人工智能社会治理的思想,提出社会治理的基本思路。     

法律人工智能背景下的法律推理：性质与特征

法律人工智能既是法学与计算机、应用数学和心理学等多学科交叉的新兴学科,又指具有同法律人的思维功能相似之能力的智能系统,它可以分为强法律人工智能与弱法律人工智能。法律人工智能背景下的法律推理拥有基于道义论推理以及基于实践理性推理的性质,具备超越性、辩证性、所依赖知识的特殊性、语用性、因果关系的特殊性和真值的不敏感性等特征。强法律人工智能和弱法律人工智能法律推理在每一特征上亦有所差别,这促进我们因应人工智能的不同发展阶段对人工智能法律推理问题采取不同的研究策略。     

人工智能与法治关系辨析

人工智能这一科技驱动下的经济增长点能否成为法治增长点,是一个值得认真思考的问题.人工智能的本质是一套程序,它是由算法和数据结构组成,不能导致良法的出现,因为良法是一个社会实践问题,离不开人类的价值评判,而算法作为人类物质条件束集,无论在哲学层面还是在现实层面都缺乏实践的能力;人工智能体现的是策略化思维,强调程序的预测控制功能,而审判是规范思维,强调程序的表达功能,法官依靠对法律的信仰而非记忆来裁判案件,这种非博弈化的行为是人工智能所无法效仿的;人工智能能够储存、分析海量的数据,但司法需要的是经验,而经验是人类生活的绵延内化并非数据的符码化排列,二者不可通约,更不可替代;毋庸讳言,人工智能在司法改革中发挥了积极作用,但为了进一步深化改革,也要看到其不足之处.法治的实现更应注重制度建设,人工智能应在这一基础上发挥自身优势.     

司法人工智能：风险、定位与法律规制——以上海“206”刑事办案辅助系统为例

司法人工智能的广泛运用,提高了司法效率,有助于司法公正。但高度智能化、自动化的人工智能,干扰了法定司法原则与司法模式的适用,带来了一些法律风险。法院独立行使审判权原则受到人工智能冲击,算法的偏见和不透明影响司法公正与公开,人工智能对公权力机关办案能力的强化,使得传统稳定的诉讼三角结构面临失衡风险。对司法人工智能定位的偏颇是出现这些风险的主要原因。司法人工智能须坚持辅助性定位,治理其需秉持“法治归化技术”的思路。应通过贯彻司法责任制和限定人工智能的运用情境来强化法院独立行使审判权原则;要推动建设算法公开机制以加强司法公开;用人工智能充分保障当事人权利,提升其诉讼能力,可尽量使诉讼结构保持平衡。     

农科院校引入“法律诊所教育”的可行性与践行——以东北农业大学为例

随着法学教育改革的推进，我国几十所高校法学专业将起源于美国的“法律诊所教育”引进教学，并取得了良好的效果。东北农业大学，在顺应新形势前提下，既应积极推进“法律诊所”教育，又应结合本校优势形成自身特点，因此，在“诊所教育”创新、课程设置、服务范围等方面都应有所创新。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

自然法学派的法律发现观及启示

在自然法学看来,法律是理性的体现。法律只能加以发现,不可以以人为的方式进行创造。这种发现法律的观点显然是基于立法的视角。在法学实践品性的观照下,这种法律发现观已然失去了市场。不过,司法视角下的法律发现观依然没有放弃对理性的追逐。     

3D打印技术背后的法律风险及其克服

伴随着第三次科技革命的到来,3D打印技术作为这次产业革命的重要组成部分,星火燎原般地在全球大范围开展,其可能引发的一系列知识产权风险以及其他方面的问题也日渐显露出来。本文将探讨3D打印对现行法律制度的挑战与应对,以期对我国正在发展的与3D打印技术相关的权利人的保护有所裨益。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

人工智能辅助地方立法的应用与规制

我国地方立法权随着2015年《立法法》的修改扩至所有设区的市，随之掀起地方立法热潮。但目前地方立法的质量普遍不高，存在诸多问题，人工智能技术的应用能为地方立法开辟新路径。基于互联网及大数据的人工智能，能被应用于资料检索、立项论证、立法公开与意见征集、辅助草案起草、立法后评估与备案审查。与此同时，当人工智能被应用于地方立法工作时，需要确立“辅助原则”，规范人工智能地方立法程序的选用标准，限制人工智能地方立法程序的算法，以此来规制人工智能带来的不利影响。     

我国刑事法律援助制度的几个问题及完善——以国际刑事司法准则为视角

法律援助制度是法律程序公正的体现,通过实证考察法律援助的实施状况,从立法方面提出了法律援助范围过窄、可能判处死刑案件的援助阶段缺失以及实践中法律援助的责任主体不适当三个问题,继而研究国际刑事司法准则在这三个问题上设立的国际标准,通过比较提出对我国刑事法律援助制度改善的一些建议。