生成式人工智能治理的法律回应

生成式人工智能的规模化应用对社会治理造成了现实风险,其作为生产工具已具备了类人化的推理能力与行为能力,在知识产权领域、刑事领域、数据应用领域等引发的新生问题已超出了现行法律的规制范围,私人技术资本正在成为数字空间的真实权力拥有者。但现行人工智能的治理范式过分聚焦于算法规制,而忽视了相关责任主体的整体义务建构,导致法学理论无法适应新生技术的发展,对解决实际问题的现实方法论意义不强。面对生产力水平跃升引致的问题,法律规制特别是相关规则研究应靠前一步,以结构化的体系思维与完整的框架建构完善新一代人工智能治理范式,确保以规则优势引领产业发展优势与制度优势。     

论生成式人工智能的法律风险与治理路径

以ChatGPT为代表的生成式人工智能在优化产业结构促进经济发展的同时也带来新的法律风险。语言模型训练中的风险主要包括侵害个人信息与作品著作权风险,内容生成过程中的风险则体现为人工智能“幻觉”导致的错误信息风险、算法偏见风险、“涌现”导致的算法失控风险以及人机互动中的算法滥用风险。《生成式人工智能服务管理暂行办法》提供基本的治理框架,但部分条款设置与具体治理方式上存在不足。生成式人工智能的性能取决于训练数据集的规模与质量,模型训练中的数据治理需要尊重其技术逻辑,实践中应拓展公共数据中著作权数据与个人数据的合理使用边界。内容治理可以借鉴“宪法人工智能”的基本理念,构建动态的内容反馈评估机制。     

生成式人工智能的三大安全风险及法律规制: 以ChatGPT为例

以ChatGPT为代表的生成式人工智能的诞生,标志着人工智能技术从“决策式AI”向“生成式AI”的重大技术跃迁,引发了从“时空革命”到“知识革命”的技术演进。生成式人工智能技术在带来众多科技红利的同时,也引发包括数据安全问题、个人隐私侵犯、知识产权侵害、误导性和虚假信息泛滥、市场垄断、偏见和歧视等诸多现实风险。为了鼓励生成式人工智能技术的创新发展以及规避其所带来的风险,中国采取“包容性法律治理”模式。在治理原则上,包容性法律治理始终坚持协同共治、提升透明度、提高数据质量、发挥法治效能等基本理念;在治理主体上,包容性法律治理提倡多方主体协同治理,充分发挥政府机构、科研机构、行业协会和公民团体等社会组织的力量;在治理过程中,包容性法律治理主张运用多种治理工具,通过技术方案、伦理标准和法律政策全面提升生成式人工智能的风险治理水平;在治理方法上,采取分类分级治理策略;在治理结果上,包容性法律治理强调要注重数字社会的分配公平,弥合数字鸿沟,保障数字空间的基本人权。     

生成式人工智能失范性风险的法律因应——以凯尔森规范性理论为视角

以ChatGPT4为代表的生成式人工智能具有高度类人性和广泛适用性，有利于生产方式和众多领域的转型升级。然而，这种所谓强人工智能时代的标志性产物，伴随着技术固有的风险性问题，引发伦理以及法律层面的失范性问题。生成式人工智能的失范性主要表现为：一是针对生成式人工智能引发的风险问题，伦理与法律尚无回应；二是现有的伦理体系和法律制度的“规范性”不足。为此，文章借鉴凯尔森的规范性理论，采用“旧论新用”的方法：一是利用伦理规范化，增强其约束性、可执行力，整理其内部层级关系，形成生成式人工智能的伦理治理体系；二是运用法律规范化，强化其对生成式人工智能数理化逻辑运行的模型规范。最后，基于伦理与法律协同构建生成式人工智能的规范性体系。     

生成式人工智能视域下的人权：张力、威胁与中国因应

关于以ChatGPT为代表的生成式人工智能的法律人格主要有三种观点:工具说、独立主体说和有限人格说。生成式人工智能既赋能人权发展又具有局限性,给人权带来的威胁有：冲击人类主体地位;突破人类道德边界;增加信息泄露、歧视、失业等风险。对此,中国在保障宏观人权方面,应引导确立数字人权理念,构建中国特色生成式人工智能产业模式;在保障具体人权方面,应遵守国际规则,完善国内治理。     

浅析生成式人工智能意识形态风险样态、生成诱因及其治理逻辑

以ChatGPT为代表的生成式人工智能已经成为意识形态风险生成的重要场域,其具有的基于大数据的人机对话模式、基于自我学习的算法机制和不断改进的算力等特点使其在实际运作中内嵌了强烈的意识形态属性,表征为以技术为手段的意识形态权力转移导致的场域失落风险、以人机协同操纵意识形态偏见导致的话语权旁落风险和以模糊边界运作加大意识形态治理难度引发的治理失效风险。其生成诱因在于资本与技术扩张导致资本逻辑内嵌于意识形态风险之中,去中心化与再中心化的话语权转移带来了人类语言逻辑表达与多元价值博弈,以及对话沉迷与主体危机的内容失真引发的治理范式转化与监管失灵。应立足于阵地治理、数据治理和制度治理使生成式人工智能场域转变为巩固意识形态认同的最大增量。     

生成式人工智能技术治理的三重困境与应对

进入数智时代,生成式人工智能应用在全球掀起的使用热潮引发了人们对相关伦理困境与风险问题的关注,虽然公平、准确、可靠、安全、人类监督等几项内容被设定为负责任人工智能的核心原则;但生成式人工智能的技术治理方面存在因本体论身份引发的价值张力、训练数据的代表性偏差与安全系统被动保护带来的三重困境并为生成式人工智能如何实践“负责任”的原则带来了现实挑战。在风险全球化与国际竞争加剧的历史变局下,人类社会面对生成式人工智能潜在的伦理与社会风险,应加快建立全球治理的合作机制,践行文化包容的治理智慧,以及回归社会问题本源的认识论是实现生成式人工智能“负责任”原则的关键。     

价值、制度与能力——法治提升国家治理体系与治理能力现代化的逻辑与理路

从十八届三中全会到十八届四中全会,我们党相继提出国家治理体系与治理能力现代化、全面推进依法治国建设。法治与国家治理之间存在着紧密的联系,法治作为一种重要的价值目标、制度体系和能力,是国家治理体系与治理能力现代化的内在要求。从价值、制度与能力三个层面来说,法治为国家治理体系确定了善治、秩序与边界价值,也为国家治理体系确定了制度体系的法治化,同时,法律的实施提升了国家治理能力的现代化,因此,通过法治的相关建设来推动国家治理体系与治理能力现代化是我国未来的治理方向。     

人工智能生成内容的著作权客体性思考——兼论作品判定的独创性标准选择

以基于转换器的生成式预训练模型（GPT）为代表的高阶人工智能凭借其强大的智能型内容生成机制,使得内容产品生产中的技术占比不断上升,人的直接投入占比相对下降,传统著作权法作品的独创性要求、权利人本原则等基本理论受到冲击。面对人工智能生成内容（AIGC）可作品性问题,基于自然人智力投入的创造性本质理论和闭合性作品概念显得力不从心。在过程视角下（主观标准）,人工智能内容生成过程符合人类创作的思维特征;在结果视角下（客观标准）,人工智能生成内容具有著作权作品的外观形式和信息消费功能,符合著作权作品的本质属性。如果人为割裂人工智能生成内容与著作权作品在产生过程和实质作用上的同质关系,强行区分人工智能生成内容和自然人创作作品的法律性质,则有悖著作权法因应技术发展调整信息消费品利益的制度旨趣,最终将导致著作权法律秩序的混乱。     

生成式人工智能参与数字政府建设的技术跃迁、目标导向与可行路径

利用生成式人工智能技术参与数字政府建设，为新时代国家治理现代化提供技术驱动，具有重要的时代意义和实践价值。ChatGPT等生成式人工智能参与数字政府建设的功用，与其相对于既有人工智能技术的技术跃迁息息相关。生成式人工智能的自然语言理解与生成能力跃迁、文本生成能力跃迁和知识更新能力跃迁，是与数字政府建设联系最为紧密的技术跃迁，对数字技术参与政府内部工作、政务服务和公共服务均有重大功用。生成式人工智能参与数字政府建设的根本目标在于建设人文数字政府，直接目标在于实现效率数字政府，长期目标在于建成智慧数字政府。生成式人工智能参与数字政府建设的可行路径在于实现权利保障优位、效率与责任并行和安全与发展均衡。面对生成式人工智能参与数字政府建设的广阔前景和风险问题，要加快我国自主的生成式人工智能在数字政府建设领域的应用培育。     

ChatGPT类生成式人工智能的伦理问题、原因分析与规制路径

自2022年起,以ChatGPT和GPT-4为代表的生成式人工智能迅速发展,人工智能进入了“大模型”时代。作为一项具有重大意义的技术进步,对人类社会的发展具有重要意义;同时,ChatGPT类生成式人工智能作为人的创造物,也引发了人的主体性的丧失、数据隐私泄露与算法偏见、责任主体冲击与道德地位的模糊等伦理问题,会威胁到人类的幸福生活。以ChatGPT类生成式人工智能引发的伦理问题为起点、以挖掘其产生的原因为依据,提出完善生成式人工智能伦理治理的体制和机制、优化生成式人工智能技术设计和培育正确的主体意识等规制路径。     

生成式人工智能大模型的信息内容治理

大语言模型是发展人工智能生成内容（AIGC）最为关键的技术之一。它在推动AIGC发展的同时,也会带来生成违法和不良信息的风险。大语言模型生成违法和不良信息的原因较为复杂,造成的风险程度更为严重,因而给网络信息内容的法律治理带来挑战。为此,中国在立法上细化相关主体在网络信息内容生成过程中的义务,新增对人工智能生成内容进行标识的义务,但相关规则仍存在着继续完善的空间。未来,中国应进一步明确人工智能生成内容致害的侵权责任规则,确定侵权责任的主体和归责原则,基于现行法构造合理的解释论;合理界定网络信息内容服务平台对内容的注意义务,将AIGC技术发展和产业状况纳入考量因素;完善对人工智能生成内容进行标识的要求,区分场景规定不同的标识要求,增加服务使用者和内容传播者的标识义务。     

敏捷治理：人工智能治理新模式

人工智能敏捷治理作为一种新的治理范式,是对以往探索式、回应式、集中式人工智能治理模式的反思、批判与超越。敏捷治理嵌入人工智能治理当中,其在治理价值、治理主体、治理对象、治理方式这四大核心要素上有新的内涵特征。人工智能敏捷治理概念的生成既是第四次工业革命浪潮的推动,又是促进人工智能“向善”、增进人民福祉和走出人工智能治理困境的需要。与此同时,国家方针政策的指引、政府多重资源的投入、多方实践经验的奠基使得人工智能敏捷治理成为可能。为应对时代挑战、迈向人工智能的敏捷治理,我们需应对传统官僚主义思想,树立敏捷治理理念;合理把握治理节奏,确保治理工具使用张弛有度;健全敏捷治理的制度体系,为人工智能敏捷治理保驾护航。     

生成式人工智能辅助司法裁判的可能及边界限度

以ChatGPT为代表的生成式人工智能技术快速迭代发展，为数字司法改革的适应性调整创造了历史性契机。生成式人工智能在类案推送、辅助证据认定、偏离度预警等方面确实能够统一司法裁判的标准与尺度，实现法的普适性价值追求，然而法的普适性只是实现正义的必要条件，而非充分条件。生成式人工智能的算法黑箱、算法歧视、算法偏见等技术性缺陷亦引发了对司法公信力、司法公正、司法责任制的质疑与冲击。为此，应当在生成式人工智能的技术理性与司法裁判的价值理性之间寻求平衡。针对当前智能化裁判的技术风险，应从数据、算法、控制三个维度进行治理，最大程度控制生成式人工智能的工具主义缺陷，以实现智能化司法裁判迈向可信。     

习近平法治思想中的“国家治理现代化”法治理念与民法典规范

“坚持在法治轨道上推进国家治理体系与治理能力现代化”法治理念是习近平法治思想的重要组成部分,深刻诠释了法治是国家治理现代化的重要依托。民法典作为习近平法治思想的鲜明体现,彰显了中国特色社会主义法治的本质特征,为坚持在法治轨道上推进国家治理现代化保驾护航。民法典规范大力弘扬社会主义核心价值观,展示中国特色,为国家治理现代化强化了价值引领。民法典规范通过民事权益类型化完成了对民事主体私权益的系统构建,为国家治理现代化完善了私权体系。民法典规范通过修改关于物权与合同的大量法律条文,鼓励市场交易,维护交易安全,为国家治理现代化构建了有效的交易秩序。民法典规范通过新增或者完善诸多民事法律制度,促进民事立法体系化与科学化,为国家治理现代化提供了制度支撑。      

人工智能赋能国家治理的双向制度建构

伴随着人工智能在国家治理中的应用,产生了人才和技术缺失、算法影子官僚、算法偏见、人机协同困难等问题,迫切需要建构技术向善的制度来促进人工智能在国家治理中的有效应用。激励制度和约束规范并举是技术有效融入治理的客观需要,以激励制度发挥人工智能赋能的正向作用,以约束规范减低或消除人工智能赋能的负面效应。当前,需要建构的激励性制度包括建立和完善人才激励制度,以教育模式变革来培养创新人才;促进和强化产学研合作制度,使创新链、产业链与市场高度连接;重视和加强基础研究支持制度,激励科学家潜心基础研究;建立发展信息收集制度,加强对人工智能发展的预判、协调和协同;建构行业标准体系,减少标准不一带来的浪费行为。需要建构的约束性规范包括加强立法论证,建构法律约束,打击人工智能赋能的侵权行为;强化对违反伦理原则赋能的制约机制,建构伦理约束,树立可信、可责、可知、可用的人工智能伦理原则;建构人工智能赋能的风险防范机制,建立安全测试机制、政治安全审查机制、军事化防范机制、失业预警防范机制、突破国际封锁机制等措施。通过建构激励性制度和约束性规范,有效发挥两者的双向协同作用,以促进人工智能有效赋能国家治理现代化。     

论宪法视野下的国土空间用途管制制度

国土空间用途管制作为国土空间治理的重要手段,对于推进空间治理体系和治理能力现代化,在更高层次上构建人与自然和谐共生的关系具有十分重要的作用。国土空间用途管制制度是整个生态文明制度体系中不可或缺的重要组成部分,但目前国土空间用途管制的制度依据主要表现为政策性文件,缺乏权威、统一和专门的法律规定,与依法治国时代背景下在法治轨道上推进生态文明建设的客观要求不相适应,需要加快构建国土空间用途管制法律制度,为国土空间用途管制提供法治保障。本文以此问题为导向,把国土空间用途管制制度置于宪法视野中加以审视,主要通过历史梳理和文本分析,厘清国土空间用途管制的科学内涵,探究其合宪性基础和宪法许可界限。本文认为,我国与国土空间用途管制相关的宪法规范经历了以土地和其他自然资源所有权确权为主的萌芽阶段、以各自然要素分散管制为主的发展阶段,以及全域全要素统筹管制的确立阶段。如今,国土空间用途管制因应了生态环境保护和生态文明建设的国家任务、保障国土空间资源开发利用秩序、实现国土空间治理体系和治理能力现代化等要求,从而得以在现行宪法中找寻到其获得宪法许可的合宪性基础。与此同时,现行宪法又为国土空间用途管制设定了许可...     

生成式人工智能浪潮下的学术生态：机遇、挑战及应对

以ChatGPT为代表的生成式人工智能(AIGC对学术生态产生了深远的影响。AIGC可以辅助学术生产,提高知识生产效率和质量,助力学术评价决策和提升传播速度和效果。但也产生了著作权归属、学术伦理、算法黑箱、数据安全、隐私保护等方面的风险。对于AIGC带来的困扰,应该积极面对、审慎使用。政府要加大监管力度,防范可能风险;研发企业要在技术上不断完善;学界要推进研究透明;在学术生产、评价和传播各环节都应该安排人工介入,实现人机协作、共同治理,赋能学术研究与推动社会进步。     

党建引领视角下“三治融合”乡村治理体系的实践探索——天长市农村社区“1+N+X”治理实践分析

党建引领在构建“三治融合”乡村治理体系,实现乡村振兴战略中起主导作用。基于党建引领的理论视角,天长市基层党组织通过对“1+N+X”协商委员会的组织引领、制度引领和价值引领,为构建“三治融合”乡村治理体系奠定了自治基础,筑牢了法治底线,注入了德治理念。研究表明,自治、法治、德治绝非简单的机械相加,而是党建引领下以自治为基,法治为纲,德治为根,相互补充、彼此促进、和谐共生的融合关系。为持续推进“三治融合”乡村治理体系和治理能力现代化,需要进一步加强党建引领与村民自治的有力互动,坚持规则约束与价值引领的有机融合,实现治理理念与治理实践的有效衔接。     

论人工智能辅助地方立法的法律风险及其规制

人工智能具有天然的信息搜集、分析、评价和预测功能,可以辅助地方立法工作者在诸多立法环节做出高效科学的立法决策。然而,由于技术的双面属性,立法人工智能在辅助地方立法过程中不可避免地出现科技异化,给地方立法带来诸多法律风险,主要表现为合法性风险、民主性风险和科学性风险三个方面。为了有效治理由此而生的法律风险,可以从宏观层面构建以多元主体协同治理体系、多元利益整合协同体系、多元信息整合协同体系为基本内容的立法人工智能协同治理体系,并在此基础上从微观层面对人工智能辅助地方立法引发的法律风险采取进一步的规制措施,实现立法人工智能赋能行动的效率价值与地方立法本体价值的平衡。