ChatGPT的法律风险与治理路径

以ChatGPT为代表的生成式人工智能具备在自动学习的基础上生成新内容的能力,在引发生产力革命的同时也形成了法律规制难题。ChatGPT会造成隐私侵权、数据安全风险以及知识产权确权与保护困境等难题,其主要原因在于数据中心主义、算法高度信任以及规范滞后于技术等。治理ChatGPT应当秉持捍卫人的尊严原则和倡导有限信任原则,坚持以公共利益为导向确定权属分配,并构建以开发设计者为主体的合规方案,发挥科技伦理引领与法律规范的双重作用。具体可采取对数据采集的合规控制、以技术治理技术、优化数据管理方法等措施。为了防范ChatGPT过度模糊人与机器之间的信任边界,还应根据用户的专业性程度配置不同的披露义务。     

挑战与应对:人工智能时代的司法审判

当前,以智能证据审核、类案推送、量刑辅助和偏离度预警等为典型,人工智能与司法裁判的融合不断深化.在显著提升审判质效、促进裁判标准统一的同时,人工智能对司法审判过程的深度渗透也一定程度上弱化了法官的审判主导地位、影响了司法公正的实现、降低司法审判的透明度,对传统司法理念和司法伦理带来巨大的挑战.作为回应,在司法智能化建设...     

论类ChatGPT通用人工智能治理——基于算法安全审查视角

类ChatGPT具有潜意识形态性,其引入和嵌入应用易招致非传统国家安全威胁。类ChatGPT通用人工智能算法受资本与西方价值观的浸润,冲击国家意识形态安全和情报安全,易诱发意识形态安全风险,并为网络情报的获取和传输提供诸多便利条件;杜撰假舆论,致使社会谣言泛滥,或将挑战社会公共安全;收集存储处理用户数据,严重威胁国家数据安全;阻碍发展中国家崛起的步伐,使产业跨国转移变得缺乏现实意义并重新定义社会人力资源成本上限,或将挟制他国经济发展安全。我国算法审查制度面临专门审查主体缺失、审查范围不明和审查法律规范体系化水平严重滞后等现实问题。应当以总体国家安全观为指引,明确中央科技委员会领导的、国务院数据安全局负责执行的算法安全专门审查主体机制,统筹算法审查宏观设计;充分发挥平台经营者和使用者的协同共治效能,夯实算法审查的社会基础;将算法文化监控、算法可解释性和算法可控性纳入算法审查范围,合理评估算法对国家和社会的冲击,明确算法安全内容;制定“算法安全法”以破解政策敏锐立法滞后的困局,回应算法安全制度的现实需求和总体国家安全的需要,提升国家在科技领域的监管能力,积极应对西方国家算法霸权,加速推进类ChatGPT通用人工智能本土化应用及国产化替代进程。     

人工智能司法的运行困境与出路——以“要素式审判”为视角

人工智能技术更新迭代,但人工智能司法在运行中仍面临内生、外来的困境和质疑。人工智能司法开发技术的功能障碍、类案类判技术尚未发挥其应然功能、算法黑箱与法律决策透明性的天然冲突、人工智能不是“人”等窘境是人工智能司法运行中需直面的难题。要素式审判是指根据不同类型案件的特点,抽取出该类案件的共同事实要素,围绕案件的基本要素进行庭审并制作裁判文书的一种略式审理方法。引入要素式审判方法有助于缓解人工智能技术升级的压力、提升类案类判的准确性和针对性、提高裁判文书说理以及心证公开的程度、增加“人情味”,从而提升人工智能在司法审判中运行的效能。     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来,将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表,它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命,推动人类生活生产方式创新,促进新一轮科技革命和产业变革。与此同时,也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理,在伦理方面,应当坚持以人为本、培育公民的数字素养和建立伦理审查机构,促进应用的合理化;在法律规制上,应通过立法、权力监督、制度保障等手段,促进ChatGPT的应用合法化;在技术上,应将法律规制、相关伦理等价值观念转化为算法,以算法来规制算法。     

家族司法审判与国家司法审判的关联性分析

家族司法审判与国家司法审判的关联性表现为：一是审判依据所遵循规律的一致性,二是审判案件所追求社会效果的共通性。其中,一致性是指各自司法审判对法律依据作出选择后,最终证实案件事实的可靠性和确定性一致;共通性是指国家司法审判追求的维护社会秩序的目标,与家族司法审判追求的家族协调发展的目的具有共通性。这种关联性的主要表现是把各自的诉讼依据作为分析要点,将界定家族司法审判与国家司法审判关联性的涵义作为探索关联性表现的先决条件,从而开辟司法制度研究的新领域。     

司法执行人工智能化之反思与前瞻

人工智能与信息化技术在司法执行领域的应用,为缓解司法执行难问题带来了新的契机。但人工智能对数据与算法有着双重依赖;机器智能技术与人类理解技艺间存在实然鸿沟;人工智能技术嵌入案件执行过程亦潜藏个案形式正义与实质正义的弥合难题。与此同时,人工智能算法缺陷的隐匿可能引发执行客观性失却风险;技术依赖深重可能弱化法官主体地位;人为设置或认知阻隔的算法黑箱亦可能加大执行责任的切割与追究难度。应当以法治思维为依归,从认知层面、观念层面、技术层面及制度层面对司法执行人工智能化的实践问题做出全方位的应对。     

语言学视角下ChatGPT带来的机遇与挑战

对话生成预训练模型ChatGPT(Chat Generative Pre-trained Transformer)因其高超的对话能力,一经发布便吸引了工业界和学术界的广泛关注,成为历史上增长最快的消费者应用程序,在发布后两个月内就吸引了1亿注册用户,带动了数据、算法、算力、应用等人工智能板块的产业研发热潮。本文立足语言学的视角,围绕ChatGPT是否已经具备语言理解和推理能力,可否提高大语言模型的可解释性,以及能否预示着知识工程的新方向三个核心问题,探讨ChatGPT带来的机遇和挑战。     

GPT模型下法律人工智能的风险与对策研究

ChatGPT是搜索模式的一次颠覆性变革,依托“自然语言处理（NLP）”与“搜索引擎”两大底层技术,GPT模型为法律咨询、类案检索、法律文书撰写的智能化发展创造了广阔空间。同时GPT模型也面临着伦理性风险、准确性风险、法律责任承担风险等方面的质疑。将新一代人工智能技术应用于法律领域,需要通过完善规则体系建设、强化法律专业监管、加强GPT模型的法律专业训练等方法来规范其使用,推动我国新一代法律人工智能的发展。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

善假于物与审判异化:司法人工智能的辩证思考

目前的人工智能在本质上系基于大数据、算法和算力的机器智能,并非有机智能.针对司法人工智能热,应立足于工具主义的定位,辩证地理解司法人工智能的两面性——善假于物和审判异化.在司法公正、效率、管理和服务公众方面,司法人工智能可以最大限度地解放司法生产力,但与此同时,司法人工智能应当服从于法官主体能动性、止步于司法根本属性,避免不平等的固化和扩大.相应地,对司法人工智能应当持拥抱和审慎的态度,要在理论极限和现实基线之间探索出司法人工智能的应用之路.     

善假于物与审判异化:司法人工智能的辩证思考

目前的人工智能在本质上系基于大数据、算法和算力的机器智能,并非有机智能.针对司法人工智能热,应立足于工具主义的定位,辩证地理解司法人工智能的两面性——善假于物和审判异化.在司法公正、效率、管理和服务公众方面,司法人工智能可以最大限度地解放司法生产力,但与此同时,司法人工智能应当服从于法官主体能动性、止步于司法根本属性,避免不平等的固化和扩大.相应地,对司法人工智能应当持拥抱和审慎的态度,要在理论极限和现实基线之间探索出司法人工智能的应用之路.     

ChatGPT类生成式人工智能的伦理问题、原因分析与规制路径

自2022年起,以ChatGPT和GPT-4为代表的生成式人工智能迅速发展,人工智能进入了“大模型”时代。作为一项具有重大意义的技术进步,对人类社会的发展具有重要意义;同时,ChatGPT类生成式人工智能作为人的创造物,也引发了人的主体性的丧失、数据隐私泄露与算法偏见、责任主体冲击与道德地位的模糊等伦理问题,会威胁到人类的幸福生活。以ChatGPT类生成式人工智能引发的伦理问题为起点、以挖掘其产生的原因为依据,提出完善生成式人工智能伦理治理的体制和机制、优化生成式人工智能技术设计和培育正确的主体意识等规制路径。     

社会治理：人工智能时代算法偏见的问题与规制

随着人工智能、大数据的快速发展,社会已经进入了算法社会。算法已经全面渗透于社会经济、生活及管理的运行。然而算法并非是完全客观、价值中立的技术。算法运行过程中产生的偏见及问题,其本质是社会偏见在人工智能时代的映射,逐渐显现侵害社会公众的人格平等权、隐私权,并对数据安全形成威胁甚至破坏,从而导致对社会危害现象的发生。因此,不应禁锢于算法中的技术乌托邦理念,通过把握算法偏见产生的环节及其存在的法律及事实风险,减少其因不确定性危害风险带来的对社会秩序的冲击,有必要及时建构法律和综合治理的风险防控体系,并将对算法偏见的防控治理纳入常态化社会治理体系中。     

基于生成式人工智能法律服务的数智化发展逻辑与建构路径

生成式人工智能在将法律服务的运作场景推向一个崭新境界的同时,也必将在“器”和“道”的层面对法律服务产生结构性影响,使法律从业者面临职业角色的转型和工作归属的重塑。从功能主义的角度看,对生成式AI在法律服务中地位和角色的考察,不应再囿于现有制度体系和职业逻辑,而是要超越传统的职业视角和“工具论”立场,理解法律服务数智化发展的复杂动态和不确定性,全面考察生成式AI应用于法律服务的技术机理、行业可行性和赋能场景,分析“工具论”心理可能引发的法律职业“去技能化”现象,系统探讨生成式AI在重塑法律服务的基本内涵、运作范式、群体构成、市场供给关系等方面的深层次影响。不过,以宏观视角考察法律与技术的关系,生成式AI还不能完全取代法律职业群体,因为蕴含于其衍生逻辑中的一些根源性问题以及AI技术与法律固有属性之间的内在张力尚未得到解决。以生成式AI赋能法律服务,需要在国家、职业、市场、技术等层面调和法律职业与智能技术之间的属性张力,并关注可能存在的风险。     

ChatGPT 的伦理风险与规制路径

ChatGPT一经问世就引起广泛热仪,它以高拟真度、强互动性和多模态的特质颠覆了人们对于人工智能的既有印象。其作为生成式人工智能的优秀代表正以高调的姿态变革人类生产生活方式、打破人类认知壁垒。但科技的发展具有矛盾性和两面性,越智慧的科技,越易使人滋生恐惧和不安等情绪,提升效率、便民利民的同时,也通常伴随一系列的伦理风险。ChatGPT对工作效率模式带来的重大变化,使其两面矛盾性更为凸显。克服矛盾心理需要厘清ChatGPT引发的人类主体地位受冲击、隐私侵犯与算法歧视、作弊成本降低与学术不端、侵扰意识形态防线等伦理风险。应对这些伦理风险需要坚持人本主义原则、守住技术发展底线、保护隐私群己共律、加强算法设计与监管、坚持科技伦理教育、实现监督与引导并行、补齐生成式AI短板、走独立自主发展之路,从而实现ChatGPT的伦理规制,克服人们因技术的强大智慧而产生的矛盾心理,确保智能技术始终沿着造福人类之路稳步前行。     

生成式人工智能数据风险的法律保护与规制研究——以ChatGPT潜在数据风险为例

ChatGPT是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的自然语言处理工具,其深度的学习能力和自我纠正能力,提高了人工智能与人类之间的交往。ChatGPT在实现科学技术革新的同时,也存在敏感数据泄露的风险。ChatGPT在保护个人主体数据、企业主体数据和国家主体数据方面需要法律予以规范。因此,如何应对ChatGPT带来的数据安全,成为生成式人工智能亟待解决的问题。为此,通过分析ChatGPT运作阶段和数据主体应用现状可能存在的数据风险,以我国数据规制法律框架为基础,借鉴域外人工智能立法模式,探究ChatGPT的数据风险法治化应对策略,以此合理构建我国生成式人工智能的数据风险法律规制体系。     

ChatGPT类生成式人工智能监管的国际比较与借鉴

ChatGPT类生成式人工智能的快速发展虽在不同领域带来积极影响,但也引发了法律政策、安全技术、社会伦理等层面的监管问题。比较美国、欧盟、日本等国外典型经济体人工智能监管的治理实践,为完善我国人工智能监管治理体系提供政策参考。我国人工智能监管应坚持发展与安全并重、促进创新与依法治理相结合的监管原则,建立健全法律与政策、技术与安全、社会与伦理等层面的监管路径,同时对人工智能进行进入性监管、技术性全程监管和分级分类监管,完善我国的人工智能监管体系。