ChatGPT法律风险及其规制

ChatGPT的爆火宣介人类打开了强人工智能时代的序幕,其凭借着强大的数字孪生能力、创作能力、编辑能力及类人性推动着人类社会向更敏捷的时代转型。ChatGPT的出现势必会对现有规则提出挑战,可能诱发生成违法或不良信息、算法偏见、数据泄露、借势贩卖租赁账号等诸多法律风险。但ChatGPT可能产生的法律风险与现存的社会风险并无实质差异,仍未脱离个人信息保护、数据安全、服务提供者应当承担的义务等核心议题。因此,对ChatGPT法律风险的规制,仍应根据ChatGPT技术发展的特征,依托阶段性规制理论,注重风险防范,及时对现行的基本法律条款进行解释适用。     

ChatGPT类生成式人工智能的伦理问题、原因分析与规制路径

自2022年起,以ChatGPT和GPT-4为代表的生成式人工智能迅速发展,人工智能进入了“大模型”时代。作为一项具有重大意义的技术进步,对人类社会的发展具有重要意义;同时,ChatGPT类生成式人工智能作为人的创造物,也引发了人的主体性的丧失、数据隐私泄露与算法偏见、责任主体冲击与道德地位的模糊等伦理问题,会威胁到人类的幸福生活。以ChatGPT类生成式人工智能引发的伦理问题为起点、以挖掘其产生的原因为依据,提出完善生成式人工智能伦理治理的体制和机制、优化生成式人工智能技术设计和培育正确的主体意识等规制路径。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

论生成式人工智能的法律风险与治理路径

以ChatGPT为代表的生成式人工智能在优化产业结构促进经济发展的同时也带来新的法律风险。语言模型训练中的风险主要包括侵害个人信息与作品著作权风险,内容生成过程中的风险则体现为人工智能“幻觉”导致的错误信息风险、算法偏见风险、“涌现”导致的算法失控风险以及人机互动中的算法滥用风险。《生成式人工智能服务管理暂行办法》提供基本的治理框架,但部分条款设置与具体治理方式上存在不足。生成式人工智能的性能取决于训练数据集的规模与质量,模型训练中的数据治理需要尊重其技术逻辑,实践中应拓展公共数据中著作权数据与个人数据的合理使用边界。内容治理可以借鉴“宪法人工智能”的基本理念,构建动态的内容反馈评估机制。     

ChatGPT的法律风险与治理路径

以ChatGPT为代表的生成式人工智能具备在自动学习的基础上生成新内容的能力,在引发生产力革命的同时也形成了法律规制难题。ChatGPT会造成隐私侵权、数据安全风险以及知识产权确权与保护困境等难题,其主要原因在于数据中心主义、算法高度信任以及规范滞后于技术等。治理ChatGPT应当秉持捍卫人的尊严原则和倡导有限信任原则,坚持以公共利益为导向确定权属分配,并构建以开发设计者为主体的合规方案,发挥科技伦理引领与法律规范的双重作用。具体可采取对数据采集的合规控制、以技术治理技术、优化数据管理方法等措施。为了防范ChatGPT过度模糊人与机器之间的信任边界,还应根据用户的专业性程度配置不同的披露义务。     

我国人工智能综合立法路径探索——以欧美相关立法为参照

数字时代人工智能逐步深入人类生活,在改造和重塑各行业、为社会发展赋能的同时,也引发了不容小觑的法律和伦理风险。尤其是在Chat GPT等生成式人工智能面世后,人工智能立法规制的必要性大大增加。欧盟和美国率先针对人工智能发布立法规制,这为我国人工智能综合立法中基础法律问题的解决提供了先行经验,如解决人工智能法律主体地位和知识产权争议等相关问题。除此之外,分析美欧人工智能相关立法也为中国应对AI风险等级分类管理、全过程体制监管以及建立人工智能相关治理机构等具体程序性问题提供了参考。目前,我国针对生成式人工智能出台了《生成式人工智能服务管理暂行办法》,深圳、上海等地也相继出台了地方性立法,但还未形成国家层面的人工智能综合立法。综合立法可以解决我国人工智能法律规范数量少、层级低、缺乏顶层设计等问题,更好地进行人工智能管理和促进其发展。此外,树立良性道德伦理规范有利于为后续立法进程打好基础,加快数据、算法等基础立法进程也有助于促进人工智能的综合立法进程。     

ChatGPT 的伦理风险与规制路径

ChatGPT一经问世就引起广泛热仪,它以高拟真度、强互动性和多模态的特质颠覆了人们对于人工智能的既有印象。其作为生成式人工智能的优秀代表正以高调的姿态变革人类生产生活方式、打破人类认知壁垒。但科技的发展具有矛盾性和两面性,越智慧的科技,越易使人滋生恐惧和不安等情绪,提升效率、便民利民的同时,也通常伴随一系列的伦理风险。ChatGPT对工作效率模式带来的重大变化,使其两面矛盾性更为凸显。克服矛盾心理需要厘清ChatGPT引发的人类主体地位受冲击、隐私侵犯与算法歧视、作弊成本降低与学术不端、侵扰意识形态防线等伦理风险。应对这些伦理风险需要坚持人本主义原则、守住技术发展底线、保护隐私群己共律、加强算法设计与监管、坚持科技伦理教育、实现监督与引导并行、补齐生成式AI短板、走独立自主发展之路,从而实现ChatGPT的伦理规制,克服人们因技术的强大智慧而产生的矛盾心理,确保智能技术始终沿着造福人类之路稳步前行。     

“媒介自延伸”:人机交互中知识权力话语模式变迁及潜在风险

以ChatGPT4.0为代表的生成式人工智能技术,不仅打破千百年来人类的话语主体地位,更冲出以人为本的“媒介即延伸”发展轴线,转向以媒介自我能力延伸的“媒介自延伸”之轨,人类知识权力话语模式的主体、特征以及权力关系受到巨大冲击。在梳理人类历史进程中不同媒介时代权力话语模式变迁基础上,采用扎根理论研究方法,对当下生成式人工智能引发的人机交互权力话语模式与特征进行分析,发现算法规制下的智能话语或将人类话语引入范式化与平庸化,造成机器知识内容权力宣示、庸语驱逐俗语以及情感话语蛊惑方面的潜在风险,需从个体“算法启蒙”及社会规制层面采取必要举措并进行反思。     

ChatGPT技术中的人工智能伦理风险及其科学祛魅

作为一种生成式预训练变压器,ChatGPT技术在推动人类社会进入通用人工智能时代的同时,也会“堆积”一些形而上学问题。其在技术演进中,呈现的偏差性、不可靠性、鲁棒性、有毒性等伦理特性,诱发了道德判定障碍、社会偏见刻板化、用户数据去隐私化、科学技术异化等人工智能伦理风险。只有凸显人文价值关怀,重塑伦理主体责任,强化伦理政策导向,创新伦理运行机制,才能有效纾解ChatGPT技术带来的伦理风险,使人工智能系统成功融入人类社会。     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来，将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表，它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命，推动人类生活生产方式创新，促进新一轮科技革命和产业变革。与此同时，也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理，在伦理方面，应当坚持以人为本、培育公民的数字素养和建立伦理审查机构，促进应用的合理化；在法律规制上，应通过立法、权力监督、制度保障等手段，促进ChatGPT的应用合法化；在技术上，应将法律规制、相关伦理等价值观念转化为算法，以算法来规制算法。     

生成式人工智能失范性风险的法律因应——以凯尔森规范性理论为视角

以ChatGPT4为代表的生成式人工智能具有高度类人性和广泛适用性，有利于生产方式和众多领域的转型升级。然而，这种所谓强人工智能时代的标志性产物，伴随着技术固有的风险性问题，引发伦理以及法律层面的失范性问题。生成式人工智能的失范性主要表现为：一是针对生成式人工智能引发的风险问题，伦理与法律尚无回应；二是现有的伦理体系和法律制度的“规范性”不足。为此，文章借鉴凯尔森的规范性理论，采用“旧论新用”的方法：一是利用伦理规范化，增强其约束性、可执行力，整理其内部层级关系，形成生成式人工智能的伦理治理体系；二是运用法律规范化，强化其对生成式人工智能数理化逻辑运行的模型规范。最后，基于伦理与法律协同构建生成式人工智能的规范性体系。     

生成式人工智能视域下的人权：张力、威胁与中国因应

关于以ChatGPT为代表的生成式人工智能的法律人格主要有三种观点:工具说、独立主体说和有限人格说。生成式人工智能既赋能人权发展又具有局限性,给人权带来的威胁有：冲击人类主体地位;突破人类道德边界;增加信息泄露、歧视、失业等风险。对此,中国在保障宏观人权方面,应引导确立数字人权理念,构建中国特色生成式人工智能产业模式;在保障具体人权方面,应遵守国际规则,完善国内治理。     

ChatGPT模型引入我国数字政府建设：功能、风险及其规制

数字政府建设关涉国家治理体系与治理能力现代化，面对ChatGPT模型这一重大技术性突破，切实发挥其在我国数字政府建设之中的作用具有重要意义。在数字政府建设中植入ChatGPT模型，必须厘清技术赋能、技术风险以及技术规制之间的逻辑关联。ChatGPT模型能够推动数字政府的亲民化、高效化和智能化发展，但同时也可能引发国家层面的数据主权安全风险、政府层面的行政公共性解构风险以及个人层面的数据权利侵犯风险。规范ChatGPT模型的技术应用，需要推动ChatGPT数据的分类分级，完善ChatGPT模型的责任链条，明确国家对公民数据权利的保护义务，强化国家对ChatGPT技术的引导与研发。     

ChatGPT的意识形态风险审视

ChatGPT是人工智能发展划时代的标志，然而ChatGPT并不是其标榜的持中立客观的立场，而是存在明显的政治倾向和政治偏见，具有很强的意识形态属性。ChatGPT的强大功能使其具有一种隐形的意识形态功能，ChatGPT的西式资本所有权属性决定了其本质上是资本主义维持自身体系以及资本增殖的工具，ChatGPT的技术构成蕴含了其天然的政治倾向和政治偏见。ChatGPT的意识形态风险在现实性上表现为技术瑕疵风险、智能依赖风险、资本僭越风险、信息茧房风险、数据泄露风险、伦理风险和监管风险。防范ChatGPT的意识形态风险要从推动ChatGPT更好地服务于人，增强意识形态工作者对ChatGPT意识形态风险的认知和应对能力，健全和完善意识形态风险防范的制度化水平以及巩固和壮大主流意识形态的传播阵地等措施出发，做好ChatGPT意识形态风险的防范工作。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

浅析生成式人工智能意识形态风险样态、生成诱因及其治理逻辑

以ChatGPT为代表的生成式人工智能已经成为意识形态风险生成的重要场域,其具有的基于大数据的人机对话模式、基于自我学习的算法机制和不断改进的算力等特点使其在实际运作中内嵌了强烈的意识形态属性,表征为以技术为手段的意识形态权力转移导致的场域失落风险、以人机协同操纵意识形态偏见导致的话语权旁落风险和以模糊边界运作加大意识形态治理难度引发的治理失效风险。其生成诱因在于资本与技术扩张导致资本逻辑内嵌于意识形态风险之中,去中心化与再中心化的话语权转移带来了人类语言逻辑表达与多元价值博弈,以及对话沉迷与主体危机的内容失真引发的治理范式转化与监管失灵。应立足于阵地治理、数据治理和制度治理使生成式人工智能场域转变为巩固意识形态认同的最大增量。     

数字赋能政府治理何以产生“数字负能”？

作为一种生成式预训练变压器,ChatGPT技术在推动人类社会进入通用人工智能时代的同时,也会“堆积”一些形而上学问题。其在技术演进中,呈现的偏差性、不可靠性、鲁棒性、有毒性等伦理特性,诱发了道德判定障碍、社会偏见刻板化、用户数据去隐私化、科学技术异化等人工智能伦理风险。只有凸显人文价值关怀,重塑伦理主体责任,强化伦理政策导向,创新伦理运行机制,才能有效纾解ChatGPT技术带来的伦理风险,使人工智能系统成功融入人类社会。     

生成式人工智能参与数字政府建设的技术跃迁、目标导向与可行路径

利用生成式人工智能技术参与数字政府建设，为新时代国家治理现代化提供技术驱动，具有重要的时代意义和实践价值。ChatGPT等生成式人工智能参与数字政府建设的功用，与其相对于既有人工智能技术的技术跃迁息息相关。生成式人工智能的自然语言理解与生成能力跃迁、文本生成能力跃迁和知识更新能力跃迁，是与数字政府建设联系最为紧密的技术跃迁，对数字技术参与政府内部工作、政务服务和公共服务均有重大功用。生成式人工智能参与数字政府建设的根本目标在于建设人文数字政府，直接目标在于实现效率数字政府，长期目标在于建成智慧数字政府。生成式人工智能参与数字政府建设的可行路径在于实现权利保障优位、效率与责任并行和安全与发展均衡。面对生成式人工智能参与数字政府建设的广阔前景和风险问题，要加快我国自主的生成式人工智能在数字政府建设领域的应用培育。     

人工智能的法律风险及应对路径

中共十九届四中全会对人工智能技术提出了新的要求.但人工智能技术在快速发展的同时,也给我们的法治社会带来一系列法律风险.其风险形态主要表现为个人信息与个人隐私泄露风险、侵权责任风险、刑事犯罪风险、劳动者就业风险、行政规制风险以及军事应用的国际法风险六大方面.文章对这些风险形态的成因进行了主、客观的分析,并针对这些具体的法律风险形态提出了相应的应对路径,旨在促进人工智能的健康发展.     

生成式AI的法律风险及应对

随着生成式AI应用在多个领域的兴起，在为经济发展、科技进步注入活力的同时，也存在侵害用户权益、损害公共利益的可能。为消弭技术可能带来的多维度风险，监管需求与日俱增。生成式AI模型与AI系统既存在区别又彼此联系，共同在特定场景下发挥作用，构成对生成式AI规制的逻辑起点。以《AI法案》为代表的欧盟立法具有一定的前瞻性，却也在如风险分级、生成内容审核等多方面存在问题，需要持续完善。生成式AI非普通产品，考虑其动态性与场景化的特征，应当采取具有针对性的规制措施。我国立法可适当吸取有益经验，在价值链主体合作机制构建与平台生成内容审核方面予以创新，提高生成式AI规制的有效性。