生成式人工智能数据风险的法律保护与规制研究——以ChatGPT潜在数据风险为例

ChatGPT是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的自然语言处理工具,其深度的学习能力和自我纠正能力,提高了人工智能与人类之间的交往。ChatGPT在实现科学技术革新的同时,也存在敏感数据泄露的风险。ChatGPT在保护个人主体数据、企业主体数据和国家主体数据方面需要法律予以规范。因此,如何应对ChatGPT带来的数据安全,成为生成式人工智能亟待解决的问题。为此,通过分析ChatGPT运作阶段和数据主体应用现状可能存在的数据风险,以我国数据规制法律框架为基础,借鉴域外人工智能立法模式,探究ChatGPT的数据风险法治化应对策略,以此合理构建我国生成式人工智能的数据风险法律规制体系。     

在工具与玩具之间：关于ChatGPT的几点人文思考

ChatGPT这项技术具有双重性质：既是一个用于搜索和研究的工具,也是一个用于愉快对话的玩具。人们通常高估了ChatGPT作为搜索工具的实用性,也可能低估了它与人进行趣味交谈和快乐互动的价值。可以把ChatGPT重新构想和开发成为一个对话和交谈领域的新成员,将对话和交谈互动的范围扩展到人类之外的AI聊天机器人。这种扩展可以激发新的人文反思议题,如：善意、理解、教养、交往理性、欣赏“他者”,以及对人工智能的恐惧。此外,这种转变的视角也能使人们重新审视与互联网和人工智能相关的长期问题,例如：“人类”的意义、人类与技术之间的关系、人工智能可能带来的威胁、失去人类价值观的风险、工作和娱乐的伦理道德以及对话和互动的伦理道德,等等。作为一种人工智能语言模型,ChatGPT具有人文启蒙的潜力,包括：促进知识获取、增进互动、鼓励批判性思维、推动逻辑和理性对话以及传播准确信息的潜力。最终,ChatGPT作为工具和玩具的独特能力可以帮助人们更好地理解自己和技术的关系,同时应对日益数字化的世界的复杂性。     

ChatGPT学术性使用中的法律挑战与制度因应

ChatGPT的出现意味着人工智能的发展进入新阶段。虽然ChatGPT的终极商业化场景尚未明确，但其改变人类创新活动的潜力已经引发社会上下广为关注。目前ChatGPT引发的创新挑战主要与其生成物的学术性使用密切相关：一方面，ChatGPT生成物是否可以受到著作权的保护；另一方面，学者和学生使用ChatGPT生成物完成学术论文或者课程论文是否构成学术不端。人工智能的学术性使用宜从工具化的角度进行处理。因此，我们应当在不排斥学术性使用ChatGPT生成物的同时，对一些特定的滥用行为进行规制。     

ChatGPT类生成式人工智能的伦理问题、原因分析与规制路径

自2022年起,以ChatGPT和GPT-4为代表的生成式人工智能迅速发展,人工智能进入了“大模型”时代。作为一项具有重大意义的技术进步,对人类社会的发展具有重要意义;同时,ChatGPT类生成式人工智能作为人的创造物,也引发了人的主体性的丧失、数据隐私泄露与算法偏见、责任主体冲击与道德地位的模糊等伦理问题,会威胁到人类的幸福生活。以ChatGPT类生成式人工智能引发的伦理问题为起点、以挖掘其产生的原因为依据,提出完善生成式人工智能伦理治理的体制和机制、优化生成式人工智能技术设计和培育正确的主体意识等规制路径。     

ChatGPT对学术出版实践的影响及其应对

为探索人工智能内容生成技术对学术出版的影响,以ChatGPT功能和特点为基础,从工作内容、流程和模式三方面分析了ChatGPT对学术出版的冲击和影响,强调ChatGPT对学术出版最深刻的影响在于生产力解放和伦理冲击。在此基础上提出人工智能内容生成技术的发展对于学术出版参与主体提出了更高的伦理、人工智能使用水平以及更加专业的学术水平的要求,重点强调了学术出版参与主体应通过定位人类参与者的价值取向和功能,坚定主体地位,配合完善的人力及业务改革措施,合智协同促进ChatGPT在学术出版实践中共生共智共创。     

计算机及其网络应成为人类自我超越力量的延伸

计算机及其网络从物质形态上来讲是机器和软件的统一体,但是它模拟了人的思维模式成为人工智能的载体,因而成为人类大脑的延伸,成为人类改变客观世界和主观世界力量的延伸。力量不是单纯的工具,它更意味着理念、思维方式等人类特有的自我超越的方式。当前,不少人陷入这样的误区仅仅把计算机及其网络看成工具,这样就不能全面地理解智能的超越力量所在,延缓了人类自我超越的步伐。我们要明白人类对象化活动的实质就是自我超越,计算机和网络世界仍然是人的世界,仍是需要人类超越的世界。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

ChatGPT技术中的人工智能伦理风险及其科学祛魅

作为一种生成式预训练变压器,ChatGPT技术在推动人类社会进入通用人工智能时代的同时,也会“堆积”一些形而上学问题。其在技术演进中,呈现的偏差性、不可靠性、鲁棒性、有毒性等伦理特性,诱发了道德判定障碍、社会偏见刻板化、用户数据去隐私化、科学技术异化等人工智能伦理风险。只有凸显人文价值关怀,重塑伦理主体责任,强化伦理政策导向,创新伦理运行机制,才能有效纾解ChatGPT技术带来的伦理风险,使人工智能系统成功融入人类社会。     

数字赋能政府治理何以产生“数字负能”？

作为一种生成式预训练变压器,ChatGPT技术在推动人类社会进入通用人工智能时代的同时,也会“堆积”一些形而上学问题。其在技术演进中,呈现的偏差性、不可靠性、鲁棒性、有毒性等伦理特性,诱发了道德判定障碍、社会偏见刻板化、用户数据去隐私化、科学技术异化等人工智能伦理风险。只有凸显人文价值关怀,重塑伦理主体责任,强化伦理政策导向,创新伦理运行机制,才能有效纾解ChatGPT技术带来的伦理风险,使人工智能系统成功融入人类社会。     

ChatGPT 的伦理风险与规制路径

ChatGPT一经问世就引起广泛热仪,它以高拟真度、强互动性和多模态的特质颠覆了人们对于人工智能的既有印象。其作为生成式人工智能的优秀代表正以高调的姿态变革人类生产生活方式、打破人类认知壁垒。但科技的发展具有矛盾性和两面性,越智慧的科技,越易使人滋生恐惧和不安等情绪,提升效率、便民利民的同时,也通常伴随一系列的伦理风险。ChatGPT对工作效率模式带来的重大变化,使其两面矛盾性更为凸显。克服矛盾心理需要厘清ChatGPT引发的人类主体地位受冲击、隐私侵犯与算法歧视、作弊成本降低与学术不端、侵扰意识形态防线等伦理风险。应对这些伦理风险需要坚持人本主义原则、守住技术发展底线、保护隐私群己共律、加强算法设计与监管、坚持科技伦理教育、实现监督与引导并行、补齐生成式AI短板、走独立自主发展之路,从而实现ChatGPT的伦理规制,克服人们因技术的强大智慧而产生的矛盾心理,确保智能技术始终沿着造福人类之路稳步前行。     

当ChatGPT“闯入”劳动场景:人机互动、空间争夺与价值重塑

人类依靠对技术和媒介的想象去形塑人工智能技术,希望机器能够成功嵌入人类的日常生活与劳动场景。但是,以辅助之姿进入人类生活的机器却逐渐超越原本的中介角色,成为劳动场景中与人类互为宰制的主体。从媒体等同理论视角出发,机器的“拟人化”反而使得人类成为机器观察世界的感知器,这种互为“幻肢”的新型共生关系为破除人与机器的二元对立提供了契机,但也造成了人类对劳动空间和劳动价值的焦虑。以ChatGPT为代表的生成式人工智能通过其物种优势、逆恐怖谷效应和超验的类人智慧,在劳动场景中唤起人类在工作空间、社交空间、潜能空间被剥夺了权力的恐惧。如果想要在文化社会意义上减少这种焦虑恐惧,就必须要重新理解劳动价值的物质与精神二重性,以社会赋值取代市场赋值,从崇拜效率至上的工具理性回归人性主体的价值理性。     

GPT语言模型：作为“类人型”人工智能的技术准备

<正>从2022年末开始,ChatGPT以及随后登场的GPT-4迅速成为科技界乃至全社会都在关注的焦点。与之前的“元宇宙”概念还停留在构想阶段就被热炒不同,ChatGPT是在务实地推出产品之后,在产品本身具备的超强能力的带动下,凭借实力而火爆的。而且落实“元宇宙”还需要一个协助人类完成各种“人工智能生成内容”（AI-Generated Content,AIGC）工作的数字助手,为了建立“元宇宙”这样的虚拟空间,就需要GPT语言模型本身所具备的自动生成内容的属性。人工智能作为一种前沿技术,     

论理论与实践的互动与互化

［摘要］理论与实践相结合是一个人与人、人与物之间社会互动的过程,也是理论与实践之间互动与互化的过程。互动引起互化即对象化。实践的对象化,不只是实践客体的观念化,而是一个实践整体即全过程的对象化;理论的对象化,也并不意味着原有理论的对象化,而是在实践中,在理论与实践的相结合中不断发展着的理论的对象化。必须重视人在理论与实践互动与互化过程中的主体和主导作用,必须充分考虑人民群众的根本利益诉求,这是理论与实践互动与互化规律的基本要求。     

智能时代身体主体性的颠覆与重构--兼论人类与人工智能的主体间性

超人类主义者预言的赛博人、电子人正成为现实,基于深度学习和人工神经网络技术的实现,越来越智能的技术正在挑战人类中心主义的知识和价值体系,智能时代人类的主体性也亟需重新审视与重构。在弱人工智能时代,作为中介或客体的弱人工智能主体性表现为被奴役的“他者”,本质上是依附于人类意识的“奴隶”。在强人工智能时代,具有自主意识的强人工智能则具有主体地位的可能性,人类与强人工智能在“主体—主体”的关系模式中将会走向共存于世界之中的超主体性。由强人工智能和人类分别演化的虚拟人和虚拟智人,其主体关系的特点表现为在场交流,虚实空间延伸,以及共生关系。     

ChatGPT介入思想道德教育的应用价值、潜在伦理风险与治理进路

ChatGPT的横空出世为思想道德教育的改革和创新提供了新契机。一方面,ChatGPT以基于人类反馈的强化学习机制等核心技术手段为思想道德教育提供了主体、客体、介体、环体等不同维度的应用价值,即主体维度具有实现教育者教育教学工作高效化的价值,客体维度具有为教育对象提供个性化学习体验的价值,介体维度具有实现思想道德教育内容高质量和教学方式智能化的价值,环体维度具有实现思想道德教育环境优化升级的价值等。另一方面,ChatGPT的介入也使思想道德教育面临着大德混淆、公德失守、私德有缺等道德问题和伦理风险。其问题治理和风险防范需要坚持以德为先,明大德、守公德、严私德;坚持以人为本,明确育人为本、技术为用的原则立场;坚持以法为界,建立体系化的思想道德保障机制,从而确保生成式人工智能与思想道德教育深度融合、向善而行。     

人工智能司法审判的限度审视与应用路径——基于对ChatGPT算法的法律批判

人工智能在参与司法审判的过程中常被认为是辅助法官的工具,这是新兴技术之工具理性与司法制度之价值理性博弈的结果,也是在弱人工智能情境下的法学共识,即人工智能处于辅助审判的定位。如今,ChatGPT作为人工智能的新应用,在智性上有显著提升,甚至具有产生算法意识的可能。ChatGPT的技术特征与算法逻辑使其具有更高的智能水平,但其仍受到法律的限制,无法具有法官能力。同时,ChatGPT目前仍无法具有心性与灵性,无法通过民事诉讼基本原则的检验,不具备公正司法的能力,并不能替代人类法官。例如,ChatGPT无法满足独立行使审判权的要求,也无法替代当事人的意思自治。ChatGPT确实有助于提升司法效率,并保障法院与当事人的程序利益,却无法确保公正司法,无法替代当事人处分实体利益。在这个角度,ChatGPT更大的作用是促进司法效率,而非保障司法公正,法官的审判权与当事人的处分权仍是其应用的禁区。技术革新并不足以颠覆人工智能在司法应用中辅助审判的基本原则,人工智能需对程序性事务与实体性事务区别对待,慎入诉讼后阶段的审判权行使活动,以此保障人类法官公正、独立、自由地进行司法裁判。     

要区别异化劳动和对象化劳动

在讨论“异化”理论问题时,有些同志提出,异化劳动是一种永恒的社会现象,因此社会主义也存在着异化.我认为,这种错误观点,从理论上说,是同混淆异化劳动和对象化劳动有直接关系的. 怎样理解对象化劳动?如果我们从劳动的一般本质加以考察就会发现,人们在社会生活中,总是感到自然形态的物质对象还不足以满足或适合自己的需要,因而要对它们进行加工,把它们变成人工的产品,即人工了的对象.例如,自然界只有泥土而没有砖瓦,只有树木而没有桌椅,我们对泥土和木材进行加工制作,使之成为符合人们需要的新对象,于是客观的东西按着人的需要对象化了.所以,从广义上说,对象化劳动,就是人的一切改造客观世界的活动,是人的主体力量的对象化,也就是马克思在《资本论》中讲的“物化”.     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来，将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表，它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命，推动人类生活生产方式创新，促进新一轮科技革命和产业变革。与此同时，也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理，在伦理方面，应当坚持以人为本、培育公民的数字素养和建立伦理审查机构，促进应用的合理化；在法律规制上，应通过立法、权力监督、制度保障等手段，促进ChatGPT的应用合法化；在技术上，应将法律规制、相关伦理等价值观念转化为算法，以算法来规制算法。     

ChatGPT与人工智能时代：突破、风险与治理

本文介绍了自然语言处理技术的人工智能应用程序ChatGPT在AIGC(人工智能生成内容)领域的突破性进展，以及这种进步的重要意义。通过回溯历次工业革命对社会的影响，提出以下观点：人工智能发展将带来新的工业革命，人工智能社会已经成为趋势；人类的历史就是不断突破自身局限的历史，人工智能正带来一次新的工业革命，前两次工业革命人类扩展了肢体的机能，从第三次工业革命开始扩展的是大脑和神经系统的机能，进入对自身局限挑战的最高阶段，人工智能将推动大脑和其他身体机能整合式扩展，形成智能社会。还分析了ChatGPT可能带来的就业问题和社会分化与不平等，分析了人工智能技术的风险，如隐私和数据安全、算法黑箱可能带来的偏见和歧视、人工智能依赖等问题。最后，介绍了国外研究者关于人工智能社会治理的思想，提出社会治理的基本思路。     

生成式人工智能视域下的人权：张力、威胁与中国因应

关于以ChatGPT为代表的生成式人工智能的法律人格主要有三种观点:工具说、独立主体说和有限人格说。生成式人工智能既赋能人权发展又具有局限性,给人权带来的威胁有：冲击人类主体地位;突破人类道德边界;增加信息泄露、歧视、失业等风险。对此,中国在保障宏观人权方面,应引导确立数字人权理念,构建中国特色生成式人工智能产业模式;在保障具体人权方面,应遵守国际规则,完善国内治理。