ChatGPT类生成式人工智能的伦理问题、原因分析与规制路径

自2022年起,以ChatGPT和GPT-4为代表的生成式人工智能迅速发展,人工智能进入了“大模型”时代。作为一项具有重大意义的技术进步,对人类社会的发展具有重要意义;同时,ChatGPT类生成式人工智能作为人的创造物,也引发了人的主体性的丧失、数据隐私泄露与算法偏见、责任主体冲击与道德地位的模糊等伦理问题,会威胁到人类的幸福生活。以ChatGPT类生成式人工智能引发的伦理问题为起点、以挖掘其产生的原因为依据,提出完善生成式人工智能伦理治理的体制和机制、优化生成式人工智能技术设计和培育正确的主体意识等规制路径。     

生成式人工智能技术治理的三重困境与应对

进入数智时代,生成式人工智能应用在全球掀起的使用热潮引发了人们对相关伦理困境与风险问题的关注,虽然公平、准确、可靠、安全、人类监督等几项内容被设定为负责任人工智能的核心原则;但生成式人工智能的技术治理方面存在因本体论身份引发的价值张力、训练数据的代表性偏差与安全系统被动保护带来的三重困境并为生成式人工智能如何实践“负责任”的原则带来了现实挑战。在风险全球化与国际竞争加剧的历史变局下,人类社会面对生成式人工智能潜在的伦理与社会风险,应加快建立全球治理的合作机制,践行文化包容的治理智慧,以及回归社会问题本源的认识论是实现生成式人工智能“负责任”原则的关键。     

生成式人工智能数据风险的法律保护与规制研究——以ChatGPT潜在数据风险为例

ChatGPT是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的自然语言处理工具,其深度的学习能力和自我纠正能力,提高了人工智能与人类之间的交往。ChatGPT在实现科学技术革新的同时,也存在敏感数据泄露的风险。ChatGPT在保护个人主体数据、企业主体数据和国家主体数据方面需要法律予以规范。因此,如何应对ChatGPT带来的数据安全,成为生成式人工智能亟待解决的问题。为此,通过分析ChatGPT运作阶段和数据主体应用现状可能存在的数据风险,以我国数据规制法律框架为基础,借鉴域外人工智能立法模式,探究ChatGPT的数据风险法治化应对策略,以此合理构建我国生成式人工智能的数据风险法律规制体系。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

算法驱动型虚拟数字人涉侵权纠纷的规范解决路径

算法驱动型虚拟数字人作为生成式人工智能的典型代表,能够在基于元数据投喂的基础上,通过对海量大数据（文本、图片、音频、视频等）自主解析与人类进行多维交互。搭载ChatGPT技术的虚拟数字人,将实现算法驱动+真人建模/虚拟形象相结合的3D场景化应用。其输出内容（人工智能生成物）包括音乐、舞蹈、文本等多种形式。算法驱动型虚拟数字人因具备交互性、数字化、拟人化、独特性四大特征,随之产生了虚拟数字人本身的权利保护和因其交互性而生成相关内容的权属划定等争议问题。第一类是算法驱动型虚拟数字人在研发之初,预训练数据采集和优化训练数据过程中对享有数据权利的主体造成的损害;第二类则是算法驱动型虚拟数字人自身或者对其享有财产权益的研发主体可能遭受的侵权。具体又可以分为由算法驱动型虚拟数字人自主产生的具有独创性内容的生成物所可能面临的权属争议和算法驱动型虚拟数字人基于不同的创作模式下产生的不同权属划归两种情形。运营公司单方创作的情形下,算法驱动型虚拟数字人的权益应划归运营公司,但如果用户也参与到虚拟数字人的创作过程中,又可以细分为“材料主义”“创作主义”与“合作主义”三种形式,分别对应着平台所有、用户所有和共有三种归属主体。现阶段,虚拟数字人作为一种数字化工具,并不具备拥有人格利益前提的人格尊严,因此不宜认定其具有独立人格,享有人格利益。通过对虚拟数字人各部分进行解构的方式,如肖像、名称、声音以及名誉所产生的利益主要采取“财产说”进行保护,而对虚拟数字人的名誉则通常采用“同一说”予以救济。另外,智能型虚拟数字人生成物可版权性问题本质上是基于深度学习技术的人工智能生成物的可版权性问题,学界存在将其是否纳入公共领域的争议。我国在生成式人工智能发展过程中可考虑探索人工智能统一立法的方式。具体而言,一是通过增强生成式人工智能服务提供者的大型基础设施服务义务来平衡其和政府之间的监管义务分配责任,二是从鼓励发展的角度建构起生成式人工智能服务提供者元数据采集的适度豁免规则,三是明确现阶段人工智能生成物不宜直接进入公共领域,其权属划分以服务提供者与使用者的约定为主。     

人工智能法律主体批判

"法律人格扩展论""人工智能发展论""有限人格论"是人工智能法律主体理论的三大论据。针对这些论据,可对人工智能法律主体理论展开批判。首先,在法律人格理论层面上,"法律人格扩展论"的主张不合法理。法律人格发展至今始终是人类中心主义的。自然人的内涵外延无法涵盖人工智能,法人亦与其背后的自然人密切相关。其次,在人工智能技术层面上,"人工智能发展论"的幻想不切实际。现阶段人工智能虽具自主性,但不具意识、意志和理性。对未来人工智能的科幻想象亦绝不能成为法治的注脚。最后在人工智能法律主体制度构建层面上,"有限人格论"的设想无法操作。其无法解决具体制度设计中的矛盾,无法实现法律的作用,且不当转移了责任风险,最终将有害于人的权利保障。因此,人工智能无法成为法律主体。     

人工智能生成物的知识产权保护立法研究

随着人工智能自主学习、深度学习的不断成熟与发展，人工智能生成物开始拥有属于自己的知识创造性与创新性。人工智能生成物的知识产权保护立法可从四个方面展开：第一，人工智能生成物具有知识产权保护意义，在此虚拟法律人格说能够成立；第二，人工智能的智力成果应定性为人工智能的生成物，而不是创造物；第三，从创新角度来看人工智能生成物的知识产权保护在外延上应包括著作权、专利权等内容；第四，在有关人工智能生成物知识产权保护的归属权问题上起主导作用的应是权利与责任对等原则，而不是虚拟法律人格说。     

我国人工智能综合立法路径探索——以欧美相关立法为参照

数字时代人工智能逐步深入人类生活,在改造和重塑各行业、为社会发展赋能的同时,也引发了不容小觑的法律和伦理风险。尤其是在Chat GPT等生成式人工智能面世后,人工智能立法规制的必要性大大增加。欧盟和美国率先针对人工智能发布立法规制,这为我国人工智能综合立法中基础法律问题的解决提供了先行经验,如解决人工智能法律主体地位和知识产权争议等相关问题。除此之外,分析美欧人工智能相关立法也为中国应对AI风险等级分类管理、全过程体制监管以及建立人工智能相关治理机构等具体程序性问题提供了参考。目前,我国针对生成式人工智能出台了《生成式人工智能服务管理暂行办法》,深圳、上海等地也相继出台了地方性立法,但还未形成国家层面的人工智能综合立法。综合立法可以解决我国人工智能法律规范数量少、层级低、缺乏顶层设计等问题,更好地进行人工智能管理和促进其发展。此外,树立良性道德伦理规范有利于为后续立法进程打好基础,加快数据、算法等基础立法进程也有助于促进人工智能的综合立法进程。     

ChatGPT:生成式人工智能引发人的异化危机及其反思

ChatGPT作为生成式人工智能的典型代表，是由美国人工智能研究实验室OpenAI研发并推出的一款基于自然语言处理和机器学习的大型语言模型，该应用一经问世便风靡全球，掀起一场广泛且深刻的大讨论。以ChatGPT为代表的生成式人工智能作为人工智能发展的最新成果，进一步向有感情和通用人工智能的发展目标迈出了一大步。随着生成式人工智能发展及其广泛应用，被认为正在重塑着人和人类社会，人类在享受新技术带来的便利时，也将遭受前所未有的挑战，突出地表现为生成式人工智能对于人的异化，重塑人的交往、人的思维和人的劳动。信息时代人的异化问题的研究，需要从马克思关于人的本质的规定出发，用历史唯物主义的方法深入分析人的异化现象，并为应对人工智能引发的危机寻找突破口。人的本质具有三重内涵，即交往、思维和劳动，交往是人的本质的独特体现，思维是人的本质的现实表现，劳动是人的本质的内在规定。随着认知技术与神经科学的迅猛发展，生成式人工智能以其独特的模拟能力，表现出对马克思所描述人的本质的异化的确证，即人的创造物威胁着人的主体性发展。包括：人-机交往、数据化交往、数字化生存引发的人的交往异化；人机结合、依赖智能、机器生产带来"超越"的人、"弱化"的人、"虚无"的人；人与物、人自身的劳动异化等。面对生成式人工智能引发的人的异化危机，亟须价值理性在智能时代的回归与复兴，亟须正确认识生成式人工智能的价值与限度，亟须重视对人的生命的终极关怀，因此深化生成式人工智能引发人的异化的反思，一是要重构生成式人工智能的工具属性，即认识到人工智能不过是人类的"新工具"、认识到"新工具"的与众不同、用好人工智能这个"新工具"；二是审视生成式人工智能的价值与限度，即必须回归人类自我价值审视、实现人工智能自我价值塑造、重视人工智能的发展限度；三是生成式人工智能发展的应然归旨，即构建可控的、安全的、可靠的人工智能。     

论人权法中的国家义务

国家是人权实现的最主要的义务主体。国家义务在人权既对抗又合作的博弈中,不断把人权保障提升到更高水平。国家义务,从类型来说,主要有道德义务、法定义务和国际义务。国家应适时把人权形态之间的权利进行转化。从国家义务主体与人权主体模型构造来看,典型说明了公权力和权利之间的博弈关系,从而揭示了公权力在履行国家义务时对人权影响的两面性。     

生成式人工智能参与数字政府建设的技术跃迁、目标导向与可行路径

利用生成式人工智能技术参与数字政府建设，为新时代国家治理现代化提供技术驱动，具有重要的时代意义和实践价值。ChatGPT等生成式人工智能参与数字政府建设的功用，与其相对于既有人工智能技术的技术跃迁息息相关。生成式人工智能的自然语言理解与生成能力跃迁、文本生成能力跃迁和知识更新能力跃迁，是与数字政府建设联系最为紧密的技术跃迁，对数字技术参与政府内部工作、政务服务和公共服务均有重大功用。生成式人工智能参与数字政府建设的根本目标在于建设人文数字政府，直接目标在于实现效率数字政府，长期目标在于建成智慧数字政府。生成式人工智能参与数字政府建设的可行路径在于实现权利保障优位、效率与责任并行和安全与发展均衡。面对生成式人工智能参与数字政府建设的广阔前景和风险问题，要加快我国自主的生成式人工智能在数字政府建设领域的应用培育。     

从斜目而视到斯芬克斯之口——对生成式人工智能与认知中心化的反思

技术对人类的认知范式起着重要的影响。从数据可视化到生成式人工智能的互动在不同维度上挑战甚至重塑着人类的认知能力及框架。数据可视化本质上是一种视觉认知范式，它强化了人类认识论领域中的视觉中心主义传统，由此导致以视觉为中心的数字技术权力谱系的建立。随着以ChatGPT为代表的生成式人工智能的出现，人类的认知发生了由视觉向言说的转变。其一方面通过语言处理技术和算法模型，突破并重塑了人类的认知结构；另一方面则建立起一种以数据言说为核心的普遍性知识体系，消解了人类对经验知识背后的特殊目的乃至意义的追问。生成式人工智能带给人类认知的挑战，应从它凭借普遍理性原则造成的认知中心化趋势，以及借由对话训练方式所激发出的主体创造性两个层面加以考察。     

论人工智能的拟制法律人格

赋予人工智能拟制法律人格是界清人工智能产物的财产权利归属和人工智能侵权责任的必要前提。我国民法总则和公司法等法律规范只确立了自然人、法人和非法人组织三种主体的法律人格，对人工智能并无规定。为了适应人工智能技术的发展，解决涉及人工智能产物的权利归属纠纷和人工智能侵权纠纷，需要从人类权利优先的立场出发，运用法律拟制的立法技术赋予人工智能独立的法律人格；借鉴法人制度建立人工智能登记备案制，完善人工智能的法律责任制度。这一方面有利于促进人工智能更好地服务于人类，另一方有利于确保其不异化为“超人类”的主体。     

人权需要信仰——对人权教育的一点思考

中国当前的人权教育存在的突出问题是人权情感与信仰的培养与人权知识的积累不成比例。人权要真正实现它对人类的价值,必须首先被人类所信仰。人权教育在教育方法上应当借助于人们的情感体验,重视仪式的作用,唤起人们敬仰人权的直觉,突出人权教育的情感激发和习惯养成。渗透式、养成式、参与式的人权教育是培养人权情感与人权信仰的有效方式。大学的人权法教育既需要注重人权知识的普及,又需要注重人权观念的形成,并与现实生活中的人权问题紧密结合,而国家是人权教育的责任主体。     

抗战时期中共人权立法的现实动因

人权是人类永恒的话题。充分享有人权是近代以来中国人民坚持不懈追求的目标,也是中国共产党的一贯主张,中共争取中国革命道路的胜利和建设中国特色社会主义道路的历史,也是争取、保障、实现人权和进一步发展人权的历史,这些历史也是社会实践的迫切要求。在抗战时期,从民族矛盾激化、国统区人权状况日益恶化、人民权利意识不断觉醒和中国共产党的人权实践四个方面,可以看出中共人权立法具有一定的必然性,特殊时期的价值取向对今天有一定的借鉴意义。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

论当前公安执法中的人权保障

当前公安执法活动日益面临人权保障问题的新挑战。目前,我国公安执法活动中存在执法主体不适应、执法过程不规范、维权保障有差距等不足,应加强教育培训、执法规范与维权保障等机制建设,促进公安执法与人权保障之间的协调。     

古典人权理论的体系说

古典人权理论认为,只有个人才是人权的主体;在内容上,人权是指以自由权为核心的公民权利与政治权利;在本原上则有先验论与经验论两个分支;其实质强调人权的对抗性;在人权与法律关系方面则认为法律的目的在于保障人权。     

生成式人工智能法律治理现代化研究

生成式人工智能(AIGC)的迅猛发展,全方位渗透社会生活各个领域,并对传统法律制度形成重大挑战,造成了现行法律制度与法治现代化需求之间的紧张关系。以法治现代化为导向推动AIGC的法律治理,制度转型、制度变革刻不容缓。法价值、法秩序、法动力层面的理论定向,为AIGC法律治理现代化提供法理涵养和功能定位依据,需要从人工智能治理与人类价值目标相一致、满足法治现代化的需要和国家现行法治制度对人工智能治理的需求等方面予以探讨。法治现代化价值需求、风险规制需求、新的规则秩序需求勾勒、型塑出AIGC法律治理基本框架,需要实现法治共识向制度的转化、构建有对应性的理论规则,有效拓展科技治理的内涵,以制度转化、制度增容、制度供给、制度耦合来构建生成式人工智能法律治理的现代化体系。     

构建人类命运共同体是世界人权事业的伟大创举

党的十八大以来,在习近平新时代中国特色社会主义思想指引下,我国坚持以人民为中心,把增进人民福祉、保障人民当家作主、促进人的全面发展作为人权发展的出发点和落脚点,人权事业建设和发展取得巨大成就。同时对世界人权事业健康发展贡献中国智慧、提供中国方案,实现了伟大创举。伟大创举主要表现在五大方面:(1)坚持以构建“人类命运共同体”为世界人权事业发展的必由之路;(2)坚持以“发展”为人权的核心理念;(3)坚持以人民为中心为人权发展的根本方向;(4)坚持以法治为人权实现的有力保障;(5)坚持以辩证看问题为人权发展的科学方法。