ChatGPT类生成式人工智能的伦理问题、原因分析与规制路径

自2022年起,以ChatGPT和GPT-4为代表的生成式人工智能迅速发展,人工智能进入了“大模型”时代。作为一项具有重大意义的技术进步,对人类社会的发展具有重要意义;同时,ChatGPT类生成式人工智能作为人的创造物,也引发了人的主体性的丧失、数据隐私泄露与算法偏见、责任主体冲击与道德地位的模糊等伦理问题,会威胁到人类的幸福生活。以ChatGPT类生成式人工智能引发的伦理问题为起点、以挖掘其产生的原因为依据,提出完善生成式人工智能伦理治理的体制和机制、优化生成式人工智能技术设计和培育正确的主体意识等规制路径。     

ChatGPT技术中的人工智能伦理风险及其科学祛魅

作为一种生成式预训练变压器,ChatGPT技术在推动人类社会进入通用人工智能时代的同时,也会“堆积”一些形而上学问题。其在技术演进中,呈现的偏差性、不可靠性、鲁棒性、有毒性等伦理特性,诱发了道德判定障碍、社会偏见刻板化、用户数据去隐私化、科学技术异化等人工智能伦理风险。只有凸显人文价值关怀,重塑伦理主体责任,强化伦理政策导向,创新伦理运行机制,才能有效纾解ChatGPT技术带来的伦理风险,使人工智能系统成功融入人类社会。     

数字赋能政府治理何以产生“数字负能”？

作为一种生成式预训练变压器,ChatGPT技术在推动人类社会进入通用人工智能时代的同时,也会“堆积”一些形而上学问题。其在技术演进中,呈现的偏差性、不可靠性、鲁棒性、有毒性等伦理特性,诱发了道德判定障碍、社会偏见刻板化、用户数据去隐私化、科学技术异化等人工智能伦理风险。只有凸显人文价值关怀,重塑伦理主体责任,强化伦理政策导向,创新伦理运行机制,才能有效纾解ChatGPT技术带来的伦理风险,使人工智能系统成功融入人类社会。     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来，将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表，它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命，推动人类生活生产方式创新，促进新一轮科技革命和产业变革。与此同时，也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理，在伦理方面，应当坚持以人为本、培育公民的数字素养和建立伦理审查机构，促进应用的合理化；在法律规制上，应通过立法、权力监督、制度保障等手段，促进ChatGPT的应用合法化；在技术上，应将法律规制、相关伦理等价值观念转化为算法，以算法来规制算法。     

ChatGPT的法律风险与治理路径

以ChatGPT为代表的生成式人工智能具备在自动学习的基础上生成新内容的能力,在引发生产力革命的同时也形成了法律规制难题。ChatGPT会造成隐私侵权、数据安全风险以及知识产权确权与保护困境等难题,其主要原因在于数据中心主义、算法高度信任以及规范滞后于技术等。治理ChatGPT应当秉持捍卫人的尊严原则和倡导有限信任原则,坚持以公共利益为导向确定权属分配,并构建以开发设计者为主体的合规方案,发挥科技伦理引领与法律规范的双重作用。具体可采取对数据采集的合规控制、以技术治理技术、优化数据管理方法等措施。为了防范ChatGPT过度模糊人与机器之间的信任边界,还应根据用户的专业性程度配置不同的披露义务。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

生成式人工智能技术治理的三重困境与应对

进入数智时代,生成式人工智能应用在全球掀起的使用热潮引发了人们对相关伦理困境与风险问题的关注,虽然公平、准确、可靠、安全、人类监督等几项内容被设定为负责任人工智能的核心原则;但生成式人工智能的技术治理方面存在因本体论身份引发的价值张力、训练数据的代表性偏差与安全系统被动保护带来的三重困境并为生成式人工智能如何实践“负责任”的原则带来了现实挑战。在风险全球化与国际竞争加剧的历史变局下,人类社会面对生成式人工智能潜在的伦理与社会风险,应加快建立全球治理的合作机制,践行文化包容的治理智慧,以及回归社会问题本源的认识论是实现生成式人工智能“负责任”原则的关键。     

生成式人工智能数据风险的法律保护与规制研究——以ChatGPT潜在数据风险为例

ChatGPT是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的自然语言处理工具,其深度的学习能力和自我纠正能力,提高了人工智能与人类之间的交往。ChatGPT在实现科学技术革新的同时,也存在敏感数据泄露的风险。ChatGPT在保护个人主体数据、企业主体数据和国家主体数据方面需要法律予以规范。因此,如何应对ChatGPT带来的数据安全,成为生成式人工智能亟待解决的问题。为此,通过分析ChatGPT运作阶段和数据主体应用现状可能存在的数据风险,以我国数据规制法律框架为基础,借鉴域外人工智能立法模式,探究ChatGPT的数据风险法治化应对策略,以此合理构建我国生成式人工智能的数据风险法律规制体系。     

生成式人工智能失范性风险的法律因应——以凯尔森规范性理论为视角

以ChatGPT4为代表的生成式人工智能具有高度类人性和广泛适用性，有利于生产方式和众多领域的转型升级。然而，这种所谓强人工智能时代的标志性产物，伴随着技术固有的风险性问题，引发伦理以及法律层面的失范性问题。生成式人工智能的失范性主要表现为：一是针对生成式人工智能引发的风险问题，伦理与法律尚无回应；二是现有的伦理体系和法律制度的“规范性”不足。为此，文章借鉴凯尔森的规范性理论，采用“旧论新用”的方法：一是利用伦理规范化，增强其约束性、可执行力，整理其内部层级关系，形成生成式人工智能的伦理治理体系；二是运用法律规范化，强化其对生成式人工智能数理化逻辑运行的模型规范。最后，基于伦理与法律协同构建生成式人工智能的规范性体系。     

生成式人工智能辅助司法裁判的可能及边界限度

以ChatGPT为代表的生成式人工智能技术快速迭代发展，为数字司法改革的适应性调整创造了历史性契机。生成式人工智能在类案推送、辅助证据认定、偏离度预警等方面确实能够统一司法裁判的标准与尺度，实现法的普适性价值追求，然而法的普适性只是实现正义的必要条件，而非充分条件。生成式人工智能的算法黑箱、算法歧视、算法偏见等技术性缺陷亦引发了对司法公信力、司法公正、司法责任制的质疑与冲击。为此，应当在生成式人工智能的技术理性与司法裁判的价值理性之间寻求平衡。针对当前智能化裁判的技术风险，应从数据、算法、控制三个维度进行治理，最大程度控制生成式人工智能的工具主义缺陷，以实现智能化司法裁判迈向可信。     

ChatGPT类生成式人工智能监管的国际比较与借鉴

ChatGPT类生成式人工智能的快速发展虽在不同领域带来积极影响,但也引发了法律政策、安全技术、社会伦理等层面的监管问题。比较美国、欧盟、日本等国外典型经济体人工智能监管的治理实践,为完善我国人工智能监管治理体系提供政策参考。我国人工智能监管应坚持发展与安全并重、促进创新与依法治理相结合的监管原则,建立健全法律与政策、技术与安全、社会与伦理等层面的监管路径,同时对人工智能进行进入性监管、技术性全程监管和分级分类监管,完善我国的人工智能监管体系。     

论生成式人工智能的法律风险与治理路径

以ChatGPT为代表的生成式人工智能在优化产业结构促进经济发展的同时也带来新的法律风险。语言模型训练中的风险主要包括侵害个人信息与作品著作权风险,内容生成过程中的风险则体现为人工智能“幻觉”导致的错误信息风险、算法偏见风险、“涌现”导致的算法失控风险以及人机互动中的算法滥用风险。《生成式人工智能服务管理暂行办法》提供基本的治理框架,但部分条款设置与具体治理方式上存在不足。生成式人工智能的性能取决于训练数据集的规模与质量,模型训练中的数据治理需要尊重其技术逻辑,实践中应拓展公共数据中著作权数据与个人数据的合理使用边界。内容治理可以借鉴“宪法人工智能”的基本理念,构建动态的内容反馈评估机制。     

生成式人工智能参与数字政府建设的技术跃迁、目标导向与可行路径

利用生成式人工智能技术参与数字政府建设，为新时代国家治理现代化提供技术驱动，具有重要的时代意义和实践价值。ChatGPT等生成式人工智能参与数字政府建设的功用，与其相对于既有人工智能技术的技术跃迁息息相关。生成式人工智能的自然语言理解与生成能力跃迁、文本生成能力跃迁和知识更新能力跃迁，是与数字政府建设联系最为紧密的技术跃迁，对数字技术参与政府内部工作、政务服务和公共服务均有重大功用。生成式人工智能参与数字政府建设的根本目标在于建设人文数字政府，直接目标在于实现效率数字政府，长期目标在于建成智慧数字政府。生成式人工智能参与数字政府建设的可行路径在于实现权利保障优位、效率与责任并行和安全与发展均衡。面对生成式人工智能参与数字政府建设的广阔前景和风险问题，要加快我国自主的生成式人工智能在数字政府建设领域的应用培育。     

ChatGPT介入思想道德教育的应用价值、潜在伦理风险与治理进路

ChatGPT的横空出世为思想道德教育的改革和创新提供了新契机。一方面,ChatGPT以基于人类反馈的强化学习机制等核心技术手段为思想道德教育提供了主体、客体、介体、环体等不同维度的应用价值,即主体维度具有实现教育者教育教学工作高效化的价值,客体维度具有为教育对象提供个性化学习体验的价值,介体维度具有实现思想道德教育内容高质量和教学方式智能化的价值,环体维度具有实现思想道德教育环境优化升级的价值等。另一方面,ChatGPT的介入也使思想道德教育面临着大德混淆、公德失守、私德有缺等道德问题和伦理风险。其问题治理和风险防范需要坚持以德为先,明大德、守公德、严私德;坚持以人为本,明确育人为本、技术为用的原则立场;坚持以法为界,建立体系化的思想道德保障机制,从而确保生成式人工智能与思想道德教育深度融合、向善而行。     

ChatGPT与数字时代的国际竞争

数字全球化加速发展致使人工智能及其潜在变革动能受到国际社会广泛关注。美国高度重视相关技术研发以护持自身霸权，政府携手跨国数字巨头加速推进该国人工智能领军企业OpenAI发展步伐，美国金融资本亦对其予以重点扶持。作为该企业的核心产品与生成式人工智能科技的最新成果，ChatGPT一经发布即引发世界各国高度重视。然而，该产品发展前景并不完全明朗，不仅仍面临准确性与安全性困境，且难以突破知识产权与监管限制。同时，生成式人工智能技术贸然跃进或带来国家内外矛盾上升、数字鸿沟扩大等重大挑战，加快数字时代国际竞争节奏、提升大国竞争复杂性，并加剧全球数字扩张无序性。作为全球数字大国，中国亦正积极把握ChatGPT带来的人工智能发展机遇，但因受美国战略遏制打压严重而在技术跟进、人才培养、产业布局、国家安全保障等方面面临诸多挑战。鉴于此，中国需保持战略定力，从本国实际情况出发，在加大研发投入的同时坚持国际合作与和平发展，积极推动全球人工智能治理加速。     

“媒介自延伸”:人机交互中知识权力话语模式变迁及潜在风险

以ChatGPT4.0为代表的生成式人工智能技术,不仅打破千百年来人类的话语主体地位,更冲出以人为本的“媒介即延伸”发展轴线,转向以媒介自我能力延伸的“媒介自延伸”之轨,人类知识权力话语模式的主体、特征以及权力关系受到巨大冲击。在梳理人类历史进程中不同媒介时代权力话语模式变迁基础上,采用扎根理论研究方法,对当下生成式人工智能引发的人机交互权力话语模式与特征进行分析,发现算法规制下的智能话语或将人类话语引入范式化与平庸化,造成机器知识内容权力宣示、庸语驱逐俗语以及情感话语蛊惑方面的潜在风险,需从个体“算法启蒙”及社会规制层面采取必要举措并进行反思。     

生成式人工智能视域下的人权：张力、威胁与中国因应

关于以ChatGPT为代表的生成式人工智能的法律人格主要有三种观点:工具说、独立主体说和有限人格说。生成式人工智能既赋能人权发展又具有局限性,给人权带来的威胁有：冲击人类主体地位;突破人类道德边界;增加信息泄露、歧视、失业等风险。对此,中国在保障宏观人权方面,应引导确立数字人权理念,构建中国特色生成式人工智能产业模式;在保障具体人权方面,应遵守国际规则,完善国内治理。     

超越ChatGPT：生成式AI的机遇、风险与挑战

以ChatGPT为代表的生成式AI的崛起是人工智能领域的一次重大变革，也可能成为由专用性人工智能转向通用性人工智能的关键转折点。生成式AI的爆发由算法、算力和数据的进步共同推动，其中算法层面的突破最为关键。生成式AI在消费端的应用场景主要有内容生产、便捷交互、简化操作，这些应用将会同时对消费者的消费品数量、质量、多样性，以及拥有的闲暇等因素产生显著影响。生成式AI对产业端的影响主要体现为加速自动化、通过“组合式创新”促进技术进步、实现对新要素尤其是新数据要素的创造，靠近生产领域的代表性应用有工业设计、药物研发、材料科学、合成数据等。生成式AI带来的问题主要有失业问题、收入分配和不平等问题、竞争和垄断问题、知识产权问题、安全和隐私问题、道德和伦理问题、能源和环保问题。为此，应从产业政策、就业和保障政策、法律法规建设等方面制定有针对性的措施。     

生成式人工智能浪潮下的学术生态：机遇、挑战及应对

以ChatGPT为代表的生成式人工智能(AIGC对学术生态产生了深远的影响。AIGC可以辅助学术生产,提高知识生产效率和质量,助力学术评价决策和提升传播速度和效果。但也产生了著作权归属、学术伦理、算法黑箱、数据安全、隐私保护等方面的风险。对于AIGC带来的困扰,应该积极面对、审慎使用。政府要加大监管力度,防范可能风险;研发企业要在技术上不断完善;学界要推进研究透明;在学术生产、评价和传播各环节都应该安排人工介入,实现人机协作、共同治理,赋能学术研究与推动社会进步。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...