ChatGPT的信息技术社会后果及其伦理规制

ChatGPT作为一种具有非凡信息获取能力的聊天机器人的出现,瞬间引发了人类智能技术节点意义上的革命。在人工智能的大力加持下,ChatGPT必将造成一系列信息技术社会后果。只有充分发挥人类的实践理性并适时地建立相应的未来伦理规制,才能应对这一人工物所带来的巨大挑战。从后果主义的观点出发、不断回答和尝试解决ChatGPT“随附的”伦理问题,乃是符合信息技术社会规律和算法逻辑走向的明智选择。正确地处理好“GPT化生存”问题和人机共存关系,不仅需要国家技术力量的增强和国家治理能力的提高,还需要坚定重建网络美好生活的信念。     

ChatGPT与奇点临近——论查尔莫斯人工智能奇点的哲学论证

ChatGPT在全球范围内的热议将奇点问题重新带入到人们的视野中,似乎改变人类历史的奇点提前来临。著名哲学家查尔莫斯对人工智能领域出现超级智能进而导致的奇点做了哲学上的论证。在没有击败者和忽略时间因素的情况下,他认为人工智能奇点是可能存在的,因为人类在制造出与其智能相当的AI以及超出人类平均智能水平的AI+之后,AI+将会通过自我改进和放大的能力制造出比自己智能水平更高的超级智能AI++。尽管对查尔莫斯的论证存在很多质疑,但均超出了哲学的界限。从哲学的角度来看,人工智能奇点会以两条截然对立的路径出现,分别是超人类主义导向和后人类主义导向的人工智能奇点。这两类奇点的区分拓展了查尔莫斯关于人工智能奇点的哲学论证。     

元宇宙中虚拟数字人生成内容的可版权性研究——基于与人工智能生成内容对比的视角

随着元宇宙技术的发展,虚拟数字人将成为新的“创作”主体,并对传统版权制度提出了严峻挑战。同人工智能一样,元宇宙中虚拟数字人生成的内容属于文学、艺术和科学领域且能以一定形式表现,符合“形式”上的“作品”要件。那么,可版权性与否的关键就落在对于独创性要件的证立上。判断虚拟数字人生成内容的独创性,应秉持主观主义标准,重点考察其生成内容的过程中是否包含个性化创作空间。元宇宙中虚拟数字人生成内容的过程兼具机器智能与人类智慧,有别于单纯的人类或AI“创作”,本质是一种人机协作。当下ChatGPT4.0等大语言模型及提示工程技术的发展迅猛,人机协作模式正在逐渐替代单纯的人类或AI“创作”成为主要创作方式。人机协作模式下,只要来源于人类智慧的个性化创作空间不会被机器智能所侵蚀,那么虚拟数字人生成的内容就符合独创性要件,具有可版权性。     

人工智能时代必须敬畏的天命

人工智能的快速迭代迫切要求我们厘清人类的特殊性,并指引人机共同进化,走向“善”的未来。人类的特殊性源于“自我”和“外界”的剖分。强烈的自我意识使得我们能够连续自如地掌控意识片段,这一点正是人工智能发展的瓶颈所在,也是超级智能面临“暗无限”的巨大风险所在。机器可视为人类的延伸,但并不具备天然的善意。只有共享宇宙意识和伦理意识,与机器形成大“我”,人类才可能相对安全,人机才能携手进化走向至善未来。     

ChatGPT的传播特质、逻辑、范式

在技术路径上,ChatGPT通过前所未有的大语言模型训练和对人类反馈方式的学习,具备了生成对话的能力,在语词重组、自我表达修正和信息整合方面的强化使其成为知识生产的新引擎,又通过掌握特殊标记和经验性学习能给出一定的情感反应,从而形成了对人类的“超模拟”。人们在索取答案、发起挑战、提出问题的同时形成自发投喂AI的群体行为,ChatGPT据此反向延伸人类,不断获得更好的连接能力和嵌入社会运转系统的机会,其生长速度显现出新的摩尔效应;反向的技术依赖、动态的连接与嵌入、加速堆叠硬件和升级算法等构成其传播逻辑。最后,ChatGPT开启了“人机共在”的新主体时代,人机协同将作为长期的社会解决方案,而针对人机交互的复杂性和AIGC的衍生问题,也可能陷入诠释经验的多重解释的迷乱之中,故需要在突破“主客二元论”和“诠释经验主义”两个传统研究范式的基础上进行价值重构。     

《克拉拉与太阳》中的后人类儿童主体及其主体性

石黑一雄新作《克拉拉与太阳》透过儿童机器人克拉拉的视角，探讨了后人类时代儿童主体及其主体性问题。一方面，以乔西为代表的后人类儿童尽管在被技术“提升”后变得更聪明，但却遭受到身体的伤害和移情能力的丧失，呈现“辖域化”特征；另一方面，儿童机器人克拉拉则突破技术的同一化规训，表现出人性的温情，从而构成了对人类儿童身体的“解辖域化”。当技术主体拥有超人类主体性时，人类主体与技术主体的关系便成为人类不得不重新思考的命题，从而有可能建构起一种新型的人机融合的人机共同体，为未来社会建立开放、包容的肯定性主体关系提供伦理反思。     

ChatGPT嵌入政务服务码应用：价值、困境与应对

ChatGPT嵌入政务服务码应用对于推动国家政务服务一体化、优化公共数据融合和提升政务服务效能带来了诸多机遇。通过对ChatGPT嵌入政务服务码应用的梳理可以发现,其能够提高政务服务的敏捷性、实现政务服务的数智化,以及高质量“人机协作”。但是,囿于ChatGPT与政务服务码本身的技术缺陷,其在带来技术赋能的同时,也引发了一系列应用风险,如ChatGPT生成内容具有“幻觉性”、导致公共机构形成技术依赖性、使得政务服务码难以追责等。基于此,可以通过预训练数据库的类型化、人工智能“辅助性”原则的明确、全生命周期数据监管理念的注入,进而实现ChatGPT嵌入政务服务码的事前、事中与事后的全流程应对,从而完成ChatGPT赋能政务服务码的高质量应用。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

文明的逻辑与技术、智能的逻辑

<正>人们正从社会生活的各个层面来讨论ChatGPT,但从GPT (Generative Pre-TrainingTransformer)可能给人类带来的冲击来看,我们需要从更大尺度的视野来思考这个问题。这里尝试从文明的视野来反思GPT的迅猛发展。这涉及文明、技术与智能之间的复杂关系,ChatGPT的发展为我们思考该问题提供了一条深刻的线索。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

重塑人工智能治理中人的主体性

以人工智能为关键技术的智能革命对人类社会治理产生了深刻影响。一方面，人工智能的应用有利于增强治理协同性，提升决策效率和治理效能，展示出美好的治理前景；另一方面，由于算法权力膨胀、个人价值迷失和人类责任缺位等现象凸显，导致治理中面临人类边缘化风险。因此，重塑人工智能治理中人的主体性是人类必须面对的重要议题。在未来人机共生的治理环境当中，人工智能很可能成为治理主体之一，人类对于人工智能的发展应持包容审慎的态度，设定好人工智能的应用边界，引导技术应用服务于增进人类福祉。同时，从人类自身出发探索将人的主体性带回治理的有效路径，包括加强全球合作，应对治理挑战；完善国家制度，保障人类自治；发展创新型社会单元，开展创造性生产活动；重塑个人责任意识，提升治理能力等。     

人工智能神话、超级智能及其合约伦理学

借助文学意象可以更好地分析人工智能与人类的关系。目前,自身意识觉醒的超级智能已不再是停留在科幻和神话中的素材,而是变成了人类对超级智能可能带来的风险和危机的现实担忧。从科学的视角看,通用智能、具身智能和交互智能成为超级智能出现的科学路径;从哲学的视角看,超级智能出现的可能性条件表现为类群发生、设计发生、迭代产生、条件孕育、注意机制、记忆机制等六种模式。这两种视角的分析表明人类迫切需要处理好与超级智能的关系。契约意象作为贯穿《浮士德》的经典文学意象,为人类与超级智能提供了契约关系的哲学探索维度,以此发展来的合约伦理学也将成为未来处理人机关系的重要途径。     

人工智能聊天机器人对科研成果与人才评价的影响研究——基于ChatGPT、Microsoft Bing视角分析

美国开放人工智能研究中心(OpenAI)研发的人工智能聊天机器人ChatGPT,基于“生成预训练转换器”(GPT)语言模型能够理解和响应自然语言输入，于2022年11月30日正式发布，短时间内在全球互联网界、学术界及产业界引发热议和关注。以ChatGPT、Microsoft Bing为代表的人工智能聊天机器人基于超大海量数据，采用“从人类反馈中强化学习”(RLHF)进行训练，主要具有三大功能：智能交互对话、智能文本生成、智能文献爬取。人工智能聊天机器人的核心竞争力是采用人工智能生成内容技术(AIGC)而具有强大的内容生成或文本生成能力，除能够生成一般应用性文稿外，还能够从事科学写作，从而引领和推动知识生产方式和学术研究范式变革，知识生产和学术研究进程将显著提速，知识生产者将从非创造性劳动中获得解放，知识生产方式将由“手动式”“半自动式”迈向“自动化”“智能化”。这种变革对传统的科研成果评价机制将产生重大影响，更进一步将对通过科研成果进行人才评价产生重大影响。大体上说，以ChatGPT为代表的人工智能聊天机器人应用于学术研究中，将遮蔽成果演化学术史，影响科研成果创新性评价；挑战知识产权保...     

人类为什么不会被人工智能取代?——人工智能的技术本质研究

文章旨在对人工智能的技术本质进行分析，以回应为什么人类不会被人工智能取代的问题。通过历史分析的方法，以“器官投影说”等技术哲学思想作为分析工具，回顾了人工智能技术的历程。发现在理论上，人工智能的研究加深了对人类智能的模仿的同时，更倾向于由机器与人类共建智能系统的解决方案；实践中，人机关系也从“分离”更多地走向“交融”。因此，人类除了能在本质层面上作为人工智能这种人工物所模仿的终极目的而存在，还能在个体层面上作为大的人工智能系统的行动者发挥智慧功能，人类不会被人工智能取代。      

万物之灵胜出ChatGPT吗?——认知、情感与伦理的教育反思

新型人工智能ChatGPT自2022年11月横空出世以来,立即引起了全球的关注。它不仅具有海量的数据库,而且能自行深度学习,并能借由人类指令,代替人类完成各式文案、企划设计、影音美术编辑等,甚至于与人类深度聊天互动。大多数的学者都认为这是教育技术的突破性发展,教育应该积极应用、开拓人机合作的新教学模式,也应该强化现阶段AI尚无法完全取代人类的特质。人类常自诩万物之灵,借由万物之灵是否胜出ChatGPT的提问,透过哲学论证或思想实验,可以进一步反思人脑与AI的差异。当我们放弃人类中心或人脑优越的迷思,应该更容易理解未来的AI能够代替人脑处理认知、情感与伦理诸层面事务的事实。这不是说我们要完全臣服于AI,而是承认这个事实,才能真正反思未来人类与AI共处的命运。如此,人类不仅可以善用AI,还能尽力避开其缺失;也能积极想象一下在人机一体的未来,人类学习、政治、经济等方面新的生活方式;更能及早因应未来技术奇点所带来的终极挑战,教育的重点亦如是。     

差异与弥合：人机交流的社会认知进路探究

ChatGPT与人类用户的交流依赖于其内部语言模型,从具体的语义处理机制来看,人机交流表现出一种类“预测加工”的过程,在这种观点下,人机交流中的相互认知是一种双向预测的耦合。但人人交流中的社会认知并非仅仅依赖于内部机制运行,还依赖于人与人之间的交互作用,而交互作用具有独立性,不能还原到个体机制的解释框架之中,通过交互产生的认知结果具有具身性、关系性和涌现性。人人交流是一种参与式的意义构建过程,但是ChatGPT与人的交流并非具身,而是完全依赖内部模型机制的运行,交流过程仅仅是对人类赋予意义的单向识别,提供给用户的只是一种泛情景化、知识化和经验化的回复。人机交流想要走向社会认知,并非仅改进机器以单方面贴近人人交流的模式,而是人与机器之间的相互弥合,同时机器广泛参与到与人类的交流过程中必然会带来社会认知的内涵与边界的改变,因此应当在人类与机器的动态变化关系中为人机交流寻找出路。     

数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考

人们通常将智能革命与以往多次科技革命并列,但这不能反映智能革命的特质和影响。以往的科技革命都是专能(专门能力)革命,智能革命是首次发生的通能革命,引发社会前所未有的巨变。人工智能风险与伦理治理收效甚微,其首要原因是公众和学术界深陷十大认识误区。深度信息化、数字化导致人类边际收益递减,AI机器人因不受生理限制而收益越来越大,远超人类的收益,直到反客为主,危害人类,可谓“数字反噬”。人工智能造成“短期失业、长期增业”论不能成立,通能革命势必引发大规模失业,可谓“通能塔诅咒”。“奇点到来还很遥远”这一判断是错误的,人工智能“还没有超过人类智能”“还没有自主意识”,并不等同于AI没有威胁人类安全。只要AI或利用AI可造成毁灭性灾难,即可认为“奇点”来临,至少广义的“奇点”——“畸点”已临。AI for Science导致的最大风险是辅助或自主生产“致毁知识”,对它而言,科技伦理形同虚设。初探科技风险剧增理论,指出人工智能等高科技带来的好处越来越多,却终将毁于一旦,可谓“全押归零的人工智能赌局”。因此急需发展以提高助人能力为目标的人工辅能(AAI),尽快实现从以提高智慧能力为目标的人工智能A模式...     

走向“有意义的人类控制”——自动驾驶汽车的主体悬置与责任锚定

自动驾驶作为一个动态发展的技术连续体，在具体应用场景中呈现出从人类主导过渡到人机协同再到机器主导等不同人机关系样态，其自主性与人类控制权之争引发了各种伦理、法律和社会等问题。人机互动关系演变背后折射的是人类控制形式的不断进化，从本质上看，自动驾驶汽车的责任鸿沟问题与不同技术嵌入层级下的人类控制密切相关。源于应对人工智能伦理困境的“有意义的人类控制”,可作为解决自动驾驶汽车责任鸿沟问题的一种全新技术治理理念。借助“追踪-回溯”双向路径设计，实现对多元责任主体的锚定。在“有意义的人类控制”框架下，将自动驾驶置于技术层级与人类控制的关系界面之上，坚持以科学的数据系统为支撑，以责任锚定为导向，以人类控制为中心，通过伦理与法律的整合进路，并结合完善的保险制度，破解自动驾驶主体悬置的困境。未来，应加强自动驾驶的跨学科交叉研究，尤其需要借助科技与人文的常态化对话机制，强化各利益相关方的伦理自觉和法律认知，摈弃简单的技术设计视角，实现“有意义的人类控制”转向，从而进一步推动自动驾驶技术的发展。     

在工具与玩具之间：关于ChatGPT的几点人文思考

ChatGPT这项技术具有双重性质：既是一个用于搜索和研究的工具,也是一个用于愉快对话的玩具。人们通常高估了ChatGPT作为搜索工具的实用性,也可能低估了它与人进行趣味交谈和快乐互动的价值。可以把ChatGPT重新构想和开发成为一个对话和交谈领域的新成员,将对话和交谈互动的范围扩展到人类之外的AI聊天机器人。这种扩展可以激发新的人文反思议题,如：善意、理解、教养、交往理性、欣赏“他者”,以及对人工智能的恐惧。此外,这种转变的视角也能使人们重新审视与互联网和人工智能相关的长期问题,例如：“人类”的意义、人类与技术之间的关系、人工智能可能带来的威胁、失去人类价值观的风险、工作和娱乐的伦理道德以及对话和互动的伦理道德,等等。作为一种人工智能语言模型,ChatGPT具有人文启蒙的潜力,包括：促进知识获取、增进互动、鼓励批判性思维、推动逻辑和理性对话以及传播准确信息的潜力。最终,ChatGPT作为工具和玩具的独特能力可以帮助人们更好地理解自己和技术的关系,同时应对日益数字化的世界的复杂性。     

ChatGPT技术的风险解构、防范措施及其治理范式转型——基于“嵌入—脱嵌”互动视角的分析

ChatGPT掀起的通用化转型趋势意味着技术风险的社会化,这对国家技术治理造成了新冲击,同时也引发了人们对技术与社会关系的思考。任何技术都不是完美的,未雨绸缪地对其潜藏的社会风险进行防范,这是人类主体性的重要表现。从波兰尼思想中提炼出“嵌入—脱嵌”互动的理论框架,为我们分析ChatGPT与社会之间的关系提供了重要视角。ChatGPT运行“脱嵌”可能对社会造成算法逻辑风险、数据安全风险、泛社会化风险等危害。对此,国家应承担庇护社会的职责,通过强化国家监管能力、推动企业积极履责、促成社会多元共治等手段加以防范,使ChatGPT“嵌入”社会并维持在“技术向善”的轨道上。ChatGPT的兴起预示着未来新技术将不断涌现,为应对这一趋势,相适应的国家治理能力亟需提升,应秉持全面性、安全性、开放性、包容性的原则,建构动态性的国家技术治理范式,在技术“脱嵌”与“嵌入”两个动向之间取得平衡。