在工具与玩具之间：关于ChatGPT的几点人文思考

ChatGPT这项技术具有双重性质：既是一个用于搜索和研究的工具,也是一个用于愉快对话的玩具。人们通常高估了ChatGPT作为搜索工具的实用性,也可能低估了它与人进行趣味交谈和快乐互动的价值。可以把ChatGPT重新构想和开发成为一个对话和交谈领域的新成员,将对话和交谈互动的范围扩展到人类之外的AI聊天机器人。这种扩展可以激发新的人文反思议题,如：善意、理解、教养、交往理性、欣赏“他者”,以及对人工智能的恐惧。此外,这种转变的视角也能使人们重新审视与互联网和人工智能相关的长期问题,例如：“人类”的意义、人类与技术之间的关系、人工智能可能带来的威胁、失去人类价值观的风险、工作和娱乐的伦理道德以及对话和互动的伦理道德,等等。作为一种人工智能语言模型,ChatGPT具有人文启蒙的潜力,包括：促进知识获取、增进互动、鼓励批判性思维、推动逻辑和理性对话以及传播准确信息的潜力。最终,ChatGPT作为工具和玩具的独特能力可以帮助人们更好地理解自己和技术的关系,同时应对日益数字化的世界的复杂性。     

ChatGPT类生成式人工智能的伦理问题、原因分析与规制路径

自2022年起,以ChatGPT和GPT-4为代表的生成式人工智能迅速发展,人工智能进入了“大模型”时代。作为一项具有重大意义的技术进步,对人类社会的发展具有重要意义;同时,ChatGPT类生成式人工智能作为人的创造物,也引发了人的主体性的丧失、数据隐私泄露与算法偏见、责任主体冲击与道德地位的模糊等伦理问题,会威胁到人类的幸福生活。以ChatGPT类生成式人工智能引发的伦理问题为起点、以挖掘其产生的原因为依据,提出完善生成式人工智能伦理治理的体制和机制、优化生成式人工智能技术设计和培育正确的主体意识等规制路径。     

ChatGPT的政治社会动能、风险及防范

ChatGPT作为一款基于超大规模人工智能模型的人机对话应用程序，其广泛运用将对政治社会带来诸多影响。ChatGPT具备较强的政治社会动能，其对多个社会领域、应用场景的嵌入将使得政治社会面临机遇与风险兼具态势、出现技术的不断演化迭代、迎来更多类人化的替代物、遭遇多维度深层次的变革。同时，ChatGPT也会引发政治社会风险：政治风险方面，ChatGPT使用过程中的数据流动会冲击国家主权独立性，数字技术霸权可能威胁政治安全，意识形态安全可能面临渗透风险；社会风险方面，就业结构、社会传播、伦理道德、人口安全等领域都可能因为ChatGPT而产生新的风险。针对这些潜在风险，应在总体国家安全观的指导下，秉持鼓励发展、保障安全、技术规制、协同监管的原则对其加以防范。具体而言，应坚持发展与安全并重，加快构建ChatGPT发展的安全生态；坚持积极引导与有效治理并进，加快推进ChatGPT协同监管体系；坚持技术规制与立法保护并举，加快净化ChatGPT风险防范环境。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

人工智能时代的社会风险治理创新

人工智能促进了社会风险治理系列创新,正在成为国内外学术界热烈讨论的问题。通过典型案例与理论研究发现,就“技术[CD*2]治理”而言,在人工智能时代,风险治理首先需要解决的是技术问题,只有对技术做出最佳选择,才能促使治理效果最佳化。就“政府[CD*2]社会”而言,人工智能不仅提高了政府治理能力,而且通过复杂的自适应系统、社区参与与社区赋权促进了民间社会成为治理主体。就“挑战[CD*2]前景”而言,人工智能将在许多方面迅速使人类智能落后,最重要的风险治理技术问题将由人工智能负责,出现所谓的“技术奇异性”或“奇异性”现象而具有光明的应用前景。就“不足[CD*2]陷阱”而言,缺乏自我意识的人工智能比人类大脑要危险得多,它可能逃脱人类控制并制造更大的社会风险,在治理社会风险的同时,也可能制造了新的社会风险。尽管如此,人工智能是社会的一部分,不仅具有强烈的社会功能,而且具有快速性、准确性与广泛性其他功能,促进了风险治理的重大变革,治理者应将其上升到战略层面,主动适应其发展变化。     

生成式人工智能数据风险的法律保护与规制研究——以ChatGPT潜在数据风险为例

ChatGPT是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的自然语言处理工具,其深度的学习能力和自我纠正能力,提高了人工智能与人类之间的交往。ChatGPT在实现科学技术革新的同时,也存在敏感数据泄露的风险。ChatGPT在保护个人主体数据、企业主体数据和国家主体数据方面需要法律予以规范。因此,如何应对ChatGPT带来的数据安全,成为生成式人工智能亟待解决的问题。为此,通过分析ChatGPT运作阶段和数据主体应用现状可能存在的数据风险,以我国数据规制法律框架为基础,借鉴域外人工智能立法模式,探究ChatGPT的数据风险法治化应对策略,以此合理构建我国生成式人工智能的数据风险法律规制体系。     

论人工智能的双向限度与美学理论的感性回归

人工智能具有双向度性质,一方面基于其数据算法的运行机制存在形式逻辑的局限,不可能彻底替代人的社会历史实践;另一方面人工智能的虚拟现实功能却可以通过人类经验的生成与复制重构人类的认知结构,存在着颠覆人类本质的可能。人工智能的发展及其所引发的社会变革与观念更新为美学理论的发展带来了新的契机,更为不同美学话语的有机对话与深层次交流沟通提供了可能。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

人工智能发展的社会风险问题研究

随着第四次工业革命浪潮的到来,云计算、深度学习、大数据等技术不断普及,人工智能已嵌入人们生活的方方面面,不仅影响科技领域的发展,同时也给政治、经济、社会、道德伦理等领域带来了风险与挑战。由此,应从社会、政府及人类自身三个层面积极探索应对策略,以期形成多方共同参与、相互联动的有效合力机制,实现对人工智能的合理控制,更好地应对人工智能可能带来的社会风险。探索人工智能未来的发展方向,推进“技术”与“社会”的良性互动。     

ChatGPT的信息技术社会后果及其伦理规制

ChatGPT作为一种具有非凡信息获取能力的聊天机器人的出现,瞬间引发了人类智能技术节点意义上的革命。在人工智能的大力加持下,ChatGPT必将造成一系列信息技术社会后果。只有充分发挥人类的实践理性并适时地建立相应的未来伦理规制,才能应对这一人工物所带来的巨大挑战。从后果主义的观点出发、不断回答和尝试解决ChatGPT“随附的”伦理问题,乃是符合信息技术社会规律和算法逻辑走向的明智选择。正确地处理好“GPT化生存”问题和人机共存关系,不仅需要国家技术力量的增强和国家治理能力的提高,还需要坚定重建网络美好生活的信念。     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来，将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表，它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命，推动人类生活生产方式创新，促进新一轮科技革命和产业变革。与此同时，也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理，在伦理方面，应当坚持以人为本、培育公民的数字素养和建立伦理审查机构，促进应用的合理化；在法律规制上，应通过立法、权力监督、制度保障等手段，促进ChatGPT的应用合法化；在技术上，应将法律规制、相关伦理等价值观念转化为算法，以算法来规制算法。     

ChatGPT类生成式人工智能监管的国际比较与借鉴

ChatGPT类生成式人工智能的快速发展虽在不同领域带来积极影响,但也引发了法律政策、安全技术、社会伦理等层面的监管问题。比较美国、欧盟、日本等国外典型经济体人工智能监管的治理实践,为完善我国人工智能监管治理体系提供政策参考。我国人工智能监管应坚持发展与安全并重、促进创新与依法治理相结合的监管原则,建立健全法律与政策、技术与安全、社会与伦理等层面的监管路径,同时对人工智能进行进入性监管、技术性全程监管和分级分类监管,完善我国的人工智能监管体系。     

重塑人工智能治理中人的主体性

以人工智能为关键技术的智能革命对人类社会治理产生了深刻影响。一方面，人工智能的应用有利于增强治理协同性，提升决策效率和治理效能，展示出美好的治理前景；另一方面，由于算法权力膨胀、个人价值迷失和人类责任缺位等现象凸显，导致治理中面临人类边缘化风险。因此，重塑人工智能治理中人的主体性是人类必须面对的重要议题。在未来人机共生的治理环境当中，人工智能很可能成为治理主体之一，人类对于人工智能的发展应持包容审慎的态度，设定好人工智能的应用边界，引导技术应用服务于增进人类福祉。同时，从人类自身出发探索将人的主体性带回治理的有效路径，包括加强全球合作，应对治理挑战；完善国家制度，保障人类自治；发展创新型社会单元，开展创造性生产活动；重塑个人责任意识，提升治理能力等。     

中国式现代化与第四次工业革命：风险和应对

中国式现代化需要统筹发展与安全。实现高质量发展和高水平安全之间的动态平衡，需要主动防范化解各类风险隐患。在化解传统风险的同时，我们需要高度关注第四次工业革命带来的新兴风险挑战。在第四次工业革命发展过程中，“机器问题”带来的社会失业风险、技术监管滞后带来的隐私风险、多智能体崛起带来的治理风险、技术异化带来的伦理风险、人类生存意义何在的终极风险等挑战，使社会发展面临很大的不确定性。面对第四次工业革命的新兴风险挑战，我们需要推动劳动力教育培训体系升级，进行负责任的研究与创新，实现数据使用与隐私保护的平衡，实行更加灵活高效的监管，从而对第四次工业革命的风险挑战进行有效治理，不断推进中国式现代化的实践与探索。     

人工智能技术革命对个人、区域及全球发展的影响——从ChatGPT发布说起

ChatGPT3.5和4.0的发布标志着人工智能技术革命进入实质性应用阶段，预期将对经济社会发展带来颠覆性影响。以ChatGPT的发布为起点，讨论分析人工智能技术革命对个人、国家或区域乃至全球局势的影响具有重要意义。在个人层面，它会逐步取代大量劳动力，对教育和学习提出新的需求；同时，它会重塑人们的生活方式与社会关系。在国家或区域层面，人工智能将大幅度提高生产效率，以低廉的价格提供极其丰富的产品和服务，然而在刺激经济增长的同时，极有可能带来贫富差距的恶化，还可能加剧人口老龄化。在全球层面，技术竞争将成为国际关系的基石并将冲击贸易与投资格局，甚至可能改变二战以来东升西降或亚洲崛起的历史进程，给百年大变局带来更大的不确定性。无论是个人还是国家，都需要对人工智能技术革命的影响(尤其是短期影响)采取积极的应对措施：就个人而言，需要调整人力资本的积累目标，尽量避免或推迟自己被人工智能替代；对于中国而言，需要完善制度环境、加强基础科学研究、增强知识共享，以应对核心技术落后和被卡脖子的发展困境，最终赢得基于人工智能技术的这场竞争。     

ChatGPT技术中的人工智能伦理风险及其科学祛魅

作为一种生成式预训练变压器,ChatGPT技术在推动人类社会进入通用人工智能时代的同时,也会“堆积”一些形而上学问题。其在技术演进中,呈现的偏差性、不可靠性、鲁棒性、有毒性等伦理特性,诱发了道德判定障碍、社会偏见刻板化、用户数据去隐私化、科学技术异化等人工智能伦理风险。只有凸显人文价值关怀,重塑伦理主体责任,强化伦理政策导向,创新伦理运行机制,才能有效纾解ChatGPT技术带来的伦理风险,使人工智能系统成功融入人类社会。     

数字赋能政府治理何以产生“数字负能”？

作为一种生成式预训练变压器,ChatGPT技术在推动人类社会进入通用人工智能时代的同时,也会“堆积”一些形而上学问题。其在技术演进中,呈现的偏差性、不可靠性、鲁棒性、有毒性等伦理特性,诱发了道德判定障碍、社会偏见刻板化、用户数据去隐私化、科学技术异化等人工智能伦理风险。只有凸显人文价值关怀,重塑伦理主体责任,强化伦理政策导向,创新伦理运行机制,才能有效纾解ChatGPT技术带来的伦理风险,使人工智能系统成功融入人类社会。     

ChatGPT与数字时代的国际竞争

数字全球化加速发展致使人工智能及其潜在变革动能受到国际社会广泛关注。美国高度重视相关技术研发以护持自身霸权，政府携手跨国数字巨头加速推进该国人工智能领军企业OpenAI发展步伐，美国金融资本亦对其予以重点扶持。作为该企业的核心产品与生成式人工智能科技的最新成果，ChatGPT一经发布即引发世界各国高度重视。然而，该产品发展前景并不完全明朗，不仅仍面临准确性与安全性困境，且难以突破知识产权与监管限制。同时，生成式人工智能技术贸然跃进或带来国家内外矛盾上升、数字鸿沟扩大等重大挑战，加快数字时代国际竞争节奏、提升大国竞争复杂性，并加剧全球数字扩张无序性。作为全球数字大国，中国亦正积极把握ChatGPT带来的人工智能发展机遇，但因受美国战略遏制打压严重而在技术跟进、人才培养、产业布局、国家安全保障等方面面临诸多挑战。鉴于此，中国需保持战略定力，从本国实际情况出发，在加大研发投入的同时坚持国际合作与和平发展，积极推动全球人工智能治理加速。     

人工智能到底存在什么风险：一种类型学的划分

当前人类社会正在展开以人工智能技术为核心标志的第四次工业革命，人工智能在赋能人类达致美好生活方面充满光明的前景，但是也潜藏不少可能抵消其赋能功效的风险。不同于早期人们偏重于对人工智能的乐观想象，近年来人工智能的风险话语逐渐显现并扩散乃至走向失序。类型化是解决人工智能风险话语失序问题的有效尝试。基于主体维度和时限维度可以将人工智能风险划分为四大类型：国家主体在短期时限内面临的失业风险、国家主体在长期时限内面临的消权风险、社会主体在短期时限内面临的隐私风险、社会主体在长期时限内面临的意义风险。     

生成式人工智能技术治理的三重困境与应对

进入数智时代,生成式人工智能应用在全球掀起的使用热潮引发了人们对相关伦理困境与风险问题的关注,虽然公平、准确、可靠、安全、人类监督等几项内容被设定为负责任人工智能的核心原则;但生成式人工智能的技术治理方面存在因本体论身份引发的价值张力、训练数据的代表性偏差与安全系统被动保护带来的三重困境并为生成式人工智能如何实践“负责任”的原则带来了现实挑战。在风险全球化与国际竞争加剧的历史变局下,人类社会面对生成式人工智能潜在的伦理与社会风险,应加快建立全球治理的合作机制,践行文化包容的治理智慧,以及回归社会问题本源的认识论是实现生成式人工智能“负责任”原则的关键。