生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来，将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表，它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命，推动人类生活生产方式创新，促进新一轮科技革命和产业变革。与此同时，也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理，在伦理方面，应当坚持以人为本、培育公民的数字素养和建立伦理审查机构，促进应用的合理化；在法律规制上，应通过立法、权力监督、制度保障等手段，促进ChatGPT的应用合法化；在技术上，应将法律规制、相关伦理等价值观念转化为算法，以算法来规制算法。     

自然评价：人工智能驱动下的学术成果评价模式重构

学术成果评价作为科研项目评审、人才评价、期刊评价、机构评价等活动的基础，是学术评价体系的重中之重，也是科研管理的关键环节之一。当前，我国学术成果评价模式存在“同行评议黑箱”“引文动机模糊”“评价数据间接且片面”等弊端，阻碍了学术创新，也与当下建构自主知识体系的战略相悖。而近年来人工智能等技术在数据、算法、算力上的突破性发展，特别是判别式模型和生成式模型在机器翻译、文本分类、文本摘要、情感分析、问答系统等领域日益成熟的应用，为传统学术成果评价模式的革新带来契机，为实现更加科学、多元与智能的学术成果评价提供了充分可能。基于对现有学术成果评价模式不足与人工智能应用契合度的分析，文章提出学术成果评价新模式——自然评价。自然评价模式是人工智能与学术成果评价的深度融合，既是对以往同行评议、文献计量、网络计量、替代计量等传统评价模式的批判性继承与发展，也是一种突破与革新。具体而言，自然评价是基于学术共同体在各种学术活动中自然产生的全量化的学术痕迹大数据，将人工智能技术应用于学术成果知识内容和学术共同体学术痕迹数据的语义理解与自动分析中，从而动态形成评价判断，并服务于知识创新与学术进步的一种评价模式。...     

在工具与玩具之间：关于ChatGPT的几点人文思考

ChatGPT这项技术具有双重性质：既是一个用于搜索和研究的工具,也是一个用于愉快对话的玩具。人们通常高估了ChatGPT作为搜索工具的实用性,也可能低估了它与人进行趣味交谈和快乐互动的价值。可以把ChatGPT重新构想和开发成为一个对话和交谈领域的新成员,将对话和交谈互动的范围扩展到人类之外的AI聊天机器人。这种扩展可以激发新的人文反思议题,如：善意、理解、教养、交往理性、欣赏“他者”,以及对人工智能的恐惧。此外,这种转变的视角也能使人们重新审视与互联网和人工智能相关的长期问题,例如：“人类”的意义、人类与技术之间的关系、人工智能可能带来的威胁、失去人类价值观的风险、工作和娱乐的伦理道德以及对话和互动的伦理道德,等等。作为一种人工智能语言模型,ChatGPT具有人文启蒙的潜力,包括：促进知识获取、增进互动、鼓励批判性思维、推动逻辑和理性对话以及传播准确信息的潜力。最终,ChatGPT作为工具和玩具的独特能力可以帮助人们更好地理解自己和技术的关系,同时应对日益数字化的世界的复杂性。     

论生成式人工智能的法律风险与治理路径

以ChatGPT为代表的生成式人工智能在优化产业结构促进经济发展的同时也带来新的法律风险。语言模型训练中的风险主要包括侵害个人信息与作品著作权风险,内容生成过程中的风险则体现为人工智能“幻觉”导致的错误信息风险、算法偏见风险、“涌现”导致的算法失控风险以及人机互动中的算法滥用风险。《生成式人工智能服务管理暂行办法》提供基本的治理框架,但部分条款设置与具体治理方式上存在不足。生成式人工智能的性能取决于训练数据集的规模与质量,模型训练中的数据治理需要尊重其技术逻辑,实践中应拓展公共数据中著作权数据与个人数据的合理使用边界。内容治理可以借鉴“宪法人工智能”的基本理念,构建动态的内容反馈评估机制。     

ChatGPT与人工智能时代：突破、风险与治理

本文介绍了自然语言处理技术的人工智能应用程序ChatGPT在AIGC(人工智能生成内容)领域的突破性进展，以及这种进步的重要意义。通过回溯历次工业革命对社会的影响，提出以下观点：人工智能发展将带来新的工业革命，人工智能社会已经成为趋势；人类的历史就是不断突破自身局限的历史，人工智能正带来一次新的工业革命，前两次工业革命人类扩展了肢体的机能，从第三次工业革命开始扩展的是大脑和神经系统的机能，进入对自身局限挑战的最高阶段，人工智能将推动大脑和其他身体机能整合式扩展，形成智能社会。还分析了ChatGPT可能带来的就业问题和社会分化与不平等，分析了人工智能技术的风险，如隐私和数据安全、算法黑箱可能带来的偏见和歧视、人工智能依赖等问题。最后，介绍了国外研究者关于人工智能社会治理的思想，提出社会治理的基本思路。     

基于新一代人工智能技术(ChatGPT)的数字经济发展研究

ChatGPT作为新一代人工智能技术,将会对经济社会生活带来广泛而深远的影响。通过梳理ChatGPT概念及技术架构,从多维度视角研究新一代人工智能技术如何影响数字经济的发展。研究认为,ChatGPT是具有深度学习能力的人工智能语言模型,在“ChatGPT+数字营销”“ChatGPT+互联网教育”和“ChatGPT+互联网医疗”等应用场景中,ChatGPT驱动了教育、医疗、传媒、电商等领域的数字化转型;ChatGPT能够从驱动技术赋能、促进行业转型、催生新兴产业、提供新应用场景、盘活企业活力、优化业务流程等多方面、多维度,来提升数字经济的行业边界,降低数字经济的成本,提升数字经济的效率,进而有效推动数字经济高质量发展。     

ChatGPT嵌入政务服务码应用：价值、困境与应对

ChatGPT嵌入政务服务码应用对于推动国家政务服务一体化、优化公共数据融合和提升政务服务效能带来了诸多机遇。通过对ChatGPT嵌入政务服务码应用的梳理可以发现,其能够提高政务服务的敏捷性、实现政务服务的数智化,以及高质量“人机协作”。但是,囿于ChatGPT与政务服务码本身的技术缺陷,其在带来技术赋能的同时,也引发了一系列应用风险,如ChatGPT生成内容具有“幻觉性”、导致公共机构形成技术依赖性、使得政务服务码难以追责等。基于此,可以通过预训练数据库的类型化、人工智能“辅助性”原则的明确、全生命周期数据监管理念的注入,进而实现ChatGPT嵌入政务服务码的事前、事中与事后的全流程应对,从而完成ChatGPT赋能政务服务码的高质量应用。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

生成式人工智能参与数字政府建设的技术跃迁、目标导向与可行路径

利用生成式人工智能技术参与数字政府建设，为新时代国家治理现代化提供技术驱动，具有重要的时代意义和实践价值。ChatGPT等生成式人工智能参与数字政府建设的功用，与其相对于既有人工智能技术的技术跃迁息息相关。生成式人工智能的自然语言理解与生成能力跃迁、文本生成能力跃迁和知识更新能力跃迁，是与数字政府建设联系最为紧密的技术跃迁，对数字技术参与政府内部工作、政务服务和公共服务均有重大功用。生成式人工智能参与数字政府建设的根本目标在于建设人文数字政府，直接目标在于实现效率数字政府，长期目标在于建成智慧数字政府。生成式人工智能参与数字政府建设的可行路径在于实现权利保障优位、效率与责任并行和安全与发展均衡。面对生成式人工智能参与数字政府建设的广阔前景和风险问题，要加快我国自主的生成式人工智能在数字政府建设领域的应用培育。     

现代学术期刊的学术评价功能实现研究

学界和业界对学术期刊研究的重点是如何构建科学的学术期刊评价体系,如何从宏观层面评价学术期刊在国家科研实力提升方面的作用,对学术期刊本身具有学术评价的微观功能却很少关注。事实上,小到具体科研机构的职称评定、奖项评审,大到构建中国特色哲学社会科学的“三大体系”、中国自主知识体系的建构,在很大程度上都依赖于学术期刊的学术评价功能发挥的效果与水准。当前学术期刊的学术评价功能是学术期刊存在的重要价值所在,在一定程度上决定着学界的学术研究生态,进而影响着我国在国际上各项科学研究领域中的学术地位。基于此,首先,本文对学术期刊的学术评价功能的研究背景、现状进行分析,根据学术成果评价的阶段划分为初次评价和二次评价,评价的阶段不同,学术评价的重点也应该不同。在初次评价阶段,学术期刊的评价功能应体现在对学术成果的整体评价上,评价的内容从选题创新性、研究规范性到论证完备性都要进行评价;在二次评价阶段,学术期刊对学术成果的评价关注点更多地应放在学术创新性和社会影响力方面。其次,对现阶段我国学术期刊的学术评价功能失灵的现状进行梳理,发现存在低质量学术论文大量涌现、学术期刊的学术不端现象频现、刊发或转载的学术论文选...     

以量化为基础以代表作为主的综合化学术评价制度构建——基于S大学的经验

高校学术评价的重点和基础在于科研成果和教学科研人员的评价,而在教学科研人员的评价中专业化技术职务的评聘更为典型和引人注目。S大学多年来坚持人才评价制度改革,已建立并形成了一套相对完善的以量化为基础以代表作为主的综合化评价体系,在实践中充分展现出了规范性、公正性和合理性。这一制度以2016年新修的《专业技术职务（教师）评聘工作办法》为主件,以《教师系列职务评审量化办法》等为附件,其内容包括了指导思想和评聘原则、组织机构、工作程序、申报资格及业绩的认定、对特殊人员的聘任等方方面面;其突出特点是评价过程公开透明、量化办法全面合理、坚持同行专家评价、代表作评审严格、注重分类指导与评价、配套制度完善。总结吸收S大学学术人才评价的经验和做法,我们认为构建以量化为基础以代表作为主的学术评价制度,其量化评价应不同于以往以科研为主、以成果数量和项目级别等为主的方法,要既评科研,也评教学,既看数量,也看质量,同时也不忽视思想政治表现与职业道德情操。与量化评价重在全面、客观和准确地揭示教学科研人员的学术水平和学术贡献不同,代表作评价主要在于测度、考量被评人的科研水平和能力。评审代表作,外审专家的遴选至关重要,并应采取措施,尽力排除人际关系等干扰。对于人文社会科学学术评价来说,单纯量化的办法存在诸多弊端,而单纯代表作评价亦有不少问题。相较而言,实行以量化为基础以代表作为主的综合化评价制度,不失为保证学术评价科学合理、公平公正且具可操作性的正确选择。     

学术生态环境研究及治理设计——以科研评价和项目自动评价为例

以科研评价和项目自动评价为基础，研究和治理学术生态环境成为亟待解决的问题。综合运用哲学、社会学、政治、经济学、AI等多学科研究方法研究学术生态环境污染和破坏，得出其根源在于非学术共同体冗员的隐型入侵、无效的学术、秩序的破坏（数字道德的缺失、人的价值和信任系统的破坏）、知识壁垒。提出学术生态环境、“新中产阶层”定义，以及通过项目自动评价智能平台构建和社会职能设计、学术建制重塑，利用项目自动评价进行学术生态环境治理。     

高校哲学社会科学研究评价的本质要求及其制度建设

建设具有中国特色、中国风格、中国气派的哲学社会科学,一直是我国哲学社会科学繁荣发展的根本目的.提升高校哲学社会科学繁荣发展水平,离不开科学有效的哲学社会科学研究评价.坚持党的领导、"二为"方向和"双百"方针是哲学社会科学繁荣发展的根本保障,坚持"质量为本"和"创新至上"是哲学社会科学繁荣发展的必然要求,坚持科学权威和公开透明是哲学社会科学研究评价的现实需要.结合当前高校哲学社会科学研究评价中"量化评价下数量与质量的关系论辩","学术评价与科研管理评价的边界异化"和"学术权力和行政权力的制度规制"三大问题聚讼,文章建议通过强化学术成果质量保障机制、优化学术共同体工作机制、构建学术争鸣长效机制和完善学术成果转化应用机制等制度建设,推动构建科学权威、公开透明的哲学社会科学研究评价体系,以期进一步改善新时代高校哲学社会科学研究评价工作.     

知识计量学在人才评价中的应用——基于引文分析与人力资本测算的研究

引文分析方法、成本方法、预期收入方法、能力方法是知识计量学重要的特征研究方法。文章从定量的角度出发,探讨这几种方法在人才评价中的具体应用。既讨论了基于引文分析的间接人才评价,又分析了基于成本、预期收入、能力方法的直接人才评价。研究认为,这几种方法各有自身的优势,而且有自身的应用条件。文章也介绍了知识计量学在人才的载体,如知识存量很高的大学以及知识型国家层面的评价。在评价中,知识计量引文分析以及科学指标的构建具有广泛的应用价值,发挥了关键作用。     

社会科学学术成果评价方法探析

社会科学的学术成果,主要是学术论文和专著。对学术成果评价的方法使用,既要完善引文分析法的应用条件,又要巩固传统专家评价方法的主体地位,同时还要增加读者评价的内容。对科学成果的评价,不能只评价结果本身,而且还应对科学研究的进展进行评价。     

科研评价体系中学术论文评价实证分析

针对当前科研评价体系中中对学术论文质量的评价存在局限性的问题,以计算机学科中的学术论文评价为实证,以某大学的科研评价标准体系与考核指标为案例,地学术论文评价的相关问题进行研究。研究认为,如何定位会议论文和SCI期刊论文在科研评价体系中的价值与定位,能否坚持正确导向是科研管理评价体系面临的主要问题;在计算机学科中,国际上大部分的标志性成果都会在顶级会议上发表论文,但中国的科研评价体系仍以SCI期刊论文为主,中国学者在国际计算机学会的权威会议上参与与发文量均较低;中国的科研评价体系中应重视顶级会议论文的重要性,平衡不同评价指标的权重,平衡不同学科领域之间的差异,提高会议论文认定的等级,发挥评价体系的导向作用,制定科学的评价指标,完善科研评价管理制度;某高校制定了分学科科研评价标准体系和差异化的考核指标,依据不同的专业领域拟定了同行专家评价认可的期刊与会议列表,规范了期刊文章和会议文章的量化指标来综合衡量学术论文的学术和文献价值,在学术科研的国际化方面取得了显著成绩。     

区块链与学术评价体系变革:应用场域及可能贡献

媒介对知识在时间和空间中的传播产生重要影响。现行的学术评价体系发轫、发展于以印刷术为支撑的纸媒环境下，对科学技术的发展曾起到积极的作用。但随着网络技术的发展，其局限性也逐渐凸显。学术出版过程中的封闭性与网络的开放性、互动性形成尖锐的矛盾，作为学术生产主体的学术共同体权利旁落，出版商成为学术生态体系的中心。区块链具有不可伪造、全程留痕、可追溯、公开透明、集体维护等特征，具有广阔的运用前景。在学术场域中，国外已有不少区块链的应用平台。本文以Scienceroot为例，分析私有场域中区块链学术网络平台的特点及弱点。Scienceroot基于科学代币（Science Token，简称ST）运营，集科研协作、资助和出版、学术评价与交易于一体，是基于网络和科研工作者的新型学术生态系统。该系统中，学术评价具有如下特点：一是去中介，评议专家范围更广、匹配更精准和灵活，作者能够参与其中，评议过程开放透明，评议专家的劳动能够得到确认和激励；二是评价的对象既可以是成熟的成果也可以仅仅是科学研究议题；三是同行评议和量化评价、内容评价和影响力评价相结合。虽然平台构建了新型的学术生态系统，但是由于该平台由技术企业所创办，因此存在资本逐利性与学术产品公共性之间的矛盾、评议的公正性及学界认可度尚不明确、公有链的运行效率等问题。除了被私有出版主体或技术企业所运用，区块链还可以被公有制大学等学术研究主体所运用，这才是区块链真正价值之所在。在这种场域下，基于区块链的学术网络平台能够实现学术共同体的虚拟重构。通过线上学术机构联盟或学科联盟，学术共同体能直接参与学术合作与学术生产，行使学术评议的权利。在这种学术生态系统中，学术共同体占主导地位，多元主体参与评价和交流；激励机制可以让同行评议专家及科研合作者的劳动得到承认和确权，调动他们参与的积极性；共识机制让评价机制能够得到学界的普遍认可；智能合约有助于鼓励科研工作者之间的合作，促进科研成果市场转化等。一方面，这一学术生态系统既保留了私有场域中Scienceroot平台的优点，同时也有效避免了资本逐利本性对学术产品公共性的影响，有利于打破科层制行政组织对学术评价的过度干预，减少学术特权和学术寻租行为；另一方面，这种评价以学术同行的共识为前提，能够得到联盟内学术机构的普遍认可，利于快速打破以出版商为中心的学术评价体系。虽然区块链对学术评价体系变革具有积极意义，但由于区块链技术本身的局限性，在实践中如何解决记账节点风险、运行效率等问题尚需要深入研究和探讨。