ChatGPT类生成式人工智能的意识形态风险及其防控策略

面对人工智能技术的重大突破,尤其是ChatGPT等新一代人工智能在社会生活各个领域的广泛应用,审视、预判和防范ChatGPT类生成式人工智能的意识形态风险成为一个重要的理论课题。ChatGPT类生成式人工智能环境下的意识形态传播具有可塑性、可量化性、个性化和精准预测性等特点。ChatGPT类生成式人工智能介入意识形态传播的技术路径体现在技术与思想的耦合、预测性的算法推荐、个性化的话语创设和赋权性的网络传播等方面。ChatGPT类生成式人工智能介入意识形态传播会带来算法歧视、数据失真、算法监控和算法反噬等潜在的风险。应通过统筹科技伦理规制算法推荐、设计主流意识形态驾驭算法、协调传播主体与客体的价值需求、强化大数据技术检测与治理等,加强对ChatGPT类生成式人工智能意识形态风险的防控。     

可计算与分布式：智能时代网络意识形态治理的新样态

人工智能是一种技术、一种知识,也是一种力量。作为一种技术,人工智能是信息技术革新的象征,在信息传播领域应用中所展现的能量,使其成为改变网络意识形态规则的新变量。作为一种知识,具有强大计算能力的人工智能改变了人们对意识形态的认知,为网络意识形态运行机制带来了诸多新变化。作为一种力量,人工智能的技术赋能重塑了网络信息生态的客观环境,颠覆了原有信息流动的空间结构,而这也为网络意识形态治理带来许多新问题。在网络意识形态治理的展望中,理应从技术研发、领导机制、人才建设、思维变革、制度规范五个方面着手,擘画网络意识形态治理的新图景。     

意识形态掌控能力现代化的基本要素与实践方向

现代意义上的意识形态不仅是统治阶级的维护意识,更是为一定社会定向的文化价值系统。意识形态掌控能力作为国家治理能力的重要组成部分,同样面临现代化的重要课题。意识形态掌控能力现代化内含意识形态建构能力、教化能力、情感沟通能力、整合能力、批判能力现代化等基本要素。推进经济基础、话语体系、工作网络、方式方法的现代化是意识形态掌控能力现代化的实践方向。     

新时代人工智能赋能网络意识形态治理的理论基础、现实样态与实践要略

新时代,人工智能跨界赋能网络意识形态治理呈现机遇与挑战并存的现实态势。基于理论、现实与实践三维逻辑,缕析人工智能驱动网络意识形态治理的价值意蕴与路径选择。守正理论基础,梳理马克思主义的理论积淀与时代的科学应答,揭示人工智能与网络意识形态治理契合的考镜源流;审视现实样态,从主流意识形态偏离、资本合谋技术宰制、数据重构遮蔽价值和思想凝聚结构性失衡四个方面探究风险隐忧;创新实践要略,从坚定价值引领、强化智能融渗,创新跨界赋能、提升智能融合,优化数据推荐、增强智能传播,构建制度体系、完善智能保障四个方面,立破并举、靶向施策,推进人工智能驱动网络意识形态治理的新发展格局。     

生成式人工智能应用的意识形态风险：命题由来、生成机制与治理进路

相较于西方的“非意识形态论”与“技术统治论”,马克思对于机器应用“异化”的观点更适于用来诠释由生成式人工智能应用所产生的意识形态风险命题。基于应用场景与因果关系的不同，可将生成式人工智能应用的意识形态风险划分为原发性风险、继发性风险和并发性风险。原发性风险是基础应用场景下的风险，发端于“算法钢印”风险因素，会在社会意识生产领域引发“逆向驯化”的风险事故，最终将导致“认知茧房”的风险损失，对此应以“技术规驯”为核心开展治理。继发性风险是恶意应用场景下的风险，以“智能仿真”风险因素为技术条件，会导致“把关失效”的风险事故，最终将发生“价值失衡”的风险损失，对此应以“全链监管”为核心加以治理。并发性风险是技术应用的附随风险，生成于危及人类地位的“主客异位”风险因素，其以“解构传统”的风险事故瓦解人类价值观，最终将导致“信仰迁移”的风险损失，对此应以“价值巩固”为核心进行治理。     

人工智能推动舆论生态转型及其治理进路

以人工智能为代表的数字技术推动了网络舆论环境的生态化转型,使得网络舆论热点的酝酿、发展与爆发环节发生了结构性的变化,进而为智能媒体时代个体的信息接受与观点表达设置了新的“技术—文化逻辑”。具体而言,生成式人工智能技术借由自动化信息生产、精准化算法推荐与情感化交互对话呼应了网络舆论在场景、主体与内容等维度上的发展趋势,在任务型知识生产与辅助型角色层面为网络舆论研究理论带来了新的想象空间。利用人工智能技术进行舆论治理,须满足两个前置条件:确立技术向善的价值立场;科学把握人工智能时代的舆论生成、演化规律。     

风险防范视阈下生成式人工智能数据安全的治理路径——以GPT类模型为例

多模态大模型GPT-4的发布预示着人工智能生成式技术迎来了从弱人工智能跨入强人工智能的临界点,但技术进步与技术风险是相伴而生的。随着GPT-4数据容量的快速积累,数据质量、算力不断提高,知识产权侵权、生产虚假信息、数据歧视等风险与日俱增,对ChatGPT类模型的数据风险治理迫在眉睫。文章基于对生成式人工智能在数据安全领域的风险分析,比较GPT类模型数据的输入、访问以及内容生成等数据运行的风险及其特征,提出从数据源头、内部运行到数据生成的全链条风险防范机制,具体包括：构建保障数据源头“清澈”的“净水器”式合规技术;维护模型内部数据运行“可信根”监管的自治原则;构建国际协同联动式数据治理的协作框架等风险治理路径。     

网络意识形态治理的困境审思和实践理路

移动互联的应用和自媒体的普及正在改写网络格局、释放出新的文化效应。网络意识形态治理面临“算法推荐”与“价值引领”相交锋、“资本逻辑”与“安全正义”相背离、“法外之地”与“良法善治”相博弈的困境。为了切实提升网络意识形态治理的现代化水平,必须要以价值理性匡正工具理性,不断优化算法推荐机制;以制度优势驾驭资本力量,防止网络资本无序扩张;以良法善治维护网络秩序,积极引导网民依规守法。     

网络意识形态的新挑战及其对策探析

在自媒体时代,网络成为了社会主义意识形态建设的最前沿和主阵地.网络向社会主义意识形态建设提出新挑战:网络信息碎片化解构主流意识形态一元性,网络主体多元化冲击主流意识形态主导性,网络空间个人化削弱主流意识形态凝聚性.如何维护网络意识形态安全,这是意识形态领域的重大命题.网络意识形态建设问题产生的原因在于技术、制度、治理能...     

生成式人工智能赋能思想政治教育的价值、问题与对策

以ChatGPT为代表的生成式人工智能赋能思想政治教育是当前网络思想政治教育研究的前沿和热点。生成式人工智能作为科技工具嵌入思想政治教育,能够让教育者更加高效、系统地认识教育客体,使教育内容更加契合个性化、隐性化的目标,让教育方法更加注重过程性、具备前瞻性。然而,思想政治教育的重点是做“人”的工作,过度倚重人工智能可能会削弱思想政治教育的方向原则、求实原则和示范原则,进而影响思想政治教育主流价值传播、学生实事求是精神培养以及师生间思想交流和情感沟通。基于此,为适应生成式人工智能对思想政治教育带来的变革,促进二者深度融合发展,需要提升人机协同能力,强化思想政治教育主流价值引导;强化“把关人”角色,构建文明、规范的数字世界;注重思想政治教育的人文关怀,不仅要教育人更要培养人。     

生成式人工智能与数字劳动的相互关联——以ChatGPT为例

生成式人工智能和数字劳动之间具有相互建构的双向关联性。以ChatGPT为代表的生成式人工智能作为数字劳动的新产物，是包括专业人员和非专业人员多方面的数字劳动协同创构的成果，它一经出现，就成为数字劳动的新工具或新平台，形成“生成式人工智能介导的数字劳动”,使数字劳动具有了自动高效、人机互动、更加个性和人性化、更富拓展性和创造性等新特征，以至于革命性地建构了数字劳动新形态。生成式人工智能同时也给数字劳动带来了内容过载、数字鸿沟、机器换人等新挑战，需要在积极应对这些挑战中合理而有效地使用这一新型的数字劳动工具，以维持人类数字劳动的健康和可持续的发展。     

生成式人工智能为新文科建设带来的机遇与挑战

生成式人工智能的快速发展正深刻改变着高等教育,也为新文科建设带来了巨大的机遇和挑战。在教育领域,生成式人工智能将引发教育格局、教育目标、教育理念、教学方法、教学内容等的巨大变革;在科研方面,生成式人工智能将对未来的学术范式、研究方法、研究问题以及具体研究工作的开展带来创新。但是,生成式人工智能在生成内容的准确性、生成方式的合法性以及技术应用造成的依赖性等方面存在风险。尽管还有很多弊端,但不可否认的是生成式人工智能与新文科建设深度融合的时代已经到来。哲学社会科学工作者应以友好而谨慎的态度充分合理地利用新技术,从文科学生的培养方案、教学主体的素养提升、学科建设的交叉融合和技术规范的合理完善等方面助推人工智能与新文科建设的深度融合。既要学习接受新技术和新问题,也要谨防新风险和新挑战。     

高校意识形态治理现代化的逻辑理路与实现路径

中国式现代化对高等教育现代化提出了新要求,高校意识形态治理现代化是实现高等教育现代化的重要前提和根本保障,是理论逻辑、实践逻辑及发展逻辑三重逻辑共同发展的统一体。从理论逻辑看,高校意识形态治理现代化是守正创新的时代选择,是社会主义高校意识形态建设发展的新样态,是实现人的现代化的内在逻辑;从实践逻辑看,高校意识形态治理现代化是适应新阵地的必然要求,是应对新形势的必然选择,是建构高校话语体系的必然逻辑;从发展逻辑看,高校意识形态治理现代化是意识形态演进规律的内在遵循,是遵循立德树人成效标准的应有之义,是适应高等教育现代化进程的时代选择,这三重逻辑维度阐释了新形势下实现高校意识形态治理现代化的基本向度。目前,部分高校面临着对意识形态治理领域的态势和规律把握不精准、意识形态治理体制机制运行不顺畅、意识形态话语感染力不强等现实挑战。在推进中国式现代化的进程中,高校可通过不断加深意识形态发展态势及规律的研究和把握、不断加快与中国式现代化相适应的意识形态治理现代化体系的建构、不断提升意识形态治理能力和话语传播力,不断完善意识形态宣传教育阵地建设、不断推进中国特色社会主义高校意识形态话语体系的构建等路...     

网络意识形态安全建设的内忧外患及其策略探析

网络意识形态是网络与意识观念相结合的产物,是伴随信息技术发展起来的意识形态新样态,其安全建设关乎国家安全,关乎主流意识形态的传播,关乎国家治理体系和治理能力现代化进程的推进,因而是不容忽视的重大课题。当前,我国网络意识形态安全建设面临着外患内忧,本文深刻分析存在的问题之后,提出了有针对性的解决策略,包括强化自身建设,捍卫主流意识形态主体地位;创新传播手段,筑牢网络意识形态安全防火墙;加强网络空间综合治理,坚守网络意识形态安全新疆域;讲好中国故事,构建网络空间命运共同体等。     

ChatGPT赋能智慧法院建设:机遇、挑战和规制

ChatGPT类生成式人工智能在海量的数据、优质的算法与强大的算力支撑下能够实现多项技术赋能。但ChatGPT类生成式人工智能是否能够适用到智慧司法领域,以及在何种程度上将其嵌入,尤其是该项技术在赋能智慧法院建设过程中的边界如何,这对于深层次建设智慧法院具有重要的前提性意义。ChatGPT类生成式人工智能技术通过审判活动的智能化运用,可促进可视正义的实现;通过诉讼服务的可及性,可实现司法为民理念;通过公平与效率的动态平衡,可实现能动司法目标。然而,ChatGPT类生成式人工智能在带来上述诸多技术红利的同时,也引发了一系列新的风险,具体可以划分为由数据“幻觉性”引发的一般风险、由技术垄断性导致的重要风险以及由数据不可控产生的核心风险。对这些风险,应根据不同的风险特征采取相应的规制路径:可以通过对训练数据库的标准化构建以实现数据的“幻觉性”规制,通过辅助性原则的引入而实现技术规制,通过对服务提供者科加义务以实现对数据不可控的数据规制。即运用数据“幻觉性”规制、技术规制与数据规制,实现对ChatGPT类生成式人工智能技术嵌入的一般风险、重要风险与核心风险的防范,以期完成ChatGPT类生成式人工智能技术嵌入智慧法庭建设的风险最小化与技术赋能最大化,最终实现该项技术高质量赋能智慧法院建设。     

生成式人工智能对音乐传播的变革探讨

伴随媒体信息技术的更迭进化和数字音乐产业的蓬勃发展,以音乐内容为生产核心、音乐营销与服务为传播要素的生成式人工智能音乐快速兴起,数字音乐内容生产与传播的交互结构、数字音乐内容内容协作与内容应用都发生了巨大变化。人工智能提升了人类参与全媒体内容生产的速率与效能,形成新型中心化全媒体传播体系。生成式人工智能使全媒体生产传播的供给侧结构性角色发生变革的同时,也需要建立一系列的风险预估与规避体制。     

大数据时代网络意识形态安全精准治理的三重向度

精准化是网络意识形态安全治理的目标旨向,大数据的强劲赋能为达成精准治理目标提供了历史性机遇.以思维为先导、以技术为根本、以实践为抓手,是推进大数据时代网络意识形态安全精准治理的三重向度.就思维向度而言,关键要坚持创新思维、整体思维、靶向思维、动态思维;就技术向度而言,关键要利用大数据预测技术精准防患潜在意识形态危机、利用大数据挖掘技术精准满足网民思想文化需要、利用大数据推送技术精准传播网络主流意识形态、利用大数据还原技术精准追查不同治理主体责任;就实践向度而言,关键要精准实施治理方略、精准优化治理机制、精准打造治理团队、精准净化治理环境.     

站在巨人肩膀上的初学者:社会科学研究中的生成式人工智能

如何利用生成式人工智能助力社会科学研究是近期社会科学研究者们共同关心的重要议题之一。在此背景下,从一般社会科学研究的实践需求出发,通过具体的实例考察生成式人工智能在社会科学研究的理论、方法和研究偏误三个方面的具体表现。生成式人工智能对于总结和复现现有资料具有很大的优势,以其强大算力来预处理海量在线资料,可以帮助研究者节省信息搜索的时间成本和精力成本。但是,生成式人工智能难以对既有理论进行“阅读”后的“理解”,同时亦不擅长进行方法层面的优劣对比和新分析工具的开发。此外,在生成内容上也表现出明显的偏见或者误差。背靠人类既有资料积累的生成式人工智能可谓站在巨人肩膀上,但由于其本身缺乏成熟的能动创新能力,生成式人工智能在学术研究的意义上仍然是一位“初学者”。如何引导和培养这位“初学者”,是社会科学研究者需要思考和完成的任务。     

论网络犯罪治理现代化的立法实践

国家治理现代化聚焦于网络犯罪领域可概称为“网络犯罪治理现代化”。网络犯罪治理现代化囊括了网络刑法规范体系的现代化和网络刑事司法体系的现代化,网络刑法规范体系的现代化是网络刑事司法体系的现代化的前提。网络犯罪治理现代化的立法实践经历了迷失、兴起以及完善的演变历程,这实则是计算机犯罪、网络犯罪和网络空间犯罪因应变化治理过程的体现。网络犯罪治理现代化的立法实践在逐步发展和完善的历程中蕴含了维护秩序、保护法益以及保障人权三大功能。网络犯罪治理现代化在立法过程中存在着立法理念滞后、罪质存在缺陷以及罪量存在失衡等诸多现实问题。新时代网络犯罪治理现代化的治理方案应从两个维度展开：既包括转变网络犯罪立法理念,适度扩张网络犯罪圈层;又包括修改现行网络犯罪条款,使罪质与罪量的规定得以规范。     

新时代网络意识形态探究

在新时代的网络环境下,网络意识形态出现了新的动态特点,而把握网络意识形态是构建社会主义核心价值体系的必然要求,也是维护国家安全的重要举措,更是中国共产党"长期执政"战略大局的"重要一环"。网络意识形态领域至关重要,因此治理网络意识形态应从以下三方面入手:追求网络政治理想合理化,打造网民的政治共识;促进网络舆论理性化,构建和谐网络生态文明;搭建健康文明的网络平台,实现网络政治思想交互大众化。