ChatGPT的意识形态风险审视

ChatGPT是人工智能发展划时代的标志，然而ChatGPT并不是其标榜的持中立客观的立场，而是存在明显的政治倾向和政治偏见，具有很强的意识形态属性。ChatGPT的强大功能使其具有一种隐形的意识形态功能，ChatGPT的西式资本所有权属性决定了其本质上是资本主义维持自身体系以及资本增殖的工具，ChatGPT的技术构成蕴含了其天然的政治倾向和政治偏见。ChatGPT的意识形态风险在现实性上表现为技术瑕疵风险、智能依赖风险、资本僭越风险、信息茧房风险、数据泄露风险、伦理风险和监管风险。防范ChatGPT的意识形态风险要从推动ChatGPT更好地服务于人，增强意识形态工作者对ChatGPT意识形态风险的认知和应对能力，健全和完善意识形态风险防范的制度化水平以及巩固和壮大主流意识形态的传播阵地等措施出发，做好ChatGPT意识形态风险的防范工作。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

人工智能的意识形态属性与风险及其应对

作为引领和驱动未来世界颠覆性技术发展的人工智能,具有数据霸权、文化软实力和价值形塑等意识形态属性。人工智能广泛应用于人们的生产、生活和学习等实践中,在意识形态领域不可避免产生政治引领力下降、思想凝聚力弱化、道德指向力失落和法律规制力失效等风险问题。警惕技术拜物教以及资本逻辑操控下的意识形态风险,确立主流意识形态在智能技术应用中的话语权,建立智能推送与公共责任动态平衡的调节器、建构人工智能的道德“护城河”、筑牢人工智能的“法律网”,是有效应对人工智能意识形态风险、彰显技术优势的应然举措,也是确保人工智能技术健康发展的必然选择。     

算法的意识形态风险：属性、机理与出路

算法并非意识形态无涉的价值真空地带,技术与价值的相互耦合促使算法产生出强烈的意识形态属性。在算法所座驾而形成的数字社会中,算法歧视、算法牢笼、算法黑箱导致主流意识形态的认同度、引领力和凝聚力都陷入了新的风险情境,而这些意识形态风险得以生成的内在机理表现为：大数据通过对社会建构的中介性作用诱使人们形成了数据崇拜的意识形态方式,算法权力通过对人们的数字权利的支配而形成了算法统治的监控体系,算法与大数据的深度联合实现了意识形态的智能操控,由此,算法成为意识形态风险滋生的数字温床。然而,算法的意识形态风险不应导致对算法的“卢德主义”拒斥,算法仍是赋能意识形态建设的重要利器。基于此,必须强化主流意识形态对算法的价值引领、矫正算法的技术漏洞,从而推动算法成为社会主义意识形态建设的强大助力。     

ChatGPT介入思想政治教育的技术线路、安全风险及防范

ChatGPT基于跨模态深度学习模型获取了参与思政教育对话的能力，从而在现实中直接实现思政主客体与人工智能的交流。具体而言，依托特征关联技术精确识别思政教育问题和答案的对应机理后，ChatGPT通过反馈强化学习机制，在与思政主客体互动交流中，聚合语料知识，转化数据意义，生产文本内容，修正并输出答案，实现对思政教育的技术介入。然而ChatGPT介入后所生产出的思政教育话语却导致了主客体关系失衡、主体间性的推测性价值解构和主体情感功能消解等问题。ChatGPT的技术瑕疵以不能准确分辨信源真伪和不能充分理解语言内涵为甚，两大瑕疵对输入输出内容的影响可能会强化思政教育客体对主流意识形态的错误认知，并破坏客体已经成型的符合主流意识形态的认知结构。由于对ChatGPT的不当利用会导致意识形态渗透和错误思潮传播等安全风险，因此思政教育主体应积极解析ChatGPT的底层算法技术，研究其生产思政话语的规律和特点，建构正向的思政传播与接受机制，使思政主客体由被动适应技术介入转向主动识别智控技术，从而实现守正创新、立德树人的教育使命。     

ChatGPT的政治社会动能、风险及防范

ChatGPT作为一款基于超大规模人工智能模型的人机对话应用程序，其广泛运用将对政治社会带来诸多影响。ChatGPT具备较强的政治社会动能，其对多个社会领域、应用场景的嵌入将使得政治社会面临机遇与风险兼具态势、出现技术的不断演化迭代、迎来更多类人化的替代物、遭遇多维度深层次的变革。同时，ChatGPT也会引发政治社会风险：政治风险方面，ChatGPT使用过程中的数据流动会冲击国家主权独立性，数字技术霸权可能威胁政治安全，意识形态安全可能面临渗透风险；社会风险方面，就业结构、社会传播、伦理道德、人口安全等领域都可能因为ChatGPT而产生新的风险。针对这些潜在风险，应在总体国家安全观的指导下，秉持鼓励发展、保障安全、技术规制、协同监管的原则对其加以防范。具体而言，应坚持发展与安全并重，加快构建ChatGPT发展的安全生态；坚持积极引导与有效治理并进，加快推进ChatGPT协同监管体系；坚持技术规制与立法保护并举，加快净化ChatGPT风险防范环境。     

ChatGPT赋能智慧旅游建设的优势、挑战及技术规制

智慧旅游建设涉及我国文化旅游发展的现代化、信息化与智能化,如今火遍全球的ChatGPT为我国智慧旅游的高质量建设带来了新契机。ChatGPT赋能智慧旅游建设,理应廓清技术植入、风险挑战与现实规范间的逻辑关系。ChatGPT的植入能够增强智慧旅游与游客间的亲密性、提升旅游企业在智慧旅游中的高功效性,以及提高文旅部门在智慧旅游中的智慧管理,但同时亦面临着政府数据安全和决策误导之风险、企业知识产权侵犯与商业机密泄露之风险,以及游客数据权被侵害之风险。通过创立ChatGPT的数据分类分级制、构建优化ChatGPT的相关责任链、加大对ChatGPT的自主开发,以及增强游客数据信息的保护力度等,可对ChatGPT进行相应的技术规制,以此将其在智慧旅游中的应用置于安全可控的范围。     

浅析生成式人工智能意识形态风险样态、生成诱因及其治理逻辑

以ChatGPT为代表的生成式人工智能已经成为意识形态风险生成的重要场域,其具有的基于大数据的人机对话模式、基于自我学习的算法机制和不断改进的算力等特点使其在实际运作中内嵌了强烈的意识形态属性,表征为以技术为手段的意识形态权力转移导致的场域失落风险、以人机协同操纵意识形态偏见导致的话语权旁落风险和以模糊边界运作加大意识形态治理难度引发的治理失效风险。其生成诱因在于资本与技术扩张导致资本逻辑内嵌于意识形态风险之中,去中心化与再中心化的话语权转移带来了人类语言逻辑表达与多元价值博弈,以及对话沉迷与主体危机的内容失真引发的治理范式转化与监管失灵。应立足于阵地治理、数据治理和制度治理使生成式人工智能场域转变为巩固意识形态认同的最大增量。     

算法技术对中国主流意识形态安全的风险挑战及其应对策略

算法技术作为一种技术范式,逐渐僭越其作为科学技术的中立属性,与各类资本主义意识形态或非主流意识形态密切联系在一起。审视算法技术的意识形态属性,需要从词源学与运行法则两个角度来厘清算法技术概念,并从先天因由与现实存因两方面来深入剖析算法技术与意识形态的关联耦合。在算法技术被广泛应用的当今社会,算法推送信息背后的资本逻辑、算法“定制化”服务的舒适陷阱、算法法治的不完善等对中国主流意识形态安全带来一系列风险挑战。基于此,要从优化算法技术逻辑、规制资本运行、提升网络用户精神境界、完善算法法治等方面提出有效应对措施。     

元宇宙意识形态风险的生成诱因、样态呈现及其治理逻辑

作为具有潜在战略意义的新兴领域，元宇宙不仅充满机遇而且暗含风险，必须做出前瞻性的风险研判并谋划如何治理。元宇宙固有的空间拓展、去中心化、虚拟生存、数字沉溺与意识形态的主权性、主导性、凝聚性、认同性形成对立。在资本技术扩张共谋、去中心化群体共创、虚拟化身跨界共存和沉浸体验具身共在等诱因的作用下，生成了新生场域失落、主流话语式微、价值引领失焦与思想传导弱化等意识形态安全风险。为此，需要遵循权衡利弊，趋利避害的辩证思维方法，构建基于夯实阵地建设、凝聚治理合力、整合价值引领和重构认知情境的元宇宙意识形态风险治理框架，使元宇宙这一新的“变量”转化成为巩固意识形态安全、凝聚主流价值共识的最大“增量”。     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来，将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表，它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命，推动人类生活生产方式创新，促进新一轮科技革命和产业变革。与此同时，也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理，在伦理方面，应当坚持以人为本、培育公民的数字素养和建立伦理审查机构，促进应用的合理化；在法律规制上，应通过立法、权力监督、制度保障等手段，促进ChatGPT的应用合法化；在技术上，应将法律规制、相关伦理等价值观念转化为算法，以算法来规制算法。     

ChatGPT技术的风险解构、防范措施及其治理范式转型——基于“嵌入—脱嵌”互动视角的分析

ChatGPT掀起的通用化转型趋势意味着技术风险的社会化,这对国家技术治理造成了新冲击,同时也引发了人们对技术与社会关系的思考。任何技术都不是完美的,未雨绸缪地对其潜藏的社会风险进行防范,这是人类主体性的重要表现。从波兰尼思想中提炼出“嵌入—脱嵌”互动的理论框架,为我们分析ChatGPT与社会之间的关系提供了重要视角。ChatGPT运行“脱嵌”可能对社会造成算法逻辑风险、数据安全风险、泛社会化风险等危害。对此,国家应承担庇护社会的职责,通过强化国家监管能力、推动企业积极履责、促成社会多元共治等手段加以防范,使ChatGPT“嵌入”社会并维持在“技术向善”的轨道上。ChatGPT的兴起预示着未来新技术将不断涌现,为应对这一趋势,相适应的国家治理能力亟需提升,应秉持全面性、安全性、开放性、包容性的原则,建构动态性的国家技术治理范式,在技术“脱嵌”与“嵌入”两个动向之间取得平衡。     

ChatGPT 的伦理风险与规制路径

ChatGPT一经问世就引起广泛热仪,它以高拟真度、强互动性和多模态的特质颠覆了人们对于人工智能的既有印象。其作为生成式人工智能的优秀代表正以高调的姿态变革人类生产生活方式、打破人类认知壁垒。但科技的发展具有矛盾性和两面性,越智慧的科技,越易使人滋生恐惧和不安等情绪,提升效率、便民利民的同时,也通常伴随一系列的伦理风险。ChatGPT对工作效率模式带来的重大变化,使其两面矛盾性更为凸显。克服矛盾心理需要厘清ChatGPT引发的人类主体地位受冲击、隐私侵犯与算法歧视、作弊成本降低与学术不端、侵扰意识形态防线等伦理风险。应对这些伦理风险需要坚持人本主义原则、守住技术发展底线、保护隐私群己共律、加强算法设计与监管、坚持科技伦理教育、实现监督与引导并行、补齐生成式AI短板、走独立自主发展之路,从而实现ChatGPT的伦理规制,克服人们因技术的强大智慧而产生的矛盾心理,确保智能技术始终沿着造福人类之路稳步前行。     

ChatGPT嵌入政务服务码应用：价值、困境与应对

ChatGPT嵌入政务服务码应用对于推动国家政务服务一体化、优化公共数据融合和提升政务服务效能带来了诸多机遇。通过对ChatGPT嵌入政务服务码应用的梳理可以发现,其能够提高政务服务的敏捷性、实现政务服务的数智化,以及高质量“人机协作”。但是,囿于ChatGPT与政务服务码本身的技术缺陷,其在带来技术赋能的同时,也引发了一系列应用风险,如ChatGPT生成内容具有“幻觉性”、导致公共机构形成技术依赖性、使得政务服务码难以追责等。基于此,可以通过预训练数据库的类型化、人工智能“辅助性”原则的明确、全生命周期数据监管理念的注入,进而实现ChatGPT嵌入政务服务码的事前、事中与事后的全流程应对,从而完成ChatGPT赋能政务服务码的高质量应用。     

从规训到控制——“算法本体论”时代意识形态建设探微

因凭数据资源赋予的强大权力，大数据算法崛起成为去中心式交互网络中的高效行动元，算法对个体生活交往架构的重塑为“算法本体论”时代的来临赋予了合法性基础，算法在幕后“提线”操控着网络主体价值观念的变迁和网络意识形态话语的构建，成为网络信息传播与意识形态治理的关键变量。传统福柯式的意识形态规训体制逐渐被算法时代开放式的多元主体控制矩阵所取代，主流意识形态的生存处境遭受严重挑战。为实现从算法操纵主体到主体控制算法的反转，从算法失位到算法赋能主流意识形态的复归，应协同加强数据治理，打通数据孤岛、深耕人机合作，推进技术升级、创新叙事形式，生产优质话语、完善制度设计，坚持主体自律以形成治理合力祛除算法之蔽，为走出“算法本体论”时代价值引领的迷宫提供阿里阿德涅之线⁽(1))。     

ChatGPT模型引入我国数字政府建设：功能、风险及其规制

数字政府建设关涉国家治理体系与治理能力现代化，面对ChatGPT模型这一重大技术性突破，切实发挥其在我国数字政府建设之中的作用具有重要意义。在数字政府建设中植入ChatGPT模型，必须厘清技术赋能、技术风险以及技术规制之间的逻辑关联。ChatGPT模型能够推动数字政府的亲民化、高效化和智能化发展，但同时也可能引发国家层面的数据主权安全风险、政府层面的行政公共性解构风险以及个人层面的数据权利侵犯风险。规范ChatGPT模型的技术应用，需要推动ChatGPT数据的分类分级，完善ChatGPT模型的责任链条，明确国家对公民数据权利的保护义务，强化国家对ChatGPT技术的引导与研发。     

ChatGPT法律风险及其规制

ChatGPT的爆火宣介人类打开了强人工智能时代的序幕,其凭借着强大的数字孪生能力、创作能力、编辑能力及类人性推动着人类社会向更敏捷的时代转型。ChatGPT的出现势必会对现有规则提出挑战,可能诱发生成违法或不良信息、算法偏见、数据泄露、借势贩卖租赁账号等诸多法律风险。但ChatGPT可能产生的法律风险与现存的社会风险并无实质差异,仍未脱离个人信息保护、数据安全、服务提供者应当承担的义务等核心议题。因此,对ChatGPT法律风险的规制,仍应根据ChatGPT技术发展的特征,依托阶段性规制理论,注重风险防范,及时对现行的基本法律条款进行解释适用。     

基于新一代人工智能技术(ChatGPT)的数字经济发展研究

ChatGPT作为新一代人工智能技术,将会对经济社会生活带来广泛而深远的影响。通过梳理ChatGPT概念及技术架构,从多维度视角研究新一代人工智能技术如何影响数字经济的发展。研究认为,ChatGPT是具有深度学习能力的人工智能语言模型,在“ChatGPT+数字营销”“ChatGPT+互联网教育”和“ChatGPT+互联网医疗”等应用场景中,ChatGPT驱动了教育、医疗、传媒、电商等领域的数字化转型;ChatGPT能够从驱动技术赋能、促进行业转型、催生新兴产业、提供新应用场景、盘活企业活力、优化业务流程等多方面、多维度,来提升数字经济的行业边界,降低数字经济的成本,提升数字经济的效率,进而有效推动数字经济高质量发展。     

“驾凌”与“驾驭”:算法推荐下的意识形态困局与纾解

算法推荐技术作为大数据体系发展的必然结果，具有解决信息过载、实现资源高效分配的效用，但在资本逻辑主导下也带来了意识形态的风险困局。算法推荐形成了“信息茧房”、延伸了“全景式监狱”、升格着“沉默的螺旋”现象，并加剧了社会的“娱乐泛化”,造成情感诉求优先的“后真相”出场。这在一定程度上使算法技术“驾凌”于人之上，造成受众认知的狭窄性、思想的偏激性，禁锢意识的自主性并消解着社会的整合性，带来主流意识形态引领乏力、认同窄化、主导失权、凝聚力弱化的困局。纾解困局要推进技术建构与意识形态引领的并驾齐驱，通过技术优化、制度规制、多维把关、素养提升四个途径，实现全社会的多方协动，以道驭技“驾驭”算法，以此推动技术发展与人的发展的良性共进。     

算法推荐赋能新时代主流意识形态建设研究

作为一种工具存在的技术,算法推荐在算法设计、数据筛选以及信息推送等过程中潜藏着技术使用者的价值取向和传播观念,因而具有鲜明的意识形态属性。算法推荐的应用给新时代主流意识形态建设带来了双向效应：一方面,算法推荐为主流意识形态传播提供数据支撑、精准信息和实时评价;另一方面,算法推荐存在的“算法黑箱”“信息茧房”以及“受众本位”等不断消解主流意识形态的价值信仰,弱化主流意识形态的认知统合,解构主流意识形态的权威地位。为此,我们必须积极发挥算法推荐的正向效应,有效规避和抑制其负面影响,通过增强技术赋值、完善法治监管、培养意志自律、聚焦民生热点等方式,助推新时代主流意识形态建设。