ChatGPT的意识形态风险:样态、肇因及防范

ChatGPT以其强大的内容生成能力在赋能各行各业的同时也潜藏着意识形态渗透风险、主流意识形态权威淡化风险、主流思想传导弱化风险、操纵网络舆论风险、意识形态排斥风险等各类意识形态风险。通过对ChatGPT意识形态风险的肇因分析,发现算法霸权扩张、算法强化偏见与不确定性、资本对技术统摄、文化软实力较量、协同监管滞后等因素共同导致了ChatGPT意识形态风险“在场”的必然性。因此,要坚持整体观来防范ChatGPT的意识形态风险,坚持引导算法权力,优化算法技术,矫治资本逻辑,提升文化软实力,完善法律法规,使这一新的“变量”成为赋能中国式现代化建设、维护意识形态安全的最大“增量”。     

ChatGPT等生成式人工智能的意识形态风险及其应对

意识形态风险防范是事关民族复兴、国家主权、文化建设的核心范畴。在当今人工智能技术蓬勃发展的数字时代，以ChatGPT为代表的生成式人工智能技术内嵌渗透到社会生活领域之中，伴随着交互深度与辐射范围的不断扩展，裹挟了众多具有新特点的意识形态风险。清晰明辨ChatGPT等生成式人工智能产生意识形态风险的内在机理是防范生成式人工智能意识形态风险的前提。ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透；依靠交互对话的产品形态对意识形态的话语方式产生影响；利用多维应用的功能属性对社会生活实践领域展开强势介入，促使当下意识形态斗争态势风云诡谲，变化万千。理性审视和精准识别ChatGPT等生成式人工智能所诱发的意识形态风险是防范生成式人工智能意识形态风险的关键。从意识形态引领角度出发，ChatGPT等生成式人工智能的运行机制深蕴的资本逻辑解构社会成员已形成的认知和价值，借由"技术-资本"双重优势导致意识形态面临引领乏力风险；从意识形态话语维度审视，ChatGPT等生成式人工智能带来的"人机协同"话语生产新模式削弱主流意识形态话语深度，多元的生成式话语输送淡化话语权威，导致意识形态话语减蚀风险；从意识形态管理层面反思，ChatGPT等生成式人工智能引发的信息传播新范式消解意识形态管理的主导权，及其对人的强化宰制，导致意识形态管理弱化风险。ChatGPT等生成式人工智能在掌握先进技术基础上诱发了一系列辐射广泛、渗透全面、不易掌控的意识形态风险。如何防范与化解ChatGPT等生成式人工智能所带来的意识形态风险，成为当前我国意识形态建设无法回避的新课题。首先，贯彻落实人民至上的价值理念，以马克思主义理论指导意识形态防范工作，推进打造人机和谐、风清气正的网络空间；其次，打造富有中国特色的话语途径，在讲好中国故事的话语基础上破解西方话语的现代困境；最后，积极倡导全球治理并贡献中国方案，以共商共建共享的发展原则，依托人类命运共同体构建负责任的人工智能格局，促使ChatGPT等生成式人工智能在现代文明面前彰显光明的未来前景。     

新一代人工智能(ChatGPT)的主要特征、社会风险及其治理路径

美国OpenAI公司开发的新一代人工智能语言模型ChatGPT标志着通用人工智能时代的到来,将对人类社会发展产生巨大影响。作为AIGC(人工智能生成内容)技术的典型代表,它具有拟人化、强交互性、全感官3个主要特征。ChatGPT的出现可能会掀起AI的技术革命,推动人类生活生产方式创新,促进新一轮科技革命和产业变革。与此同时,也会引发数据隐私泄露、社会失业、行业垄断、算法偏见等社会风险。对ChatGPT的社会风险治理,在伦理方面,应当坚持以人为本、培育公民的数字素养和建立伦理审查机构,促进应用的合理化;在法律规制上,应通过立法、权力监督、制度保障等手段,促进ChatGPT的应用合法化;在技术上,应将法律规制、相关伦理等价值观念转化为算法,以算法来规制算法。     

ChatGPT介入思想政治教育的技术线路、安全风险及防范

ChatGPT基于跨模态深度学习模型获取了参与思政教育对话的能力,从而在现实中直接实现思政主客体与人工智能的交流。具体而言,依托特征关联技术精确识别思政教育问题和答案的对应机理后,ChatGPT通过反馈强化学习机制,在与思政主客体互动交流中,聚合语料知识,转化数据意义,生产文本内容,修正并输出答案,实现对思政教育的技术介入。然而ChatGPT介入后所生产出的思政教育话语却导致了主客体关系失衡、主体间性的推测性价值解构和主体情感功能消解等问题。ChatGPT的技术瑕疵以不能准确分辨信源真伪和不能充分理解语言内涵为甚,两大瑕疵对输入输出内容的影响可能会强化思政教育客体对主流意识形态的错误认知,并破坏客体已经成型的符合主流意识形态的认知结构。由于对ChatGPT的不当利用会导致意识形态渗透和错误思潮传播等安全风险,因此思政教育主体应积极解析ChatGPT的底层算法技术,研究其生产思政话语的规律和特点,建构正向的思政传播与接受机制,使思政主客体由被动适应技术介入转向主动识别智控技术,从而实现守正创新、立德树人的教育使命。     

ChatGPT法律风险及其规制

ChatGPT的爆火宣介人类打开了强人工智能时代的序幕,其凭借着强大的数字孪生能力、创作能力、编辑能力及类人性推动着人类社会向更敏捷的时代转型。ChatGPT的出现势必会对现有规则提出挑战,可能诱发生成违法或不良信息、算法偏见、数据泄露、借势贩卖租赁账号等诸多法律风险。但ChatGPT可能产生的法律风险与现存的社会风险并无实质差异,仍未脱离个人信息保护、数据安全、服务提供者应当承担的义务等核心议题。因此,对ChatGPT法律风险的规制,仍应根据ChatGPT技术发展的特征,依托阶段性规制理论,注重风险防范,及时对现行的基本法律条款进行解释适用。     

ChatGPT与人工智能时代：突破、风险与治理

本文介绍了自然语言处理技术的人工智能应用程序ChatGPT在AIGC(人工智能生成内容)领域的突破性进展,以及这种进步的重要意义。通过回溯历次工业革命对社会的影响,提出以下观点：人工智能发展将带来新的工业革命,人工智能社会已经成为趋势;人类的历史就是不断突破自身局限的历史,人工智能正带来一次新的工业革命,前两次工业革命人类扩展了肢体的机能,从第三次工业革命开始扩展的是大脑和神经系统的机能,进入对自身局限挑战的最高阶段,人工智能将推动大脑和其他身体机能整合式扩展,形成智能社会。还分析了ChatGPT可能带来的就业问题和社会分化与不平等,分析了人工智能技术的风险,如隐私和数据安全、算法黑箱可能带来的偏见和歧视、人工智能依赖等问题。最后,介绍了国外研究者关于人工智能社会治理的思想,提出社会治理的基本思路。     

ChatGPT的意识形态风险审视

ChatGPT是人工智能发展划时代的标志,然而ChatGPT并不是其标榜的持中立客观的立场,而是存在明显的政治倾向和政治偏见,具有很强的意识形态属性。ChatGPT的强大功能使其具有一种隐形的意识形态功能,ChatGPT的西式资本所有权属性决定了其本质上是资本主义维持自身体系以及资本增殖的工具,ChatGPT的技术构成蕴含了其天然的政治倾向和政治偏见。ChatGPT的意识形态风险在现实性上表现为技术瑕疵风险、智能依赖风险、资本僭越风险、信息茧房风险、数据泄露风险、伦理风险和监管风险。防范ChatGPT的意识形态风险要从推动ChatGPT更好地服务于人,增强意识形态工作者对ChatGPT意识形态风险的认知和应对能力,健全和完善意识形态风险防范的制度化水平以及巩固和壮大主流意识形态的传播阵地等措施出发,做好ChatGPT意识形态风险的防范工作。     

生成型人工智能的刑事风险与防治策略——以ChatGPT为例

生成型人工智能在通过程序生成具有创造性的新内容方面实现了新的突破,同时蕴含诸多的刑事风险。生成型人工智能的刑事风险包括不当获取数据信息的刑事风险、生成违法犯罪信息的刑事风险、使用者不当利用生成内容的刑事风险。规制生成型人工智能的刑事风险时,刑法应有所为有所不为,始终保持内在的谦抑,坚守不阻碍科技发展的底线。为此,应采用分级治理策略：通过生成型人工智能研发企业刑事合规计划,探索生成型人工智能所涉违法犯罪的预防性治理模式;加强科技监管手段在行政监管手段中的运用比重,通过有效的行政规制手段降低生成型人工智能刑事风险现实化的可能性;当刑事合规计划与行政监管手段失灵时,才可考虑采用轻重程度适当的刑法规制手段。实施分级治理策略,有利于督促生成型人工智能研发企业从源头上降低风险,并充分发挥行政监管与行政前置法“过滤”犯罪的作用,实现遏制技术风险和促进科技发展的双重目的。     

生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略

由OpenAI研发的生成式人工智能聊天机器人ChatGPT一经问世便引起剧烈轰动和广泛热议。ChatGPT是以深度学习和人类反馈强化学习等技术为基础，经过针对海量数据的预训练，能够根据用户指令，生成内容丰富、风格类人的自然语言文本的大型生成式人工智能语言模型。同其他人工智能聊天机器人相较，ChatGPT特征鲜明：一是能够保障人机的连续性对话；二是能够在无法理解指令时主动向用户发出追问；三是能够以“人化”而非机器化的话语体系进行自然语言表意；四是能够“记住”用户生产的内容。ChatGPT作为生成式人工智能的杰作，或将利用强大的自然语言处理能力成为撬动第四次工业革命的一根杠杆，可能引发人类社会的深层次变革。包括：有望通过开辟信息智能化处理的场域，推动产业转型升级、提高劳动者生产力、改进生产工具、优化生产决策以变革生产方式；有助于研究现状梳理、研究思路组织、研究数据处理、研究成果完善以变革科研范式；为教育主体赋能、为教育客体赋权、为教育过程赋魂以变革教育形式；重构劳动生活、消费生活、精神生活以变革生活方式等。科技发展具有两面性，ChatGPT也会给我们带来系列风险隐患，或将滋生知识产权侵犯、...     

ChatGPT 的伦理风险与规制路径

ChatGPT一经问世就引起广泛热仪,它以高拟真度、强互动性和多模态的特质颠覆了人们对于人工智能的既有印象。其作为生成式人工智能的优秀代表正以高调的姿态变革人类生产生活方式、打破人类认知壁垒。但科技的发展具有矛盾性和两面性,越智慧的科技,越易使人滋生恐惧和不安等情绪,提升效率、便民利民的同时,也通常伴随一系列的伦理风险。ChatGPT对工作效率模式带来的重大变化,使其两面矛盾性更为凸显。克服矛盾心理需要厘清ChatGPT引发的人类主体地位受冲击、隐私侵犯与算法歧视、作弊成本降低与学术不端、侵扰意识形态防线等伦理风险。应对这些伦理风险需要坚持人本主义原则、守住技术发展底线、保护隐私群己共律、加强算法设计与监管、坚持科技伦理教育、实现监督与引导并行、补齐生成式AI短板、走独立自主发展之路,从而实现ChatGPT的伦理规制,克服人们因技术的强大智慧而产生的矛盾心理,确保智能技术始终沿着造福人类之路稳步前行。     

转型期的社会风险及防范机制

通过对 "风险共生"这一转型期社会风险特征及主要风险因素的分析,指出处于转型期的中国社会,防范社会风险具有重要的现实意义,并在对典型社会风险理论进行阐述的基础上,提出有关社会风险防范的若干机制,对构建社会主义和谐社会具有社会价值.     

总体国家安全观视域下重大风险防控的挑战与应对

防范政治、意识形态、经济等七个领域的重大风险,是落实总体国家安全观的必然要求,也是国家安全领域的一项重要工作。我国处于社会转型时期,面临国内国际的复杂形势,在重大风险防控方面存在着诸多挑战,如重大风险不仅面广点多、具有综合性、突发性等特点,而且在信息共享、联动协调、应急管理等方面也存在着短板。为此,我们应当发挥国家治理体系和治理能力的优势,通过加强并完善“早期识别—精准研判—及时预警”机制、“源头—过程—应急”的全周期管理机制、整体治理下的分工协作机制等三大机制,有效地防控重大风险,进而更好地保障国家安全。     

跨国公司在东道国的政治风险及其防范

东道国政治环境的不连续性,或与其他国家政治关系发生难以预料的变化,对跨国公司经营的利益产生潜在的、可能的重大影响。跨国公司防范此类政治风险,要着重做好对公司利益有影响的政治事件的预测和评估,从而制定有效的防范策略。     

ChatGPT介入思想道德教育的应用价值、潜在伦理风险与治理进路

ChatGPT的横空出世为思想道德教育的改革和创新提供了新契机。一方面,ChatGPT以基于人类反馈的强化学习机制等核心技术手段为思想道德教育提供了主体、客体、介体、环体等不同维度的应用价值,即主体维度具有实现教育者教育教学工作高效化的价值,客体维度具有为教育对象提供个性化学习体验的价值,介体维度具有实现思想道德教育内容高质量和教学方式智能化的价值,环体维度具有实现思想道德教育环境优化升级的价值等。另一方面,ChatGPT的介入也使思想道德教育面临着大德混淆、公德失守、私德有缺等道德问题和伦理风险。其问题治理和风险防范需要坚持以德为先,明大德、守公德、严私德;坚持以人为本,明确育人为本、技术为用的原则立场;坚持以法为界,建立体系化的思想道德保障机制,从而确保生成式人工智能与思想道德教育深度融合、向善而行。     

BOT融资项目政治风险的法律防范

BOT是20世纪80年代以后在国际上兴起的一种新的投资合作方式,其对政治风险的防范具有独有的特色。本文简略介绍了BOT项目及其优点,探讨BOT项目中政治风险的识别与管理,最后对BOT项目中政治风险的防范提出建议。     

国家治理中ChatGPT技术应用的效能与风险应对

ChatGPT技术是一把双刃剑,既有嵌入国家治理的诸多可能性,也存在一定的治理风险。一方面,ChatGPT技术因其具有强大的语言交互能力、高效的信息驱动能力和精确的运算能力,可增强国家治理的亲民性,提高国家治理的效能性,推动国家治理的智慧性;另一方面,ChatGPT技术在数据安全、舆论传播、技术监管等方面存在一定风险。为了发挥ChatGPT技术对国家治理的赋能效用并有效规避风险,应推动ChatGPT数据的分类分级、完善ChatGPT模型的责任链条、加强对ChatGPT技术的引导与研发,进一步强化自主科技研究,克服技术难题,抢占市场高地,为国家治理提供安全、可持续的技术支撑和创新机制。     

中国共产党防范政治风险的百年历程、基本经验与未来展望

防范政治风险是党的政治建设的重要任务。中国共产党历来高度重视防范化解政治风险,始终将抵御政治风险、维护政治安全置于领导革命、建设和改革事业的突出位置,为党的发展壮大提供了坚实保障。百年来,中国共产党在防范政治风险历程中积累了丰富经验,包括始终以坚持党的全面领导为根本保证,以坚持马克思主义理论指导为思想基础,以坚守底线思维为原则遵循,以密切联系群众为力量源泉,以加强党的自身建设为关键举措。展望未来,必须通过加强党的自身建设,扩大参与主体,坚持标本兼治,强化科技赋能,发挥制度优势,推动党防范化解政治风险的能力全面提升。     

风险社会背景下大学生风险防范意识教育探析

随着经济社会的发展,当今人类社会已进入到风险社会阶段,风险社会的到来对大学生的价值观念、思维方式和行为方式等带来了深刻的影响。大学生的成长过程不是一帆风顺的,而是面临着诸多风险的严峻考验,他们能否有效地防范和化解风险,直接影响着他们的成长和发展。在风险社会背景下,必须加强大学生的风险防范意识教育,这是我国高校亟待解决的...     

风险社会视阈下语言冲突的风险与防范

风险社会是当下社会特征的重要概括,各个领域的语言冲突集中呈现高发态势,多种风险丛生,风险形式各异,危害严重。客观认识不同领域语言冲突的各种风险,积极加强语言利益均衡分配,加强语言文明教育,加强传媒素质建设是风险社会视阈下的应有态度和做法。