社会治理：人工智能时代算法偏见的问题与规制

随着人工智能、大数据的快速发展,社会已经进入了算法社会。算法已经全面渗透于社会经济、生活及管理的运行。然而算法并非是完全客观、价值中立的技术。算法运行过程中产生的偏见及问题,其本质是社会偏见在人工智能时代的映射,逐渐显现侵害社会公众的人格平等权、隐私权,并对数据安全形成威胁甚至破坏,从而导致对社会危害现象的发生。因此,不应禁锢于算法中的技术乌托邦理念,通过把握算法偏见产生的环节及其存在的法律及事实风险,减少其因不确定性危害风险带来的对社会秩序的冲击,有必要及时建构法律和综合治理的风险防控体系,并将对算法偏见的防控治理纳入常态化社会治理体系中。     

技术置换权力：人工智能时代的国家治理权力结构变化

数据与算法在人工智能时代成为新的权力生产要素,技术置换权力机制得以开启,权力流动更为灵活和频繁,国家治理权力结构将发生多面向变化。超级企业的出现使国家治理权力主体组成从国家单中心结构转变为多中心结构;枢纽部门的出现使国家治理权力部门格局从散点状结构转变为伞面状结构;领头国家的出现使人工智能弱国的国家治理权力空间配置从整块式结构转变为翘板式结构。人工智能时代的国家治理充满变数,权力流动背后的责任匹配与技术霸权问题有待思考,面向未来的国家治理预判值得期待。     

人工智能时代的算法权力：逻辑、风险及规制

人工智能时代已然到来,具备自主学习能力和预测能力的智能算法开始由虚拟空间向现实空间延伸。算法已不仅仅是特定的技术,更是社会权力运行体系中的重要变量。掌握算法的企业和组织利用技术优势,把控社会的信息及资源,引导政府的决策,形成了一种非国家力量的“准公权力”。算法权力是泛在的权力关系,遵循商业逻辑、偏好原则、技术理性和隐性运行四大规则,可以影响甚至代替公权力进行决策。算法权力缺乏监管,过度的资本化和黑箱化消解了政治正义,催生了制度羞辱,并且导致了权利保护的危机。防止算法权力的异化,建立良序的网络空间,需要以政府干预弱化资本依赖,以法律规制限制算法偏好,以算法伦理保障人的价值,以外督内审显化权力运行,从而构建完善的算法治理体系,保障社会的公平正义。     

敏捷治理：人工智能治理新模式

人工智能敏捷治理作为一种新的治理范式,是对以往探索式、回应式、集中式人工智能治理模式的反思、批判与超越。敏捷治理嵌入人工智能治理当中,其在治理价值、治理主体、治理对象、治理方式这四大核心要素上有新的内涵特征。人工智能敏捷治理概念的生成既是第四次工业革命浪潮的推动,又是促进人工智能“向善”、增进人民福祉和走出人工智能治理困境的需要。与此同时,国家方针政策的指引、政府多重资源的投入、多方实践经验的奠基使得人工智能敏捷治理成为可能。为应对时代挑战、迈向人工智能的敏捷治理,我们需应对传统官僚主义思想,树立敏捷治理理念;合理把握治理节奏,确保治理工具使用张弛有度;健全敏捷治理的制度体系,为人工智能敏捷治理保驾护航。     

人工智能赋能国家治理的双向制度建构

伴随着人工智能在国家治理中的应用,产生了人才和技术缺失、算法影子官僚、算法偏见、人机协同困难等问题,迫切需要建构技术向善的制度来促进人工智能在国家治理中的有效应用。激励制度和约束规范并举是技术有效融入治理的客观需要,以激励制度发挥人工智能赋能的正向作用,以约束规范减低或消除人工智能赋能的负面效应。当前,需要建构的激励性制度包括建立和完善人才激励制度,以教育模式变革来培养创新人才;促进和强化产学研合作制度,使创新链、产业链与市场高度连接;重视和加强基础研究支持制度,激励科学家潜心基础研究;建立发展信息收集制度,加强对人工智能发展的预判、协调和协同;建构行业标准体系,减少标准不一带来的浪费行为。需要建构的约束性规范包括加强立法论证,建构法律约束,打击人工智能赋能的侵权行为;强化对违反伦理原则赋能的制约机制,建构伦理约束,树立可信、可责、可知、可用的人工智能伦理原则;建构人工智能赋能的风险防范机制,建立安全测试机制、政治安全审查机制、军事化防范机制、失业预警防范机制、突破国际封锁机制等措施。通过建构激励性制度和约束性规范,有效发挥两者的双向协同作用,以促进人工智能有效赋能国家治理现代化。     

技术竞争与权力流动：人工智能时代国家治理权力的空间配置变化

疆域构成国家治理权力活动和流动的空间边界,任何国家都不会轻易允许其治理权力流出到疆域外。新一轮聚焦于人工智能的全球科技竞争浪潮的兴起会促使“超级国家”出现。“超级国家”可以通过数据与算法输入、技术援助、芯片控制等方式置换人工智能弱国的部分国家治理权力,使得人工智能弱国的国家治理权力空间配置形成一个翘板式结构,即一部分配置在本国疆域内,一部分配置在“超级国家”疆域内;翘板的倾斜方向取决于人工智能弱国对“超级国家”的技术依赖程度或者说人工智能弱国的技术自主自给程度。中国在应对“超级国家”的“智能霸权”方面可以扮演重要角色。     

人工智能时代的社会风险治理创新

人工智能促进了社会风险治理系列创新,正在成为国内外学术界热烈讨论的问题。通过典型案例与理论研究发现,就“技术[CD*2]治理”而言,在人工智能时代,风险治理首先需要解决的是技术问题,只有对技术做出最佳选择,才能促使治理效果最佳化。就“政府[CD*2]社会”而言,人工智能不仅提高了政府治理能力,而且通过复杂的自适应系统、社区参与与社区赋权促进了民间社会成为治理主体。就“挑战[CD*2]前景”而言,人工智能将在许多方面迅速使人类智能落后,最重要的风险治理技术问题将由人工智能负责,出现所谓的“技术奇异性”或“奇异性”现象而具有光明的应用前景。就“不足[CD*2]陷阱”而言,缺乏自我意识的人工智能比人类大脑要危险得多,它可能逃脱人类控制并制造更大的社会风险,在治理社会风险的同时,也可能制造了新的社会风险。尽管如此,人工智能是社会的一部分,不仅具有强烈的社会功能,而且具有快速性、准确性与广泛性其他功能,促进了风险治理的重大变革,治理者应将其上升到战略层面,主动适应其发展变化。     

人工智能时代的国家文化安全风险及其规避

当今时代,人工智能的勃兴特别是生成式人工智能的横空出世深度影响了人类社会的生存境遇和文化生态。在人工智能技术赋能之下,文化辐射范围得以延展,文化资源能够精准匹配,文化传播权力发生转移,文化安全治理效能极大提升,构建了国家文化安全建设的崭新图景。与此同时,我国文化安全也面临“数字殖民”挑战国家文化主权、“算法黑箱”解构文化价值、“技术魅影”消解文化自信、“智能依赖”制约文化创新等多重风险。因此,必须警惕数字陷阱,增强技术规制,推进科技自立自强,审慎对待智能变革,切实维护好国家文化安全。     

人工智能的社会安全风险及其治理路径

数字时代人工智能技术的飞速发展正在改造和重塑社会各个行业和领域,为人类的未来带来更大的不确定性。相较于其他现代技术,基于数字底座的人工智能表现出更强的迭代性、通用性、颠覆性和重塑性等特性,因此对经济社会产生更为广泛和深刻的影响。根据技术的实践性理论和风险社会理论,人工智能社会安全风险可以概括为源于技术本身的本体性风险、源于技术利用主体的主体性风险,以及在规模化应用中对社会群体产生影响的客体性风险。这种类型划分不仅印证了该技术社会影响的全面性,也揭示了风险生成的内在机理。为了构建负责任、有预见性的技术风险治理体系,应坚持以人为中心的发展思路、营造人文良善的技术生态、构建包容审慎的监管体系、形成多元共治的社会格局,以整体性的敏捷治理体系实现对技术风险的长效治理。     

论人工智能赋能国家治理：涵义、结构与机理

发展社会主义政治文明,必然创造人类政治文明新形态。智能科技的革命性进步必将助力中国创造智能政治文明新形态,这种助力作用的逻辑机理可以从人工智能赋能国家治理的授受过程予以解释。所谓人工智能赋能国家治理,就是人类通过人工智能的赋能而构建智能、高效和向善的国家治理体系并提升国家治理能力与效能的活动过程。人工智能对国家治理的这种赋能,在种类结构上表现为多样性赋能,在现实实践上表现为多维度、多种类的复合赋能,在愿景结果上表现为形成新型的智能治理体系。实际上,要通过人工智能对国家治理赋能而型构出新型的智能治理体系,需要依靠一套复杂的作用机理,即人机授受赋能机理。在这个授受赋能的愿景过程中,新型的智能治理体系得以产生,人的主体价值得以提升,智能政治文明得以形成。在当今的数智时代,中国要创造政治文明的新形态,就要大力发展数智科技,增强中国新型政党制度的数智化支撑,建设数智政府,推进数智治理,发展数智政治文明,从而,渐进地创造智能政治文明新形态。     

国家治理中ChatGPT技术应用的效能与风险应对

ChatGPT技术是一把双刃剑,既有嵌入国家治理的诸多可能性,也存在一定的治理风险。一方面,ChatGPT技术因其具有强大的语言交互能力、高效的信息驱动能力和精确的运算能力,可增强国家治理的亲民性,提高国家治理的效能性,推动国家治理的智慧性;另一方面,ChatGPT技术在数据安全、舆论传播、技术监管等方面存在一定风险。为了发挥ChatGPT技术对国家治理的赋能效用并有效规避风险,应推动ChatGPT数据的分类分级、完善ChatGPT模型的责任链条、加强对ChatGPT技术的引导与研发,进一步强化自主科技研究,克服技术难题,抢占市场高地,为国家治理提供安全、可持续的技术支撑和创新机制。     

论类ChatGPT通用人工智能治理——基于算法安全审查视角

类ChatGPT具有潜意识形态性,其引入和嵌入应用易招致非传统国家安全威胁。类ChatGPT通用人工智能算法受资本与西方价值观的浸润,冲击国家意识形态安全和情报安全,易诱发意识形态安全风险,并为网络情报的获取和传输提供诸多便利条件;杜撰假舆论,致使社会谣言泛滥,或将挑战社会公共安全;收集存储处理用户数据,严重威胁国家数据安全;阻碍发展中国家崛起的步伐,使产业跨国转移变得缺乏现实意义并重新定义社会人力资源成本上限,或将挟制他国经济发展安全。我国算法审查制度面临专门审查主体缺失、审查范围不明和审查法律规范体系化水平严重滞后等现实问题。应当以总体国家安全观为指引,明确中央科技委员会领导的、国务院数据安全局负责执行的算法安全专门审查主体机制,统筹算法审查宏观设计;充分发挥平台经营者和使用者的协同共治效能,夯实算法审查的社会基础;将算法文化监控、算法可解释性和算法可控性纳入算法审查范围,合理评估算法对国家和社会的冲击,明确算法安全内容;制定“算法安全法”以破解政策敏锐立法滞后的困局,回应算法安全制度的现实需求和总体国家安全的需要,提升国家在科技领域的监管能力,积极应对西方国家算法霸权,加速推进类ChatGPT通用人工智能本土化应用及国产化替代进程。     

面向技术发展的人工智能弹性治理框架研究

人工智能技术的大规模应用一方面促进了相关领域的发展,另一方面也加速显现出了其所带来的风险.如何扬长避短,让人类在充分安全的条件下享用人工智能带来的重大利好,已经成为人工智能治理体系建设中的突出问题和重要任务.人工智能并非成熟技术,且在不同发展阶段呈现出了不同的技术特点和社会特征.人工智能治理体系建设相关研究应采用发展的思路,治理框架的设计要秉承弹性动态的理念,并与技术同步生长.本文着重对人工智能治理焦点的变化进行了分析,并对人工智能弹性治理框架的效用及可行性进行了详细阐述,以期为健全人工智能治理体系提供理论参考.