移动互联网·大数据·智能化:人工智能时代权力的规训路径

人工智能时代,移动互联网、大数据和智能技术的突破性发展塑造了新的权力结构,也改变着权力的具体形态。首先,无处不在的移动互联网催生了一种全新的网络权力。在形式上,网络权力是一种人人自由驰骋网络的自主权利;但实质上,网络权力却是一种无孔不入的强制力,一种人们沉迷其中无法自拔的内在影响力。其次,无所不包的大数据催生了一种全新的数据权力,这种数据权力通过追踪、监控个体在社会生活中的轨迹,进而在注意力规训和思维方式规训中实现对整个社会的规制和重塑。此外,无所不能的智能技术催生了一种全新的算法权力,这种算法权力既可能使我们面临知识精英与资本寡头共谋所带来的新的人类专制,也预示着未来机器奴役人的潜在风险。很显然,人工智能时代的权力结构与权力形式都发生了根本的改变,网络权力、数据权力、算法权力,正是人工智能时代权力规训的三种新路径。而这必然会反映在社会治理、国家治理的实践和理论当中,进而对以权力研究为中心的传统政治学带来颠覆性的影响。     

数字治理视域下健康数据利用权益制度构建

健康数据虽涉及个人敏感隐私信息,但由于具有公共性和社会性,在数字化时代开放共享成为必然趋势。以往单一权利保护模式已无法应对挑战,通过构建新型治理模式协调多方主体的多元利益,才能促进健康数据的流通开放。健康数据开放利用中存在产权配置权利不对称、健康数据来源者隐私利益保护不足、企业健康数据商业利用场景合法性问题、政府多重角色导致治理边界模糊等治理困境。因此,应重塑健康数据利用权益配置的公共价值,确立“个人、企业、政府”权益合理配置的健康数据整体性治理模式,构建责任与权益相一致的治理责任结构,形成对主体权益的软法与硬法协同保护,最大限度实现公共利益且最小限度利用个人隐私。只有确立明晰的产权制度,充分保护个人隐私,并建立公平的利益分配机制,健康数据开放共享才能得以实现。     

大数据侦查的风险防控与"意识"匡正

在大数据侦查中,现有以数据为中心的侦查理念,极易产生数据独裁、算法偏见和技治主义的错误倾向,造成对侦查理念的背离.对大数据侦查风险进行规制的实质在于对技术风险的防控,规制的对象为算法与侦查理念,在具体的路径选择上应当采取理念匡正与程序规范的双重路径.在侦查理念方面,应当秉承侦查公开和权利保障的正义理念,谨防"大数据极权"的错误逻辑,以数据背后正确的价值理念作为侦查思维确立的指导.程序规范方面,在对算法进行规制的同时主张在当下国家大数据和商业大数据二元信息收集主体的框架下,进一步引入"侦监"这一信息监控主体,形成"蝎型"信息监控与预测性犯罪防控模式.通过对大数据侦查监控模式的正当程序控制以匡正侦查理念,确保大数据侦查在正确的理念指导下进行.     

大数据医疗的应用风险与法律规制研究

基于大数据技术的智能医疗技术的发展,对现有医事法律制度体系产生了重要的影响。大数据医疗技术通过知识图谱、融合推理模型以及医疗事故预警体系的构建,形成了现代智能医疗体系。大数据医疗面临个人隐私泄露风险、算法的逐利性运行、规则体系的不完整性等法律现实挑战。为回应挑战,必须进行法律规制改革,以安全作为法律规制的终极目标,以道德价值作为软性规制的实践基础,以工具主义进行大数据医疗的再定位,最终推进大数据医疗的法治化进程。     

数据隐私保护反垄断规制必要性研究

数字经济背景下,数据隐私保护成为质量竞争的重要维度,事关消费者切身利益,因而为现代反垄断法的多元立法目的所涵盖.构筑在"知情—同意"规则基础上的数据隐私保护机制在数字经济垄断市场结构下面临有效性危机且救济迟滞,而反垄断规制数据隐私保护具有监管效率上的差异性优势.数据隐私保护反垄断规制虽实属必要,却也面临理论与分析工具革新的难题、法律适用冲突以及价值平衡困境.数字经济时代的反垄断法亟须以平台、数据、算法三元融合分析为基础进行重构,利用"共票"平衡数据隐私保护与利用流动背后的利益关系.在监管科技理念引导下,政府需要以大数据、区块链技术赋能竞争规制机构,构建敏捷型反垄断智慧动态监管.     

网络游戏消费者数据产权的权利属性

网络游戏消费者的游戏数据已经成为网络游戏领域市场主体之间竞争的核心要素,但现有法律体系缺乏对网络游戏消费者数据产权的有效保护。究其原因,乃是网络游戏消费者数据产权的权利属性尚未在理论与实践层面得以厘清与确认。文章认为,网络游戏消费者数据产权属于权利体系下的一种新型实体性权利。该实体性权利具有是法律未明确的权利、是对特殊群体具有价值的权利、是一种派生性权利等特征,以及具有主体的专有性、客体的明确指向性、内容的权利性等构成要素。确认网络游戏消费者数据产权的权利属性是宏观法律价值在社会微观领域的具体体现,在社会层面凸显了以人为中心的价值追求,在法律层面扩展了规则之治下的法律权利内容,有助于权利的自由之治与法律的规则之治的平衡。     

欧美社会治理中算法应用的伦理风险与规制路径研究

聚焦社会治理领域的算法应用伦理问题，以欧美社会治理中的智能算法应用为例，通过案例分析和归纳演绎相结合的方法，阐释智能算法嵌入社会治理面临的应用伦理风险，即算法“黑箱”与社会信任危机、算法歧视与社会不平等、隐私泄露与社会监视。基于此，从技术、伦理准则与法律、媒体三个层面提出欧美社会治理算法应用伦理的规制路径：一是优化算法技术，提升算法准确性和安全性；二是完善算法伦理准则和法律，构建智能算法善治体系；三是加强算法伦理的媒体监督，构建多元主体协商共治路径。本研究能够为我国人工智能伦理治理提供重要的启示与借鉴作用。     

人工智能时代的算法权力：逻辑、风险及规制

人工智能时代已然到来,具备自主学习能力和预测能力的智能算法开始由虚拟空间向现实空间延伸。算法已不仅仅是特定的技术,更是社会权力运行体系中的重要变量。掌握算法的企业和组织利用技术优势,把控社会的信息及资源,引导政府的决策,形成了一种非国家力量的“准公权力”。算法权力是泛在的权力关系,遵循商业逻辑、偏好原则、技术理性和隐性运行四大规则,可以影响甚至代替公权力进行决策。算法权力缺乏监管,过度的资本化和黑箱化消解了政治正义,催生了制度羞辱,并且导致了权利保护的危机。防止算法权力的异化,建立良序的网络空间,需要以政府干预弱化资本依赖,以法律规制限制算法偏好,以算法伦理保障人的价值,以外督内审显化权力运行,从而构建完善的算法治理体系,保障社会的公平正义。     

跨境数据流动国内规则体系的困境与完善

跨境数据流动对国际贸易活动具有积极意义,却因牵涉国家安全利益而面临规制的需要。梳理跨境数据流动国际规则的发展历程,发现数据流动自由与国家安全保护之间的竞争始终存在,两者之间冲突的平衡与一国有关数据保护的国内规则密切相关,如何促进数据跨境流动的同时不减损国家安全利益,成为国内规则体系构建与完善的重要关切。具体到我国,RCEP的签署和CPTPP的申请进程,对我国数据保护规则提出了与国际规则相衔接、相适应的要求;现行具体规则规制的不足与网络空间主权理论引发的冲突,使数据保护陷入规制不足与规制过度的双重困境。我国跨境数据流动规则体系应被进一步完善,例如以专业机构认证代替行政控制、类别化处理跨境数据,以及在互信互认基础上构建国家统一担保体系。     

论西方近代法治原则与市民社会变革

西方近代法治的确立,从根本上是西方近代市民社会要素生长发育获得了与国家并立发展的结晶。通过市民社会的变革,确立了法律的至上地位,权力和权利都服从于共同的规则而纳入法律规制框架之中,树立了以理性自律精神和主体自由追求为内核的公民意识,为法治进程提供着不可或缺的重要内在驱动力。     

算法行政的风险场景及其法律规制——基于算法法权关系架构的分析

算法行政具有客观、高效优势,但同时伴随着技术内生的不确定性风险、法律层面权力行使与权利保障的挑战,以及价值层面技术理性吞噬价值理性等桎梏,亟需法律破解。规制对象是法律制度构建之前提,将“算法法权”作为算法行政风险的法律规制对象具有合理性和可行性,通过“权力—权利”的法权结构,可实现算法行政中“私权利、公权力、私权力”的整体性规制。质言之,算法行政风险的法律规制需要以“算法法权”的科学配置为核心,建构法律、伦理、技术与自我规制一体化的规制体系。     

大数据时代的数据主体权利及其未决问题——以欧盟《一般数据保护条例》为分析对象

大数据技术将世界万物迅速地数据化,人类个体也由此获得了一个新的身份——数据主体。大数据技术为数据主体创造了更多的福祉、自由和价值,也带来了个体权利的风险。为了回应这一问题,欧盟的《一般数据保护条例》主张数据主体拥有知情权、访问权、更正权、删除权(被遗忘权)、反对权、限制处理权和数据可携带权等数据权利。数据权利的法律化致力于尊重和保护数据主体的隐私、自主、尊严和利益,但是该条例仍然无法妥善解决数据权利与信息自由的内在冲突、永久性删除与技术性隔离的两难、原生数据的保护和衍生数据的无为以及算法歧视的阴影与公正权利的诉求等问题。对欧盟GDPR所主张的数据主体权利及其未决问题的分析期待能为中国数据治理模式的探究提供学理基础。     

用户隐私担忧视角下短视频平台的算法治理检视——以抖音为例

“隐私担忧”指涉了与隐私泄露和隐私侵害相关联的一系列特殊的信息意识和感知状态，个体遭遇隐私侵害时会唤醒或提升自身的隐私忧虑，并会影响个体信息披露和隐私保护行为，这也符合信息自决的权利意涵。5G、人工智能、VR等技术的广泛应用，使短视频的内容生产与使用体验更为垂直化与沉浸化，也进一步模糊了传播活动的边界，短视频平台去中心化的内容分发机制也加剧了隐私泄露的风险。算法对大量数据的高速处理能力，能有效提升隐私治理的精确性与效能，严格的算法规则更显示出人机共审、自审与他审协同治理的优势。本研究聚焦如何通过算法治理来有效解决短视频使用中潜在的隐私担忧问题，通过对抖音短视频平台用户进行深度访谈，分析用户隐私担忧的影响因素，以此探索打破算法黑箱、优化算法规制，提升短视频平台用户隐私保护水平的治理路径。本研究认为，治理隐私泄露问题的关键必须回归算法本身，实施元规制治理，从而优化人机公审机制，以此构建算法治理与法治相协调的“三步走”模式——通过事前预防机制、事中多方监督与事后救济规制来推进算法治理法治化。     

平台滥用算法权力的法律规制

平台基于算法技术优势、数据与用户交互基础和资本优势对算法相对人生成具有控制性的新型社会权力,造就平台算法权力。随着算法权力的不断扩张,平台利用算法实施数据滥用、恶意封禁、算法歧视、侵蚀公共权力等现象频发,侵害包括消费者在内的相对人、平台内经营者合法权益与社会公共利益。针对此,在进行法律规制时应将算法承载着的平台的“代理者”角色作为认知基础,重点围绕作为算法权力滥用主体的平台以及平台的滥用行为来进行。具体而言,应赋予个人以新型权利的方式来对抗和制约算法权力,构建平台“守门人”约束制度以强化对“守门人”的权力监督,加强对平台的反垄断监管与执法。     

数字人权的法理基础及其保护路径

数字人权是以数字和信息为载体,展现人的数字化生存样态和发展需求的基本权利。数字化时代的到来标志着中国社会全面步入数字人权时代,对数字化人权的尊重和保障成为时代的必须。然而当前,对于数字人权地位的确立尚缺乏理论证成。本文以人权法律观的重塑、数字化社会关系变革等思想和社会基础作为其地位确立的法理基础予以论证。同时,数字人权还面临着算法歧视、信息壁垒、数据隐私等问题的威胁和挑战。为应对数字人权面临的现实挑战,通过采取场景化的算法规制路径、推进政府数据有序开放共享、强化个人信息安全保障义务等路径加强对数字人权的保护是全面实现数字人权的必然要求。     

论我国超大型互联网平台算法的法律规制

超大型互联网平台算法以商业化利益为最终追求目标,对其法律规制就显得尤为重要。构建用户画像、差异化定价、精准推送和提供个性化服务是超大型互联网平台对算法的主要运用场景和目的。目前法律对算法的规制存在以下不足：规则分散且相互冲突;对算法本身规制不足;未能有效规制算法的设计者和所有者。通过数据保护、算法本身及算法相关责任人层面对欧盟和美国的算法法律规制的剖析,提出我国超大型互联网平台算法的法律规制路径：坚持数据治理为基础、三元主体协同理念以及算法公平、公正和透明原则;构建算法治理内在法律协调机制和完善相应法律规则。     

个人金融数据跨境流动规制研究

随着数字科技与金融服务的深度融合,个人金融数据跨境流动已成为不可逆趋势。域外数据立法试图以规制的方式寻求个人金融数据跨境自由流动同个人金融数据保护两者之间的平衡。我国个人金融数据经历了从绝对本地化要求到有条件跨境流动的过程。个人金融数据跨境流动规制面临多重困境：个人金融数据跨境流动规范不清晰和不统一;个人金融数据跨境流动安全审查未引入针对金融行业的考量因素;个人金融数据跨境流动国际规则制定中难以形成我国影响力。在未来完善个人金融数据跨境流动规制的进程中,“进”应树立动态的个人金融数据价值观,细化个人金融数据跨境流动具体规制措施,为个人金融数据跨境流动的不同场景构建区别化的规制模式;“退”则通过识别个人金融数据跨境流动过程中的不同法益,在现行法律体系框架下积极寻求和探索综合且多元的个人金融数据保护路径。     

算法规制的私法进路

算法的黑箱状态掩藏并固化了原有不平等的社会权力结构,产生了诸如算法歧视等失控问题。算法规制的私法进路在于明确算法控制者与数据主体的权利义务关系,以保障个人免受算法的规训。私法规制的前提是,算法应当被认定为工具,背后的控制者（开发者）应对算法失控的后果承担责任。算法决策离不开数据,算法失控问题的根源在于算法控制者收集的数据存在问题。个人作为数据主体对个人信息（数据）享有人格权,算法控制者提供服务以获得使用权,两者之间的法律关系应解释为信托关系,在信义义务的框架下算法控制者负有勤勉、忠实和信息披露义务。明确算法控制者的义务后,更应在私法权利谱系中寻找规制算法的工具,包括数据主体的个人信息权确立与隐私权夯实两条进路。     

平台共治视角下个人信用保护的范式转换

党的二十大报告提出建立市场经济中的信用基础制度,加强个人信息保护的目标。平台企业参与的信用治理是中国式现代化指引下的治理创新,始终在国家顶层设计中占据重要地位。随着平台企业成为信用治理的关键枢纽,个人信用保护面临信息处理边界不清和信用制度利益失衡的困境。必须仔细探寻个人信用保护困境背后的理论根源,防止信用共享共治异化为信用管制。现行信用法律制度在权利归属、程序设计、责任机制方面均存在空白,导致个人信用仅构成一种反射利益。传统权力制约范式难以回应数字时代的个人信用保护需求,新型信息权利是解决困境的根本,数据流通规则有助于解决权利成本过高问题。应当围绕个人在信息处理活动中的权利体系,完善数据流通规则,重建个人信用保护的法律框架。首先,必须明确界定信息的敏感程度及其信用评判价值功能,并对信用领域的信息处理行为适用层次化同意规则:针对有利于信息主体的正面敏感个人信息采取单独同意与资格准入规则,适用责任规则;针对不利于信息主体的负面敏感个人信息一般采取禁易规则,基于公共利益目的除外。其次,信用领域数据流通的商业实践要求转向行为风险规制模式,实施以合同为中心的支配规则,适当运用特别规则强化个人信用保护力度。其中,平台与经济组织之间的数据流通应当在同意规则以外,增设标准合同文本、平台责任强化、证明责任分配规则三类倾斜性保护措施。平台与行政部门之间的数据流通应当确立以主体责任和救济机制为关键内容的流通秩序。     

隐匿的力量:新闻生产与分发中的数据权力

在人们充分享受着“数据盛世”的红利和繁荣之时,一种新的权力形态——数据权力——正应运而生,这股隐匿的力量正悄无声息地变革着社会信息生产的过程,也在改变着社会关系的结构,渗透入社会生活的方方面面。从权力属性来看,数据权力首先是一种知识生产的象征性权力,亦即指一种来自数据本身的权力;其次,数据权力还是一种控制优势作用下的资源权力,它由平台掌控并发生效力;再次,数据权力还是一种由“算法—数据”耦合而成的技术权力,由技术精英掌控并发生作用。由这三种权力形式叠加而成的数据权力有其独特的运行逻辑,不但重构了新闻生产与分发的过程,也改变了新闻生产与分发的传统轨迹与传统习惯,在重新塑造新闻业的格局、重新发现新闻业的价值的同时,给新闻业带来了新的挑战与困境。任何权力都必须得到合理合法的控制,数据权力也不例外,必须通过“权力-责任”和“权力-权利”的二元规制路径对其加以合理限制。