从算法偏见到算法歧视:算法歧视的责任问题探究

算法的公正问题被视作如今人工智能领域一个核心的伦理问题,通常被表述为"算法偏见"或"算法歧视",但偏见与歧视实际上是两个问题.区分这两个问题可以显示出算法偏见并不具有伦理维度,而算法歧视才是人工智能领域中真正的核心伦理问题.算法偏见是不可避免的,主要来自开发者的偏见、数据的偏见和算法自身的偏见.其中,显性偏见是容易被发现并剔除的,但隐性偏见则不可避免地存在于算法之中.算法歧视的责任主体则主要是人,人们对于算法偏见的盲从导致了算法歧视.自主决策算法所引发的歧视也可以追责到人.因此,算法的开发者和使用者要为算法歧视负责.     

算法歧视的侵权责任治理

算法运用导致的算法歧视正危害着民事主体的合法权益。不同国家（地区）分别从事前预防或事后问责两个维度展开对算法歧视的治理;目前我国在事前主要通过公法进行数据规制与个人赋权,同时在事后采用行政问责来应对算法歧视。在事前预防模式下存在新型权利行使障碍、责任主体不明确等问题,事后问责机制则忽略了民事主体的私法救济路径,存在效率低下等弊端。鉴此,需要明确算法歧视作出方的民事义务,在行政问责机制基础上完善以私法救济为核心的侵权责任法律体系,丰富事后问责体系,与事前规制共同治理算法歧视。在路径上可通过厘清算法歧视归因、公法规制困境以及侵权责任救济的适配性,将公法中对算法歧视治理的理念纳入侵权救济体系,对算法歧视侵权的归责原则、过错认定、免责事由等内容进行丰富与扩展,达到国家干预与调控算法歧视相济的正当性目的与法律效果。     

算法的风险及法律规制探析

算法作为人工智能的核心,以大量数据流为基础,按照被赋予的逻辑运算规则,进行数据处理分析,为日常生活、商业金融和行政自动化辅助乃至于独立决策提供服务。算法自动化决策虽带来了诸多便利,但也催生了“算法黑箱”“算法歧视”“信息茧房”“算法趋同”等新的安全风险。为规制算法、防治算法权力异化,《个人信息保护法》《互联网信息服务算法推荐管理规定》等法律法规相继出台,由此中国建立了多元的算法规制路径：针对算法的控制者和编写者,采用算法评估制度、算法备案制度、算法解释、算法检查制度以及严格的侵权问责进行规制;针对算法的相对人,采用个人数据赋权的方式保护用户权益。     

老年人算法歧视的法治应对

对老年人歧视的社会与制度偏见嵌套入"算法黑箱"中,不仅技术性固化了传统老年人歧视社会建构的场景观念,而且加剧了对老年人群体社会排斥的隐性歧视,与"积极应对人口老龄化"国家战略要求相背离。建立在互联网、大数据、人工智能、量子信息与区块链等数字化信息技术快速迭代发展基础上的算法,不仅将老年人技术性歧视为原子型与比特型两类群体,进而对比特型群体的老年人以微粒化与标签化的方式进行直接或间接隐性歧视,而且利用其时间复杂度与空间复杂度的特点,将现行法律法规中存在的"年龄歧视"等立法不足或缺陷问题给与"合法化"承认并无限放大,实质损害老年人群体的应然权益。通过对老年人叠加算法后遭遇的三种主要歧视类型进行原因解读,明晰社会变迁与科技发展叠加背景下老年人同时遭遇"前喻文化"代际鸿沟与技术迭代数字鸿沟的双重冲击,而进入比特世界场景的老年人仍然面临嵌套偏见与复杂规则的算法塑造的老年人画像的直接排斥或不公平对待间接歧视的自动化决策歧视情形。我国现行立法关于老年人的单一年龄维度界定标准与有关老年人退休、退职的规定,既无视老年人的个体差异性,也脱离了社会发展的实际情况,不符合社会保障法的功能设计与本质要求。因此,应从法治的角度进行顶层设计,对破解老年人算法歧视与积极应对人口老龄化国家战略之间存在的现实矛盾与发展悖论问题予以合理化规制,即用分层理论完善老年人法律制度以纠正法律本质主义年龄歧视下的制度性缺陷,解构数字孪生法律制度嵌套规制老年人歧视的"算法黑箱",赋予老年人算法自决权以积极推动"积极应对人口老龄化"国家战略,从而平衡科技发展与老年人群体权益保护之间的利益关系,确保科技向善和算法造福老年人。     

大学生就业中“经验歧视”的法律规制

当前,大学生就业中的歧视现象比比皆是,而“经验歧视”则更为常见,如很多用人单位在招聘简章中要求需“具有两年以上相关工作经验”,严重影响了大学生的就业,威胁到社会的和谐与稳定。何谓就业歧视？工作经验要求是否构成“就业歧视”？对此要求如何进行法律规制？是本文要探讨的问题。     

民事审判中算法自动化决策的风险规制

随着人工智能技术在司法领域的全面应用,其内嵌的算法风险逐渐进入大众视野。民事案件的特殊性导致算法自动化决策技术在应用过程中存在诸如算法同案识别不精准、基础数据不全面、技术依赖性难以克服等问题。为了确保算法自动化决策技术更好地助力民事审判,应从其潜在风险的生成机制着手,探讨人工智能算法如何影响民事审判。通过优化民事同案认定标准、完善基础数据库建设、限定技术使用限度等方式防范其可能产生的风险,在推动算法自动化决策技术在民事审判领域的深层应用的同时,关注各种司法形式之间的融合,保证算法自动化决策的准确性、透明性和公平性,从而真正实现人工智能司法的数字正义。     

和谐视野下的基因就业歧视及其法律规制

发生在广东佛山的＂基因歧视第一案＂表明,基因歧视已经成为我国就业歧视中的新趋向。基因就业歧视不仅动摇了和谐社会建设的基础,限制了社会发展的活力,而且有悖于社会公平的原则。为了构建社会主义和谐社会,应该加强相关立法,在完善现有的《劳动法》、《就业促进法》等法律法规的同时,制定一部专门的反歧视法,并对就业基因歧视作出规定,畅通救济渠道,用法律来规制基因歧视现象。     

就业中基因歧视的合理规制

伴随着基因技术的迅速发展，就业中的基因歧视越来越备受公众的关注，通过对雇主进行基因歧视的理由、基因技术的现有研究成果、雇员的平等就业权的分析，参考相关国际组织的主张和国外立法的最新实践，提出在中国，当务之急是要确立保护公民的基因信息权利的原则，禁止歧视，又要对法律允许的例外情形予以明确规定。     

国内就业歧视认定标准刍议

随着就业压力的增大,国内就业歧视现象呈现出愈演愈烈的趋势。就业歧视背离了机会平等的基本规则,损害了公正的基本原则,影响或阻碍民主法治社会及和谐社会的构建进程。现针对就业歧视的含义及准确认定就业歧视需把握的问题进行分析,并对其认定标准提出个人的认识。     

论就业歧视的政府管制

就业歧视阻碍价格信号在市场中发挥应有的作用,不利于人力资源合理有序地流动,进而影响社会主义市场经济的发展和完善.城乡隔离、户籍壁垒引起的就业歧视不利于缩小城乡差距,阻碍我国城市化进程.就业歧视违背自然正义与法律正义原则,严重时会危及社会稳定.反对就业歧视,促进公平就业是政府应当承担的重要职责.     

论公平就业机会--美国劳动就业中反歧视法律述评

同世界其他国家一样,美国劳动力市场也存在着歧视的问题,甚至还更为严重。为了避免企业因种族、肤色、宗教信仰、最初国家来源、性别、年龄、残疾等因素而对就业者采取歧视性行为,美国制定了严密的法律并采取了积极的措施。深入研究和积极地借鉴这些法律和措施,无疑会对我国当前培育健康、公正、有序的劳动力市场以及保障社会弱势群体的正当权益有着很大的积极意义。     

基于价格歧视理论的高等教育定价决策

价格歧视理论常用于定义垄断企业或具有某种“市场势力”的产品提供者的定价行为,在我国,高等教育作为一种稀缺社会资源,使得教育服务提供者在高等教育市场中具有“市场势力”。在高等教育发展过程中,高校对其所提供的高等教育服务进行定价时,适当借鉴和运用价格歧视理论,采取差别定价,有助于盘活高等学校的运行机制,促进高等教育资源的合理配置。     

论对妇女就业机会歧视的法律规制

我国当前的对女性就业机会歧视的现象相当严重,表现在招收录用、职业培训、退休年龄、下岗等各方面.为了在法律上对之进行规制,我们应该在严格执行现行法律法规的基础上,进一步完善相关法律法规,尤其是完善<妇女权益保障法>的相关规定;同时要推行生育保险,促进就业.     

司法决策的算法化趋向及其反思

人工智能时代算法渗透到司法领域,在司法裁判中承担证据审查、风险评估、裁量参考等任务,司法决策由此呈现出算法化的发展趋向。司法在与技术的结合中进一步提高了效能,表现为司法效率的提高和司法裁量的统一。然而,算法本身也存在着技术局限性,可能引发代码规则难以保障论辩参与、算法黑箱难以解释裁判合理性、群组正义难以回应权利优先性等深层问题。为助力智慧司法的平稳运行,需要立足技术赋权理念,推进司法领域的算法公开透明,加强智能辅助系统的可解释性。     

怀孕歧视现实亟待专门法律的规制

运用文献法、定量研究与定性研究相结合的研究方法,调查职场怀孕歧视现象后,发现这种现象不仅大量存在,而且出现了规避法律的新"招数"——降低业绩评估等级而暂时不降薪,诱导孕妇辞职.而对于这种怀孕歧视行为的认定与规制以及针对怀孕歧视的推定解雇,当前我国的法律尚存在漏洞,而且其学术研究相对薄弱.因此,针对随着全面两孩政策的实施怀孕歧视愈演愈烈的现实及对反就业歧视法和扩大推定解雇适用范围的需求,很有必要制定专门法规制怀孕歧视行为提供访谈资料、域外良好实践及其理论依据.     

算法决策的认识论不公正及其矫正

对算法决策进行伦理反思是当前学界热点,但已有研究大都忽视了算法决策对人类认知活动造成的伤害,即威胁到人类作为认知者、解释者和证据来源的尊严。弗里克提出的“认识论不公正”概念则为我们捕捉这一伤害实质提供了有力工具。算法决策带来的认识论不公正,具体表现为以下两种形式：一是当人类证词可信度因客观性算法文化和自动化算法偏见等因素而遭遇系统性贬低时,就会出现证词不公正;二是当决策相关者因算法的认知非透明性特征而缺乏对其自身经验的理解,也难以对不利结果提出反驳时,就会出现解释学不公正。对此,可以尝试从构建可抗辩性的算法决策系统、培育决策者认知正义美德,以及回归算法辅助决策的工具性地位等方面着手,矫正算法决策带来的认识论不公正。     

平等权与间接歧视

平等权的效力在消极方面表现为禁止歧视。国际上间接歧视的概念产生于欧共体,一些国家的宪法和国际人权法也确认了间接歧视理论。间接歧视理论在美国是以“差别影响分析”的形式出现的,最高法院拒绝把“差别影响分析”引入对平等保护条款的理解中去,间接歧视理论只是在普通法律案件中得到了有限的适用。