检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

算法歧视的侵权责任治理

兰州大学学报（社会科学版） 2023年第2期51卷 89-99页

作者：袁文全重庆大学法学院重庆400030

算法运用导致的算法歧视正危害着民事主体的合法权益。不同国家(地区)分别从事前预防或事后问责两个维度展开对算法歧视的治理;目前我国在事前主要通过公法进行数据规制与个人赋权,同时在事后采用行政问责来应对算法歧视。在事前预防模... 详细信息

算法运用导致的算法歧视正危害着民事主体的合法权益。不同国家(地区)分别从事前预防或事后问责两个维度展开对算法歧视的治理;目前我国在事前主要通过公法进行数据规制与个人赋权,同时在事后采用行政问责来应对算法歧视。在事前预防模式下存在新型权利行使障碍、责任主体不明确等问题,事后问责机制则忽略了民事主体的私法救济路径,存在效率低下等弊端。鉴此,需要明确算法歧视作出方的民事义务,在行政问责机制基础上完善以私法救济为核心的侵权责任法律体系,丰富事后问责体系,与事前规制共同治理算法歧视。在路径上可通过厘清算法歧视归因、公法规制困境以及侵权责任救济的适配性,将公法中对算法歧视治理的理念纳入侵权救济体系,对算法歧视侵权的归责原则、过错认定、免责事由等内容进行丰富与扩展,达到国家干预与调控算法歧视相济的正当性目的与法律效果。

关键词：人工智能算法歧视侵权责任法律救济

在线全文

学校读者我要写书评

暂无评论

算法歧视的发生逻辑与法律规制

理论探索 2022年第3期 122-128页

作者：石颖西北政法大学法治学院西安710063 中共陕西省委党校(陕西行政学院)法学与社会治理教研部西安710061

算法歧视是新兴技术风险的典型代表,主要是由于算法内部演算和数据分析所导致的对特定群体或个人的不公正对待。算法歧视是一种不合理的区别对待,是智能机器自动化决策的产物,以“隐蔽性”和“不可逆性”为表征。相较于一般歧视来说,算... 详细信息

算法歧视是新兴技术风险的典型代表,主要是由于算法内部演算和数据分析所导致的对特定群体或个人的不公正对待。算法歧视是一种不合理的区别对待,是智能机器自动化决策的产物,以“隐蔽性”和“不可逆性”为表征。相较于一般歧视来说,算法歧视所带来的是一种更深层次的歧视和不平等,并引发了伦理问题。算法歧视是人类社会歧视在算法领域的转化,体现为归纳式的算法思维逻辑、算法黑箱与非中立性等算法技术设计所导致的算法歧视,更体现为算法运行中的决策性歧视,即由于“冗余编码”和“信息茧房”等数据动态交互所产生的算法歧视,以及因数据评估的导向性而引发的算法歧视。对此,应通过伦理审计与公平性约束、数据信息的区别保护与算法解释,以及建立算法的监管制度来实现对算法歧视的法律规制,同时还要在特定重大领域慎用算法决策系统,以此来塑造算法时代的法律秩序,确保数字社会中人类的安全和发展。

关键词：算法歧视数据信息算法黑箱冗余编码算法解释

在线全文

学校读者我要写书评

暂无评论

算法歧视的表现、成因与治理策略

人民论坛 2022年第2期 64-68页

作者：刘朝湖南大学工商管理学院

随着大数据和人工智能的兴起,机器学习等算法在工业生产和商业活动中被逐步推广和应用,但在此过程中产生的算法歧视问题也愈发普遍,并引起了广泛关注和思考。本文对算法歧视的众多表现及成因进行探讨,并据此提出算法歧视问题的治理策略。

关键词：算法歧视大数据“杀熟” 治理策略

在线全文

学校读者我要写书评

暂无评论

算法歧视的认定标准

武汉大学学报（哲学社会科学版） 2022年第6期75卷 154-165页

作者：宁园武汉大学法学院湖北武汉430072

学界有关算法歧视规制的研究,欠缺算法歧视的认定这一逻辑前提,导致反算法歧视的规制范围过宽,算法应用与算法正义之间的矛盾被过分夸大,有必要明确算法歧视的认定规则。算法歧视以横向权力关系的存在为必要前提,不存在横向权力关系则... 详细信息

学界有关算法歧视规制的研究,欠缺算法歧视的认定这一逻辑前提,导致反算法歧视的规制范围过宽,算法应用与算法正义之间的矛盾被过分夸大,有必要明确算法歧视的认定规则。算法歧视以横向权力关系的存在为必要前提,不存在横向权力关系则算法歧视不成立。当算法控制者以用户固有的、难以改变的特性对其进行分类,并单方决定适用于用户的算法规则,用户只能被动接受决策结果而无退出算法系统之自由时,横向权力关系形成。在算法歧视的具体认定上,算法歧视以区分决策为行为要件,以用户遭受差别不利对待为结果要件。算法控制者若能证明差别对待具有合理性,则不构成算法歧视。搜索算法、人机对话算法对社会歧视的单纯呈现,以及社会经济发展、算法应用普及不平衡导致的算法红利分配失衡,均因欠缺区分决策要件,不构成算法歧视;“大数据杀熟”、评分算法所造成的差别对待并非必然构成歧视,须进行个案分析。

关键词：算法控制算法歧视横向权力区分决策差别不利后果 “大数据杀熟” 评分算法

在线全文

学校读者我要写书评

暂无评论

算法歧视的缘起、挑战与法律应对

甘肃政法大学学报 2022年第3期 58-68页

作者：石颖西北政法大学中共陕西省委党校(陕西行政学院)

算法歧视作为新型歧视类型,会产生比一般意义上的歧视更为严重的后果,扰乱了市场经济秩序,危害了社会公平正义,侵害了公民平等权利。算法歧视带来了技术建构上的结构性挑战、算法运行上的功能性挑战、平等权消解、算法权力扩张以及法律... 详细信息

算法歧视作为新型歧视类型,会产生比一般意义上的歧视更为严重的后果,扰乱了市场经济秩序,危害了社会公平正义,侵害了公民平等权利。算法歧视带来了技术建构上的结构性挑战、算法运行上的功能性挑战、平等权消解、算法权力扩张以及法律功能异化等的隐藏性挑战。对此,一方面要强化算法歧视的内生型治理,构造技术良序,即通过形塑数据正义,应对技术建构上的结构性挑战;建立算法的内部审查和监管体系,应对算法运行上的功能性挑战。另一方面,还要加强算法歧视的外部性治理,构造法律良序,即以安全法治观为基本价值取向,通过保障数字人权,实现实质平等,应对平等权消解的挑战;处理好公权力与算法权力的关系,应对算法权力扩张的挑战;重塑法律功能,健全法律问责机制,以应对法律功能异化等的算法歧视的隐藏性挑战。强化法律与技术的融合发展,形成由科技理性和法律理性共同支撑的良序社会。

关键词：算法歧视大数据数据正义算法权力良序社会

在线全文

学校读者我要写书评

暂无评论

算法歧视的法律规制

算法歧视的法律规制

作者：周俏形华东政法大学

学位级别：硕士

算法决策已逐步应用于社会各方面,如就业、医疗及金融领域。算法在发挥积极作用的同时也可能带来歧视风险,如果算法歧视无法得到有效规制,未来我们可能由于性别在简历筛选时被应聘算法淘汰,也可能因为肤色被保险公司判断为不安全用户而... 详细信息

算法决策已逐步应用于社会各方面,如就业、医疗及金融领域。算法在发挥积极作用的同时也可能带来歧视风险,如果算法歧视无法得到有效规制,未来我们可能由于性别在简历筛选时被应聘算法淘汰,也可能因为肤色被保险公司判断为不安全用户而拒绝提供服务。然而,在面对这种隐蔽的风险时,公众缺少警惕和防范,又难以发觉自身受到了差别对待,这使得算法的歧视风险愈加显著。当前我国尚未形成系统的算法歧视规制体系,通过对司法审查规制路径、个人赋权规制路径和公私合作规制路径的横向比较,为我国构建算法歧视规制体系提供思路很有必要。在大西洋两岸,存在两种不同的算法歧视规制路径,一是以美国为代表的司法审查路径,二是以欧盟为代表的个人赋权路径,这两种反歧视保护方式是当下最为典型的。美国司法审查路径下的“差别性影响理论”可以对算法暗含的间接歧视加以规制,但该路径下原告将承担较为困难的证明责任、较高昂的诉讼成本和较大的败诉风险,诉讼程序的开启和差别性影响的认定都存在一定障碍,再加上法律介入时点的滞后和规制手段的机械,以司法审查为进路的规制方式无法有效甄别并规避风险。欧盟个人赋权路径则创设了自动化决策约束权和事后的算法解释权,但这两项权利会对技术发展产生抑制作用,且这两者都是赋予个人的权利,以个人的力量对抗算法系统不切实际。基于此,这两项新兴权利很可能被搁置,规制效果难以达到预期。元规制引领的公私合作路径是更为稳妥的规制手段,与我国现阶段市场基础和人工智能发展规划相适应,在我国有落地的可能。公私合作路径的规制体系可由规范制定和监督反馈两个层次组成。在规范制定方面,以“政府收集信息、私人部门依赖政府引导”的形式构成程序性规范,以“自律性规范和法律后设保障规范”形成实体性规范。在监督反馈方面,依赖分级信息反馈及纠正机制和群体监督机制。同时,作为一种事前预防手段,其对算法歧视的规制具有明显的优势。该路径以歧视风险的甄别为切入点,引入公私合作形式,将法律规制置于私人规制之后,既能实现规制的有效性,又能保护商业秘密,且软法的应用可有效协调各方利益,实现算法歧视规制的适度化。

关键词：算法歧视司法审查个人赋权公私合作

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法歧视的伦理反思及其规避对策

算法歧视的伦理反思及其规避对策

作者：耿永青中国政法大学

学位级别：硕士

伴随着人工智能产业深入发展,数字经济发展带动社会进步的作用越发明显。作为人工智能发展的支柱,算法的功能开发越来越强大,涉及领域越来越广,算法决策开始更多地支配甚至是控制人类主体的日常生活。算法技术的发展不只是改变了生产力... 详细信息

伴随着人工智能产业深入发展,数字经济发展带动社会进步的作用越发明显。作为人工智能发展的支柱,算法的功能开发越来越强大,涉及领域越来越广,算法决策开始更多地支配甚至是控制人类主体的日常生活。算法技术的发展不只是改变了生产力,改变了人作用于自然和社会的生产方式,更是改变了人与人之间的关系。但是算法从来也都不具有完全客观中立的属性,算法构成的世界本质上是对人类社会的反映和折射。在算法歧视问题的出现过程中,算法扮演的角色只是作为出现和传播歧视因素的载体,是因为人类社会中歧视因素一直存在,这种歧视在不经意间可能就被嵌入到算法系统,才导致了算法歧视结果的产生和歧视因素及其造成的危害的进一步扩散。算法歧视以其隐蔽性、选择导向性、不可逆性以及巨大的破坏性等作为突出表现出现在大众视野,不仅影响了互联网世界、互联网中的虚拟主体,现实社会及现实的人也在其支配下被标签化、被割裂、隔离、被边缘化。其产生的危害不仅可能会造成个人价值的歧视和偏见、对个人权利的漠视和侵犯,而且信息数据的混乱、社会舆论方向跑偏,造成扭曲的认知造成的社会隔阂更是对人类社会文化的片面化发展、对人类群体多样性的否定,更是对未来发展的束缚。其中有代表性的伦理问题突出表现在算法不公、算法身份歧视、网络信用体系崩盘、数据隐私泄露、信息茧房这五个方面。以马克思技术异化理论与人机关系理论为指导,追寻巨大商业利益的资本驱动、人类对算法技术认识的有限性、算法黑箱、社会分工的固定化构成了算法歧视伦理问题的多重根源。遵循人的主体地位原则,可以通过提升用户的数据意识和个人信息保护意识来提高用户的算法素养,严格把控算法行业发展的伦理方向、建立数据使用规范来加强算法从业人员的职业伦理建设、完善算法治理的法律法规、加强政府和行业协会的监管,以及建立完善的双向评价体系及其相应的奖惩制度来推进算法治理的法治化进程,构建多方协同的算法治理机制,引导算法歧视治理体系化科学化。本文对算法歧视的规避研究不仅在理论层面有助于对研究算法歧视新视角的开发,为算法歧视问题研究注入新理念新思想,丰富技术伦理的内容,为数字经济的发展提供更有力的理论支撑,同时,又适应现实需要,符合大数据时代发展的潮流和期待,切实解决算法歧视带来的伦理危害,保障人工智能赋能人类的实现,在人与技术之间搭建规制桥梁,让技术的发展更有人情味更健康更科学,最终助力提高民众生活的获得感与幸福感。

关键词：算法算法歧视算法素养算法治理

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法歧视的民事责任形态

华东政法大学学报 2021年第5期24卷 55-68页

作者：潘芳芳中国政法大学人权研究院丹麦哥本哈根大学

算法决策在社会交往中的应用日趋普遍化,产生了算法歧视这一一般性问题。根据算法歧视发生的不同场域,可以将算法歧视区分为无缔约情形下的算法歧视和缔约过程中及合同履行过程中的算法歧视。在无缔约情形下,算法歧视本质上是对民事主... 详细信息

算法决策在社会交往中的应用日趋普遍化,产生了算法歧视这一一般性问题。根据算法歧视发生的不同场域,可以将算法歧视区分为无缔约情形下的算法歧视和缔约过程中及合同履行过程中的算法歧视。在无缔约情形下,算法歧视本质上是对民事主体信用权、平等就业权等人格权的侵害。利用算法决策的行为人如使用敏感数据,则应当推定其存在侵权故意。在其他情形下,由于行为人负有对算法程序的影响评估和合规审计义务以及一定的算法解释和说明义务,违反义务本身即可认定其有过错。在缔约磋商和合同履行过程中,上述保护义务可归入前合同义务及附随义务的范畴,且行为人还负有信息安全保护和正当程序保障义务。上述责任形态发生竞合时,应赋予受算法决策影响的一方选择权。

关键词：算法歧视违约责任侵权责任保护义务通知义务

算法歧视消费者:行为机制、损益界定与协同规制

在线全文

学校读者我要写书评

暂无评论

上海财经大学学报（哲学社会科学版） 2021年第2期23卷 17-33页

作者：李丹西南大学法学院重庆400715

算法技术在实现数据价值的同时也存在歧视消费者的阴暗面。算法技术在信息采集、特定推送和个性定价三个阶段,以信息输入、数据整理、算法决策与幕后控制等运行环节为切入点,对消费者实施多阶段多环节的"显性歧视"或"隐性歧视"。算法歧... 详细信息

算法技术在实现数据价值的同时也存在歧视消费者的阴暗面。算法技术在信息采集、特定推送和个性定价三个阶段,以信息输入、数据整理、算法决策与幕后控制等运行环节为切入点,对消费者实施多阶段多环节的"显性歧视"或"隐性歧视"。算法歧视消费者使算法技术偏离工具理性,损害消费者权益,破坏市场竞争秩序。文章指出,要查明具体场景中算法歧视消费者的权益冲突与规制困境,揉合消除差别待遇的"个体公平"价值和差别性影响的"结果正义"价值,实现算法参与主体权益平衡是规制算法歧视消费者的核心要义。同时,要脱离单维度规制路径,鼓励规制的多方参与:从消费者维度赋予消费者选择退出权,激励其挑战算法决策;从企业维度设置算法顾问,进行数据透明化处理和算法解释,破除算法黑箱;从行业协会维度进行算法审查,预防算法歧视;从执法维度实施算法监管,严惩算法歧视。

关键词：算法歧视隐性歧视消费者竞争规制