检索结果-南通市图书馆

人工智能犯罪风险评估“算法歧视”现象及其规制路径

在线全文

学校读者我要写书评

暂无评论

江淮论坛 2022年第2期 119-127页

作者：马皑宋业臻中国政法大学社会学院北京100088 青岛认知人工智能研究院山东青岛266000

随着人工智能技术的不断发展,犯罪风险评估工具逐渐开始了智能化的演进。域外司法实践中使用的智能化犯罪风险评估工具并没有解决“算法歧视”的问题。“算法歧视”的成因是复杂的、多层次的。结合传统算法规制的分析框架,从问题建构维... 详细信息

随着人工智能技术的不断发展,犯罪风险评估工具逐渐开始了智能化的演进。域外司法实践中使用的智能化犯罪风险评估工具并没有解决“算法歧视”的问题。“算法歧视”的成因是复杂的、多层次的。结合传统算法规制的分析框架,从问题建构维度和模型设计维度,能够对人工智能犯罪风险评估“算法歧视”的成因进行深入分析,并据此对算法规制的算法公开、个人数据赋权、研发过程规制与审核,进行特定场景下的路径探索,为走出人工智能犯罪风险评估所面临的“算法歧视”困境提供理论支撑。

关键词：犯罪风险评估算法歧视人工智能算法规制

智能教育场景下的算法歧视:潜在风险、成因剖析与治理策略

在线全文

学校读者我要写书评

暂无评论

中国电化教育 2022年第12期 93-100页

作者：倪琴刘志郝煜佳贺樑上海师范大学人工智能教育研究院上海200234 华东师范大学上海智能教育研究院上海200062 华东师范大学计算机科学与技术学院上海200062

随着人工智能在教育场景中应用的不断深化,智能教育以其个性化、定制化等独有优势改变了当下的教育格局,但智能教育也面临着算法歧视的潜在风险,如教育结果的单一化、加剧教育不公平、学习结果两极分化、人机交互加深偏见等。同时,在智... 详细信息

随着人工智能在教育场景中应用的不断深化,智能教育以其个性化、定制化等独有优势改变了当下的教育格局,但智能教育也面临着算法歧视的潜在风险,如教育结果的单一化、加剧教育不公平、学习结果两极分化、人机交互加深偏见等。同时,在智能教育系统的开发与应用过程中,设计团队存在思维定势、机器学习的偏差、交互式决策的危机等问题使算法歧视的成因更为多样化。而解决对智能教育系统中存在的算法歧视问题,需从促进多主体共同参与,构建多元评价标准,以及通过技术赋能等三方面落实治理策略。具体到技术治理,可根据时间维度划分为三阶段治理,即在事前加强数据歧视检测,在事中建立可解释、可审查的算法优化机制,在事后坚持学生在教育教学活动中的主体性。

关键词：智能教育算法歧视教育公平风险治理

在线全文

学校读者我要写书评

暂无评论

电子商务领域中算法歧视的法律规制研究

电子商务领域中算法歧视的法律规制研究

作者：沈香珺青岛科技大学

学位级别：硕士

近年来数字经济的蓬勃发展,推动着人工智能算法在电子商务领域中的深度应用,在此过程中,电子商务经营者利用算法进行消费歧视的现象频频出现。严重损害了消费者的合法权益,并进一步扰乱了电子商务领域的市场竞争秩序。目前我国针对电子... 详细信息

近年来数字经济的蓬勃发展,推动着人工智能算法在电子商务领域中的深度应用,在此过程中,电子商务经营者利用算法进行消费歧视的现象频频出现。严重损害了消费者的合法权益,并进一步扰乱了电子商务领域的市场竞争秩序。目前我国针对电子商务领域中算法歧视的法律规制研究还不足,消费者权益保护还存在漏洞,市场竞争秩序还存在不稳定因素。因此本文主要通过文献分析法和比较研究法对电子商务领域中算法歧视的法律规制进行研究。具体而言主要从以下五个部分进行论述:第一部分是绪论部分,主要对本文的研究背景、研究目的及意义等进行介绍,从宏观上对电子商务领域中算法歧视的法律规制问题进行研究。第二部分对电子商务领域中算法歧视的表现形式及其危害进行具体分析,首先对电子商务领域中算法歧视的概念进行界定;其次重点介绍了算法歧视在电子商务领域中的具体表现;最后论述了电子商务领域中算法歧视带来的危害。论文的第三部分,围绕电子商务领域中算法歧视带来的危害,总结了我国现阶段法律规制的困境。第四部分,选取美国和欧盟为代表,详细论述了国外的法律规制现状以及对我国的启示。论文的第五部分,针对第三部分的研究困境,借鉴第四部分的国外经验,提出了几点电子商务领域中算法歧视的法律规制的完善建议。通过这五部分的论述,以期进一步完善消费者权益保护制度并维持良好的市场竞争秩序,从而推动电子商务市场的健康发展。

关键词：电子商务法律规制算法歧视算法消费者权益

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法歧视下我国消费者权益保护问题研究

算法歧视下我国消费者权益保护问题研究

作者：黄成新疆财经大学

学位级别：硕士

经营者对消费者实施算法信用歧视、经营者对消费者实施算法性别歧视、经营者对消费者实施算法价格歧视,是当前我国经营者利用算法技术对消费者实施算法歧视侵害消费者权益行为的主要表现形式,而被侵害的消费者权益类型主要包括,消费者... 详细信息

经营者对消费者实施算法信用歧视、经营者对消费者实施算法性别歧视、经营者对消费者实施算法价格歧视,是当前我国经营者利用算法技术对消费者实施算法歧视侵害消费者权益行为的主要表现形式,而被侵害的消费者权益类型主要包括,消费者知情权、消费者公平交易权、消费者个人信息安全。面对经营者利用算法技术对消费者实施算法歧视的现状,我国现行的消费者权益保护法律体系却不能为消费者提供有效保护。具体表现在:第一,在立法保护上,消费者知情权内涵过于狭窄并且严重依赖经营者告知义务,不利于算法歧视下消费者知情权保护;消费者公平交易权的侵权责任承担模式存在不足,不利于算法歧视下消费者公平交易权保护;个人信息安全保护相关立法分散并且缺乏统一的个人信息范围划定,不利于算法歧视下消费者个人信息安全保护。第二,在司法保护上,消费者面临诉讼成本问题、举证困难问题,不利于算法歧视下消费者权益保护。第三,在行政执法保护上,行政主管机关存在多头管理问题,联合执法、专项治理缺乏长效机制,现有的市场监督管理抽查制度不能有效为消费者提供事前保护。算法歧视侵害消费者权益问题是一个全球性问题,算法歧视下美国正在试图构建以算法问责为核心的消费者权益保护模式,欧盟已经形成了以消费者个人数据保护为中心的消费者权益保护模式,算法歧视下借鉴美国和欧盟消费者权益保护实践经验结合我国国情。首先,在消费者权益立法保护层面,应该将信息有效性纳入消费者知情权内涵之中,解决消费者知情权内涵狭窄问题,应该细化消费者求知权,通过提升消费者个人能力,克服消费者过度依赖经营者告知义务的弊端,保护消费者知情权;应该将消费者纳入到交易相对人概念之内,运用反垄断法强大的震慑力克服现行消费者公平交易权侵权责任承担模式的不足,保护消费者公平交易权;应该加快个人信息安全保护立法,在立法完成之前先统一个人信息范围,用以指导司法和行政执法实践工作。其次,在消费者权益司法保护层面,应该完善消费者公益诉讼费用制度,使消费者公益诉讼发挥其应有功能降低消费者维权成本;通过经营者和消费者之间的举证责任倒置解决消费者举证难问题。最后,在消费者权益行政执法保护层面,应该基于权力和职责清单建立部门协作长效机制,克服行政主管部门多头管理的弊端;应该创新市场监督管理制度,将算法风险审查纳入市场监督管理部门市场抽查制度之中,对消费者个人信息重点保护,建立包含市场监督管理部门、企业、第三方个人信息保护监测机构在内的立体个人信息安全保护网。

关键词：算法算法歧视消费者权益保护

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法歧视的法律规制

安徽警官职业学院学报 2022年第3期21卷 34-38页

作者：许亚飞天津商业大学法学院天津300134

算法是人工智能的核心,随着算法应用场景的扩大,算法歧视问题日益突出。通过梳理算法歧视的概念和表现形式,分析算法歧视的类型,将法律规制的重点落在深度学习的算法歧视上面,以算法公平为基本原则,从数据和算法两个角度对算法歧视进行... 详细信息

算法是人工智能的核心,随着算法应用场景的扩大,算法歧视问题日益突出。通过梳理算法歧视的概念和表现形式,分析算法歧视的类型,将法律规制的重点落在深度学习的算法歧视上面,以算法公平为基本原则,从数据和算法两个角度对算法歧视进行规制,并建立算法问责制度以应对算法歧视的危害结果,从而减少算法歧视的产生。

关键词：算法歧视算法公平评估制度算法问责

在线全文

学校读者我要写书评

暂无评论

算法歧视及其规制研究

实事求是 2022年第4期 47-54页

作者：郑煌杰上海政法学院法律学院上海201701

随着大数据技术与人工智能的广泛运用,使得算法正逐渐渗透于人们的日常生活之中。算法不总是客观中立的,它可能会以算法歧视的方式损害公众基本权利与特定个体权益,同时破坏市场公平竞争秩序,进而引发相关主体权利的失衡。这些社会危机... 详细信息

随着大数据技术与人工智能的广泛运用,使得算法正逐渐渗透于人们的日常生活之中。算法不总是客观中立的,它可能会以算法歧视的方式损害公众基本权利与特定个体权益,同时破坏市场公平竞争秩序,进而引发相关主体权利的失衡。这些社会危机发生的根源在于算法的效率与效益价值取向导致触发算法歧视现象、算法运行基础数据误差导致算法输出歧视性结果以及算法黑箱导致算法透明度缺失。鉴于此,可以确立算法公正理念、明晰算法规制环节、建立算法权利平衡模式作为算法歧视的规制路径,以实现平等社会的数字化转型。

关键词：算法歧视算法黑箱社会危机规制路径

在线全文

学校读者我要写书评

暂无评论

算法歧视的法律规制

算法歧视的法律规制

作者：赵铮华中师范大学

学位级别：硕士

随着信息技术的飞速发展,人类社会正逐步迈入人工智能时代,以机器学习类算法为代表的自动化决策系统已广泛应用于各个行业领域,由此产生的算法歧视问题亦成为学界关注的重点。大数据时代里,海量的数据为企业和政府机构高速运行提供了丰... 详细信息

随着信息技术的飞速发展,人类社会正逐步迈入人工智能时代,以机器学习类算法为代表的自动化决策系统已广泛应用于各个行业领域,由此产生的算法歧视问题亦成为学界关注的重点。大数据时代里,海量的数据为企业和政府机构高速运行提供了丰富的资源动力,但也伴随着因算法歧视而可能引发的社会危机。本文从算法歧视的概念出发,通过阐述算法法律规制的理论基础与国内外现有算法规制的经验和不足,试图探索适应我国国情的算法治理模式。全文共分为四个部分。第一部分对算法歧视做出了系统的法理解构。由于学界并未对算法歧视的含义进行统一界定,可通过拆解这一复合词语,将其理解为算法自动化决策系统产生的歧视性情境,并可进一步按照歧视意图是否存在和歧视外在表现形式这两种方式对其做出分类。算法歧视的成因可以归纳为三种:一是数据集的局限性,二是人为因素的作用,三是算法黑箱的产物。通过分析算法歧视的产生来源,不难发现各类算法歧视具有四项共同特征,即高度隐蔽性、结果放大性、单体差异性和不可溯源性。第二部分从必要性与可行性两方面探讨了治理算法歧视的法理基础。随着算法技术的迅猛发展和算法应用的日渐普及,算法在给人们生产生活带来便利的同时也引发了一系列现实问题。算法歧视本质上是社会既有歧视在计算机领域的延伸,因而算法的广泛应用会在一定程度上使已有歧视观念在各行业领域内得到固化。当自动化决策系统被引入司法审判工作时,所带来的歧视结果不仅会侵犯公民个人的合法权利,也会使国家法律权威受到挑战。另一方面,科技法的迭代发展表明法律对于技术的应用具有不可或缺的规制作用。对于算法法律规制而言,不仅计算法学的理论体系能够为治理算法歧视提供可靠依托,个人数据权利的不断完善也增加了从源头上遏制算法歧视的可能性。第三部分对国内外治理算法歧视的现状进行了分析。美国选择以算法责任为中心的进路,采取多领域、多层次的分散立法方式,强调企业在数据安全方面所应承担的责任。而欧盟选择的是以数据保护为中心的统一立法模式,由《通用数据保护条例》对企业在控制、处理个人数据方面的权利和义务进行全面规制。我国虽然对于算法的立法进程起步较晚,但已有多部法律规定了数据保护方面的内容。为进一步攻占全球范围内高新科技的前沿阵地,我国近年来发布了多部关于发展人工智能的战略性文件,从政府层面对算法规制提供了指引。然而在探索算法规制的实践中,目前仍面临着技术壁垒、价值冲突等因素造成的诸多困境。第四部分对我国未来治理算法歧视的路径提出了四方面的建议。首先是树立先进的算法规制理念:以强化技术伦理为指引,以约束算法权力为中心,从根源上减少算法歧视发生的可能。其次是明确算法法律规制的重点:完善个人数据保护制度,构造“算法解释权”,使个体在面对算法侵害时的防御型权利得到扩充。再次是建立高效的算法监管体系:设立专门的算法审查机构,确立政府主导的监管模式,同时加强行业内部自律。最后是完善算法追责与救济体系:明确算法研发者和使用者的法律责任,并在算法侵权纠纷中确立集体诉讼制度。

关键词：算法歧视算法权力数据保护解释权算法规制

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法歧视的法律风险研究

算法歧视的法律风险研究

作者：蒋融吉林大学

学位级别：硕士

随着人工智能时代的来临,算法正以燎原之势嵌入到社会的各个领域之中,在算法技术为人类生活带来便利极大丰富人们的选择又限制人们的选择之时,它很好的诠释了技术的双面性。一方面,它为人类决策提供更多的可能性,另一方面却通过“信息... 详细信息

随着人工智能时代的来临,算法正以燎原之势嵌入到社会的各个领域之中,在算法技术为人类生活带来便利极大丰富人们的选择又限制人们的选择之时,它很好的诠释了技术的双面性。一方面,它为人类决策提供更多的可能性,另一方面却通过“信息茧房”等形式限制人们的意思自治。算法歧视作为算法的固有缺陷之一,正在不断地向宪法所保护的价值提出挑战。算法歧视所造成的区别对待,对当前社会的各个领域都造成了极大的冲击,算法评估过程中的“性别歧视”、“收入歧视”、“价格歧视”甚至是“量刑歧视”正在各个领域冲击着人们的基本权益。但我们需要注意到,当我们在讨论算法歧视时,要将其与传统的社会歧视相区别。贯穿本文的价值中线并不是千百年来已由无数哲学家、法学家所讨论的歧视,不是在既有框架下探讨歧视的成因、规制及其新的样态,重点并不在于探讨“歧视的算法”,而是在于探讨“算法的歧视”,是针对算法这一事物探讨由其所造成的歧视现象的成因,以及所带来的法律风险等问题。因此当我们在分析“算法歧视”与歧视之间的关系时,二者并非是包含关系,而是交叉关系。因此当我们在分析研究算法歧视所造成的法律风险时,我们的落脚点在于需厘清算法这一歧视的新载体所带来的新的现象,并通过比较分析、个案探讨、理论研究等研究方法去探求构建算法歧视的法律风险防治体系。本文将立足于我国当前经济国情,放眼全球智能经济发展前景,对算法歧视的主要形态和法律风险进行分析与讨论,抑制算法权力,对算法歧视所存在的法律风险与制度缺口进行分析,以期控制算法歧视对社会法治与公民权利的倾轧。算法,这一歧视的新载体因其自身的技术属性使得其具有准权力的特征,对被决策者实际上形成了技术上的支配关系。算法歧视本质上是算法权力的衍生品,因此我们在分析与构建风险防治体系时,需要明确算法歧视本质上也是强弱对抗失衡的一种表现,因此简单地要求相关算法应用平台通过自觉遵守相关义务,进而达到调整失衡法律关系的效果,本质上是不符合商业决策的客观规律的。所以唯有通过树立“责任先行”理念、构建“算法监护制度”等相关措施,才能真正的做到对算法权力即技术权力所衍生的算法歧视等问题进行有效的规制。

关键词：算法歧视算法权力责任先行理念算法法律主体资格

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法歧视与金融科技伦理治理

吉林金融研究 2023年第6期 60-63,78页

作者：丁昱中国人民银行铜陵市中心支行安徽铜陵244061

近年来,金融科技不断创新发展,深刻改变了传统金融服务的方式和业态,极大地提高了金融服务效率和能力,同时也衍生出复杂多样的金融科技伦理问题,给金融创新与金融安全带来了一系列新的风险挑战。本文从算法歧视这一金融科技伦理治理难... 详细信息

近年来,金融科技不断创新发展,深刻改变了传统金融服务的方式和业态,极大地提高了金融服务效率和能力,同时也衍生出复杂多样的金融科技伦理问题,给金融创新与金融安全带来了一系列新的风险挑战。本文从算法歧视这一金融科技伦理治理难题出发,探讨应对之策,并从算法伦理的角度给出提升金融科技伦理治理水平,有效防控金融科技伦理风险的政策建议。

关键词：金融科技伦理算法歧视歧视性风险