检索结果-南通市图书馆

金融数据安全背景下的智能投顾算法黑箱监管体系构建

在线全文

学校读者我要写书评

暂无评论

社会科学辑刊 2022年第2期 86-95页

作者：汪世虎马瑞乾西南政法大学民商法学院西南政法大学人工智能法律研究院

智能投资顾问通过金融科技、大数据引领商业模式创新,是人工智能在财富管理领域的重要应用。由于核心技术算法黑箱具有天然不透明性,使得在保护中小投资者利益时,产生了侵权责任承担困难、附加金融服务存在监管真空和算法学习周期性导... 详细信息

智能投资顾问通过金融科技、大数据引领商业模式创新,是人工智能在财富管理领域的重要应用。由于核心技术算法黑箱具有天然不透明性,使得在保护中小投资者利益时,产生了侵权责任承担困难、附加金融服务存在监管真空和算法学习周期性导致决策滞后的监管困境,导致传统法律监管体系发生部分失灵。分析我国使用智能投顾中小投资者的交易习惯,发现其抵御风险、投资能力明显高于传统股票投资者,更加注重服务质量,在适当性管理方面也要求具备更高的审慎和评估能力,投资者金融信息和知情权是保护的重点。监管治理体系以《数据安全法》和《个人信息保护法》为基本法律依据,在构建目标上,注重促进技术发展与保障金融安全之间的有效平衡;在算法设计源头上,制定专业监管框架、实施算法事前审查、提高投资者信息能力;在算法使用过程中,对接证券信息披露标准、保护数据与隐私权和规范附加金融服务;在法律责任追究上,通过主体责任、信义义务和算法问责制来综合规范。

关键词：智能投顾数据安全算法黑箱投资者保护法律监管

在线全文

学校读者我要写书评

暂无评论

算法黑箱的法律规制研究

算法黑箱的法律规制研究

作者：马昊长春工业大学

学位级别：硕士

伴随着互联网技术的深度发展,算法逐渐成为决策的辅助者,甚至成为决策者。算法自动决策在社会生活的方方面面都可以发挥作用。公众对其安全性的担忧也随着技术的进步到达了新的高度——一个普罗大众几乎都没有能力知晓却可能会对他们权... 详细信息

伴随着互联网技术的深度发展,算法逐渐成为决策的辅助者,甚至成为决策者。算法自动决策在社会生活的方方面面都可以发挥作用。公众对其安全性的担忧也随着技术的进步到达了新的高度——一个普罗大众几乎都没有能力知晓却可能会对他们权益造成影响的技术却没有对应的法律进行规制。该如何保证收集信息的准确性、算法自身和输出结果的安全性?同时又该如何保证算法主体不利用自身优势地位滥用算法?归根结底,都是需要对算法黑箱进行法律规制。在规制之前要明确算法黑箱的概念和表现形式。算法黑箱,是指用户无从得知算法的目标和意图,也无从获悉算法责任归属等信息,更谈不上对其进行评判和监督而形成的对算法不可知的黑箱。算法不透明的原因主要有三种,包括:故意不透明、外行的不透明、内在的不透明。其表现形式可以分为自身的技术黑箱、针对非专业人士的解释黑箱和算法应用的组织黑箱。算法黑箱本身是算法的基本属性,具有中立性,但是算法问题的产生背后都有它的身影。算法黑箱不仅对人身权益、市场秩序造成威胁,也会对行政、司法等公权力机关的公信力造成影响,最终影响公共利益的实现。我国对算法黑箱作出了一定程度的规制,但还存在着一些不足。赋予当事人算法权利是有效规避算法黑箱造成危害的手段之一,我国尚未形成完善的对算法权利的规制体系;备案义务仅限于少数算法且影响评估制度的适用仅限与个人信息相关算法;我国对于算法监管侧重于事后监管导致事前监管的弊端且由于监管主体利益站位不同导致交流不畅;此外,还存在行业自治薄弱的问题等。欧盟、美国作为相关规制的先驱,其经验可供我国参考。欧盟是以个体赋权的方式对算法黑箱进行规制,赋予个人算法知情权和算法解释权;美国是以外部问责的方式对算法黑箱进行规制,主要有算法披露制度和算法影响评估制度等。这为我国算法黑箱的规制提供了经验。我国也应当根据中国互联网制度环境,参考国外实践的成功经验,设计适合自身特色的算法黑箱的赋权与监管体系。立足于我国规制现状,并结合域外相关规制路径,本文为我国算法黑箱的规制提出建议:完善算法相对人的权利体系,细化相对人的知情权,保障相对人救济权;拓展增设算法平台的算法备案义务和算法影响评估义务;加强全流程监管机制,构建多主体协同监管,加强行业自律、制定算法行业规范,以期实现科技向善发展。

关键词：算法黑箱算法权利算法披露行业自律

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法黑箱的法律规制研究

算法黑箱的法律规制研究

作者：陈革新山东大学

学位级别：硕士

算法黑箱的法律规制研究对于解决当前算法时代中层出不穷的算法操纵、算法歧视、算法茧房、算法失控等一系列算法问题有着至关重要的作用。随着算法技术的日益发展与迭代更新,算法黑箱的不透明性与自主性愈发明显,不具备算法专业知识和... 详细信息

算法黑箱的法律规制研究对于解决当前算法时代中层出不穷的算法操纵、算法歧视、算法茧房、算法失控等一系列算法问题有着至关重要的作用。随着算法技术的日益发展与迭代更新,算法黑箱的不透明性与自主性愈发明显,不具备算法专业知识和算法理解能力的社会公众,只能被迫地接受算法的输出结果而无从了解算法的决策缘由。目前国内外对于算法规制的研究日臻成熟,但对于是否要打破算法黑箱,将提高算法透明度和可解释性作为规制算法的基本路径仍存在争议,算法黑箱法律规制的正当性和可行性仍有待厘清。基于算法技术膨胀发展和算法非正义现象的屡屡发生,打破算法黑箱,对算法的决策过程和运算逻辑进行透明和解释是最具针对性的算法规制方式。本文以提高算法黑箱的透明度和可解释性作为规制算法黑箱的基本路径,以社会公众、算法企业和行政机关等主体为视角,梳理算法黑箱法律规制的主要模式,对算法黑箱的法律规制提出针对性的制度建议,以期更好遏止算法非正义现象的发生。本文通过文献研究、比较分析、案例分析、法条分析等研究方法,分析目前国内外算法黑箱法律规制的研究现状、司法实践、存在的困境以及产生困境的原因,并尝试从我国算法规制的社会现状出发,为完善算法黑箱的法律制度提出建设性意见。论文共分为五个部分:第一部分,主要对算法与算法黑箱的联系和区别、算法黑箱的特征、算法黑箱与算法法律属性之间的关系进行界定和厘清。随着切入视角的转换,算法和算法黑箱的概念也会随之改变,尤其是在算法膨胀式发展的现阶段,具备自主决策和机器学习能力的人工智能算法将算法设计者和算法使用者也排除在算法黑箱之外。算法黑箱的不透明性和自主性特征是规制算法黑箱必须要慎重对待,算法商业秘密是规制算法黑箱过程中必须要考虑的重要一环。第二部分,主要是对算法黑箱法律规制的必要性进行证成。随着算法逐渐适用于生产生活、商业服务、行政管理、司法辅助等各个领域,算法黑箱所引发的如算法歧视、算法失控等负面影响也随之扩大,算法黑箱的法律规制在治理算法问题的过程中发挥着重要的基础性作用。为避免算法权力的异化和膨胀,算法权力应当行走在“阳光”之下,打破算法黑箱,对算法的计算过程进行透明和解释是限制算法权力的必经之路。算法黑箱规制与正当程序规制作为解决算法问题的两种基本规制路径,其核心理念是并行不悖的,程序公开是正当程序制度的必然要求,体现在算法规制领域便是要求打破算法黑箱。第三部分,主要是对算法黑箱法律规制的可行性进行论辩与证成。针对算法黑箱法律规制的可行性目前存在三种质疑,一是算法不可知论认为算法的内在逻辑和决策依据是无法实现绝对透明和可知的,而算法透明的目的在于探究算法对法律关系的影响,而非追求算法技术领域的绝对透明。二是算法解释存在客观障碍,有悖算法技术发展的理念,而算法解释的功能定位明确了解释应当以目的为导向,以披露对象的理解能力作为标准。三是利益冲突说认为打破算法黑箱会损害公共利益和商业利益,而算法黑箱的分类分级规制理念对使用主体不同、涉及利益不同的算法采取针对性的规制方式,可以缓解算法技术发展和算法黑箱规制之间的矛盾与冲突。第四部分,主要是对算法黑箱规制的不同模式进行对比分析。针对是否具有普遍适用性,可以分为一般规制模式和特殊规制模式,对算法黑箱的规制既要从原则性、全面性的角度把握,也要坚持具体问题具体分析,对不同领域、不同功能、不同种类的算法黑箱进行针对性的规制。针对算法黑箱规制手段的侧重点不同,可以分为代码公开模式和解释公开模式,解释公开模式更为容易被算法设计者和使用者所接受,也方便公众理解,代码公开模式虽然较为抽象但却更加直接。按照行政机关介入算法的方式不同,可以分为事前监管模式和事后响应模式,事前监管模式主要适用于算法应用阶段之前,对算法进行事前的、预防性的审查,事后响应模式是行政机关对于公众反映的算法问题进行针对性地透明与解释。第五部分,算法黑箱的法律规制应当坚持算法黑箱分类分级的规制原则,对不同主体使用的算法、涉及不同利益的算法、适用于不同领域的算法采取与之对应的规制手段。从社会公众的角度出发,完善公众的算法知情同意权和算法解释权是保障其利益最为直接和便利的方式。从算法企业的角度出发,要切实履行其显著标识义务和披露义务,保障公民算法权利的行使,对应用的算法进行影响性评估是企业披露算法的一种折中且实用的方式。从行政机关的角度出发,应当坚持分类分级的备案审核方式,在国家网信部门的统筹下,发挥多方行政机关的监管职能。第三方专业机构的测评与算法相关行业的自律同样也在规制算法黑箱的过程中发挥着积极作用。

关键词：算法黑箱算法透明算法解释分类分级

金融科技公司算法黑箱风险的生成机制与多维治理

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

金融论坛 2023年第8期28卷 25-34,46页

作者：程雪军同济大学法学院上海200092

计算机与人工智能等技术的深度演进,推动金融科技公司的供给结构变化。金融科技公司将算法技术深度嵌入金融服务,大幅提升金融产品的运行效率与普惠效果。然而,算法技术总是存在着一定的黑箱,并形成新兴的算法黑箱风险。从金融科技公司... 详细信息

计算机与人工智能等技术的深度演进,推动金融科技公司的供给结构变化。金融科技公司将算法技术深度嵌入金融服务,大幅提升金融产品的运行效率与普惠效果。然而,算法技术总是存在着一定的黑箱,并形成新兴的算法黑箱风险。从金融科技公司算法黑箱风险的内部结构来看,算法黑箱具有结构不透明风险、技术不成熟风险、信息不对称风险。中国需要有针对性地构建金融科技公司算法黑箱风险的多维治理:从市场端健全金融科技公司算法实质性审查标准,从技术端强化金融科技公司算法黑箱的科技治理,从消费者端赋予金融消费者的算法同意权与解释权。

关键词：金融科技公司算法黑箱信息不对称风险生成机制多维治理

打开算法黑箱:建构“人-机协同”的新闻伦理机制——基于行动者网络理论的研究

在线全文

学校读者我要写书评

暂无评论

当代传播 2022年第1期 51-55页

作者：林凡林爱珺暨南大学外国语学院暨南大学新闻与传播学院

本文用控制论详细分析了算法黑箱的产生机理,剖析智能新闻生产、分发、接收过程中技术黑箱的运作逻辑及其带来的伦理风险,用拉图尔行动者网络理论讨论技术道德化的可能性与路径,主张将价值理性嵌入人工智能打造新闻道德智能体,在不同阶... 详细信息

本文用控制论详细分析了算法黑箱的产生机理,剖析智能新闻生产、分发、接收过程中技术黑箱的运作逻辑及其带来的伦理风险,用拉图尔行动者网络理论讨论技术道德化的可能性与路径,主张将价值理性嵌入人工智能打造新闻道德智能体,在不同阶段对算法主体实施“监控、预警与奖惩”的伦理干预,构建“人-机协同”算法新闻伦理机制。

关键词：智能传播行动者网络理论算法黑箱新闻道德智能体人-机协同

破除数字平台企业算法黑箱治理困境:基于算法透明策略扩散研究

在线全文

学校读者我要写书评

暂无评论

信息资源管理学报 2023年第2期13卷 81-94页

作者：李国昊梁永滔苏佳璐江苏大学管理学院镇江212000

自进入数字经济时代,“算法黑箱”特性的负面作用日益凸显,我国为此对数字平台企业提高算法透明度提出了新的政策要求。基于此,本文以我国针对数字平台企业“算法黑箱”的治理政策为蓝本,运用复杂网络演化博弈,建立了数字平台企业优化... 详细信息

自进入数字经济时代,“算法黑箱”特性的负面作用日益凸显,我国为此对数字平台企业提高算法透明度提出了新的政策要求。基于此,本文以我国针对数字平台企业“算法黑箱”的治理政策为蓝本,运用复杂网络演化博弈,建立了数字平台企业优化算法透明度策略扩散模型,并得到以下结论:①政府的监管对数字平台企业是否优化算法透明具有关键作用,但数字平台企业数量规模增大会使政府监管和惩罚作用降低;②消费者监管起到辅助作用,且随着企业数量规模扩大变得更为重要;③优化算法成本以及披露算法的风险均是阻碍数字平台企业优化算法透明度的重要因素,且企业抵御风险能力会随着数量规模扩大而降低。最后,根据结论提出对策建议,为我国数字平台企业“算法黑箱”治理困境的破除提供一定的参考。

关键词：数字平台企业算法治理算法黑箱算法透明度复杂网络演化博弈

在线全文

学校读者我要写书评

暂无评论

数据时代下算法错误侵权的规制路径研究

数据时代下算法错误侵权的规制路径研究

作者：黄可欣山东财经大学

学位级别：硕士

算法在数据时代发挥着重要作用,深度嵌入社会生产生活,极大程度地提高了生产效率,但是算法在应用中存在着重重侵权隐患,对个人、企业乃至社会都有深远影响,而传统侵权规制路径难以应对日趋复杂的算法侵权现象。基于此,本文聚焦算法错误... 详细信息

算法在数据时代发挥着重要作用,深度嵌入社会生产生活,极大程度地提高了生产效率,但是算法在应用中存在着重重侵权隐患,对个人、企业乃至社会都有深远影响,而传统侵权规制路径难以应对日趋复杂的算法侵权现象。基于此,本文聚焦算法错误侵权的规制路径研究,从侧重于防范的事前规制和侧重于救济的事后规制两方面出发,探讨如何规制算法错误侵权并提出具有针对性的完善建议,以实现防范侵权风险与切实救济被侵权人权利。本文主要分为六个部分:第一部分是绪论,阐述本文的研究背景及意义等,收集和梳理了与算法错误侵权规制相关的国内外文献并对其进行了总结评价,并且介绍了本文的研究内容以及使用的研究方法与研究创新点。第二部分通过对算法错误侵权相关概念的梳理,明确了算法错误侵权概念、类型及特征,旨在为后续论述奠定理论基础。第三部分聚焦于算法错误侵权的规制难题。通过介绍两个算法错误侵权的典型案例,分析案情以及判决结果,在此基础上探讨现有的侵权责任归责机制适用于算法错误侵权所存在的问题,剖析客观侵权行为难以认定、主观过错要件认定困难、因果关系难以证明以及损害结果具有隐蔽性等问题及其成因。第四部分旨在研究欧盟、美国、新加坡的算法规制路径,从算法规制的事前与事后两个角度进行分析,总结优秀经验,为我国算法规制路径的完善提供借鉴与启示。第五部分从事前防范的角度出发,对算法错误侵权的事前规制路径提出具体完善建议。第一,应当提高算法的透明度,达到“算法可理解”的最低限度,以便进行算法问责。第二,优化算法事前备案制度,扩大制度适用范围并明确备案内容。第三,完善算法影响力评估制度,针对算法应用服务的场景不同划分为高风险、中风险、低风险三个层次,对企业制定不同的评估义务,并探索建立有力的保障机制来确保评估制度落实。第四,运用监管沙盒技术进行算法审查,以及时发现算法技术漏洞。第五,加强多元主体协同监管,除政府外,应发挥行业的自律作用,增强企业社会主体责任,加强社会监督,以实现良好的规制效果。第六部分旨在分析事后救济制度的具体设计。虽然算法错误侵权尚未形成新的特殊侵权类型,囿于算法错误侵权责任的认定难题,有必要建立明确的算法错误侵权归责机制,对其侵权责任构成要件的认定问题提出完善建议。进言之,在算法错误侵权责任难以认定的情况下,具有责任分担社会化功能的强制责任保险制度以及侵权社会救济基金制度,可以进一步保护受害者的利益。构建算法强制保险责任制度需明确其适用范围、投保人以及确定适当的保险费用与金额。而建立侵权社会救济基金制度需要明确基金适用的兜底性、适当调整适用范围并采取社会化的资金来源。

关键词：算法错误算法黑箱侵权责任算法规制算法自动化决策

算法说明义务研究——以算法黑箱的治理为切入点

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法说明义务研究——以算法黑箱的治理为切入点

作者：曹阳华浙江理工大学

学位级别：硕士

数字经济时代,以数据和算法为核心的人工智能技术加速与公共治理领域、经济领域相融合促使公共治理模式、商业模式发生转变,智慧治理逐渐取代传统的公共治理模式,线下实体经济逐渐被线上经济所取代,算法成了数字经济时代引领社会发展的... 详细信息

数字经济时代,以数据和算法为核心的人工智能技术加速与公共治理领域、经济领域相融合促使公共治理模式、商业模式发生转变,智慧治理逐渐取代传统的公共治理模式,线下实体经济逐渐被线上经济所取代,算法成了数字经济时代引领社会发展的先导力量。但随着深度学习算法的出现,算法技术的不透明性与自主性愈发明显,算法非正义现象屡屡发生,算法技术的应用面临争议和挑战。国内外学者纷纷展开对算法治理的研究并认为算法的黑箱性是算法非正义现象产生的元凶,但对于是否要打破算法黑箱以及如何打破黑箱,以及是否实行算法披露、是否实行算法问责制以及是否应当赋予个人算法解释权以对抗算法黑箱仍存在争议。文章首先从算法黑箱的成因、算法黑箱引发的法律风险为出发点阐释了打破算法黑箱的重要性;其次分别对欧盟、美国以及我国对算法黑箱的法律规制模式进行分析对比得出,算法的透明性、算法的可解释性是治理算法黑箱的第一准则。算法备案、算法问责、数据保护、个体赋权等规制算法黑箱的路径虽都以算法的透明与解释性为准则,但因其固有缺陷难以打破黑箱;再次文章提出解决算法黑箱的路径在于算法设计者、算法使用者应当履行算法说明义务,算法说明义务以算法透明、算法的可解释性为准则,不仅在理论上具有规范性与正当性,还有实际可操作性以及若干补强理由;文章最后提出了算法说明义务的实现路径。算法说明义务的主体应当是提供算法服务的法人或非法人组织。算法说明义务的目的在于保障个人知情,该义务的对象包含具有一般算法素养的公众以及具有专业素养的监管部门。由于算法技术具有一定抵触性理由则决定了其义务的范围及限度分为事前、事中与事后三个层级:事前需要履行包括公开算法影响评估报告、算法运行逻辑、算法适用场景和算法固有缺陷等基础说明;事中的说明义务包括内部监督与如实接受外部监管的动态说明;事后说明则是以救济为核心的特定说明。同时为弥补算法说明义务的不足,文章提出可辅之以平台监管算法活动的守门人制度与算法问责制,对算法进行协同治理。

关键词：说明义务算法黑箱个人信息保护算法治理算法透明

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

算法透明与商业秘密的冲突与协调研究

算法透明与商业秘密的冲突与协调研究

作者：褚备烟台大学

学位级别：硕士

随着人工智能技术的快速发展,算法在社会生活中的应用越来越广泛,同时由于算法操作过程的不透明性,算法黑箱导致的算法歧视等社会风险受到广泛关注,为了应对算法黑箱产生的种种问题,世界各国将算法透明作为规制算法黑箱问题的重要途径... 详细信息

随着人工智能技术的快速发展,算法在社会生活中的应用越来越广泛,同时由于算法操作过程的不透明性,算法黑箱导致的算法歧视等社会风险受到广泛关注,为了应对算法黑箱产生的种种问题,世界各国将算法透明作为规制算法黑箱问题的重要途径并作出了有益探索。算法透明原则要求开放算法的设计和决策过程,以确保算法的公正性和可解释性,维护公共利益和社会正义。然而,算法作为企业的核心竞争力之一,其商业秘密的保护同样重要,以激励创新和技术进步。这两者之间的冲突,不仅关系到技术创新与应用的推进,还涉及到个人隐私、数据安全等多方面的法律和伦理问题。算法透明与商业秘密保护之间存在的冲突日益凸显,在公法与私法领域均有体现,其冲突本质在于公开与保护之间利益平衡问题。为了协调二者之间的冲突,一方面,从算法透明侧应当转变算法透明的方式,由鱼缸式透明转向原因性透明,同时建立内部审查加外部审查的双轨制的审查机制,明确算法披露的责任主体与监督问责机制。另一方面,从商业秘密保护侧应当完善商业秘密保护制度的限制制度,同时寻求算法的替代保护方式,据此寻求算法透明与商业秘密保护之间的平衡点,实现算法的公平、透明和可持续发展。

关键词：算法透明商业秘密算法黑箱原因性透明