公司资讯

这里有最新鲜的政策动态、行业资讯

【赛迪发布】《人工智能和数据伦理:从一般性原则到指导性原则》摘译

  • - 2022 -
  • 01/17
 

报告认为,人工智能和大数据运用面临着保证公平公正、隐私、自主、透明度和可说明性方面的挑战。报告分析了从一般性伦理概念和原则过渡到有指导性和实质性内容原则的重要性及难度,提出了实现公平公正性的指导性举措,包括从优化组织结构和治理模式、拓展视野与合作方式、加强培训与教育、注重伦理的应用实践、构建人工智能和数据伦理社区等。

一、概述


研究人员、企业、政策制定者和公众已普遍意识到,人工智能和大数据的运用面临着公平公正、隐私度、自主性、透明度和可说明性等方面的挑战,为此,人们越来越多地希望各种组织能够解决这些问题,但是现阶段仍缺乏对实际行动强有力的监管指导。


二、案例分析:生物伦理学中的知情同意


对现有案例的反思有助于说明从一般伦理概念向指导行动的规范内容转变过程中所面临的挑战。知情同意(informed consent)被广泛认为是医学伦理临床实践和研究的重要组成部分。但我们将要反思这一原则从何而来,有何含义以及实现这一原则需要什么。


知情同意可以保护个体的自主权,因此被视为医学和人体研究的伦理实践要求。尊重个体的自主性意味着不操纵、不欺骗。自主权包括有权选择是否参与研究试验或接受医学治疗。知情同意是实际操作中尊重个人自主权的主要方式。那么,在实践中满足知情同意标准的要求是什么?当明确表示知情同意时,必须满足三个主要条件:披露、理解和自愿。


三、人工智能和机器学习中的公平公正


人工智能与数据伦理中的公平公正问题


公平和公正被广泛认为是人工智能和数据伦理的关键组成部分。其中一个原因是,许多案例已经表明,机器学习和自动决策系统会导致偏见、歧视或其他不平等的结果。


“公平”与“公正”的含义


在围绕人工智能和数据伦理的讨论中,“公平”和“公正”经常互换使用,这是为了囊括其包含的所有因素。当然,这些术语有时也拥有更具体的含义。如在研究这些问题的计算机科学家看来,“公平”通常指群体之间某种形式的平等。


(一)公正的价值和形式


公正包含的基本价值是人的价值和政治地位的平等。该领域关注的是如何按照这些价值观组织社会、政治、经济以及其他体系和结构。若法律、制度、流程或算法未能体现这些价值,其便失去了公正性。因此,最普遍的公正原则就是所有人都应在社会、经济和政治制度以及流程中享受平等的尊重和重视。


(二)人工智能与数据系统中的公正


当某个组织承诺在人工智能和数据实践中维持公正时,它承诺的到底是什么?在决定何种正义原则有效或优先时,情境至关重要。因此,要明确承诺意义(即明确规范内容),第一步是确定对人工智能或数据系统的工作内容或操作环境至关重要的公正原则。在此之后,相关公正承诺才能有效发挥作用并付诸实施。


再犯预测与明确适当公正概念的重要性


COMPAS再犯预测算法被广泛提及,在预测白人和黑人的再犯机率时,预测系统的准确性大致相当,但是当系统出现错误时,错误类型却有所不同:系统会高估黑人的再犯率,低估白人的再犯率。这是因为系统使用的培训数据反映的是历来对少数族裔社区的过度监管。


人工智能和大数据中的公正:关键要点


公正基于所有人拥有平等价值和政治地位的基本价值观。人工智能和数据分析不应引起或延续不公正现象,而应尽一切努力促进公正原则的实现。明确人工智能中公正的明确规范内容,即公正承诺意味着什么,需要清楚地阐明必须告知自动决策系统的公正因素或原则。


四、人工智能和机器学习中的透明度


为评估一个决策系统是否公正或公平,以及决策者是否要承担责任,通常需要理解该决策系统的工作内容及工作模式。因此,遵循透明度的原则应首先理解公正和可说明性的概念,例如,确保决策主体能够充分理解算法系统。


(一)透明度背后的价值观和概念


透明决策对于实现各种价值观和观念至关重要,有时甚至必不可少。公正原则就是一个很好的例子。缺乏透明度有时会阻碍决策主体,如贷款申请人或假释申请人,确定自己是否真的受到尊重和公平对待。在许多情况下,决策者需要考虑决策主体的具体情况。对决策者而言,倾听别人的意见、尝试理解其观点并在做决定时认真考虑这些观点至关重要。


合规性


合规性是与尊重法律这一价值观相联系的规范概念。在缺乏透明度的决策系统中,可能会很难确定某个系统或模型是否符合适用的法律、法规、行为准则或其他道德规范。


自主


自主是与尊重个人的价值观相联系的规范概念。赋予自主权意味着允许人们在知情的情况下做出决定,尤其是当这些决定对人们的生活前景可能产生重大影响时。


认知


认知是以理解为基础的规范概念,有助于更好地理解这个世界以及我们在其中所处的位置。算法系统在某些情况下可用于揭示大数据集中的隐含模式。


信任


信任是与发展良好关系等各种基本价值观相关的规范概念。信任基于透明度原则,因为透明度有助于建立信任。为充分发挥算法工具的优势,从医学到路线绘制系统的利益相关者必须信任这些系统本身,及其对自己的生活行使权力的各种方式。


(二)具体说明透明度承诺


正如透明度原则的基础是公正等诸多概念,提高决策系统透明度的方法也多种多样。因此,关于透明度的承诺也有很多形式,比如对算法决策系统可解读性的承诺,对算法决策可解释性的承诺,或者对此类决策可说明性的承诺。


可解读性


为保证算法决策的透明度,经常提到的方法之一是要求算法决策系统具备可解读性。例如,因为依赖基于大规模数据集的模型或多层模型,一些算法系统非常复杂,以至于数据和计算机科学家自己也无法以精确的方式确定如何将系统输入转化为输出。