1、算法与歧视算法与歧视私募工场每周活动集锦（历史论坛）本文原载于中外 法学2017年第6期在大数据来临的时代， 算法（algorithm） 已经极大地改变了我们做出决定的方式，越来越成为人们关 注的问题。如同大数据专家、 大数据时代一书的作者舍 恩伯格所说，大数据的特征是追求效率，而不是绝对精确； 追求的是相关性，而不是因果性，在现代社会，大数据和算 法结合已经颠覆了传统的决策方式。 1在这种背景下，基于大数据的算法就成为一个问题。大数 据除了带给我们更有效率和更具相关性的判断之外，其公平 性或正当性的基础何在？尤其在涉及到公共机构使用大数 据和算法的情形下，我们更要问，基于某种算法的大数据使
2、用是否具有正当性基础或伦理基础？ 这并不是容易回答的一个问题。除了伦理与公平问题的复杂 性之外，另一个难点在于算法的专业性和不透明性。对于很 多企业而言，算法往往被当做商业秘密加以保护，人们往往 很难理解算法的实际运作过程，例如人们往往很难理解某新 闻 App 为何会推送其某条新闻， 某购物网站为何会推荐某些 产品；而对于很多公共机构而言， 其算法也常常并不公开 （这 本身也是一个值得探讨的问题 ）。算法的专业性与不透明性为 人们思考算法伦理问题设置了很高的门槛。本文选取了另一条道路，本文通过探讨美国的教育平权案来 探讨算法伦理问题。在本文选取的几个案例 -Grutter 案、 Gratz 案
3、和 Bakke 案中，我们可以清晰地看到美国大学在录 取招生时采取了何种算法，而且可以结合美国联邦最高法院 的相关讨论来分析这些招生政策中算法的合理性。 无疑，这些案例发生在大数据概念提出以前，而法院对于这 些问题的讨论也没有使用诸如“算法”或“算法伦理”这样的术 语。但另一方面，这些案例无疑使用了大量的数据，采用了 不同的算法，而且，法院对于招生政策合宪性与正当性的讨 论本质上也正是对算法伦理问题的讨论。在这个意义上，借用美国教育平权的相关案例来讨论算法伦 理，可以帮助我们更为深刻地理解算法伦理的相关问题。 同时，在本文看来，通过讨论美国的教育平权案和相关伦理 问题，我们可以更为深刻地理解法
4、律解释问题。在本文所涉 及到的若干美国教育平权案中，其中涉及到招生政策是一个 算法问题，同时也是一个法律解释问题，因为这些案件的核 心争议就是这些案件中的政策和算法是否符合美国宪法与 法律的规定。在进入正文讨论之前，有必要非常简单地介绍一下美国教育 平权的历史背景。众所周知，美国在南北内战后虽然解放了 黑奴，但对于黑人的歧视与隔离并没有消除。直到 1954 年，在“布朗诉教育委员会案” (Brown v.Board ofEducation) 案中，美国最高法院才废除了“隔离但平等”的法律 教义，认定对某个种族进行区别对待违反了美国宪法的第十 四修正案。 其后，经过六十年代的民权运动，很多美国大
5、学在招生中采 取了增加黑人等少数族裔的教育平权政策或纠偏政策 (affirmative action) 。这些政策一方面得到了一些人的支持， 因为其具有增加少数族裔比例，改变少数族裔社会境况的作 用。但另一方面，这一政策也被认为对白人和亚裔存在不公 平，是另一种形式的肤色歧视， 并因此受到了很多人的抵制。 本文要讨论的几个案例正是在这一大的背景下发生的。 一、相似的案件、不同的判决 2003 年，美国联邦最高法院审理了两个著名的教育平权案 件：Grutter v. Bollinger 案和 Gratz v. Bollinger 案。在 Grutter 案中，一位名为 Grutter 的白人起诉
6、密歇根法学院，认为其 招生政策违反宪法第十四修正案的平等保护以及 1964 年民 权法案中不得基于种族进行歧视的规定。 因为在密歇根法学院的招生政策中，除了考虑本科成绩、 LSAT 成绩、推荐信、社会活动等表现之外，该政策还允许 考虑学生的种族因素；该政策主张，应当录取“相当数量 (critical mass) ”的少数族裔学生，从而实现法学院生源“多样 性 (diversity) ”的目的。对于这种招生政策，此案中的原告 Grutter 认为，这种政策 使得某些少数族裔“比其他不太受待见的群体具有明显高得 多的录取机会”，因而显然违反了平等保护和种族中立的原则。 而在 Gmtz 案中，争议的
7、核心则是密歇根大学本科招生政策 是否违反宪法第十四修正案的平等保护。根据密歇根大学的 本科招生政策，大学申请者可以因为某些原因而获得加分， 例如可以因为是密歇根居民而加 10 分，因为是校友子女加 4 分。而如果申请者恰好属于黑人等某些族裔的话，则可以加 20 分。在这一招生政策下， 一般来说分数将决定申请者的命运， 学校将根据申请者的分数而将申请者归类为被直接录取、延 迟录取还是直接拒绝。但同时，录取审查委员会仍然有权将一些具有鲜明特征的个 人挑选出来，并且进行不考虑分数的综合比较。对于密歇根 大学的这种给某些族裔统一加分的录取政策，原告 Gmtz 认 为，这违反了宪法第十四修正案的平等保护
8、要求。对于这两个案件，美国联邦最高法院首先认为，密歇根法学 院或密歇根大学本科所希望实现的多样性目标可以被视为 宪法上的“压倒性利益 (compelling interest) 3 可”以，允许学 校为实现这一利益而考虑种族因素。其次，美国联邦最高法 院认为，应当对学校政策进行“严格审查 (strict scrutiny) ”，以 确保这种政策符合“严格限定 (narrowly tailored) ”的条件。 经过审查，美国联邦最高法院对两个案件做出了不同的判决。在 Grutter 案中，最高法院认为，密歇根法学院的招生政策 符合“严格限定”的要求，并没有违反宪法第十四修正案的平 等保护；而在
9、 Gratz 案中，最高法院则认为，密歇根大学的 本科招生政策不符合“严格限定”的要求，因而违反了宪法第 十四修正案。是什么原因使得法院得出了相反的结论呢？分析两个案件 的判决书，可以发现法院做出判断的主要依据在于招生政策 是否足够“个人主义”。在 Grutter 案中，奥康纳所撰写的多数意见认为，法学院的 招生政策是高度个人主义和综合性考虑的；法学院并没有要 求以“配额 (quota) ”的方式每年招收固定“比例”的少数族裔的 学生。相反，对于种族因素的考虑只是以一种附加 (aplus) 因素的方 式起作用。虽然它要求保证每年能够招收“相当数量”的少数 族裔学生，但“相当数量”只是希望某些族
10、裔的学生不会感到 孤立，并不意味着一定要实现一定的数量或百分比。 从历届招生的情况来看，非裔、拉丁裔和印第安裔美国学生 的比例一直在浮动，并不固定。法院因此认为，法学院的招 生政策是根据个人来进行综合考虑的，种族并没有成为一个 决定性的因素。而在 Gratz 案中，法院的多数意见认为，给某些少数族裔加20 分，这是一种非个人主义的做法。 即使录取复查委员会对 所有达到最低录取线的人进行不考虑分数的个体性的综合 考虑，也不足以改变其非个人主义的性质，因为大多数的录 取仍然是根据分数而做出的。在这种 20 分的加分政策下，种族已经成为录取中的一个“决 定性因素”。6 而奥康纳的配合意见也指出， G
11、ratz 案中通过 自动加分而进行排名的录取政策是一种排除“个体化评估申 请者的多样性贡献”的做法，和 Grutter 案中更为个人主义和 综合性考虑的做法截然不同。Grutter 案和 Gratz 案的法院意见是对早先 Bakke 案中Powell法官意见的重新确认。8正是在Bakke案中，Powell 法官确立了对平权行动的严格审查，允许将大学的多样性视 为压倒性利益，并且将招生政策是否足够“个人主义”视为能 否通过审查的重要因素。有趣的是，在这个案件中， Powell 法官同样对比了两种招生 政策。一种是该案中所涉及的加州大学戴维斯分校医学院的 族裔配额政策， 将 16% 的招生名额分配
12、给某些弱势群体和某 些少数族裔。另一种则是哈佛学院的综合考虑申请者的招生政策，在该政策中，种族将被视为“附加因素 (plus) P”well认为，这两种制度具有本质上的不同，前一种政策是非个人主义的，违反 了宪法的平等保护，而后一种政策则是个人主义的，虽然考 虑了种族制度，但并不违反宪法第十四修正案。二、算法视野下的平等：法院意见的数学误区 在上文提到的几个案件中，法院都提到，个人主义的招生政 策增加了每个人被平等对待的机会，使得种族因素在招生录 取中不再起决定作用。在 Bakke 案中， Powell 法官提到，哈佛学院的个人主义招 生政策可以更加灵活 (flexible) ，可以把许多因素
13、都纳入综合 考虑，例如“杰出的个人才能、 独特的工作或服务经历、 领导 潜力、成熟度、表现出来的同情心、和穷人交流的能力、或 者其他被认为重要的特征”。10因此，这种政策更加平等，对申请者更加一视同仁。虽 然有的申请者可能因为其他族裔的种族加分而落选，但这种 政策并不会提前排除他。 如果他落选， 这仅仅意味着“他的综 合性资格并没有超过其他申请者。 ”就录取过程来说，因为他 的资格已经被公平和竞争性地加以评估了，所以并不违反宪 法第十四修正案的平等保护。为了说明这一点， Powell 法官还特意举了一个例子： 有三位 申请者，其中 A 是黑人，其父母是成功黑人物理学家，他自 己也在学术方面非常
14、有潜力； B 是在贫民区长大的黑人，其 父母是半文盲， B 的学术成就要差一些； C 是白人，具有超 凡的艺术才能。Powell 指出，在戴维斯分校医学院的招生政策中， 由于存在 一个针对弱势群体及少数族裔的配额，当 A、B 和 C 这三位 申请者竞争同一个名额时， A 将几乎被铁定录取，而 B 和 C 被录取的机会则几乎为零。 但在哈佛的政策中，如果只有剩下的一个录取名额，个人主 义的招生政策则可能使得 C 有相当的几率击败 A 和 B 而被 录取。 因为在个人主义的综合考虑之下， 如果学校发现 C 的 确有相当惊人的艺术天赋，那么学校完全可能会忽略种族因 素，舍弃黑人申请者 A 和 B 而
15、录取白人申请者 C 。 据此， Powell 法官认为，哈佛大学的招生政策“可能在有些 时候和种族相关，但并不由种族所决定”。Grutter 和 Gratz 案中的多数意见延续了这种推理逻辑。在 Grutter 案中， 多数意见认为， 密歇根法学院个人主义的衡量 使得法学院可以综合考虑申请者，使得种族因素并未成为一 个决定性因素。 一个相关的证据是，法学院常常会录取一些学分绩点和 LSAT 分数低于少数族裔的申请者，拒绝一些学分绩点和 LSAT 分数都高于录取线的少数族裔。 13 而在 Gratz 案中， 多数意见则认为，给某些族裔加 20 分的政策使得种族成为 了一个决定性因素，使得那些超过
16、最低录取线的少数族裔申 请者几乎铁定能被录取。14而且， 多数意见再次以 Powell 提到的三位申请者作为例 子。认为即使申请者 C 拥有“媲美莫奈或毕加索的卓越艺术 才能，他也不过只能最多获取 5 分”，而同时“每一个代表性不足的少数族裔申请者，包括申请者 A和申请者B,都可以加 20 分”。15当只有一个名额的时候， A 肯定会被录取，其被录取机 会接近 100% ，因为 20 的加分再加上其本身足够优秀， 这将 足以保证很高的分数。 而白人 C 则根本就没有被考虑的机会， 其被录取机会几乎为 0。 法院认为，在非个人主义的招生政策中， 黑人 A 肯定被录取， 在个人主义的招生政策中，白
17、人 C 则至少有被录取的机会， 这种概率的对比说明种族因素在两种政策中具有不同程度 的影响。美国联邦最高法院的法官们对于招生政策或算法的分析具 有合理性吗？初看上去，这种分析似乎非常符合我们的直觉。 因为在个人主义招生政策的算法中，个人似乎更少受到种族 因素的影响。通过个人主义的招生政策和算法，似乎可以增 加每个人被平等对待的机会。然而这仅仅是第一直觉。仔细分析法院对于招生政策中的算 法的论证， 可以发现 Bakke 案和 Gratz 案的多数意见对于算 法的认识存在基础性错误。多数意见认为， 在 A、B、C 这样一个想象的例子中， 黑人 A 在统一加分制的算法下被录取的机会几乎为 100%
18、，白人 C 则为零， 而在个人主义的算法下， 白人 C 卓越的艺术才能会 使得黑人 A 和白人 C 都有机会被录取， 这说明种族因素在个 人主义的算法中不是决定性的。 但是，我们必须记得，无论是统一加分式的算法，还是个人 主义式的算法，其本质并无不同，其目的都在于增加黑人等 少数族裔的人数，两种算法都必须增加黑人等少数族裔的录 取比例，减少白人和亚裔的录取比例。而个人在多大程度上受到种族因素的影响，本质上在于某种 招生政策或算法希望在多大程度上对某些少数族裔进行倾 斜。在 A、B、 C 的例子中，其原理亦是如此。如果倾斜程度不 大，那么即使在统一加分制的算法下，黑人 A 被录取的概率 也不会增
19、加太多。同理，如果倾斜程度够大，那么即使在个 人主义的算法中，黑人 A 被录取的概率也会极大地增加。 法院在 Gratz 案中提到，法学院常常会录取一些学分绩点和 LSAT 分数低于少数族裔的申请者，拒绝一些学分绩点和 LSAT 分数都高于录取线的少数族裔，希望以此说明个人主 义的招生政策或算法就更不看重种族因素。但这种论证也存 在根本性的问题。 因为这些绩点和分数低于少数族裔的申请者很可能恰恰是 某些方面具有特殊才能的白人学生，而被拒绝的绩点和分数 都较高的少数族裔很可能是其他方面都表现平平的黑人学 生。在个人主义的招生政策或算法中，法学院完全有可能更多地 考虑种族因素，以多样性的理由录取一
20、些成绩特别差但其他 方面杰出的黑人学生。综上所述，从算法的角度来说，我们无法证明个人主义的招 生政策或录取算法就更少地考虑种族因素。种族因素在招生 政策中究竟起到了多大作用，这取决于学校在招生过程中的 权衡，例如赋予附加因素 (plus) 的权重或加分的额度，而不 取决于某种招生政策是否采取了个人主义的进路。 现实社会的情况也证明了这一点。在 2003 年最高法院给出 Grutter 案和 Gratz 案的判决之后， 所有的美国高校都遵循了 最高法院的判决，采取了个人主义的招生政策，但种族因素 在高校招生中依然扮演了重要角色。一个近期的例子是，在 2014 年的美国大学本科录取中，一 名名为库
21、瓦斯厄宁(KwasiEnin)的黑人申请者历史性地被八 所常春藤大学同时录取，成为了各大新闻追踪的热点。 但看他的各项成绩，其实并不能算非常优秀。他就读于一个 普通高中，成绩排名 11,LSAT 成绩 2250 分，并且只获过一 些校内荣誉。 16这样的申请条件如果放在白人或亚裔群体 中，并不见得有多么突出。 但由于黑人申请者普遍条件较差， 这已经足以让他出类拔萃，保证他被顶尖名校录取。 事实上，在 Grutter 案的反对意见中，伦奎斯特就不无尖刻 地指出，密歇根法学院所谓的“相当多数”的招生目标其实只 不过是一个“幌子 (sham) ”，其目的同样是为了增加某些族裔 的百分比。17 通过对
22、密歇根法学院历年的招生数据的考察， 可以发现， 从 1995 年到 2000 年间，某些少数族裔被录取的比例和这些 少数族裔占据申请总人数的比例非常接近。因此，密歇根法学院虽然声称意在实现生源的多样性和某些 族裔的相当多数，但从实际效果上来说，这种做法其实与配 额政策或加分政策并无本质上的不同，都是一种平权保护 (affirmative action) 的手段， 都意在提高某些族裔尤其是黑人 的录取率。三、不可能的任务：为何不存在价值中立的平等算法 如果说在几个案件中法院多数意见犯了算法认知上的错误， 对于何种算法更为平等做出了错误的判断。那么随之而来的 问题是，是否存在一种价值中立的平等算法
23、，或者说存在宪 法和法律平等保护的“唯一正确答案”，以供法院来遵循或借 鉴呢？ 19 通过分析各派法官的法律意见以及学者的分析， 我们将会发现，这是一个不可能的任务。 我们来看各方的观点。在保守派法官看来，平权保护对于种 族的区分和考虑违反了宪法第十四修正案的平等保护要求。 首先，他们认为，宪法第十四修正案不仅保护黑人，而且也 保护白人。在 Bakke 案中， Powell 指出，对于宪法第十四修正案的解 释不能做僵化的原旨解释，因为第十四修正案虽然因为黑人问题而被制定，但它所用的术语都是一般性的， 20 白人也同样应当受到第十四修正案的同等力度的保护，针对白人的 种族区分和种族考虑也应当适用
24、严格审查的标准。21 而对于历史上的社会歧视， Powell 指出，社会歧视是一 个“难以界定的有可能溯及遥远历史的伤害概念 (amorphous concept of injury that may be ageless in its reach into the past) ” ,22 他援引之前几个最高法院判决中的多数意见，认 为不能以一般性的矫正历史上的社会歧视的理由来进行种 族区分。 保守派法官还指出，平权行动虽然具有矫正种族不公的作用， 但也不可避免地带来一些不容忽视的问题。第一，平权保护 会牺牲某些无辜的白人的利益，这些白人的祖先或许曾经对 黑人实施过不公，但他们自身并不是这些不
25、公行为的施加者， 要求他们承担这种历史的责任并不公平。24更何况，这些被牺牲的无辜的白人中有很多本身也是社 会中的一般家庭出身，本身并没有享受太多的社会资源。第 二，平权保护还可能使公共政策的制定陷入种族政治的陷阱， 缺乏对公共利益的考虑， 25 如果平权行动演变为一种身份 政治，那么其他族裔的人也可能会进行效仿。这样，整个社 会将甚至有被撕裂的可能。26第三，如同托马斯等法官在很多判决书中一再指出的， 平权保护会给某些族裔打上耻辱的烙印，平权行动会使得社 会相信，即使这些种族在未来取得成功，也会被认为这个种 族的天资或勤奋程度上不如其他族裔，其成功仅仅是因为受 到了特殊照顾。自由派法官则持有
26、基本相反的立场。首先，他们指出，以种 族的理由对平权行动进行严格审查，这不符合对宪法第十四 修正案的正确解释，因为平权行动虽然也考虑种族因素，但 毕竟和美国历史上的种族歧视具有完全不同的性质。 在 Bakke 案中， 布伦南法官的反对意见就指出， 平权行动中 利益受到损害的是白人群体，但白人群体并没有像黑人那样 “经历过有意的不平等对待的历史， 也没有在政治上被贬低以 至于需要对他们在多数主义政治中进行特别的保护”。 28因此，对其进行严格审查完全是不合理的。他认为，在 分析种族区分和种族考虑的政策时，必须考虑这些政策的意 图。在戴维斯分校医学院的招生政策中，其意图并不是为了 歧视某个种族，而
27、是为了“矫正过去的社会歧视 (societal discrimination) ”。因此，对于这种不是为了刻意贬低某个种族的政策，显然使 用种族因素是符合第十四修正案的。 29 而在 Grutter 案中， 金斯伯格法官则更是从当前社会的无意识歧视和不平等的 现实出发，论证平权行动的合理性。她引用琳达克雷格 (LindaKrieger) 的研究， 指出当前美国社会中仍然广泛存在有 意识的种族歧视和无意识的种族歧视。30而在现实世界中，某些少数族裔在教育机会上要远远落 后于其他群体。例如，在公共教育中，绝大多数的黑人孩子 和西班牙裔孩子上的都是少数族裔占多数的学校，而这些学 校所能获取的教育资源
28、比其他学校要差很多。在学术界，这种自由派的看法更是占据了绝对的主流，保守 派法官所谓“无视种族 (color- blinded) ”的平等立场受到了自 由派学者一轮又一轮的攻击。在 Bakke 案的前两年， 面对最高法院逐渐采取的保守主义态 度，欧文费斯(Owen Fiss)发表了一篇著名的论文，提出了 反种族屈从 (anti-subordination) 和反种族区分 (anti-classification) 两种平等观。32在他看来，宪法第十四修正案应当采取反种族屈从的平 等保护，而非采取反种族区分的平等保护。费斯在耶鲁大学 法学院的同事瑞瓦西格尔(RevaSiegel)也指出，将平等保
29、护 解释为无视种族或种族中立，这实际上是一种固化社会种族 不平等的法律解释， 和历史上曾经将种族隔离解释为“隔离但 平等”的法律解释具有类似的效果。 33 而有的学者则更加直 接，直斥所谓的“无视种族”是另一种形式的种族主义。 综上所述，对于何谓黑人等少数族裔和白人之间的种族平等， 自由派和保守派存在着根本性的分歧， 35 不可能找到一种 完全客观平等的算法。在保守派看来，平等保护必须是无视 种族的， 36 这是对于布朗案所确立的宪法平等原则的最佳 阐释。 但在自由派看来，平等并不意味着种族中立和不考虑种族， 因为历史和社会上广泛存在的种族不平等是一个不容回避 的现实，在这种情况下，一味地强调
30、种族中立，这和鸵鸟将 头埋进沙子一样自欺欺人。而如果考虑亚裔的情况， 我们会发现更难找到平等保护的“唯 一正确答案”。在美国高校招生的历史中，亚裔和黑人一样， 都遭受了不平等的待遇。按说，如果平权行动适用于黑人， 那么基于历史矫正的理由，平权行动也应当适用于亚裔。 但是由于亚裔的天赋、努力以及对教育的重视，亚裔在成绩 等申请条件上要远高于黑人甚至白人，这使得亚裔往往成为 大学招生的牺牲对象。 38 亚裔的录取人数往往被限定在一 定比例，要进入同样水平的大学，亚裔往往需要远高于其他 族裔的申请条件。亚裔不但没有像黑人那样享受平权行动的照顾，甚至遭受了 比白人还更明显的平权行动的不利影响。 39
31、如果站在亚裔 的角度思考，无论是平权行动还是非平权行动，无论是自由 派的法律理论还是保守派的法律理论，可能对亚裔都是不公 平的。或许有人说，这种绝对平等的算法可以在罗尔斯的正义理论 中找到。既然平等和公平理论很难取得共识，那么大概唯一 的方法就是设想一种“无知之幕 (veilofignorance) ”之下的公 平，将每个人的社会地位、 阶级出身、 天生资质、 智力水平、 政治经济状况都统统抹去，设想一个没有个人身份属性的个 人所选择的社会。41而由于这个没有身份属性的个人有可能成为白人，也有 可能成为黑人、亚裔或其他种族，因此这个人必定会选择一 种较为平等或公平的招生制度，而不会倾向于某个特
32、殊的种 族。通过消除人们的身份而消除人们的偏见，这或许可以实 现对于平等的“重叠共识”。但悖论的是，罗尔斯理论世界的完美恰巧源自于他对现实世 界的回避， 42 在现实世界中，人们不可能通过消除自己的 种种身份而消除伽达默尔所谓的“前见”。43不同身份和立场的群体往往容易站在不同的角度看待平 等问题，并且会将这种不同见解反应到对于宪法平等条款的 解释上。 44 关于平权行动的争论就是一个典型的例子，如 果从各自的立场上去看，就会发现各方可能都倾向于认为自 己受到了不平等对待，更需要“平等保护”。这就像在分蛋糕的情形中，如果各方都对自己所分到的蛋糕 不满意，认为应当多分一些，那么再怎么重分蛋糕也不可能 让所有的人满意。在这个意义上，试图寻找一种平等保护的 “唯一正确答案”或完全客观公平的算法，的确是一种不可能 的任务。四、法律解释的技艺：重思平权案判决 行文至此，本文的分析似乎有些让人绝望：美国最高法院不 仅在宪法第十四修正案的解释与推理的过程中犯了错误，而 且最高法院事实上没有矫正的机会 - 因为根本不存在正确答 案，任何算法都存在不平等的伦理问题！ 但在得出这个令人沮丧的结论之前，
