黑河市网站建设_网站建设公司_网站制作_seo优化

16.1 算法公平性：群体公平与个体公平的定义与度量

随着人工智能系统在信贷、招聘、司法和医疗等社会关键领域做出日益重要的决策，其决策过程是否公正、无偏见已成为公众、学界和监管机构关注的焦点。算法公平性旨在系统性地识别、量化和缓解机器学习模型可能产生或放大的歧视与不公。其核心挑战在于，公平并非一个单一、普适的数学概念，而是包含多种相互关联、有时甚至冲突的规范性原则。本节将深入剖析算法公平性研究中两个最基础且最重要的范式：群体公平与个体公平。我们将详细阐述其哲学基础、形式化定义、核心度量指标，并分析其内在联系与局限。

16.1.1 算法公平性的背景与核心挑战

算法偏见通常并非源于开发者的主观恶意，而更多是历史数据中存在的系统性偏见、特征选择中的代理变量以及模型优化目标与社会价值不匹配共同作用的结果。例如，一个用于筛选简历的模型，如果使用历史上由人类招聘决策构成的数据进行训练，则可能学会复制其中存在的对特定性别或种族的偏好。

因此，算法公平性的目标并非追求绝对意义上的“平等”，而是追求一种公正的平等，即确保算法决策不会基于个人所属的受保护属性（如种族、性别、年龄）而产生不合理的有利或不利影响，同时保证决策的效用和质量。将这一伦理目标转化为可计算、可优化的数学框架，是算法公平性研究的核心任务。

16.1.2 群体公平：保护属性下的统计均衡

群体公平，也称为统计公平，是目前研究和应用中最主流的公平性范式。它要求算法决策在不同受保护群体（例如，男性和女性，多数族裔和少数族裔）之间，满足某种统计意义上的均衡条件。其基本思路是，通过约束模型在群体层面的表现指标，来实现对弱势群体的保护。

设A∈{ 0,1}A \in \{0, 1\}A∈{0,1}表示二元受保护属性（如A=1A=1A=1代表女性群体，A=0A=0A=0代表男性群体），Y∈{ 0，1}Y \in \{0， 1\}Y∈{0，1}表示真实结果（如Y=1Y=1Y=1代表“合格”），Y^∈{ 0，1}\hat{Y} \in \{0， 1\}Y^∈{0，1}表示算法的预测结果。群体公平性主要通过以下三类核心准则来定义和度量：

16.1.2.1 统计公平性

统计公平性要求预测结果Y^\hat{Y}Y^在不同群体间是独立的。其最严格的形式是人口统计均等：
P(Y^=1∣A=0)=P(Y^=1∣A=1) P(\hat{Y}=1 | A=0) = P(\hat{Y}=1 | A=1)P(Y^=1∣A=0)=P(Y^=