Please enable JavaScript.
Coggle requires JavaScript to display documents.
算法偏见——大数据时代的公平性挑战 - Coggle Diagram
算法偏见——大数据时代的公平性挑战
具体表现与案例
3.1： 司法领域（如COMPAS系统）
3.2： 招聘职场（如亚马逊AI招聘）
3.3： 金融服务（如贷款审批）
3.4： 面部识别（误差差异）
定义与本质
1.1： 系统性、不公正的决策结果
1.2： 核心特征
1.2.1： 隐蔽性（隐藏在“客观”的代码背后）
1.2.2： 规模化（能快速、大规模地复制歧视）
1.2.3： 自我强化（偏见的输出加剧偏见）
1.3： 与人类偏见的区别：更高效、更难察觉
产生根源
2.1： 数据层面
2.1.1： 历史数据偏见（垃圾进，垃圾出）
2.1.2： 数据代表性不足
2.1.3： 测量偏见
2.2： 算法模型层面
2.2.1： 模型设计缺陷
2.2.2： 特征选择不当（代理变量问题）
2.3： 人为与系统层面
2.3.1： 开发团队的单一性
2.3.2： 商业目标优先
严重后果与挑战
4.1： 对个人：机会剥夺、尊严受损
4.2： 对社会：固化不平等、侵蚀信任
4.3： 对技术与商业：法律风险、损害声誉
应对与治理策略
5.1： 技术解决方案
5.1.1： 公平性机器学习（嵌入公平性约束）
5.1.2： 可解释AI（提高透明度）
5.1.3： 偏见审计工具（检测与量化偏见）
5.2： 管理与流程优化
5.2.1： 建立负责任的AI治理框架
5.2.2： 实施全生命周期偏见风险管理