Please enable JavaScript.
Coggle requires JavaScript to display documents.
大数据伦理：偏见与歧视问题 - Coggle Diagram
大数据伦理：偏见与歧视问题
偏见的根源
算法设计
模型优化的是相关性，而非公平性
使用敏感属性的代理变量
有偏见的训练数据
历史数据反映过去的偏见
“垃圾进，垃圾出”原则
技术团队缺乏多样性
同质化的团队容易忽视边缘情况和偏见
有缺陷的数据收集
不具代表性的样本
缺失边缘化群体的数据
现实影响与案例
刑事司法
COMPAS与预测性警务：对少数族裔误报率更高
影响量刑和假释决定
金融服务
AI信用评分因地理位置而歧视
贷款申请算法
招聘与人力资源
亚马逊有性别歧视的招聘工具
简历筛选算法过滤掉特定名字/学校
面部识别
对女性和有色人种的错误率更高
缓解偏见的关键挑战
定义“公平”
多种且常常冲突的数学定义
危害的规模化
单个有偏见的算法可瞬间影响数百万人
“黑箱”问题
复杂模型难以解释
法律与监管滞后
法律难以跟上技术变革的步伐
解决方案与未来之路
治理与监管
透明度 / 可解释性AI
问责框架
伦理指南与标准
伦理最佳实践
多元化的开发团队
公司内部设立伦理审查委员会
提高公众意识与教育
技术途径
预处理： 对训练数据去偏见
处理中： 在算法中添加公平性约束
后处理： 调整模型输出以实现公平
算法审计： 定期测试歧视性结果