Please enable JavaScript.
Coggle requires JavaScript to display documents.
Interpretable AI (Target? (公正性：无偏见, 隐私性：不泄露, 可靠性和鲁棒性：微小扰动不会带来太大变动,…
Interpretable AI
Target?
公正性：无偏见
隐私性：不泄露
可靠性和鲁棒性：微小扰动不会带来太大变动
因果性：不仅仅是相关
可信性：让人放心
What?
让我们现在的模型，知其然，知其所以然
变得Human-like，像人一样知道为什么
好的表现和鲁棒性
能够理解它是怎么做决策的
Why?
需求来源于我们对问题和任务理解的不充分
源于自动化决策的高风险
源于人类对自身多样性的理解偏差
源于人类认知对信息压缩的需求
How?
第一种维度
内部逻辑
可视化
特征归属
Shapley & LIME
第二种维度
内省获取知识
线性模型，决策树，SVM
模拟获取知识
LIME & 可视化