Please enable JavaScript.
Coggle requires JavaScript to display documents.
Undress or Fail: Instagram’s Algorithm Strong-arms Users into Showing Skin…
Undress or Fail: Instagram’s Algorithm Strong-arms Users into Showing Skin
AlgorithmWatch的實驗
請26位參與者安裝plugin來搜集他們instagram上看到的feed
義工instagram的feed是由他們過去的瀏覽紀錄、平台互動而計算出來的
結果發現裸露肌膚的圖片受到演算法偏好
原因：
"state of undress" 可能是用來訓練AI的feature之一
AI的訓練資料可能是來自整體用戶，而非該使用者。所以群體的bias就體現在演算法上
桌桌有當過AI資料標注員，Amazon Mturk上一小時的平均薪水是$3~$7。專業data標記公司的簽約的標注員可能$15~$20 (超市收銀員等級薪水)，現在也很常外包給較低收入國家(印度、中南美洲、東南亞)
Computer Vision技術概述
抑或者資料的標記員把他的偏見帶入了訓練資料中(訓練員多半是低薪工作者)
影響：
有利於特定產業(ex.泳裝廣告)，不利於其他產業
使用者特意露肌膚增加曝光，但是又怕露太多被ban
有人創作者雖然受害，但是怕被平台showdow-ban所以不敢發聲
Facebook否定並認為AlgorithmWatch的實驗有瑕疵
Facebook的專利
每篇貼文發布時，會計算engagement metric
依據特定使用者過去行為
依據”所有“使用者過去行為
性別、種族、裸露程度為可能的訓練feature
FB的Data Scientist多半為男性
The General Data Protection Regulation (GDPR) & Platforms to Business (P2B) regulation
使用者應該有對AI判斷的再解釋權
AI服務提供商應該公開演算法使用的parameters
可能有難度，deep learning技術下，很多parameters是我們無法解釋的“黑盒子”
很多國家仍然缺法法規約束