大專人權營課程側記
從不見、偏見到重建：數據計畫與性別正義 余貞誼
｜數據與AI客觀公平嗎？
將所有資訊轉為數據資料進行儲存運算已然是現今的趨勢，但在新穎而看似中性的「資料」與「演算法」名稱下，卻可能掩蓋了人為的偏差與不平等。高醫性別所余貞誼教授從關於對數據的蒐集、使用與產出等過程的「數據計畫」開始－從本體論、認識論與方法論等面向分析將事物轉為數據背後的知識基礎。透過龐大數據演算生成的AI，被認為能憑藉機械客觀性產出一套符合人類世界規則與結構的產物，另外，AI也常被認為不只能整理出肉眼無法察覺的巨大模式，更能過濾人類的偏見與局限。
｜人為控制的歧視與偏差
然而，數據計畫的過程並非全然客觀。電腦科學家提出，所謂的演算法，事實上是由「數理邏輯」與「人為控制」兩大部分組成，因此雖然AI本身在運算邏輯上不會自主產生偏見，卻會因為其資料庫由人工篩選、蒐集，而無法避免社會既有偏見影響，導致其產出事實上鞏固了既有結構。余貞誼以美國的「再犯預測系統(COMPAS)」為例，這個被期待能透過犯罪者的基本資料預測再犯機率的模型，實際上也因為人種的偏好而有所偏差，而高估非白種人再犯率，再次證實數據計畫並不只是科技議題，而同樣受文化政治因素影響。
｜數據女性主義：重視資料，挑戰權力
有資訊專家開始提出「數據就是權力」，他們主張，數據女性主義應延續女性主義的批判傳統，從性別平等信念去檢視數據科學實作對既有不平等的鞏固，並且同時強調行動與實踐，將性別平等的信念推廣到資訊領域的各個角落。
余貞誼道，數據女性主義的原則包含「檢視權力」，觀察AI產業中的從業者、受服務者與權益受損者之政治身分，以及在這些政治身分、權力背後涉及的資料蒐集與使用。找出不平等的權力結構後，也需要「挑戰」權力，接著也可以嘗試擴大既有的框架，突破過去科學不重視情感與身體經驗的現象，最後不忘「教導」，以影響數據科學家，讓數據計畫成為跨域、永續的「Data for Good」。
｜Data for Good
最後，余貞誼也討論大數據應用的正向效果，認為尊重群眾自我實踐與能動性，促進群眾發展潛力與凝聚力的AI，也會是幫助社會對抗偏見與歧視的好工具。數據計畫的應用必然包含各種價值的辯論與競爭，雖然AI帶來的商業利益使得人權不斷後退，但透過追求「透明性」、「反身性（工作者的位置與偏見）」跟「問責機制」，余亦深信在資料演算的黑盒子中也能看見更開放健全的數據未來。
｜請您支持，讓台權會繼續在南台灣進行人權扎根
台權會南辦為降低參與門檻，相關人權教育活動皆不收費，如寒暑假期間的營隊。在新興議題與人權領域上，召集頂尖的人權學者與工作者，培力年輕的學生社群接觸人權議題。為了弭平活動資源的區域落差，除了每年固定舉辦於南方的暑期學生營隊，亦於全台各地舉辦地方人權工作坊，擴散人權教育的資源與人力。
希望您支持今年的募款專案「人權行動派」，支持我們繼續落實辦理更多人權教育活動！
