從不見、偏見到重建:數據計畫與性別正義(高雄醫學大學性別研究所 余貞誼副教授)
整理者:張維媖
數據(data)/資料計畫
余貞誼從「數據計畫」(對數據的收集、使用與產出等過程)一詞切入並談到,目前資訊界對AI的認知大約分成:本體論、認識論,與方法論,指AI在接受轉譯成數據的資料後,憑藉機械客觀性產出一套符合人類世界規則與結構的產物,另外,AI也常被認為不只能整理出肉眼無法察覺的巨大模式,更能過濾人類的偏見與局限。
數據計畫與客觀性
然而,數據計畫的過程中,並非全然客觀。有電腦科學家提出,所謂的演算法,事實上是由「數理邏輯」與「人為控制」兩大部分組成,因此雖然AI本身在運算邏輯上不會自主產生偏見,卻會因為其資料庫由人工篩選、收集,而無法避免社會既有偏見影響,導致其產出事實上鞏固了既有結構。對此,余貞誼以「再犯預測系統COMPAS」為例,再次證實數據計畫並不只是科技議題,而同樣受文化政治影響。
數據女性主義
在一片爭議中,有資訊專家開始討論「數據就是權力」。他們主張,數據女性主義應延續女性主義的批判傳統,從性別平等信念去檢視數據科學實作對既有不平等的鞏固,並且同時強調行動與實踐,將性別平等的信念推廣到資訊領域的各個角落。
余貞誼道,數據女性主義的原則包含「檢視權力」,觀察AI產業中的從業者、受服務者與權益受損者之政治身分。找出不平等的權力結構後,也需要「挑戰」權力,接著也可以嘗試擴大既有的框架,突破過去科學不重視情感與身體經驗的現象,最後不忘「教導」,以影響數據科學家,讓數據計畫成為跨域、永續的「Data for Good」。
Data for Good
最後,余貞誼也討論大數據應用的正向效果,認為尊重群眾自我實踐與能動性,促進群眾發展潛力與凝聚力的AI,也會是幫助社會對抗偏見與歧視的好工具。余接著強調,數據計畫的應用必然包含各種價值的辯論與競爭,雖然AI帶來的商業利益使得人權不斷後退,但透過不斷追求透明性、反身性(工作者的位置與偏見)跟問責機制,余亦深信黑暗之中必有曙光,黎明也必將到來。