面對AI用在生活的偏差

根據近兩年IBM、微軟系統、亞馬遜與Kairos的人臉辨識率發現，IA智慧因人種膚色而有所差異，也將影響它的應用程度。（圖片／達志影像shutterstock提供）

 

AI的進展已經從科技、商業、製造業、進入了我們的生活，許多事情都是AI替我們決定的，我們並不知情。申請學校、求職、人事考核升遷、貸款、購房、醫療、警力治安，甚至法官對罪犯量刑，原都是需要人的判斷又耗費時間的工作，運用或參考AI運算的結果，提升效率，又可避免人為介入之嫌，促使AI的運用範圍愈來愈廣。

 

我們相信AI，因為有科學的依據，AI是用龐大的資料，藉用一個模擬我們腦子的神經網路訓練的結果，這一程序製作無數的AI實例，告訴我們可以信賴。技術有了，資料更要可靠，所製作出來的AI才可以信賴。但應用在生活上的AI，多是從統計資料中找出相關的模式，而「相關」並不一定等於「因果」，這就會導致AI的偏差，有人可能因此受到不公平的對待。

 

康乃爾大學的Rediet Abebe教授，日前在MIT EmTech Digital的會議上說，AI研究人員必須面對「錯過了的機會」來增進社會福祉，AI務必深層的與社會科學以及弱勢社區合作，來確保AI工具不會製造的問題多過解決的問題。Abebe教授專精AI演算法，以及AI應用的社會福祉。所謂「錯過了的機會」，就是指AI應用的偏差。

 

美國是全球監禁人數最多的國家，據2016年的資料，有220萬人監禁在看守所與監獄，另外有450萬人在懲教機構接受教化，每38個美國人就有一個人的行動被限制或被監督。為了減少囚禁人數，同時又不冒增加犯罪的危險，開始採用自動化工具，希望盡可能的做到迅速又安全，例如用臉孔識別辨認嫌犯。

 

人臉辨識，是近年AI的一大進展，全球各地都相繼採用，作為身份的認證。那人臉辨識可靠嗎？用來辨認嫌疑犯不會認錯人嗎？當然會，亞馬遜的人臉識別系統不是把28位國會議員認成嫌犯嗎？據MIT媒體實驗室的研究，今年比去年改善不少，深膚色男性、深膚色女性、淺膚色男性、淺膚色女性，四大類別辨識率都有提升，唯有深膚色女性的辨識率，各個系統有很大差異。

 

2018年IBM系統的辨識率，淺男99.7%、深女65.3%，相差高達34.4%。Face++系統的辨識率，淺男99.2%、深女65.5%，相差33.8%。微軟的辨識率，淺男100%、深女79.2%，相差20.8%。其餘深男與淺女都在88%～99%之間，唯有深膚色女性的辨識率偏低。

 

2019年新加了兩家系統，亞馬遜、以及Kairos，亞馬遜的淺男與深女的比較為100%比68.6%，相差31.4%，Kaios的淺男與深女的比較為100%比77.5%，相差22.5%。而IBM、Face++、微軟三家的淺男與深女差異，分別下降為16.7%、3.6%、1.5%。至於深膚色女性的臉部辨識為什麼困難，有專家認為所取用的照片樣本太少，或者是照片的角度太少。

 

認臉可能讓警察抓錯人，隨著技術的改善，機會也會愈來愈小，但抓到人以後所用的「風險評估」，就比認錯臉嚴重多了。「風險評估」是一個評估再次犯罪的AI工具，評估結果給予「分數」。會不會成為屢犯，是法官對一個人犯量刑的考量，如果法官為了省事，用風險評估的分數作為量刑的標準，一旦這個分數出了偏差，就可能影響人的一生命運。

 

現代化的犯罪風險，是以歷史資料為基礎，如前所述，歷史資料是統計，從中找出相關的模式，並不代表因果關連。舉例來說，統計資料找出屢犯與低收入相關，如果以這個結果訓練「風險評估」，那低收入的人屢犯的風險分數必高，量刑也因此加重。但問題是，低收入與屢次犯罪並非有確定的因果關係，更嚴重的是，偏差的AI會繼續自我訓練，循環的結果，偏差的程度愈加愈大。

 

以上僅是兩個AI偏差的例子，近年有愈來愈多的學者指出AI用在生活上的偏差，特別在弱勢族群，製造有失公允的結果。Abebe教授呼籲大家要面對事實，結合科技與社會科學，共同來增進AI對社會的福祉，使得不再是「錯過了的機會」。為此Abebe教授發起一個跨領域的研究團體，「社會福祉機制設計」（Mechanism Design for Social Good），寄望成為一個大家合作與參與的典範。

 

記得一位專家說過，有了常識之後才是真正的AI。AI愈來愈打入我們的生活，生活又離不開常識，這一斷層，讓我們對AI疑慮、又得接受。在有常識的AI出現之前，這一窘境，也只能希望設計AI的人能加入一點常識來抒解。

 

 

 

★本文由那福忠「西海岸數位隨筆」授權轉載，與作者聯絡frank.na@gmail.com