摘要
這篇文章深入探討了AI偏見背後的複雜因素，以及如何透過社會公平來實現真正無偏見的演算法。我們常常忽略的是，解決這些問題不僅關乎科技，更涉及我們所生活的社會結構。 歸納要點:
- AI偏見的根源在於訓練數據的偏差，這反映了社會結構性的不平等，而僅僅調整算法無法解決問題。
- 去除數據中的偏見需謹慎，過度校正可能導致失真，因此需要精細的方法和嚴謹的評估框架。
- 理解AI模型的決策過程是提升透明度與信任的重要一環，透過算法解釋技術可以找出潛在的偏見來源.
如果社會運行在人工智慧之上，那麼我們可能會面臨不少麻煩。要如何修正AI算法中的偏見呢？直到我們對「無偏見」這個概念有共識之前，我們的努力恐怕都會事倍功半。舉例來說，想像一下某個AI模型接受了相當不錯的數據集訓練後，它應該能夠從提示中生成類似《紐約時報》的文章（這可不是開玩笑）。但問題在於，這種偏見可能會出現在一些非常嚴重的情況下。一段時間前，一個關於再犯預測的算法引發了廣泛爭議，因為它似乎存在種族偏見。該AI算法本來是用來判斷某人未來是否可能犯罪，以便協助法院決定保釋、量刑和提前釋放等事項。}
{在探討AI算法中的偏見時，我們必須強調數據來源的重要性。不平衡或帶有偏見的數據集將直接影響到算法所產生的結果。此外，對不同算法設計原理進行比較分析，可以幫助我們更好地理解各種方法如何處理這些問題。例如，在實際應用中面臨挑戰的一些案例，以及針對這些挑戰所採取的解決方案，都可以增強論述的深度與說服力。
{在探討AI算法中的偏見時，我們必須強調數據來源的重要性。不平衡或帶有偏見的數據集將直接影響到算法所產生的結果。此外，對不同算法設計原理進行比較分析，可以幫助我們更好地理解各種方法如何處理這些問題。例如，在實際應用中面臨挑戰的一些案例，以及針對這些挑戰所採取的解決方案，都可以增強論述的深度與說服力。
根據某種指標，該系統被發現對黑人存在種族偏見。這當然不意外。如果訓練數據本身存在偏見，那麼大型語言模型無法避免地會學習到這些偏見。但真的就沒有解決辦法嗎？
如果輸入的數據有偏見，那為什麼不試著去除這些偏見，並將“公正”的版本輸入呢？網路上肯定能找到一些瑪莉·居里和莉莎·梅特納的圖片，如果這些圖像在訓練集中多次出現，而不是僅出現一次，那麼它們的重要性或許可以得到提升，從而實現更好的代表性。然而，問題隨之而來：究竟應該在多大程度上增強瑪莉·居里的形象呢？換句話說，我們該把她的影像重複多少次才合適呢？
在識別和修正AI訓練數據中的偏見時，可以強調幾個重要方面：首先，要採用多樣化的數據來源，以便反映不同族群的特徵；其次，引入公平性指標，比如統計平衡與機會均等，以量化偏見的程度；再者，利用算法解釋技術來檢視模型的決策過程，以確保透明度；最後，需要持續監測並迭代更新訓練數據，以適應社會變遷並減少潛在的偏見。
如果輸入的數據有偏見，那為什麼不試著去除這些偏見，並將“公正”的版本輸入呢？網路上肯定能找到一些瑪莉·居里和莉莎·梅特納的圖片，如果這些圖像在訓練集中多次出現，而不是僅出現一次，那麼它們的重要性或許可以得到提升，從而實現更好的代表性。然而，問題隨之而來：究竟應該在多大程度上增強瑪莉·居里的形象呢？換句話說，我們該把她的影像重複多少次才合適呢？
在識別和修正AI訓練數據中的偏見時，可以強調幾個重要方面：首先，要採用多樣化的數據來源，以便反映不同族群的特徵；其次，引入公平性指標，比如統計平衡與機會均等，以量化偏見的程度；再者，利用算法解釋技術來檢視模型的決策過程，以確保透明度；最後，需要持續監測並迭代更新訓練數據，以適應社會變遷並減少潛在的偏見。
觀點延伸比較:
| 公平性定義 | 主要觀點 | 數學原理 | 影響因素 | 改善建議 |
|---|---|---|---|---|
| 相同評分的一致性 | 黑白人群在犯罪可能性上應一致 | 統計公平與個人公平之間的衝突 | 族裔間犯罪率差異 | 使用多樣化數據集 |
| 無再犯的黑人與白人被告的風險評分應相同 | 滿足此定義在數學上不可能實現 | 不同族群再犯機率的統計差異 | 社會心理學對偏見感知的影響 | 提高算法透明度 |
| 算法設計中的潛在偏見分析 | 探討技術與人類判決中的偏見 | 演算法設計、數據來源及特徵選擇引入的偏見 | 文化敏感性的缺乏 | 進行隱含偏見訓練 |
| 案例研究的重要性 | 舉例說明如司法系統或招聘流程中的具體情況 | 社會中不平等現象如何被技術反映或加劇 | 法官與算法的比較分析 | 促進跨文化背景下數據比較 |
| 科技對幸福感的影響探討 | 科技未必增加幸福感，甚至可能造成困惑和焦慮 | 心理學研究揭示了科技與情緒之間複雜關係 | 提升對科技使用的認識是必要的 |
)
為了解決訓練數據中的偏見，我們可以考慮一個簡單的方案，就是對訓練數據進行重新加權，透過不斷重複展示瑪麗·居里的圖像來消除性別歧視的影響。那麼，具體該如何加權呢？或許某位聰明的人會說，可以進行一些粗略的計算——如果我們希望ChatGPT生成的科學家圖片中女性和男性各佔50%，這就能幫助我們確定需要多少次重複展示瑪麗·居里的圖像。
當然，其中有很多細節需要釐清，例如選擇哪些圖片多次展示、如何加權等等，但這種想法似乎在某種程度上是可行的。其實，在其他方法也有所幫助的情況下，類似於「去偏見化數據集」的方法曾經取得了一定成效。
當然，其中有很多細節需要釐清，例如選擇哪些圖片多次展示、如何加權等等，但這種想法似乎在某種程度上是可行的。其實，在其他方法也有所幫助的情況下，類似於「去偏見化數據集」的方法曾經取得了一定成效。
在公平這個議題上，實際上沒有一種可以滿足所有人對於「公平」的定義。不幸的是，就像你可能從例子中注意到的一樣，有許多不同的指標可以用來衡量一張科學家的圖片中應該有多少女性。對某些人來說，50%的女性比例似乎是合適的，畢竟這也是我們社會所追求的目標，不是嗎？
)
有些人可能會認為，對於某些領域的代表性應該是準確的。例如，如果是一位生物學教授的形象，50%的女性比例似乎還算合理，但如果是在物理學領域，20%或許更符合期待。之所以會出現這兩種看似合理的定義，是因為對「公平」的理解並沒有一個公認的標準。如果社會能夠達成共識，那麼OpenAI的創作者或許就能在其大型語言模型中實施這樣的標準，從而消除偏見。這也引發了對各行業歷史背景和文化影響進一步探討的重要性，以揭示性別比例不平衡背後的根本原因。此外，引入數據分析模型來量化現實與理想之間的差距，以及展示成功案例如何透過政策和企業努力改善性別多樣性，都能提升大家對公平性的認同感與期待。
但如果我們無法就什麼是公平和無偏見達成共識，那麼他們能夠實施什麼呢？在ProPublica的案例中，這個問題表現得相當糟糕。出現了兩種合理的公平性定義，它們雖然有點冗長，但都很有道理。COMPAS評分系統在美國刑事司法體系中使用，對被告進行1到10的評分，其中較高的分數代表更高的犯罪可能性。其中一種公平性的定義是，相同評分（1到10）的黑白人群，在犯罪可能性上應該是一致的。}
{在討論COMPAS系統時，可以深入分析算法決策原理，例如探討機器學習模型如何用於風險評估，以及數據來源中的偏差如何影響最終結果。此外，如果能加入一些案例研究或具體數據，說明不同族群在被判定為高風險時所遭遇的不平等待遇，將會更加凸顯社會背景對於算法公正理解與實踐的重要影響。
{在討論COMPAS系統時，可以深入分析算法決策原理，例如探討機器學習模型如何用於風險評估，以及數據來源中的偏差如何影響最終結果。此外，如果能加入一些案例研究或具體數據，說明不同族群在被判定為高風險時所遭遇的不平等待遇，將會更加凸顯社會背景對於算法公正理解與實踐的重要影響。
)
另一種合理的定義是，對於那些沒有再犯的黑人被告，他們的風險評分應該與那些沒有再犯的白人被告相同。乍聽之下，滿足這兩種公平定義似乎並不困難，但從數學上來看，這卻是不可能實現的。原因在於，黑白族裔在再次犯罪的可能性上存在著差異。華盛頓郵報的一篇博客文章正是揭示了這一點。
為了更深入地理解這個問題，我們可以探討不同公平定義背後所涉及的數學原理，例如統計公平與個人公平之間常常存在衝突。在現實中，比如處理性別或種族資料不均衡時，就會發現如何影響演算法決策和結果。此外，社會心理學也提供了一些有趣的視角，可以幫助我們理解人們對公平感知上的多樣性，加深我們對此議題複雜性的認識。
為了更深入地理解這個問題，我們可以探討不同公平定義背後所涉及的數學原理，例如統計公平與個人公平之間常常存在衝突。在現實中，比如處理性別或種族資料不均衡時，就會發現如何影響演算法決策和結果。此外，社會心理學也提供了一些有趣的視角，可以幫助我們理解人們對公平感知上的多樣性，加深我們對此議題複雜性的認識。
我們社會大概都能認同，「科學家的圖片」不應該只呈現全是男性的畫面。但是，對於這張圖片中女性、黑人、美洲原住民等群體的比例，我們可能無法達成共識。同樣地，我們也難以就算法在預測個人犯罪機率時所採用的「公平」定義達成一致，因為這直接影響到保釋和個人的生活。
在這裡，可以引入一些心理學原理，比如認知偏誤，來更深入地探討人類如何在無意識中形成偏見。而且具體案例，如社交媒體推薦系統或招聘演算法中的偏見影響，也值得注意。為了改善這些問題，我們可以考慮使用多樣化的數據集，以及提高透明度的措施，以促進更公平的結果。
在這裡，可以引入一些心理學原理，比如認知偏誤，來更深入地探討人類如何在無意識中形成偏見。而且具體案例，如社交媒體推薦系統或招聘演算法中的偏見影響，也值得注意。為了改善這些問題，我們可以考慮使用多樣化的數據集，以及提高透明度的措施，以促進更公平的結果。
)
一旦我們對「無偏見」的定義達成共識，確實可以使這些演算法符合該定義，這是可行的。然而，更具挑戰性的問題可能在於社會上是否能夠首先達成一致。那麼，我們應該放棄這些演算法嗎？想像一下，如果請一位人類藝術家畫出科學家的形象，他可能會不自覺地畫出男性。而當法官量刑時，他們也可能對某些族群如非裔美國人存在潛在的偏見。根據哈佛大學的隱性聯想測試，大多數人都在某種程度上存在潛在偏見，而法官們的平均得分似乎也證明了這一點，儘管他們通常相信自己優於他人。在探討技術和人類判決中的潛在偏見時，我們需要仔細分析演算法的設計原則，包括數據來源、特徵選擇及模型訓練過程中可能引入的偏見。此外，舉一些具體案例來說明這些偏見如何影響社會公平性，比如司法系統或招聘流程中的實際情況，也很重要。同時，引入不同文化背景下的數據比較，可以幫助我們了解技術如何反映或加劇社會中的不平等現象。
我覺得如果是人類法官有偏見，我會比算法有偏見來得更能接受，但如果深入探討這位法官的思維，就真的能讓我心安嗎？法官並不會因為偏見而被審查，他們的任期是終身的，主要依賴文化敏感性和隱含偏見訓練。因此，似乎科技並沒有使情況變得更糟，只是我們正在使用一個可以明確寫下其內建偏見、並且直接觀察數據的系統。若算法主導了我們的生活，那些內在的偏見就代表著我們社會本身。有時，我對科技感到困惑。有一次我在飛機上坐在一位心理學家的旁邊，她研究科技與幸福之間的關係。我問她：「科技是否增加了幸福感？」她給了我長達一小時的解釋，說明其實並沒有。我至今仍記憶猶新，她當時相當激動。
參考文章
法律人眼中的人工智慧治理──臺大劉靜怡：「在AI時代
劉靜怡認為，在「演算法社會」（algorithmic society），「治理」與「監控」本就是相依相生的難解問題，科技確實讓治理更有效率，卻也是最好的控制工具。「人民 ...
來源： 人文．島嶼
ALL
SEO 技術
相關討論
我想問一下，對於AI算法的偏見問題，我們真的能找到一個有效的解決方案嗎？而且，公平的定義這麼難達成共識，是不是會影響我們對公正判決的期待呢？