多樣性如何透過人工智慧消除文化偏見

多樣性如何透過人工智慧消除文化偏見

Our Thinking / Voice on Growth Economies /

多樣性如何透過人工智慧消除文化偏見
參見:
Calendar02 十月 2018

人類天生容易有文化偏見。這在所有人類科學中皆可發現——包括經濟學、心理學和人類學——文化偏見被定義為「根據自己的文化偏好或特定文化規範的固有標準來判斷和解釋現象的過程」。1

文化偏見可以說明為什麼在某些文化中避免眼神接觸可以解釋為迴避或害羞,而在其他文化則是表示尊重。這就是為什麼在阿根廷出生的人可能穿著表彰梅西的球衣,而橫跨大西洋的球迷则推崇葡萄牙的 C‧羅納度。為什麼韓國在喝湯時發出聲音是常態,而在其他地方可能會被認為是不良的餐桌禮儀。以及為什麼我們從左向右閱讀英文文本,而其他的文字 (如阿拉伯文) 則必須從右向左閱讀才有意義。我們周圍的環境對我們如何看待世界以及如何與世界互動有著強大的影響。

但是,若某個主要全球產業 (例如電腦程式設計) 被單一文化觀點所主宰,會發生什麼事?美國是電腦程式設計的國際領導者,但根據最近的 Stack Overflow 調查,美國 85.5% 的電腦程式設計師都是男性,且大部分男性是白人。2考量到這些程式設計師正在 AI 領域的最前端建立程式碼,這是否意味著白種人的經驗和感受能力將定義數位世界和 AI 宇宙的未來?是,也不是。

程式設計的同源問題

當一個白人男性開發一個演算法,不可避免地,AI 會透過這個開發者的特定觀點來看待世界。這個原始程式設計師的智能 DNA 現在是這個 AI 專案日後繼續開發、處理輸入和資料並學習的基礎。與人一樣,有限的生活經驗在日益全球化的世界中會造成嚴重的危害,充滿了意想不到的問題和挑戰。

文化偏見潛伏在意想不到的地方。例如,當 Walmart 擴展到中國時,零售商為該國 13 億人服務的願景很快就動搖了,因為公司發現中國消費者與美國消費者不同,在不同的城市以及不同的國內組成部分,有著截然不同的需求和偏好。這家零售商在服務的 117 個城市中找不到合適的產品組合。這一點,連同無法預料的政治和基礎設施困難,擾亂了該公司預先計畫的有效供應鏈系統。 3

文化偏見就存在於全球各個文化之間的細微差別上,從高中考試中所問的歷史問題,到讓人們發笑的笑話,甚至是對美的定義。隨著機器學習和 AI 持續湧現並影響我們的社會,我們——意指業界專業人士、商界領袖和政府機構——在定義我們的感受、觀點和優先順序時,對於同源所扮演的角色,必須非常謹慎。

專案經理和協調員必須建立協定,防止文化偏見的腐敗影響在程式設計過程中獲得立足之地。在策略討論的前端優先考慮多樣性,是非常重要的事。通常,文化偏見是安靜、幾乎無形的,但幾年後,則會以驚人的方式暴露出缺乏遠見、意識和同理心。最終的損失可能代價高昂。根據美世加速影響:2018 年性別轉折點,「研究顯示,無意識的偏見是人類的正常特徵,但可以導致關於男性和女性及其職業的決定,而這並不符合本組織對於優點、技能和才華的獎勵目標。」4

想一想,過去 10 年或 20 年來,社會對於每一個種族、性別和文化背景的多樣性與包容性的需求日益增長,但有多少政治和商業政策以及「文化規範」並沒有跟上這樣的社會需求。公司業務不斷變化。精明和前瞻性的公司都知道,文化偏見最強的解毒劑是多樣性——思想、經驗、背景、信仰和觀點的多樣性。這結合了豐富的智慧和創造力,建立了影響的協同效益,可限制文化偏見決定程式設計結果的能力。簡而言之,多樣性是長期 AI 成功的關鍵。

解決方案必須從頭開始

雇主可以採取一些步驟來防止程式設計的同源性。首先,雇主必須承認,程式設計中缺乏多樣性是一項責任,因為缺乏前瞻性思維遠見,將會造成競爭力能力下降。更新的內部政策和協定應讓公司目標與 AI 能力及其對產業和客戶的影響相一致。這代表在整個程式設計操作的過程中建立多樣性,以便持續比較各式各樣的人才、觀點和想法,予以改善並帶入生活當中。

其次。雇主必須利用技術本身的力量。透過機器學習,公司可以建立資料集,教導電腦使用「AI 訓練」組成自己的演算法。 然後,機器會根據被教導的內容,產生全「新」和原始的組合。簡而言之,一開始的多樣性可導致多樣性的輸出。當一間公司擁有多樣性和包容性的開發社群時,就會建立更能夠反映各種問題的工具——這些問題可能會影響到處理不足或忽略的組織問題或機會。為了減輕同源程式設計的陷阱,應該從頭開始做起。

結論:適合所有人的包容性 AI 宇宙

人與技術的合流將定義工作的未來,但人的因素將永遠照亮前進的道路。在這種不斷變化的局面當中建立競爭優勢,亦即評估人們對技術的影響,並記住人性是引導人類行為的因素。有效的數位轉型需要努力瞭解不同觀點的力量,並理解隨著我們與 AI 宇宙之間有越來越多的連結,人類和人類經驗會如何進化——這是一個沒有障礙的包容性領域。

畢竟,當具有不同觀點和經驗的人合作解決問題時,可能會產生神奇的結果。多樣性是創造過程的關鍵,也是一種思想的交叉傳授,可推動現代發現。每個程式設計師都可以是一個無畏的探險家,他們的發現應該連結世界各地程式設計師的才華和貢獻。

1 透過範例理解文化偏見的現象
https://psychologenie.com/understanding-cultural-bias-with-examples

2 Stack Overflow 2017 年開發人員調查
https://insights.stackoverflow.com/survey/2017#overview

3 Walmart 在前進中國的道路上摔跤的原因
http://fortune.com/2016/02/21/why-walmart-stumbled-on-road-to-china/

4 加速影響:2018 年迫切的性別問題
https://www.mercer.com/our-thinking/when-women-thrive-accelerating-for-impact.html

下載流動應用程式



  與我們溝通
我們渴望與您交談。請在下面提供詳情。
*必填欄位