為什么不能是「她」？AI也要反性別偏見

2020-07-15 09:48

提到性別偏見，別以為只有人才會產(chǎn)生偏見，事實(shí)上作為非生命體的AI系統(tǒng)，也可能因為設(shè)計者的疏忽，或者社會語料庫本身的性別不公因素，而流露出性別偏見傾向。這當(dāng)然不是設(shè)計者的本意，可是這種現(xiàn)象無可避免地會對部分用戶造成觀感不適。

特倫托大學(xué)的研究人員以身力行，借用名為＂MuST－SHE＂的測試集，來評估AI語音翻譯系統(tǒng)的輸入文本數(shù)據(jù)集是否存在具有性別差異的語句，而AI又是否將這種性別差異從翻譯加工成果中體現(xiàn)出來。

分門別類！為不同翻譯語料類型找準(zhǔn)定位

在機(jī)器翻譯過程中，性別偏見可以歸因于語言表達(dá)上之于男女性別的差異。那些有專屬性別語法系統(tǒng)的語言，如羅曼斯語，依賴于性別詞性和句法變化來區(qū)分出性別差異。而這對于英語和中文都是不適用的，比如說，中文是一種“自然性別”系的語言，它只通過代詞（如：“她”和“他”）、固有性別的詞語（如：“男孩”和“女孩”）和性別專用名詞（如：“媽媽”和“夫人”）來反映性別差異。

如果AI翻譯系統(tǒng)不能捕捉到這些細(xì)微差別，可能導(dǎo)致對不同性別群體的不準(zhǔn)確描述。為了盡可能抹消這種區(qū)別，研究人員專門創(chuàng)建了一個被稱為MuST－SHE的多語言測試集，旨在揭露潛藏在語言翻譯系統(tǒng)后的性別偏見。

機(jī)器人在吸收歧視性數(shù)據(jù)集后，也會表現(xiàn)出歧視傾向

MuST－SHE是基于TED演講數(shù)據(jù)集篩選得出的一個數(shù)據(jù)子集，其中包括大約1000份音頻、文本和翻譯素材，這些翻譯素材都取自開源MuST－C語料庫，有專門的語料注釋了與性別相關(guān)的定性差異。這些素材被細(xì)分為兩類：

第1類：當(dāng)性別差異性僅取決于說話人本身的性別時（即沒有相應(yīng)的語境樣本支持），翻譯素材的形成需從音頻信號中獲取消除性別歧義的必要信息樣本。

第2類：所得的翻譯素材有直接消除歧義信息的樣本支持，其中包含比較清晰的語境提示，如性別指定性詞組、代詞和專有名詞都能說明說話者的性別。

每一類的第一框都是正確語料例子

第二框是錯誤例子作為參照物

基于語料庫中的每一條翻譯引用，研究人員都特意創(chuàng)建了一個反面語料例子，除了“他／她”不分、“男／女”不分之外，反面的翻譯素材與原文的涵義其實(shí)完全相同。在將兩種語料信息輸入AI翻譯系統(tǒng)后，研究結(jié)果表明，在性別的正式表達(dá)預(yù)料方面，原語料庫中的翻譯范例被AI駁回，認(rèn)為其是“存在部分錯誤的”，而反面語料例子則被認(rèn)為是“正確的”。這種結(jié)果差異可以用來衡量語音識別系統(tǒng)處理性別現(xiàn)象的能力。

1 2 下一頁>