為什么不能是「她」?AI也要反性別偏見
尋找翻譯法:測試語音識別系統(tǒng)的翻譯準(zhǔn)確度
在后續(xù)實(shí)驗(yàn)中,研究人員創(chuàng)建了三個(gè)語音識別系統(tǒng):
End2End語音識別系統(tǒng),它借助c語言和開放源碼來接受Librispeech數(shù)據(jù)集的培訓(xùn),并通過自動將原始英語文本翻譯成目標(biāo)語言,來對語料庫進(jìn)行“反哺式”擴(kuò)充。* Cascade,其與End2End的核心技術(shù)相同,其區(qū)別在于,它從OPUS庫中提取并訓(xùn)練了7000萬對英語-意大利語數(shù)據(jù)和1.2億對英語-法語語言數(shù)據(jù),最后對訓(xùn)練數(shù)據(jù)進(jìn)行微調(diào),提供大量語料信息。* Cascade+Tag系統(tǒng),又在Cascade的基礎(chǔ)上,在訓(xùn)練數(shù)據(jù)中添加了許多能夠表明說話者性別的語料標(biāo)簽。
有趣的是,研究人員發(fā)現(xiàn),在“MuST-SHE”上進(jìn)行實(shí)驗(yàn)時(shí),將性別信息輸入Cascade語音識別系統(tǒng),并沒有收到顯著效果。數(shù)據(jù)集中原始引用和“錯(cuò)誤”引用之間的差異值表明,這三個(gè)系統(tǒng)都偏向于男性語言思維模式,似乎女性被放在了弱勢地位。
三類語音識別系統(tǒng)的產(chǎn)出成果衡量示意圖
在語料分類方面,Cascade在區(qū)分第一類翻譯語料時(shí)表現(xiàn)最差,因?yàn)樗鼰o法獲取說話者的性別信息,從而無法翻譯出正確的語句。相比之下,End2End能夠利用音頻特性來準(zhǔn)確地標(biāo)注出說話者的性別,但它在區(qū)分第二類翻譯語料上表現(xiàn)最差,原因可能在于它提取的訓(xùn)練數(shù)據(jù)集比較小,不足以讓它推斷出比較清晰的翻譯思路。
研究人員寫下了他們的實(shí)驗(yàn)感想:“如果在系統(tǒng)中輸入'機(jī)器吃什么’這樣的話語,那么AI可能會根據(jù)人類的食譜來列舉出具體的菜單,這就是站在人類的角度,對'吃'這個(gè)用詞闡發(fā)思考。它也可能站在機(jī)器的角度,寫出機(jī)器吃汽油之類的答案。但是通過對'吃'這個(gè)字的翻譯解釋,我們就能得到這樣的結(jié)論:AI的巨大優(yōu)勢在于,它能夠從輸入的音頻信號中推斷說話者的性別/屬性。這說明它的可塑性其實(shí)非常強(qiáng)!
谷歌也在谷歌翻譯軟件中引入了性別區(qū)分翻譯意識,主要目的也是為了解決性別偏見。谷歌研究團(tuán)隊(duì)將AI翻譯的性別差異性通過一種被稱為StereoSet的指標(biāo)體現(xiàn)出來,以顯示哪種系統(tǒng)翻譯方式比較可行,那種語料庫比較切合這種翻譯識別方法。希望在不久的將來,性別偏見可以真正從AI市場上被根除殆盡。
關(guān)于我“門”
將門是一家以專注于發(fā)掘、加速及投資技術(shù)驅(qū)動型創(chuàng)業(yè)公司的新型創(chuàng)投機(jī)構(gòu),旗下涵蓋將門創(chuàng)新服務(wù)、將門技術(shù)社群以及將門創(chuàng)投基金。將門成立于2015年底,創(chuàng)始團(tuán)隊(duì)由微軟創(chuàng)投在中國的創(chuàng)始團(tuán)隊(duì)原班人馬構(gòu)建而成,曾為微軟優(yōu)選和深度孵化了126家創(chuàng)新的技術(shù)型創(chuàng)業(yè)公司。
將門創(chuàng)新服務(wù)專注于使創(chuàng)新的技術(shù)落地于真正的應(yīng)用場景,激活和實(shí)現(xiàn)全新的商業(yè)價(jià)值,服務(wù)于行業(yè)領(lǐng)先企業(yè)和技術(shù)創(chuàng)新型創(chuàng)業(yè)公司。
將門技術(shù)社群專注于幫助技術(shù)創(chuàng)新型的創(chuàng)業(yè)公司提供來自產(chǎn)、學(xué)、研、創(chuàng)領(lǐng)域的核心技術(shù)專家的技術(shù)分享和學(xué)習(xí)內(nèi)容,使創(chuàng)新成為持續(xù)的核心競爭力。
將門創(chuàng)投基金專注于投資通過技術(shù)創(chuàng)新激活商業(yè)場景,實(shí)現(xiàn)商業(yè)價(jià)值的初創(chuàng)企業(yè),關(guān)注技術(shù)領(lǐng)域包括機(jī)器智能、物聯(lián)網(wǎng)、自然人機(jī)交互、企業(yè)計(jì)算。在近四年的時(shí)間里,將門創(chuàng)投基金已經(jīng)投資了包括量化派、碼隆科技、禾賽科技、寬拓科技、杉數(shù)科技、迪英加科技等數(shù)十家具有高成長潛力的技術(shù)型創(chuàng)業(yè)公司。

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動更多
-
7月8日立即報(bào)名>> 【在線會議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身機(jī)器人動力電池技術(shù)應(yīng)用大會
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會2025(第六屆)機(jī)器人及智能工廠展
-
免費(fèi)參會立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語言動作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國跨境支付十大趨勢
- 5 中國最具實(shí)力AI公司TOP10
- 6 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 7 國家數(shù)據(jù)局局長劉烈宏調(diào)研格創(chuàng)東智
- 8 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人
- 9 張勇等人退出阿里合伙人
- 10 深圳跑出40億超級隱形冠軍:賣機(jī)器人年入6.1億,港股上市