據(jù)外媒gizmodo報(bào)道稱，近日，就其平臺(tái)將“black foreigner(外國(guó)黑人)” 自動(dòng)翻譯成“黑鬼”進(jìn)行道歉，這也引發(fā)業(yè)內(nèi)思考，如何教會(huì)AI(人工智能)識(shí)別種族主義歧視問(wèn)題?
本周三，一位黑人戲劇總監(jiān)安·詹姆斯在向同事發(fā)說(shuō)“她遲到了”，當(dāng)同事用中文回答的時(shí)候，自動(dòng)將信息翻譯成了“The nigger is late.(黑鬼遲到)”。事后，詹姆斯回憶，有時(shí)會(huì)自動(dòng)翻譯成以“n”開頭的稱謂。(注：nigger，一般指黑鬼，延伸意思為社會(huì)地位低下的人，是一個(gè)帶有侮辱性質(zhì)的詞語(yǔ)，盡量不要使用。nigger和nigro來(lái)自“黑色”的拉丁語(yǔ)niger(陽(yáng)性)和nigra(陰性)，引至英語(yǔ)里，意思也差不多是“黑的東西”所以是蔑稱。)
日前，對(duì)此事進(jìn)行道歉：“我們非常抱歉不當(dāng)?shù)姆g，在收到用戶的反饋后，我們馬上解決了這個(gè)問(wèn)題。”還指出，平臺(tái)使用的是人工智能翻譯軟件，AI是在經(jīng)過(guò)大量文本訓(xùn)練后給出翻譯結(jié)果，并且至關(guān)重要的是，翻譯軟件會(huì)充分考慮其上下文，這很有可能會(huì)引發(fā)誹謗嫌疑。
據(jù)悉，識(shí)別模式是語(yǔ)言AI的核心，語(yǔ)言AI是在關(guān)聯(lián)詞模式下提取詞語(yǔ)。例如，在2016年，研究人員測(cè)試了*文本算法與新聞抓取工具之間的關(guān)聯(lián)，出現(xiàn)的結(jié)果錯(cuò)誤泛濫： “艾米莉”被翻譯成“烏木”，“煎餅”對(duì)應(yīng)的“炸雞”‘更離譜的是，“男人”竟被翻譯成“女人”， “醫(yī)生”被稱為“護(hù)士”。
“AI可以說(shuō)更像人類一樣思考。可悲的是，他們正在學(xué)習(xí)我們提供的zui糟糕的東西。外媒指出，這在本質(zhì)上是如何“教導(dǎo)”AI識(shí)別種族主義歧視的問(wèn)題?
會(huì)員1.png)