据外媒 gizmodo 报道称,近日,微信就其平台将“black foreigner (外国黑人)” 自动翻译成“黑鬼”进行道歉,这也引发业内思考,如何教会 AI (人工智能)识别种族主义歧视问题?本周三,一位黑人戏剧总监安·詹姆斯在向同事发微信说“她迟到了”,当同事用中文回答的时候,微信自动将信息翻译成了“The nigger is late.(黑鬼迟到)”。事后,詹姆斯回忆,微信有时会自动翻译成以“n”开头的称谓。
original="http://static.cnbetacdn.com/article/2017/1013/e26ddf37b10639e.png" />
图:微信就将“黑人”翻译成“黑鬼”致歉
注:nigger,一般指黑鬼,延伸意思为社会地位低下的人,是一个带有侮辱性质的词语,尽量不要使用。
nigger 和 nigro 来自“黑色”的拉丁语 niger (阳性)和 nigra (阴性),引至英语里,意思也差不多是“黑的东西”所以是蔑称。
日前,微信对此事进行道歉:“我们非常抱歉不当的翻译,在收到用户的反馈后,我们马上解决了这个问题。”微信还指出,平台使用的是人工智能翻译软件,AI 是在经过大量文本训练后给出翻译结果,并且至关重要的是,翻译软件会充分考虑其上下文,这很有可能会引发诽谤嫌疑。
据悉,识别模式是语言 AI 的核心,语言 AI 是在关联词模式下提取词语。例如,在 2016 年,研究人员测试了谷歌文本算法与新闻抓取工具之间的关联,出现的结果错误泛滥: “艾米莉”被翻译成“乌木”,“煎饼”对应的“炸鸡”‘更离谱的是,“男人”竟被翻译成“女人”, “医生”被称为“护士”。
“AI 可以说更像人类一样思考。可悲的是,他们正在学习我们提供的最糟糕的东西。外媒指出,这在本质上是如何“教导”AI 识别种族主义歧视的问题?