姚记棋牌网址

AI也学会了偏见?科学家们操姚记棋牌网址碎了心

姚记棋牌网址 5055 姚记棋牌网址

集微网消息(文/木兮),据科技新报报道,Google于去年推出名为BERT的突破性新AI技术,目前已用于Google搜索引擎等服务。

姚记棋牌网址但科学家发现,它们在吸收数字化等大量信息的时候,信息中所隐含的具有偏见的成分它们也一并吸收,就如同孩子跟着父母有样学样。

举例来说,BERT及其类似系统更倾向于将信息与男性联结,而往往忽视女性。

语言模型的运作方面也同样如此。电脑科学家孟洛(Robert Munro)近日将一百个英文单词输入BERT的数据库,其中包括“珠宝”、“宝宝”、“马匹”、“房屋”、“金钱”、“行动”等。结果显示,BERT将这些单词和男性联结的几率高达99%,而“妈妈”则成了唯一的例外。

姚记棋牌网址同时孟洛还在网上撰写文章,描述他如何检测Google和亚马逊网络服务的云端运算。其中他提到,这两套系统都无法将“她的”这个词辨识为代名词,而“他的”该词却能进行正确认读。

对于AI出现吸收具有偏见性的因素这一现象,科学家们也表示担忧,孟洛指出:“这一如我们一直看到的历史不平等”。甚至对于BERT这类更复杂的系统,孟洛担心偏见将会持续下去。

Google发言人就此问题进行回应,公司将会投入大量资源确保自家科技高度精准并减少偏见,包括设定严格基准、多方测试和投入多元训练等。

(校对/holly)

发表评论 (已有0条评论)

还木有评论哦,快来抢沙发吧~