排列三组三直选复式奖金是多少|3d买4码组六组三怎么打
  • ?
    联系我们

    广东联迪信息科技有限公司

    服务热线

    网络集成:400-899-0899

    软件支持:400-8877-991

    咨询热线

    公司前台:0756-2119588

    公司传真:0756-2119578

    售前咨询:0756-2133055

    公司地址

    珠海市香洲区兴华路212号能源大厦二楼

    社会新闻
    当前位置 > 首页 > 社会新闻

    人类背锅:人工智能已出现种族和性别偏见

    类别:社会新闻发布人:联迪发布时间:2017-04-17

    英国媒体《卫报?#26041;?#26085;发表评论文?#36718;?#20986;,人工智能已经开始出现了种族和性别偏见,但是这种偏见并非来自机器本身,而是计算机在学习人类语言时吸收了人类文化中根深蒂固的观念。科学家呼吁,应当建立一个监管机构,去纠正机器的这?#20013;?#20026;。

    以下是文?#36718;?#35201;内容:

    让计算机具备理解人类语言的人工智能(AI)工具已经出现了明显的种族和性别偏见。

    这些发现令人担忧现有的社会不平等和偏见正在以新的、不可预知的方式得到强化,因为影响人们日常生活的大量决策正越来越多地由机器人做出。

    在过去的几年里,谷歌翻译等程序的语言翻译能力有了显著提高。这些成就要得益于新的机器学习技术和大量在线文本数据的使用,并在此基础上对算法进行训练。

    然而,最新研究显示,随着机器越来越接近于掌握人类的语言能力,它们也在吸收隐藏于语言中的根深蒂固的偏见。

    巴斯大学的计算机科学家、论文合著者乔安娜·布?#25104;↗oanna Bryson)?#25285;骸?#24456;多人都认为这表明人工智能(AI)存在偏见。不,这表明我们有偏见,人工智能正在有样学样。”

    但布?#25104;?#35686;告?#25285;?#20154;工智能有可能强化现有偏见,因为算法与人类不同,可能无法有意识地?#31181;?#23398;到的偏见。“危险在于,你拥有的人工智能系统没有一处零部件明确需要依靠道德观念驱动,这就不好了,”她说。

    ▲微软去年推出的Twitter机器人因不当言论而紧急下线

    上述研究发表在《科学》杂志上,重点关注一?#32622;?#20026;“单?#26159;度搿?#26426;器学习工具,后者已经改变了计算机解读语音和文本的方式。有人认为,下一步科技发展将自然而然地涉及到开发机器的类人化能力,如常识和逻辑。

    “我们选择研究单?#26159;度?#30340;一个主要原因是,近几年来,它们已帮助电脑在?#24179;?#35821;言方面取得?#21496;?#22823;成功,”这篇论文的资深作者、普林斯顿大学计算机科学家阿尔文德·纳拉亚南(Arvind Narayanan)说。

    这种方法已经在网络搜索和机器翻译中使用,其原理是建立一套语言的数学表示式,依据与每个单词同?#32972;?#29616;的最常用单词,将这个词的意思提炼成一系列数字(也就是词向量)。也许令?#21496;?#35766;的是,这种纯粹的统计方法似乎能够捕捉到每个词所在的丰富的文化和社会背景,这是字典无法定义的。

    例如,在数学“语言空间”,与花朵有关的词汇往往与描绘心情愉悦?#24149;?#35821;聚集在一起,而与昆虫相关的词汇则往往与心情不愉快的词汇同?#32972;?#29616;,反映出人们对昆虫与花朵的相对特点所达成的共识。

    最新的文件显示,人类心理实验中一些更令人不安的隐?#20113;?#35265;也很容易被算法捕获。“雌性”和“女性”与艺术、人文职业和家庭的联系更紧密,“雄性”和“?#34892;浴?#19982;数学和工程专业更为接近。

    而且,人工智能系统更有可能将欧美人的名字与诸如“礼物”或“快乐”之类的愉快?#35270;?#32852;系在一起,而非裔美国人的名字通常与不愉快的?#35270;?#32852;系在一起。

    研究结果表明,算法与隐式联想测试拥有同样的偏见,也就是把表示愉快的单?#35270;耄?#32654;国和英国的)白人面孔联系起来。

    这些偏见会对人类行为产生深远的影响。一项先前的研究表明,相对于非洲裔美国人,如果申请者的名字是欧洲裔美国人,即使简历内容相同,后者所能获得的面试邀请将比前者多出50%。最新的研究结果表明,除非采用明确的编程来解决这个问题,否则,算法将与?#36136;?#31038;会一样,充斥着相同的社会偏见。

    “如果你不相信种族主义与姓名存在联系,这就是例证,”布?#25104;?#35828;。

    研究中使用的机器学习工具是在被称为?#24052;?#29992;?#33713;妗?#35821;料库的训练数据集中接受训练的,其中的8400亿个?#35270;?#37117;是从网上公布的材料中选取的。当研究人员把训练数据集换成谷歌新闻的数据对机器学习进行训练时,也出现了类?#24179;?#26524;。

    牛津大学数据伦理和算法领域的研究人员桑德拉·沃彻(Sandra Wachter)?#25285;骸?#19990;界存在偏见,历史数据存在偏见,因此,我们得到带有偏见的结果,不足为奇。”

    她补充?#25285;?#31639;法不仅代表一种威胁,?#37096;?#33021;为采取适当方式解除和对抗偏见提供机会。

    “至少利用算法,我们可能知道算法会在什么时候出现偏差,”她说。例如,人类会在解释为何不雇佣某人时说谎,与此相反,算法不会撒谎,不会欺骗我们。”

    然而,沃彻?#25285;?#38382;题在于如何从旨在理解语言的算法中消除不恰当的偏见,同时又不剥夺它们的解读能力,这将是具有挑战性的工作。

    “原则上,我们可以建立一些系统?#28304;?#26377;偏见的决定进行检测,然后采取行动,”沃彻?#25285;?#24182;与其他人一起呼吁建立一个人工智能监管机构。“这是一项非常复杂的任务,但作为一种社会责?#21361;?#25105;们不应回避。”

    ?
    客服1 客服2 客服3
    排列三组三直选复式奖金是多少