注册

人工智能时代的隐忧


来源:中国科学报

原标题:人工智能时代的隐忧:“舒服至死”■本报记者 计红梅今年2月,《纽约时报》英文网站发表了一篇文章,指出如今非常热门的人工智能(AI)应用人脸识别,针对不同种族的准确率差异

原标题:人工智能时代的隐忧:“舒服至死”

■本报记者 计红梅

今年2月,《纽约时报》英文网站发表了一篇文章,指出如今非常热门的人工智能(AI)应用人脸识别,针对不同种族的准确率差异巨大。其中,针对黑人女性的错误率高达21%~35%,而针对白人男性的错误率则低于1%。

文章引用了麻省理工学院媒体实验室研究员Joy Buolamwini与来自微软的科学家Timnit Gebru合作的一篇研究论文《性别图谱:商用性别分类技术中的种族准确率差异》中的数据,而其来源是微软、IBM和旷视三家公司的人脸识别API(应用程序编程接口)。

“人工智能系统确实可能存在偏见。”5月21日,在由北京大学法学院和北京大学出版社共同举行的“人工智能及社会角色”主题论坛上,微软全球执行副总裁、微软人工智能及微软研究事业部负责人、美国工程院院士沈向洋对此回应道。他表示,导致偏见的原因是系统使用的训练数据集主要源自白人,而黑人很少。

实际上,论坛当天的主题“人工智能及社会角色”是沈向洋与微软总裁及首席法务官施博德共同主持撰写、已在美国出版的《未来计算:人工智能及社会角色》一书的副标题。虽然人工智能已经成为微软目前发力的主要方向之一,但沈向洋坦言,AI近年来的迅猛发展,确实带来了一些困惑,例如偏见、透明和责任等等,我们需要对它所带来的正面和负面影响作深入的思考,并及时作好应对的准备。

而在《未来计算》这本即将由北京大学出版社正式出版发行的书中,沈向洋和他的同事分别从人工智能的未来,负责任地使用人工智能的原则、政策和法律,以及人工智能与职业和工作的未来等三个方面进行了深入剖析,并分享了微软对于人工智能技术发展,以及如何让人工智能等科学技术为社会创造更多福祉等问题的思考。

总结公众目前对人工智能兴起的态度,北京大学法学院副教授、北京大学法律人工智能实验室/研究中心副主任江溯将之归纳为两种观点,一种是“热情拥抱论”,另一种是“AI威胁论”。对此,北京大学哲学系教授何怀宏认为,如今人类把体力和智能都已经外包了,还仅剩下智慧。如果把智慧也外包出去,那么未来人类就很容易受摆布,因此应当保留独特性。特别是一旦可以媲美,甚至超越人类智慧的强人工智能出现的话,如果人类没有保留自身的独特性,就很容易滑入深渊,“舒服至死”。

谈及AI发展可能会对当下社会带来怎样严重的现实问题,北京大学计算机系主任黄铁军表示,“对此并不担心”。他认为,AI是人类与未来对接的唯一手段。其脱胎于人类,与人类存在连续性,“如果人类要向前演化,人工智能的出现将是‘早晚的事’”。

[责任编辑:杨爽]

  • 好文
  • 钦佩
  • 喜欢
  • 泪奔
  • 可爱
  • 思考

免责声明

  • 除凤凰网注明之服务条款外,其它因使用凤凰网而引致之任何意外、疏忽、合约毁坏、诽谤、版权或知识 产权侵犯及其所造成的各种损失(包括因下载而感染电脑病毒),凤凰网概不负责,亦不承担任何法律责任。
  • 任何透过凤凰网网页而链接及得到之资讯、产品及服务,凤凰网概不负责,亦不负任何法律责任。
  • 凤凰网内所有内容并不反映任何凤凰网之意见及观点。
  • 凤凰网认为,一切网民在进入凤凰网主页及各层页面时已经仔细看过本条款并完全同意。 敬请谅解。
凤凰陕西官方微信
凤凰新闻 天天有料
分享到: