人类目前需要“提防”人工智能吗?

〖发布时间:2019-03-11 09:36:57〗〖文章来源:科普中国网〗〖作者:〗〖责任编辑:gly〗



    出品:科普中国

  作者:王亚男

  监制:光明网科普事业部

  网友提问:人类目前需要“提防”人工智能吗?

  专家解答:

  现阶段,用“提防”的态度对待人工智能可能过于严肃了。我认为人类目前更多的考虑是如何运用人工智能,特别是在人类社会的关键系统里(比如运用到军事中)。如果一定要说“提防”,我们需要考虑的是如何合理地赋予人工智能权限。人工智能在未来一个不可避免的趋势是——在它的逻辑系统下推导出一些它可以行事的方式方法。那么如果我们赋予的权限过大,或者说对于权限没有管控,人工智能可能会成为影响社会安定的巨大隐患。其最终权限须有人类审核,由人类掌握高度决策权。例如美军在战争中使用无人机发动攻击,不可能任由飞机自己做决策,掌握生杀予夺的大权,虽然飞机可以进行无人化攻击,但开火并不是决策。

  王亚男,中国航空学会科普工作委员会委员,编审,知名科普专家。1999年毕业于北京航空航天大学经济管理学院,工程硕士。1999年进入中国航空工业集团贵州集团工作。2005年进入《航空知识》杂志社,历任见习编辑、责任编辑、主编助理、执行副主编、编辑部主任等职,现任《航空知识》主编。2013年荣获中国新闻出版政府奖期刊奖。王亚男倡导新概念科普方式,提倡发掘科学技术进程中那些真正令人感动的力量,善于从科学、人文、历史以及哲学等方面多维度地解析和传播科学思想,其新颖的科普讲座受到听众的普遍好评。

本文链接:http://www.kepuchina.cn/mil/news/201903/t20190304_1023955.shtml