历经70多年，阿西莫夫的机器人三定律是不是该更新了？

在纽约时报的一篇评论文章中，在去年的TED演讲中，作家、Allen人工智能研究所CEO Oren Etzioni博士建议应该对阿西莫夫的机器人三定律进行更新。鉴于Elon Musk（和其他人）的警告引起广泛的媒体关注，这些更新可能值得业界思考。

关于人工智能的警告

上个月，马斯克等来自26个国家的人工智能专家共同致信联合国，要求禁止开发和使用自主武器。除了马斯克之后，签署公开信的还包括DeepMind联合创始人Mustaga Suleyman以及其他100多位机器人及人工智能公司的高管。他们写道，人工智能技术已经足够发达，未来数年内自主武器就可能出现在战场上，国防工业的诸多专业人士表示，在继火药和核武器之后，自主武器将引发第三次战争革命。



美国之音最近播出了另一个更大的政治警告：俄罗斯总统普京在对一群俄罗斯学生演讲时，称“人工智能不仅是俄罗斯的未来，也是整个人类的未来，谁成为这个领域的领导者，他也将成为世界的统治者。机遇和威胁巨大，但现在难以预测。”

阿西莫夫的机器人三定律

1942年，阿西莫夫在短篇小说“Runaround（环舞）” 中提出了机器人三定律：机器人不得伤害人类，或因不作为使人类受到伤害；除非违背第一定律，机器人必须服从人类的命令；除非违背第一及第二定律，机器人必须保护自己。

后来，阿西莫夫加入了一条新定律：第零定律，机器人不得伤害人类整体，或因不作为使人类整体受到伤害。

Etzioni的更新规则

在《纽约时报》的评论文章中，Etzioni提出了对阿西莫夫机器人三定律的修改建议：

1. 人工智能系统必须遵守适用于其操作人员的所有法律条文；

2. 人工智能系统必须明确表示它不是人类；

3. 未经信息来源明确许可，人工智能系统不能保留或披露机密信息。

Etzioni提供的这些更新开始了一场讨论，并引起联合国发布了一本非科幻的机器人手册，比2058年的科幻时代更早。这是一个可以规范而不是阻挠已经在发展的全球AI业务。

而且是不断成长！

中国的人工智能战略规划

中国最近发布了关于人工智能的长期发展目标《新一代人工智能发展规划》。根据规划，到2020年人工智能产业的规模将到达220亿美元，2025年达到590亿美元，2030年达到1500亿美元。到2020年，人工智能总体技术和应用与世界先进水平同步，人工智能产业成为新的重要经济增长点，人工智能技术应用成为改善民生的新途径；到2025年，人工智能基础理论实现重大突破，部分技术与应用达到世界领先水平，人工智能成为我国产业升级和经济转型的主要动力，智能社会建设取得积极进展；到2030年，人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心。中国也为机器人产业做了类似的长期战略发展规划，把它当成是国家战略产业，意在实现从中国制造到中国智造的转型。



随着这一重大长期战略规划的推进，中国希望加快培育壮大人工智能等新兴产业，与谷歌、苹果、亚马逊、IBM以及微软等巨头同台竞争。中国不希望在任何一个重要技术领域里落后，从电子商务到无人驾驶汽车到能源以及消费类产品。中国意在通过解决高端电脑芯片缺失、软件编写软件以及培训人员等问题赶超世界先进水平。

为时尚早？是时候了

AI和机器人产业的许多人都认为，AI目前的发展状况，包括机器学习和深度学习方法的改进，是原始的，几十年远离独立思考。Siri和Alexa尽管很有趣，很有能力，但仍然由人类编程，甚至无法发起谈话或真正理解谈话的内容。然而，人们有理由表示，当人工智能决定什么是最适合我们的时候，人们会意识到未来可能会有什么可能的。因此，全球监管不会受到伤害。

（本文作者Frank Tobe，来源于[robohub]

更多机器人、无人机/车、AI 技术资料(识别二维码关注）