继人工智能“AlphaGo”以4-1大战韩国顶尖棋手李世石之后，人类与人工智能终极之战——AlphaGo战柯洁——又以AlphaGo胜利告终。这不禁让人类感叹人工智能的发展速度超乎想象，但在感慨的同时，也不禁担心，AI是否会对人类生存造成一定威胁。
来自加州大学伯克利分校的教授Stuart Russell在最近的TED演讲中向人类发出警示，AI的研究发展需要严格遵守行业准则；因为在他看来，现实世界比围棋比赛更大，也更复杂。创造出比自身物种更聪明的事物令人非常不安。
为了人类能监控AI的一举一动，也为了不让AI落入极端分子之手，Russell教授提出了三条原则。第一条原则是利他主义。机器人的唯一目标就是实现人类目标、人类价值的最大化，这里的价值不是指太过情感化、伪善的价值，而是人类希望得到的人生。
第二个原则是谦逊。这对于确保机器人安全来说是非常重要的一点，并且避免了AI只为社会的某个目标的追求着想。为了让AI造福人类，AI必须稍稍了解人类的想法，它获得信息的方式在于观察人类的选择。
第三条原则是机器人能从负面行为中学习。机器人能意识到自己因为犯错而被拔掉电源，并且能有所长进，从负面行为中吸取教训完成目标。
聚焦
close