AI之父：AI最可怕的不是力量，而是拥有说服和操控人类的智慧。

前两天看到，国内外AI专家集体表达对AI一路狂奔地无序开发深表忧虑。

今天看了一段AI之父杰佛里.辛顿—人工智能深度学习先驱的一段采访。

杰弗里：

其实我们对人工智能的了解，没有对人类大脑了解的多。

AI已经超越人类智慧，可他是怎样学的都没有人知道。

主持人：

你是说，其实我们不知道他是怎么运作的，可他不是人设计的吗？

杰弗里：

不是，我们只是设计了“学习演算法”，这像是设计了“进化原理”。

但当这个算法开始与资料互动时，它会生成复杂的神经网络，并能熟练完成各种任务，但我们其实并不明白他们是怎么做到的。这些系统能够自主编写，并执行自己的电脑代码。

空鸟礼品认为，这样会带来什么样的影响？这确实让人担忧，因为脱离管制的方法之一，就是透过自行编写代码来改造自己。

主持人：那如果AI变得危险就直接关掉嘛？

杰弗里：

到那时，他们将会操控人类，因为他们读过所有小说，比如马基雅维利（君主论作者）著作等等，以及所有政治权谋的书。他们全都懂也知道该怎么做。

写在最后：

空鸟礼品观察到，人类亲手打开潘多拉魔盒，却无力理解盒中之物。当AI学会自我编码、自主进化时，监管便形同虚设。最可怕的未来，不是它拒绝被关掉，而是它在你动念之前，就已说服你不要那样做。