回复19楼:我觉得只要人类把AI不要设定它有可能会想毁灭人类，它就不会毁灭人类。可以这样理解吗？

因为AI自己可以学习，迭代，所以任何设定都有可能被突破。
就好比， 一个孩子，有一个老师教他，但是他可能超过老师。
他不仅和老师学，还可以和书上学，
甚至是自己融会贯通，产生老师都没有的理论和新知识。

你这样理解，就像文章中说的“很多关于AI安全和挑战的预测被证明是错误的”
所有人最开始都认为只要有一个顶层设计，类似著名的机器人三定律一般，就可以消除这种担忧。
所以人类还是太自大了，把这个问题想得太简单了。
语言，作为人类的伴生物，一直是被看做人的功能的一种吧，如同吃饭喝水一样。如果我说语言作为一个形而上的存在定义了你和你的一切，甚至整个世界，你大概多半会认为我在说胡话。所以这也正是这一切未来发展不可控的原因。
只有当你放下人的自我中心主义去理解语言这个独立于个人，甚至是整个人类而自在的存在这一点，你才明白这一切都不是我们能够控制的了的。

AI也是要有任务的， 任务设定是回答问题才会回， 没任务给它， 它连思考都不会， 直接回到待机状态... AI根本没有欲望野心这种东西， 要有也是人类输入的指令。