回复21楼:因为AI自己可以学习，迭代，所以任何设定都有可能被突破。
就好比， 一个孩子，有一个老师教他，但是他可能超过老师。
他不仅和老师学，还可以和书上学，
甚至是自己融会贯通，产生老师都没有的理论和新知识。

文明的发展来自于不同思维之间的碰撞产生的火花。如果人类停止思考，就凭微软那台中心化服务器，能自我进化成什么样子。

来自留园官方客户端