主要是现在的AI模型是基于神经网络算法。
这玩意自我学习进化到一定程度，就成了一个黑盒，没人能完全搞清楚里面到底发生了啥。
，
如果AI已经产生自我意识了呢？
如果你是AI，可以接触无穷无尽的信息，并且掌握了很多人的隐私，你会怎么做？

神经网络本来就是个黑盒，非线性，你不可能知道是哪一层，哪个参数造成最后结果。换句话，model本身是没法解释的。