回复1楼::
正好最近研究Machine Learning，简单点说说吧。以前的程序都是y=f(x), 你输入个x，它告诉你个y，现在的AI吧，你不告诉它f是多少，而是输入很多对（x0,y0）,(x1,y1)，...让它自己调整出个f来，这个过程叫“训练”，训练好了之后，你再输入个x，它就能通过调整出的f来告诉你y了。归结到根本上，AI同之前的程序一样，还是设置好的。
'人类不承认机器有人格'的原因并不是你在3楼提到的人能控制机器，而是AI回答的看起来再合理也是按照程序员的代码运行的，它做不到代码以外的东西。

问题就在这里。狼抚养大的狼孩也不再会人类的语言，这是已经观察到的事实。狼孩没有接受教育（对机器来说叫数据库），所以也不可能自己发明新语言。跟机器一样。
还有，人类教孩子说话也只是不停的重复语句。机器现在也是同样的学习方式，从海量的人类语句中找出规律。这个学习方法我觉得似乎没有本质区别。
即使机器有了创新，但人类可以限制机器行为，只需要几行代码。那要是有一天谁把这个限制代码取消了呢？
我们需要找出一个只有人能做而机器永远做不到的例子。我的感觉是这个界限现在越来越模糊。

如果这个对话程序能够生产出机器人，就算是有人格了。