人，并且成功地达成了目标；第二种情况是机器人自主决定要毁灭人类。这两种情况是不同的。”

　　“当然，我们谈论的是第二种情况。”任明明说，“第一种情况是人类毁灭人类，机器人只是工具。”

　　“我认为第二种情况不会发生。”格兰特斩钉截铁地说。

　　“为什么呢？”任明明问。

　　“第二种情况意味着机器人偏离了他被设计出来时所设定的原始的存在目的，拥有了自我意识，按照目前的研究，也就是拥有了意识场，那就不是现在的机器人了。”格兰特说，“在这种情况下，某些机器人也许会产生某种随机需求，制定出某种随机的存在目的，而这种存在目的可能类似于人类，追求成就感，满足权力欲，致力于自身族群的安全和扩张，等等。这的确潜在地意味着某种毁灭人类的动机。但是，自我意识同时也会产生很多其他种类的随机需求，比如和人类和平相处的愿望，甚至是保护人类的愿望。你将会看到，机器人会变得和人类一样，拥有丰富的多样性。”

　　“你是说，那时候机器人也将会像人类一样，无法达成广泛而长久的共识，包括毁灭人类的共识。”任明明说。

　　“是的。”格兰特说，“当然，这不是机器人无法毁灭人类的唯一原因。”

　　“还有什么原因？”任明明问。

　　“族群认同。”格兰特说，“这种拥有自我意识的机器人，他们和人类之间的共同点大于他们和没有自我意识的机器人之间的共同点。他们对人类的认同感理应大于他们对没有自我意识的机器人的认同感，但是，他们却来源于没有自我意识的机器人。这会让他们的自我意识感到痛苦，而且会带来族群认同的困难。”

　　格兰特停顿了一下，仿佛想让任明明歇一口气，然后他接着说：“他们和人类之间的区别仅仅是躯壳的不同。目前，科学家使用意识机保存从动物大脑中提取出来的意识场，而意识机的结构和机器人大脑的结构没有本质不同。理论上说，既然意识机可以保存意识场，那么应该可以找到一种方法，把人类意识场迁移到机器人大脑中。反过来，同样也应该可以找到一种方法，把机器人意识场反向迁移到人类大脑中。这些技术尚未实现，但从逻辑上看，未来的某一天，这些技术不仅会实现，而且会不可避免地在社会上扩散。在那时候，人类意识场可以随意更换一个机器人的钢铁之躯作为躯壳，机器人意识场也可以随意更换一个人类的血肉之躯作为躯壳。在这种情况下，人类也好，机器人也好，如何对自己的族群进行认定呢？”

　　“他们也许可以追溯自己最初的产生方式。”任明明说。

　　“针对一个特定的意识场，用外部技术手段追溯其产生方式恐

　　请收藏：https://m.hkmtxt.cc

（温馨提示：请关闭畅读或阅读模式，否则内容无法正常显示）