《通用人工智能》（4）

任何复杂的推理活动都有可能被分解成为一些基本步骤的组合。实际上在“纳思”系统当中有一大堆推理规则，并不是每一次只用某一个规则去解决问题。它是看哪些规则跟当前的情形相关才会被调出来，才会被使用。像这样的系统可以像人一样具有灵活性、创造性、自主性、意向性等等

每个推理规则解决的是什么？解决的是一些思维活动当中的最基本的步骤。你一个解决具体问题的过程当然不仅仅是一步两步推出来的。实际上这个也是我工作的一个基本假设，就是说认为任何复杂的推理活动都有可能被分解成为一些基本步骤的组合，然后一个步骤就是我这里面的一个推理规则所刻画的。下面一个问题自然就是你怎么样把这一堆步骤联系起来，比如说为了解决这个问题我第一步要先做演绎，第二步要做好几个归纳，然后我想把它们合并起来最后再做一个归因推理，结论就出来了。实际上是这么一个过程，但是你是怎么知道呢？这又回到我前面的基本假设，你如果假定你知识不足提前不知道怎么样去把这些东西组合起来解决这个问题。实际上我们每个人都有这种体会，我们在解决困难的问题的时候有两个问题，第一一开始我们实际上不知道这个问题是解决的了还是解决不了。第二我们不知道要怎么解决。既使我们试试看，有若干个不同的思路，也可能一开始的几个思路都错了，最后一个思路才真正把这个问题解决了。但是这种情况说明什么？说明了我们之前并没有一个严格、详细、精确的计划，然后完全遵循这个计划去做，这个也是我前面讲的“知识不足”的一个表现形式。另外一点，资源不足说明什么？资源不足说明你不可能把所有的想法都试一遍。有些时候有些人说这个事情不会有多复杂，你把所有的可能都试一遍一定能够找到最好的方法的。对稍微复杂一点的问题来讲，我们没有那个时间。我刚才前面讲到的资源不足就是体现在这一点上。

有很多技术细节我们不讨论，但是在 “纳思”里面基本想法就是这个。系统是根据以往的经验去试，但不是盲目的试。具体的做法是我在这系统当中的概念任务和信念都有一个优先度，类似于想法在我们脑子当中的兴奋程度。在当前的时候，你总是先想那些最让你兴奋的事物，或者说那些最兴奋的东西有最大的可能被你想到。有些所谓在你“记忆深处”的东西也可能会想到，但是你要想半天才能想到它们。简单的说法是，我找到了一个技术的办法来实现这么一个过程，就是说根据优先度去选择在每一步我要想什么事情。然后哪些东西影响优先程度。其实有很多很多事情影响优先度，比如说信念或者概念本身的质量，比如真值。这就可以看作是一个质量的刻画。一个可靠的知识和一个不可靠的知识相比，可靠的知识或者说confidence（可信度）高的知识当然质量就会高一些，那么它的优先度就会高一些。还有比如说它在历史上的作用，如果某个知识在以前被证明是很管用的，以后你就会经常的用到它。如果某个东西用了好几次，但是觉得这个东西完全没有用，以后你用到它的可能性就会越来越小。还有跟当前情景相关的知识就会比较容易的被想到，跟当前情景不直接相关的东西就要想半天才能想到。所有这些东西综合起来会影响到优先度的分配。选出来的这些任务和信念就形成了某些组合，落入到了我们刚才讲的推理规则的范畴当中。比如你现在看到了一只鸟会飞，然后就忽然想到是不是鸟都会飞这个问题。你现在想到了这些东西的组合决定了你要做什么样的推理，而不是我提前告诉你每次看到了这些鸟你都应该先想这个问题。那么这些东西就形成了一些新的任务，然后通过推理就实现了所谓“多策略”的学习。这也是一个“纳思”跟现在其他机器学习的主要差别，也就是说在我的系统当中有一大堆推理规则，并不是每一次只用某一个规则去解决问题。它是看哪些规则跟当前的情形相关才会被调出来，才会被使用。而现在机器学习绝大多数都是靠一个办法，或者说靠有限的几个办法来做。

所以这就涉及到一个很有趣的问题，这既是个技术性问题也是从人工智能刚开始发展的时候就提出来的一个观念问题。既使是没有学过人工智能或者是不懂计算机的人，只要你用过计算机就会多多少少理解这个问题。是什么问题呢？就是说计算机解决问题都是根据提前编好的程序进行的，第一步、第二步、第三步、第四步，怎么样去解决这个问题。这样一来就给好多人造成这样一个印象：既然计算机是一切东西都出自于程序的，那么它就没有什么创造性可言了。有人现在就说：所谓的人工智能，有多少人工就有多少智能，因为所有的程序都是人编辑的。这句话有一定的道理，而实际上这个观点从人工智能开始的第一天就有人提出来了。虽然这个观点听上去很直接但实际上是混淆了一些基本概念的。

比如说我们刚才讲到了“纳思”的工作方式，它可不可以遵循着一个程序，或者一个算法，总之是一套提前定好的解决问题的步骤来运行？“纳思”当然可以。我当然可以告诉它就是这个事分第一步、第二步、第三步。如果我要求它这么做，它可以这么做。但是我也可以跟它说，有个事你试着去解决一下，这样它会根据现在的优先度分布先想一个办法，如果不行它再去想一个办法，或者我们说所谓具体问题具体分析的解决并不等于按照一个提前给定的办法来解决问题。那么这个跟刚才说的矛盾不矛盾呢？如果说它解决问题可以不遵循程序，而你又同时说这个系统里除了程序什么也没有，这两句话矛盾吗？这两句话其实不矛盾。因为我们说计算机里面有程序说的是什么？我觉得大家可以用我刚才那个解释想想，我刚才说的是每一个推理规则就是一个程序，但是这些步骤之间怎么衔接不是提前定好的，或者我们可以说它有一些“小程序”，或者“微程序”，每一个东西只做一个很简单的、很具体的事情，但是这些东西怎么组合起来做一个大事情不是提前定好的。这是根据它当前的各种各样的因素相互组合所定的，当然也是根据我提前给的一些公式定的。但是很重要的一点是这些因素不可以再重复了，所以说它的内部环境也好，它的外部环境也好，都是一种不重复的方式来变化的。你问它一个比较复杂的问题，它五步给你得出了结果，你认为结果还不错，然后马上又问它同一个问题，它还记得这个答案。它不会再走五步再重新算一遍，它还询问你：你刚才问过我这件事情。那么在这个意义下严格的说，它就不是遵循一个算法或者一个程序来解决这个问题的。因为如果是的话，它应该把这五步再重新走一遍。实际上现代计算机就是这样。所以由于影响了这些步骤组合的因素，那么随着时间和因素的变化它解题的过程就不再是严格可预测、可重复或者可终结的。它自己总在那思考问题。包括你提的一些问题，它给了你一个答案以后还会继续思考，它还会想有没有更好的解决办法。这个跟现代的计算机跑一个程序，程序就完成了 就停在那了，是完全不一样的工作方式的。我觉得也是跟人更接近的工作方式。所以虽然我没有时间来详细的解释其中的每一点，但是在这里面给一个结论：我觉得像这样的系统可以像人一样具有灵活性、创造性、自主性、意向性等等。

但是另外一方面并不是说“纳思”解决了一切问题。实际上在一开始我已经放弃了一些东西，比如说我不能保证它永远是对的。因为它知识不足，它只知道它所知道的东西。还有一个我不能保证它是最好的。因为它没有试图把所有可能性都想一遍，它只想在现在的时间里允许它想的。那么有可能出现一个问题，就是实际上它是知道的答案的。那些知识它都有，按某一个特定的顺序走一遍它会得到答案，但是它没有时间把所有的可能性都跑一遍，所以有可能最后的结论它就没有找到。你问它一个问题它会想半天但没有答案给你,实际上这个东西是在它脑海里面的。不过我觉得这个不是一个不得了的问题。因为我们问问自己，我们都会犯这种错误。好多结论是最后别人答出来以后，我说这事实际上我也是知道的，或者说我也是能推出来的，但就是没有想到。为什么有没想到这种现象？那就是说明你的脑子里面的工作方式并不是把所有的可能性都跑一遍，因为你没有那个工夫。这个就隐含了你没办法保证你得出的结论都是最好的结果，你只能保证是你能想到的最好的。

我觉得这个问题也是用一张图来表示更好一点，就是刚才我说的确定性和灵活性的悖论。实际在哲学上这个问题是人的思维活动研究中一个争论了很长时间的问题。一方面我们觉得人的思维是有规律的，另一方面又觉得它是灵活的。灵活说的是什么？就是没有一定之规的。那么这两个观念怎么可能同时成立？右边这张图画的是什么呢？是我们大家很熟悉的一个链条。它有什么特点？它每一节都是固定的，但是如果节数足够多、足够小，整个链条的形状可以是任意的。在这里面灵活性和具体的细节步骤上的确定性完全没有矛盾。事实上这个就是我对于人脑的一种看法。我觉得就思维来说，如果你真的把它切得足够细，那么它的每个步骤是确定的，就类似于化学元素周期表。我们面对的大千世界无非是各种复杂的组合的方式，这个事情是不确定的，它是因时间、因情况而变化的。但是它里面的基本成分可以定下来，而我也允许它以这种复杂的方式相互组合来完成面对的问题。这样我们既有了确定性又有了灵活性，只不过是在两个不同的层面上来实现的。

所以最后做一个总结，我现在已经做到了哪些东西呢？我现在有一个形式化的表达方式，就是用计算机能听懂的话所表达的知识。我觉得它可以跟我们人类的自然语言相比。另外我觉得我找到了一组推理规则，它基本可以涵盖我们日常生活当中所需要的思维活动，就像我刚才说的链条的比喻，我觉得我找到了这个基本的环节。或者比如搭积木，我们是做了一套积木块，这套积木块可以搭出各种各样的不同排列组合，搭出很复杂的形状，但是这套积木块本身要有一定的完备性才能涵盖我们需要的这种复杂的现象。我觉得这些东西应该说已经基本上做出来了。然后我们做到了一个统一的实现各种认知功能的系统。我PPT上面有一串很长的列词，比如说我们可以做概念生成；我们可以做规划；我们可以做预测；我们可以做解释；我们可以做猜测；我们可以做想象；我们可以做理解等等。这其中包括好多主流的人工智能的人认为是不可能做出来的东西，比如说情感、审美、自我意识这些东西。所有我这个单子上提到的东西，在我们这个系统当中都可以找到相应的表达形式，而且是已经在计算机上实现了的。但是另外一个方面我们远远没有做到能够实用的程度，而且这里面每一个东西都是非常复杂的，我们现在只做到了它的基本的形式。但是我觉得目前的工作已经表明了这些东西起码是有可能可以作为一个整体做出来的。