Eric 今日美政
我们在上一次讲到如何处理超级人工智能和人类之间的关系的时候，强调了一个最重要的核心问题，就是在人类自己喜欢的解决方案，和超级人工智能提供的解决方案之间，谁应该拥有更大的权重。我们设想了两种极端的情况，要么全盘听人类的，要么完全听超级人工智能的。但最后分析的结果发现其中的弊病都不少。完全听人类的，人工智能就沦落为了一种工具，无法发挥其更优秀，更理性的决策功能；完全听人工智能的，人类不但会丧失自身的安全感，甚至会失去人类自身生存的意义。我们之前在讲 “存在主义” 哲学的时候就讲过：人存在的意义，就是来自于自身不断的选择过程。一切都由人工智能来选择了，人存在的意义，就恐怕要重新定义，或者重新开发一套伦理学了。
其实重新定义伦理学对于人类来说并非是一件不可能的事情。事实上随着人类对世界的认知水平的提高，更重要的是技术水平的提高，人类的伦理学也发生了很大的改变。早期人类伦理学中的核心价值是神，人生的意义就是回归神或者至少得到神的亲睐。但随着技术的发展，人类的伦理学逐步转为了以人自身的价值为核心，创造了人本主义的现代伦理学。所以定义伦理学本身是没有不可逾越的障碍的。但问题是，我们应该如何认知自己的伦理学，什么情况下来改变伦理学，以及如何改变。这不但涉及到我们人类自身的价值选择，也涉及到我们如何设计人工智能，涉及到我们应该用什么样的伦理来驯服超级人工智能。驯服人工智能这个说法有些对抗的意思，但实际上，我想表达的是，如何用我们的伦理学核心价值，来教育我们创造的人工智能，让我们的人工智能能和我们有一样的，至少是类似的善恶观，这恐怕是最重要的。
托卡马克提到，我们人类自身，不同利益集团，不同信仰，甚至就是不同成员之间，大家想达到的所谓幸福快乐的目标，恐怕都很难达成一致。那么我们首先应该解决的，是如何设定目标的一致性。托卡马克说：“从古至今，哲学家们都希望能弄明白伦理学的原理和逻辑，他们甚至设想能从零开始推导出一个完整的，绝对正确的伦理学标准，来规定我们应当如何行事。但是，人类唯一的共识是：我们没有共识。”
我们每个时代的人类都受到自己时代的约束，我们认为绝对正确的伦理，我们的前辈和我们的后辈，恐怕都不会同意，至少不会完全同意。但是，我们能不能找到一个最大公约数呢？
托卡马克认为，这个最大公约数可能是 “求真”。真实的，就是美好的。他认为，我们对真理的追求已经导出来一个基本框架，那就是科学理论。但也仅限于此。与求真相比，求美和求善似乎是更高层级的选择。因为其实说到底，我们为什么要求真？因为所谓的客观真实，是一个相对恒定的，不确定性最小的存在。这种存在因为其确定性，才使得我们能够在这种确定性之下来设定我们的对策，这样才是最安全的。比如说我们知道一个客观的粮食亩产是多少斤，这样我们才能更安全地设定生产和税收的计划。而如果粮食亩产不是一个真实客观的数据，而是领袖的精神感召之下产生的 “卫星产量”，这就带来很大不确定性，很容易让我们面临灾难。所以说，求真本身，是为了迎合我们追求安全感的层次。而更高层次的追求才是美和善，这是要满足我们人生意义的一个更高级的追求。正因为如此，才会有 “善意的谎言” 的存在。在某些特殊的情况下，比如说对于将死之人，谎言构筑的美好，比揭示残酷的现实，似乎更符合对美和善的追求。这种情况下，求真就不一定是绝对的选择了。
除了求真以外，托卡马克还提到所谓的 “黄金定律”，也就是我们常说的 “己所不欲勿施于人”，你想要别人如何对待你，你就应该如何对待别人。这个总该是伦理学的核心了吧？这是不是应该成为另一个最大公约数呢？但实际上，这个黄金定律仅仅是我们的一种生物生存策略。这怎么讲呢？平等对待其他人的核心价值，是要达到一种 “群体内部自我伤害” 最小化的结果。这听上去比较难懂，但却非常符合人类的历史现实。
人类总是最求 “平等对待每个人” 吗？并不是的。我们知道原始部落中，身强体壮，对部落贡献最大的人，就会获得特权，分食物也会分得更多。相反，体弱者不但会被边缘化，甚至直接被部落抛弃或杀死。这个时候为什么不讲人人平等呢？这是因为当时人类作为一个普通生物，也面临很大的自然选择的压力。只有淘汰掉弱的个体，产生残疾的基因，才能使得一个人类群体更加健康和强壮，这个群体才更有生存机会。这个时候的生存策略重点不是 “群体内部自我伤害最小化”，而是 “群体外部竞争力的最大化”。人类族群内部，不同人类族群之间，相互仇杀，强壮者胜出，弱小者被淘汰。这是早期的人类伦理，不会去追求平等对待每个人这种事情。
到了人类逐渐对自然有了一些控制力的时候，我们开始逐渐追求人和人之间的平等。请注意，一直到人类 19 世纪之前，我们追求的还仅仅是男人和男人之间的平等，女性平等都还谈不上。其实照理说不必拖这么久才改变，农耕社会稳定下来之后，人类自身承受的自然选择压力就已经很小了。更理智的选择上开始转变生存策略，从 “外部竞争力最大化” 改为 “ 内部自我伤害最小化”。但我们延续了很长时间这种社会等级化的伦理安排，伤害群体内部的一部分人的利益，来满足另一部分人。为什么？两个原因：第一是文化传统的力量。环境改变了之后，文化不会自然改变，而只是增加了改变的概率。每一次文化的改变，看上去都更像是某种偶然因素的结果。自然环境的改变，只是增加了文化改变的概率。从逻辑上来说，我们早就摆脱了自然选择的压力，早就应该实现 “黄金定律”，人人平等。但是，文化传统的力量使得我们的伦理学很大程度上还停留在应然的层面，还不能完全在现实社会中实现。另一个原因是我们无法控制自己的基因要求。基因来自数百万年前，这是比文化传统更顽固的力量。我们至今每个人都似乎不满足于自己的现状，还想获得更多的资源，更多的成就。其实我们目前的生活在我们的祖先看来已经接近于神了。但我们不会满足，这种压力来自基因要求我们一定要比周围的人更强，以便在生存竞争中获得优势。我们要求自己的孩子长得更高，行为举止更帅，获得更好的教育，以后有更好的收入。这样他们才能更容易获得更优质的配偶，自己的基因才能在未来的竞争中获得更大的优势。我们可以看到，来自基因的力量更古老，更与现实不符（现实是更优秀的人生育率更低）。但是没有办法，这种基因的力量目前我们还没有办法去克制，这属于我们的本能之一。
所以，即使是 “黄金定律”，在文化传统和基因设定上，都是有问题的。我们的理性可以把黄金定律作为一种应然，但我们面临的阻力也不小。这种阻力不会以魔鬼的狰狞面目出现。它会以其他更为温和的面貌出现。比如说尊重传统，弘扬传统，保持血性，保持竞争力等等要求出现。完全理性地从人类的真实处境来设定我们的伦理学的时候，对于这些力量，是需要非常小心的。
托卡马克在书中并没有给出自己的答案。但他鼓励更多的人来参与到关于伦理学的讨论中。托卡马克归纳了大多数人的伦理学观点，分为四类：
第一是功利主义，也就是更幸福的意识体验应该被最大化；而痛苦的体验应该被最小化；
第二是多样性主义，也就是不追求单一的幸福目标，幸福目标应该是多样化的。即使某一个单一目标看上去能给出最多的幸福指数，也不能在一棵树上吊死。这个原则，其实是用来对冲第一个功利主义原则的。因为功利主义往往会评价各种选择的功利值，看看哪个选择获得的功利性最大。但这种选择是危险的，因为当下的选择不一定能满足未来的情况。所以保持多样性选择，是必要的。
第三是自主性原则，即人类个体，人类社会应该拥有选择自己目标的自由。不同社会，不同个体的不同选择，也就保证了上面的第二条，多样性的问题。同时，它还满足第一条，也就是功利主义原则，因为自我选择的东西，往往是能最大程度满足自己需求的东西。最终这些选择会达成某种 “帕累托最优解”，达到利益最大，伤害最小的原则。但托克马克这里留了一个小尾巴，他说：“除非这种选择与某些重要原则相违背。”。这种说法就很有意思了，因为所谓“重要原则”，是我们自己设立的。甚至某些情况下就是大多数人设立的。比如说，一个群体就希望内部实现一夫多妻制，可以吗？这是不是他们自己的选择？是。但是不是违背了什么重要原则？也许是。但一夫一妻制是谁设定的呢？是多数人。他们不尊重少数人自愿选择一夫多妻，或者一妻多夫制度。比如，摩门教徒最后就不得不放弃了自己内部的一夫多妻制。这是不是多数人对少数人自由的干涉呢？
第四是传统。就是说我们要建立的未来，应该符合当今的大多数人认为的幸福，而要避免当今大多数人认为糟糕的事情。这相当于是一个压舱石的作用。因为靠哲学家们完全凭空想出来的社会上不可靠的。共产主义理论家认为人人平等的社会就是一个好社会。但问题是这种社会就是和我们前面提到的我们基因中存在的种内竞争的本能相冲突。我们就是想过得比邻居更好，穿得比朋友更漂亮，挣得比同事更多。哲学家通过逻辑推导出来的那种绝对平等的社会，在功利主义的层面上，却给大多数人带来了痛苦。这显然是不对的。那么问题就是，我们需要一个锚地来建立我们的伦理学，这个锚地，就是现代人的善恶观。未来可能会有改变，也应该有改变。但正如我前面说的，未来的生存环境改变了（比如大多数人都不需要工作了），就会创造改变伦理的机会。但我们首先必须找到一个道德锚地。这个锚地，就是今天人类的伦理。
看上去，这四条原则都无懈可击。我们能不能套用上面四个原则来规范未来的超级人工智能呢？托卡马克说，还是不行。接下来托卡马克就会告诉我们还存在哪些问题，以及我们如何来看待所谓人工智能的 “终极目标” 的问题。这就是我们下一讲的内容，也是本章结束的内容了。
Eric