文档介绍：第十二章战略与生存
不愿意采用新的补救方式就会产生新的邪恶,因为时间是最伟大的改革者。
——弗朗西斯·培根
在前面的章节我的讨论贴近于技术可能性的牢固基础。这里,我将冒险深入到政治和人类行为领域。这个基础是比较软一些的,但是技术事实和进化法则仍将在这个领域提供可靠的支持。
被进化的压力推动的技术竞赛,正把我们带向未知的危险,我们需要寻找到对付它们的方法。因为我们在前面已经看到了面临的巨大的危险,所以考虑停止盲目的奔跑是有意义的。但是我们能做些什么呢?
个人克制
作为个体,我们可以克制自己不去做可能导致危险能力的研究。的确,大多数人会克制,因为大多数人不是第一线研究人员。但这个策略也不能阻止进步:在我们的多元化的世界,总有其他人会把研究工作向前推进的。
地方抑制
个人克制的策略(至少在这件事情上)带有简单的无所作为的意味。但地方政策的策略又如何呢?比如游说议员提议并通过抑制某些研究的法律?这其实也是一种个人行为,目的是强迫集体无所作为。虽然这种策略可能在某个城市,行政区,国家,或联盟内抑制研究,但也不能帮助指导我们的方向,而只会使某些不受我们控制的力量取得领导地位。这种类型的公众运动只能在人民掌握权力的地区停止研究,并且最大的成功可能也仅仅是打开了使一个更专制的国家成为领导力量的大门。
在考虑核武器的情况下,争论通常围绕着单方面裁军和非暴力(至少是非核化)抵抗。核武器可以被用来摧毁军事设施和使恐怖气氛蔓延,但是不能用来占领地区或者控制人民——不能直接地。核武器也不能抑制游击战争和社会动乱,所以一个裁军的策略和抵抗运动具有某种程度的参考意义。
从另一方面来说,单边抑制纳米技术和AI,将在反抗不起作用的情况下导致单方面裁军。一个好斗的国家会利用这些技术来攻占和统治(或消灭)象甘地的印度那样的国家,或者武装起来的为自由而献身的战士。
这值得强调。没有一些新的方法来改革世界上的专制性国家,简单的压制研究的运动就不能取得完全的成功。而没有完全的成功,任何主要的成功都意味着民主国家的灾难。即使不能得到,这种类型的努力也将吸引激进的人们的热情和工作,使稀缺的人类资源浪费在无意义的策略上。更甚者,抑制策略将会使研究者互相疏远,挑起盟友之间的争斗并浪费更多的人类资源。这种无意义和分裂的前景使这一策略应该被避免。
虽然如此,压制是不可避免会被提出的,因为它简单而直接“危险来了?让我们停止它!”,还有地方立法的成功可以保证短期的效果:“危险来了?我们可以现在就地停止它,在开始的时候。”危险在开始时可能会失败,但是可能不会引起每个人的注意。简单压制的念头似乎会诱发很多想法。毕竟,地方政府压制本地的危险是个传统,例如,通过阻止本地的污染者,减少本地的污染。通过地方抑制来阻止全球危险似乎也是类似的,不管可能有什么差别。我们将需要地方组织和政治压力,但必须建立在一个可用策略的基础上。
全球抑制协议
在一个更有希望的途径上,我们可以用地方压力通过磋商来达成可证实的,世界范围的禁令。一个类似的策略可能能控制核武器。但是停止纳米技术和人工智能将造成问题的顺序位置不同,至少因为以下两个原因。
第一,这些技术不象核武器是明确定义的:因为目前的核技术需要某些稀有的同位素,这和其他技术是有区别的。它可以被定义并且(原则上)被