控制超级人工智能的问题

引自 singinst.org (2005)：『人类神经元通过传递电化学信号运转，最快神经元对应信号传播速度是每秒150米。相比之下光速为每秒3亿米，是神经元信号传播速度的200万倍上。于此类似，大部分人类神经元每秒最多可以发出200次信号;根据最新的神经处理理论，传递的信息取决于每秒传递频率而非单次信号，上面的信号频率可能高估了神经元处理信息的能力。相较而言，现代的计算机微处理器的处理频率在2GHz左右—— 差距有1000万倍——这一速度还在不断指数上升。理论上，思维速度至少能加快一百万倍。如此一来，主观的一年时间等同于生理上的31秒。按照这个速度，从古希腊的苏格拉底到现代人类的主观时间跨度仅有22小时。

人类的大脑受尺寸上限的制约。当前估计是，人类大脑中含有大约一千亿个神经元和百兆突触。这跟现代的电脑比起来，是极大的野蛮计算力。即使我们使用200Hz的CPU上运行的程序，我们依然需要了大规模并行计算才成实现一些类似大脑的实时操作。，但是在计算机行业，基准不断的指数增长，通常是平均一到两年时间就翻一倍；根据最初的摩尔定律，单位硅面积下的晶体管数目每18个月便会翻一翻。现在有各种各样的摩尔定律：芯片速度摩尔定律，计算机内存摩尔定律，一美元能买到的磁盘容量摩尔定律，因特网连接速度摩尔定律，林林总总，不一而足。』