人类目标与AI

当前人工智能技术迅速发展，而人类世界仍然存在国家、企业和个人之间的冲突，似乎人们并不知道自己真正想要什么。虽然这在今天看来并不是什么大的风险，但在人工智能变得超级智能的前景下，人类当务之急是集体定义目标，以指导所有的优化系统（另一种选择是由人工智能来替我们完成，可能离这种情况的发生只差一个简单的想法）。我们还没有办法通过所有生命的参与来共同定义目标，我们似乎还没有真正知道他们想要什么。

欢迎大家对系统地定义和调整目标的想法，以及对这个问题的改进建议。