上级分类: 终身学习技术政治、法律与政府

人类目标与AI

如何让人类能系统地定义其目标?

YAML 问题

当前人工智能技术迅速发展,而人类世界仍然存在国家、企业和个人之间的冲突,似乎人们并不知道自己真正想要什么。虽然这在今天看来并不是什么大的风险,但在人工智能变得超级智能的前景下,人类当务之急是集体定义目标,以指导所有的优化系统(另一种选择是由人工智能来替我们完成,可能离这种情况的发生只差一个简单的想法)。我们还没有办法通过所有生命的参与来共同定义目标,我们似乎还没有真正知道他们想要什么。

欢迎大家对系统地定义和调整目标的想法,以及对这个问题的改进建议。






投票 (可选) (别通知) (可选)
请,登录

要抛弃个人目标像名望和金钱等等……吗? 我觉得理想的情况是,个人保有自己的目标,但是不只一味地追求个人目标,人类共同的风险确实需要我们共同解决,超级人工智能是一类风险,环境恶化是另一类。


语言