在自主系统中出现了一种安静的失败模式,这种模式一次又一次地显现,并且与智能无关。即使在高度先进的人工智能中也会出现这个问题。问题不在于这些系统不能思考。问题是没有人对它们的决策负全责。 这就是许多人现在称之为@KITE AI 委托边界。 从基本层面来看,人工智能通过委托来工作。人类将任务交给机器。我们要求系统更快地决策、扩大范围,并代表我们行动。最开始,这运作得很好。人工智能推荐。人工智能辅助。人工智能支持人类判断。但随后发生了一些微妙的事情。我们给它更多的控制权。然后再多一点。突然间,没有人确切知道人类的责任何时结束,机器的自主权何时开始。