机器进化为极大超越人类水平的通用人工智能是对的吗?

当离开波多黎各时,我坚信关于人工智能未来的对话应该持续下去,因为这是我们这个时代最重要的对话。

正如我在前面所说,关于人工智能,存在许多迷人的争议,世界顶级专家们也难以达成共识。不过,我也见过许多无聊的“伪争议”,究其原因就是,有些人只是误解了对方的意思,所以各执一词,互不相让。为了帮助我们聚焦在那些最有趣的争议和开放式的问题之上,而不是在误解上继续纠缠,让我们先来澄清一些最常见的误解。

第一个误区与时间线有关:究竟什么时候,机器才能进化为极大超越人类水平的通用人工智能呢?一个常见的误区是,认为这个问题的答案十分确定。

一个流行的错误观点是,超人类水平的通用人工智能一定会在21世纪内实现。实际上,历史上充满了天花乱坠的技术宣言。核聚变发电厂和飞天汽车在哪儿呢?照某些人的承诺,这些东西应该早就实现了。同样地,人工智能在过去也被一次又一次地吹捧上天,始作俑者甚至包括一些人工智能的奠基者,比如,提出了“AI”这个概念的约翰·麦卡锡、马文·明斯基、纳撒尼尔·罗切斯特和克劳德·香农一起写出了下面这段过于乐观的预言,当时,他们打算用“石器时代”的计算机大干两个月,来实现一些目标:

“1956年夏天,我们将在达特茅斯学院进行一项由10个人组成的为期两个月的人工智能研究……研究的主题是:如何让机器使用语言、进行抽象思考和形成概念,让它们解决目前只能由人类解决的问题,并自我改善。我们认为,如果仔细甄选一些科学家,组成一个团队,在一起工作一个夏天,就能在一个或多个问题上取得重大进展。”

然而,与此相反的另一个流行的错误观点是,超人类水平的通用人工智能在21世纪内一定不会实现。关于我们离实现它还有多远,研究者的评估范围很广泛,但我们并不能信誓旦旦地肯定21世纪内实现它的可能性为零。技术怀疑主义者曾做出过许多令人沮丧的消极预测,后来也被证明不符合事实。欧内斯特·卢瑟福可能是他那个年代最伟大的原子核物理学家,他在1933年说,核能就是一派空谈,而不到24小时,美国原子核物理学家利奥·西拉德就创造了核链式反应;1956年,英国皇家天文学家理查德·伍利认为,太空旅行“完全是一派胡言”。这个误区最极端的观点是认为超人类水平的通用人工智能永远不会到来,因为在物理学上不可能实现。然而,物理学家知道,大脑中的夸克和电子组合起来不正像一台超级计算机吗?并且,没有哪个物理定律说我们不能建造出比大脑更智能的夸克团。

有人对人工智能研究者进行了一些调查,请他们预测多少年之后,人类水平的通用人工智能实现的可能性将达到至少50%。所有这些调查的结果都一样:世界顶级专家各执一词,因此我们根本不知道答案。在波多黎各会议上,我们也进行了一次这样的调研,答案的平均数是2055年,但有些研究者认为需要几百年,甚至更久。

还有一个相关的误区是,认为担忧人工智能的人总以为它不出几年就会降临。实际上,大多数担忧超人类水平的通用人工智能的人都认为,它至少还有几十年才会实现。不过,他们认为,只要我们并不是百分之百肯定,它一定不会发生在21世纪内,那么最好尽快开展人工智能安全性研究,防患于未然。许多安全问题的解决是非常困难的,可能需要几十年的时间才能解决。因此,最好从现在就开始进行研究,而不是等到某些猛灌红牛的程序员决定开启一个人类水平的通用人工智能的前夜才开始亡羊补牢。