假设我们创建了一个AGI，并且假设它真的可以通过递归(Recursion)[9]的方式来改进自己，从而使它很快变得比人类聪明得多，这对人类来说会是一个好消息吗？人们在这个问题上意见不一。史蒂芬·霍金解释了原因：

我们无法预测，当人工智能提供的工具放大了我们的智能，我们有可能取得什么成就，但消除战争、疾病和贫困将是所有人的头等大事。人工智能的成功创建将是人类历史上最伟大的事件。很遗憾，这可能也是最后一次。

从科技行业人士的公开评论中，我们很容易看到关于“AGI对人类意味着什么”的各种不同观点。例如，埃隆·马斯克在推特上写道：“希望我们人类不仅仅是数字超级智能的生物引导加载程序。”不幸的是，马斯克所说的这种可能性越来越大。还有一次，他的评论甚至更令人毛骨悚然：“我们正在用AI召唤恶魔。”就如你所知的所有类似故事中所讲的那样，有一个拿着五芒星和圣水的人，他确信他能控制恶魔，但并没有奏效。

比尔·盖茨站在了担忧者一边，他说：“我同意埃隆·马斯克和其他一些人的看法，我不明白为什么有些人对此漠不关心。”Skype联合创始人之一扬·塔里安(JaanTallinn)将AI称为“存在的诸多潜在风险之一”。但他接着又乐观地补充道：“如果我们可以正确地使用AI，那么基本上我们就能解决所有其他存在的风险。”苹果公司联合创始人史蒂夫·沃兹尼亚克(SteveWozniak)是这样看待这个问题的：“如果一台计算机比我们的大脑优越100倍，它会让世界变得完美吗？很可能不会，它最终可能会像人类一样打作一团。”最后，牛津大学的哲学家尼克·博斯特罗姆(NickBostrom)把目前建造AGI的努力比作“玩炸弹的孩子”。

业内其他人则认为，这种对世界末日的担忧是被误导的。世界上最受尊敬的AI专家之一吴恩达说：“也有很多大肆渲染说AI将创造具有超级智能的邪恶机器人，这是一种不必要的干扰。”罗德尼·布鲁克斯直接回答了上述一些担忧，他表示，那些对AI技术没有深刻了解的人对AI的概括是“有点危险”。他接着补充道：“最近我们确实看到了埃隆·马斯克、比尔·盖茨、斯蒂芬·霍金都说AI刚刚起步，它将很快占领世界。”以上这些人的共同之处是他们都不在这个技术领域工作，只是门外汉。

最后，业内的许多人对AI几乎充满了乐观。凯文·凯利就是其中之一。他相信，AI将“激活惰性物体，就像一个多世纪前的电能一样”。曾经被我们电气化的一切，现在都将拥有认知能力。这种新的实用AI还将增强我们作为人的个体感(加深我们的记忆，加快我们的认知)和作为一个物种的集体感。

你可能会问，到底是什么让人们既如此兴奋又如此担忧？他们的希望和恐惧是什么？到头来，希望只有一个，恐惧却有很多。在这方面，AGI就像心脏外科手术。只有一个好的结果，和一百个可能出错的地方。

让我们从好的方面开始。我们对AGI抱有很大希望。我们期望它能够集结足够的数据和计算能力来解决世界上重大而复杂的问题。想象一下!一个系统，它将拥有人类所有知识的总和，供其宏伟的数字大脑使用。想想我们对它的所有要求。首先，我们如何创造无限的清洁能源？我们如何实现星际旅行？我们如何修复环境？毫无疑问，我们会问它如何终结疾病、衰老和死亡。我们还会请教它关于贫困、饥饿和战争的问题。我们可以向它寻求宇宙中所有令人困惑的奥秘的答案。我们会问：“我们应该问你什么？”鉴于它将拥有超出我们理解范围的能力，人们对AGI的希望的确是无限的。它可以开启人类的黄金时代。