请本书的读者放心，我认为万能的超级智能在当前技术下还不可能实现

　　请本书的读者放心，我认为万能的超级智能在当前技术下还不可能实现。目前还没有已知的强人工智能算法或明晰的工程路线可以实现这些构想。人类的独特性并不是突然自发产生的，就像自动驾驶汽车不可能在深度学习过程中突然“醒悟”——“啊人工智能领域的例子，我们（自动驾驶汽车）可以联合起来形成一个超级智能网络什么是人工智能技术。”

　　实现强人工智能需要大量的人工智能基础科学的突破，以及深度学习的一连串巨大进步。这些突破与进步需要去除目前弱人工智能的能力天花板人工智能领域的例子， 赋予它们更强大的新能力，如多域学习、泛领域学习、自然语言理解、常识推理、规划以及通过少量示例学习。下一步发展情感智能机器人可能需要赋予它们自我意识、幽默感、爱什么是人工智能技术、同情心和审美人工智能图片放大。这些都是阻碍当前人工智能发展成为强人工智能的关键障碍。每一项新能力的实现都可能需要多项重大突破，真正的强人工智能则意味着解决一切此类障碍。

　　许多针对强人工智能预测的错误，在于简单地以过去10年深度学习的高速进步推断未来什么是人工智能技术，或者认为计算机智能会以不可阻挡的滚雪球方式呈现指数式增长。深度学习代表了机器学习的一个重要升级什么是人工智能技术，但没有证据证明这样的升级代表了强人工智能快速发展的开始。

　　科学研究不是易事，基础科学的突破更是难上加难。像深度学习这类真正让机器智能更上一层楼的发现极其少见什么是人工智能技术人工智能领域的例子，通常需要数十年的发展甚至更长时间。自杰弗里·辛顿发表关于深度学习的里程碑式论文之后的12年，我还没有看到机器智能领域出现任何可与之比肩的重大进步人工智能图片放大。

　　接受波斯特洛姆调查的人工智能科学家们预言实现强人工智能的中位时间是2040年什么是人工智能技术人工智能图片放大人工智能领域的例子。但我认为他们高估了学术论证转化为广泛应用的速度。就像在20世纪80年代，作为世界领先的人工智能语音识别研究人员加入苹果公司时人工智能图片放大，我认为这项技术会在5年内成为主流，结果却延误了整整20年。

　　当然，另外，我也无法保证科学家们一定不会取得非常规的突破，创造出强人工智能甚至超级智能。不过我相信距离真正实现的那一天还有几十年甚至上百年，甚至永远无法实现人工智能领域的例子。

　　强人工智能会是人机关系的一个重大转折点，许多人预测这会是人类史上意义最重大的一件事。我认为除非彻底解决了所有控制问题和安全问题，人类不应该跨越这个点。人工智能未来不会只有稳定的实质性进展和辉煌的人类繁荣；相反，我认为人类文明很快就会面临人工智能引起的危机。这场危机虽然不会带来好莱坞里的末日场景，却会以同样惊人的规模破坏经济和社会，甚至会触及21世纪人类意义的核心。简而言之，这将是一场涉及工作和不平等的危机。

　　目前来看，我并不恐惧引起人类文明瓦解的杀人机器人，但我害怕人类的错误选择会将自身引向悲剧。幸运的是，考虑到进展相对缓慢的基础科学突破，即使将来会实现强人工智能或超级智能，我们也还有时间针对未来的危机进行讨论、分析和准备。