人工智能毁灭人类马斯克是在危言耸听嘛？-国土报中文版

本篇文章2844字，读完约7分钟

当我第一次看到这些话时，我只是有点惊讶。一个公认的“技术狂人”六个月前刚刚投资了一家研究人工智能领域图像识别技术的初创公司。他对人工智能的态度是如何改变180度的？

更令人惊讶的是，一些人开始把这理解为马斯克对科学技术的敬畏，或者反映出马斯克卓越的人文关怀，等等。然后问题就来了-

有没有需要控制的技术？

之所以把这个问题放在开头，是为了表明马斯克的科技关怀和人文关怀是正确的无稽之谈。人们对人工智能甚至广义技术的担忧和恐惧由来已久——至少比1984年发布的《终结者》要早得多。老实说，马斯克目前的言论除了语言刺激外，没有给这个阵营增加任何新的话题。

从科学技术的本质来看，它是一把双刃剑。科学技术能为人类社会的进步提供多大的力量，意味着它的破坏力有多大。火药、核能和基因技术都是如此。在现代社会经历了切尔诺贝利和山羊多莉之后，防范科学技术失控的潜在风险可以被视为基本常识。因此，今天对不小心使用人工智能的反思将带来灾难。例如，不小心使用菜刀会割破手指。有什么可追求的？

人工智能毁灭人类马斯克是在危言耸听嘛？

此外，马斯克将人工智能的潜在威胁与核威胁进行比较是不合适的。核威胁是一种现实的威胁，它不仅在技术上已经成熟，而且核武器已经被大量制造。这不仅在军事上是现实的，对生活在核电站附近的人也是如此。

撇开已经被好莱坞商业大片消耗殆尽的核威胁不谈，就目前人工智能的发展水平而言，它在科技反思方面的示范性资质甚至不如基因工程，而基因工程也是21世纪的三大尖端技术之一。尤其是基因工程和优生学的结合所造成的潜在威胁无疑更现实、更直接地提醒我们，比如哈佛大学著名学者迈克尔·j·桑德尔最近读到的“人工智能的完美”一案。那些因为马斯克的话而担心的人，如果有人说“超级身体”实际上是可能的，你会睡不着也吃不下吗？

人工智能毁灭人类马斯克是在危言耸听嘛？

人工智能是如何失控的？

这个问题是我不能忍受那些吹捧马斯克的“人工智能恶魔主义”的人的主要原因。当马斯克说人工智能失控时，他一个接一个地失去了控制，就像一个中继器。谁来给我解释人工智能是如何失控的？

类似于社会系统失去对人工智能的控制(如被疯子操纵)，或失去对将人工智能直接应用于不可逆转的关键领域的控制(如控制人类生育、挖掘地核等不可靠的事情)，最基本的前提是人工智能已经达到高度拟人化的阶段。

什么是高度拟人化？也就是说，人工智能必须真正具有(或模仿)独立思考、价值判断甚至审美创造精神活动的能力。这也意味着人工智能可以模拟人类思维的非算法特征(如观察、灵感、美学、洞察力和创造力等)。)，或者实现人类精神的强大物质恢复，也就是说，人类所有的精神活动都可以简化为某种(甚至是极其复杂的)算法运算。

人工智能毁灭人类马斯克是在危言耸听嘛？

解决这类人工智能——完全或人工智能——难题的两个逻辑方向中，哪一个更有可能(也许在许多研究者看来，也可以说哪一个更不可能)？这在人工智能领域仍然是未知的。《哈利·波特》中一个简单的“期待守护神”并不能解决需要跨越的理论门槛。

人工智能是一个需要立即遏制的恶魔吗？

提出这个问题的目的是表明，我们必须把关于人工智能发展的抽象讨论与人工智能技术的实际应用区分开来。事实上，虽然公众对人工智能的使用有很多疑虑和担忧，但是大量的人工智能技术已经被应用到我们的生活中。

自20世纪80年代和90年代的“1987-1993年人工智能冬季”以来，人工智能研究界不得不投入大量精力在人工智能技术的实际应用和发展上，以应对这一轮金融危机，这不仅导致了以统计方法和实证实验为特征的新经验主义范式的兴起，也使得大量人工智能技术进入

例如，每个人最担心的智能机器人，实际上已经被用于许多高风险和对人类健康有害的工作场所，包括核电站和矿山。此外，工业机器人更常用作机器人，如在亚马逊仓库自动装卸货物的机器人和在富士康生产线上组装零件的机器人。因此，当人们对人工智能还有些不确定的恐慌时，他们已经在生活中享受到了人工智能技术带来的诸多便利。

人工智能毁灭人类马斯克是在危言耸听嘛？

对人工智能的担忧从何而来？

自从17世纪b. pascal和g.w. von leibniz的机械计算器问世以来，人们对人工智能的态度一直处于希望和恐惧的矛盾复合体中。事实上，人们对人工智能的长期担忧不仅仅是担心人类最终能否控制他们创造的科学技术那么简单，而是实际上反映了对自身独特性可能遭到破坏和人类未来不确定性的某种不安。

的确，人工智能的发展存在一定的风险，但这对于任何技术都是一样的。例如，上述基因工程技术对人类未来的整体威胁并不一定比人工智能小。但这不是我们认为它是魔鬼的好理由。

这是上帝和撒旦在科学、技术和人类领域的双重较量。人类的局限性使我们越来越多地经历不确定性。但我们仍有理由保持谨慎乐观。至少就技术而言，人工智能还远远没有达到“生存还是毁灭”的地步。当马斯克或其他类似的人工智能批评家用科幻电影(如《终结者》)或科幻小说来描述人工智能对整个人类的威胁时，他们实际上只说出了这个故事可能性的一半，也就是悲观的一半，而它并不完整。即使从他们的观点来看，我们也不能得出“不作为”的结论。

人工智能毁灭人类马斯克是在危言耸听嘛？

让我们以一个科幻小说的例子来结束。读过《三体》的读者，几乎都被刘(刘·)对“宇宙动力学”两个定理的描述和对宇宙类似黑暗森林的描述所打动。与此同时，它可能会引发我们对外星文明威胁的担忧:我们可能真的在类似黑暗森林的宇宙中，所以外星文明和我们之间实际上存在着潜在的敌对关系。然而，即使如此，这种担心和恐惧也不应该成为我们停止探索宇宙和发展技术的好理由。在某种意义上，我们对人工智能的恐惧是相似的:我们应该敬畏宇宙和自然，但我们不应该停止。毕竟，在我们到达实际分叉点之前，继续前进无疑是唯一合理的选择。这篇文章是作者独立的观点，并不代表老虎嗅探网络的立场

人工智能毁灭人类马斯克是在危言耸听嘛？