人工智能的警报声：科技发展的裁量人应该是谁？-国土报中文版

本篇文章2381字，读完约6分钟

两周前，物理学巨人斯蒂芬·霍金告诉bbc:“人工智能的全面发展可能导致人类的终结。”"它会自我发展，并随着加速而自我复位."霍金警告说:“人类受到生物学缓慢进化的限制，无法与它们竞争，最终将被取代。”贝宝创始人之一、现任特斯拉汽车(Tesla Motors)和spacex首席执行官的埃隆马斯克(Elon musk)也表示，人工智能是“对我们生存的最大威胁。”"为了发展人工智能，我们实际上是在骂魔鬼."马斯克说。

人工智能的警报声：科技发展的裁量人应该是谁？

此外，牛津大学的两名研究人员估计，电脑化将威胁美国近一半的就业机会，甚至一些创造性的专业职位也不能幸免。"那些需要精细判断的职位也越来越受到电脑化的影响."Carl benedikt frey和michael a. osborne写道:“在许多这样的任务中，根据计算法则做出的公正判断确实比人类有某些优势。”

计算机开始接管世界？

总之，机器真的开始接管世界了吗？我采访了几位人工智能研究领域的顶尖专家，得到的答案让我感到些许欣慰，但并不是特别欣慰。人工智能正在发展，但一些技术障碍可能会延缓它的进展，这使得机器智能不可能立即实现飞跃。

然而，随着时间的推移，智能机器将能够完成越来越复杂的思维计算，甚至完全复制人脑的高度复杂的操作。Ibm专家估计，人脑可以在一秒钟内完成36800万亿次计算。世界上所有超级计算机的总计算能力是人脑的八倍，而中国广州世界上最大的超级计算机的计算能力大致相当于人脑。

正如霍金指出的，在计算能力指数增长的背后，摩尔定律开始发挥作用——集成电路上的晶体管数量每18个月翻一番。2007年，耶鲁大学的经济学家威廉·德·诺德豪斯估计，与手工计算相比，计算机的性能提高了17000亿到76000亿倍。

"就复杂性和计算能力而言，计算机正在接近人脑."诺德豪斯写道:“也许，计算机最终将证明它是最终的外包。”乔治·华盛顿大学的名誉工程学教授彼得·博克已经研究人工智能40年了。他说人工智能的发展轨迹与摩尔定律高度一致。1993年，波尔克发表了《人工认知的出现》，他在书中发明了一种类似人脑的人工智能机器马达。他预测马达将在2024年成为现实，目前，一切都在按照预定的时间表发展。他在接受采访的电子邮件中说，这台智能机器将能够学习新的东西，使他的智力能够不断发展，“就像人类认知的过程一样”。

人工智能的警报声：科技发展的裁量人应该是谁？

那么，人类的情感呢？波尔克的回答是:“这是最简单的部分，只是反馈学习。”然而，智能机器显然比巴甫洛夫的狗好得多。在一些地方，计算机已经走在我们的前面。正如加州大学伯克利分校的电子工程和计算机教授斯图尔特·拉塞尔指出的那样，即使我们花了一生的时间，也不可能像谷歌一样在不到十分之一秒的时间内搜索上亿份文件并找到答案。

人工智能的警报声：科技发展的裁量人应该是谁？

然而，思维机器无法完成一些常识性的任务，谷歌的自动驾驶汽车已经证明了这一点。"你必须尽快决定，否则汽车会撞倒你。"这个和其他技术限制可能会延迟开发过程，但是计算能力的缺乏显然不是最大的障碍。拉塞尔指出，目前，“我们仍然不明白”如何给思维机器编程，使其像人脑一样工作。他在邮件中写道:“要设计出能够描绘智能行为的算法，仍有许多概念和技术问题需要解决。”

人工智能的警报声：科技发展的裁量人应该是谁？

然而，像ibm、微软、facebook，尤其是谷歌这样的大型科技公司正在投入大量人力物力来研究这个问题。最近，谷歌斥资4亿美元收购了英国公司deepmind technologies，并招募了大量人工智能精英。

我相信自由企业的想法，但考虑到人工智能的潜在危险，谁应该是这项技术发展的最终评判者显然非常重要。它应该是一个由利润和股市表现驱动的企业，政府，还是其他人？

谷歌已经成立了一个道德委员会来监督DeepMind——该公司的创始人之一，像马斯克，也说人工智能是“本世纪的头号风险。”然而，我们必须看到，华尔街的风险管理部门曾经阻止过金融危机。当然不是。当有重大突破时，当它伴随着巨大的利润光环发生时，道德肯定会被扔出窗外。谷歌拒绝对这篇文章发表评论。

拉塞尔和霍金一起在剑桥大学生存风险研究中心的咨询委员会工作，他认为科学家应该“理解并消除潜在的风险”。他对我说:“要使人工智能的能力发展成为一个日益强大的过程，你还必须发展出越来越好的控制机制。”“在我们真正做到这一点之前，我们不会真正理解我们做了什么。”波尔克说:“路的尽头对我们来说就像坟墓一样危险。”

人工智能的警报声：科技发展的裁量人应该是谁？