今年6月底,德国一名工人遭到工厂生产线机器人的意外伤害而身亡。当时,泰格马克表示:“这表明,机器非常愚蠢,将人体当做了一块金属材料。”
  未来生命研究所近期获得了马斯克的1000万美元资助,以探索如何避免自动化程序带来危害。不过包括马斯克、霍金和盖茨在内,许多人似乎都没有注意到真正的潜在威胁。
  目前来看,没有任何证据表明,机器人工智能能产生意识,并出现杀死自己创造者的想法。
  非盈利组织艾伦人工智能研究所负责人奥林·艾奇奥尼(Oren Etzioni)表示:“这种对世界末日的设想搞混了科学的边界,实际上是讨论关于思想和意识等哲学问题。如果有更多人学会软件开发,他们会发现计算机其实只是很平常的工具。”
  那么是什么原因导致了这样的混淆不清?一大原因在于计算机科学家的工作。艾奇奥尼表示:“‘人工智能’一词诞生于50年代,当时人们认为能思考的机器即将出现。我们目前沿用了这一说法。”
  “人工智能”一词目前已被广泛应用。谷歌的人工智能项目主要由收购而来的DeepMind负责。这一领域的一家先行者名为Thinking Machines。而研究人员也在关注“深度学习”,这暗示了我们正在创造智能。
  深度学习依靠了有层次性的逻辑能力,即神经网络。神经网络中的节点常常被比作人脑的神经元,但实际上两者之间的差别像面包和太空船那么巨大。
  包括DeepMind在内,机器学习领域的大部分研究都主要关注模式识别、行为建议,以及预测。这类似于人脑的能力。
  人工智能是科技行业引人关注的一个领域。亚马逊、Facebook和谷歌正在展开一场竞赛,而Uber和通用电气则将机器学习视为了未来。
  但从本质上来看,机器学习是自动化,而这也是长期以来机器的功能。人类在学习中可以变得更聪明,而机器的“学习”与人类不同。
  DeepMind已开发出一款程序,能掌握简单的视频游戏,然而这一程序无法将一款游戏的经验应用至另一款。这一神经网络系统对图片的识别方式与人脑仍有很大差异,并且很容易被击败。
  从这类愚蠢的机器行为发展至更广泛的与人类类似的行为被称作“迁移学习”。这一领域目前还停留在研究阶段。
  加州大学伯克利分校计算机科学教授斯图亚特·拉塞尔(Stuart Russell)表示:“人工智能专家知道,一台能下象棋的计算机不会渴望去吃掉对方的某个棋子。”他也是未来生命研究所的成员,并且获得了马斯克的资助。他目前正试图通过数学方法,确保“愚蠢”的计算机程序不会与复杂的人类价值产生冲突。
  他表示:“生产回形针的程序缺少的是作为背景的价值观。目前的误解在于,的威胁在于机器可能出现意识。”