技术进步的过程会一直持续下去,而不管社会机制已经足够成熟。卡尔说:“问题在于,我们是将这个过程向对人有利的方向推进,还是向对机器有利的方向推进?”
  “对人有利的方向意味着,一些时候你并不想把一切能够自动化了的东西都自动化。因为想要给需要锤炼技能的人们留下一些空间。”他解释道。
  当证明人类智慧和创造性的机会越来越少,人类会怎样继续进化下去?他认为在设计整个系统或者设置程序的时候,应该遵循“让人类优先”的原则。
  “在把一项技能自动化之前,先让人熟练掌握这项技能。”他这样解释道,“在计算机接管一切之前,应该让人有机会从头到尾梳理一遍整个问题和流程。比如在医疗的应用中,机器可以预测这里有哪些疾病的风险,专业的、拥有天赋的人应该拥有优先的机会,而后用计算机的分析来质疑医生,比如更多的数据,或者另一种演绎的方法。这让专业人士有空间去思考,去提升自己的天赋和洞见。”
  卡尔的担忧不仅仅是机器人替代了人的工作岗位,而是“从短期来看,这会创造出更好的生产力,更高的效率,但是从长远来看,这将让社会变得难以进步。因为,这样做让那些拥有独特洞见的人类出局了。
  “如果我们觉得应该尽可能的将自动化的水平向前推进,会错过那些非凡的时刻,那些只有拥有批判思考能力的人们才能创造的时刻。”卡尔表示,“我们不应该再说,让一切尽可能地计算机化,而是应该去思考,怎样的方式能够让人保持参与,不让人的技能提升停滞下来。”
  “计算机能做的,是按照程序设定好的那样去完成任务,它们能够做得非常好。但是如果人类想要进步的话,同样需要去提升技能。”也是说:“如果我们保持人类一直参与,而不是一股脑儿全交给机器,这对保持人类的智能来说,会是更好的选择。”
  航空公司不是为了让人变笨而推动自动驾驶,它们是为了让训练不足的飞行员也能保证安全,从而节省成本。亚马逊用 Kiva 机器人完成大部分搬运工作,是为了弱化工人熟练度对效率的影响,从而根据订单量随时增减人手。
  当商业公司的根本目标是为持股人创造更多利润时,卡尔自己也知道,这将是一个非常棘手的问题,因为在商业世界里,驱使技术进步的基本动力是把人排除出去。
  这也是近几年,他思考多的问题。
  当被问起,自动化的浪潮是不是有点像恶魔时,卡尔的回答似乎表达了每一个手机依赖症患者的困惑。“我不知道我没有用过恶魔这个词,但是我不认为它一定会让我们的生活更丰富。”他说。
  停顿了一两秒之后,他又补充了一句:“但是我仍然爱它。”