我们是否该对AI感到不安？

    《华盛顿邮报(Washington Post)》最近有一篇通常内容都很有趣的专栏作者Joel Achenbach的文章，探讨许多思想家都对人工智慧(AI)的未来有恐惧──有一天智慧机器会统治世界吗？它们会把人类全都杀光吗？
我记得在1970年参观过Marvin Minsky在美国麻省理工学院(MIT)的AI实验室，他们有一台PDP-12电脑，以现在的标准看来是一台很可笑的机器，不但庞大还很昂贵；把今天一台500美元的iPad拿到1985年，运算性能比当时最快的电脑还要高，但后者一台要价3,500万美元(换算成现在的美元约是7,700万)。在上述文章中接受访问的人士，都间接提到了呈倍数成长的运算性能，并想知道它所预示的未来。

每个人都在讨论摩尔定律(Moore’s Law)，但很少有这个产业以外的人了解那是什么；《纽约时报(New York Times)》的Tom Freeman完全解释错误，他把“定律”与大部分所有的进步划上等号。其实摩尔定律并非真的是科学定律，只是一个观察心得，没有理由能认为它将继续下去；它能持续的原因是因为它成为一种“渴望”──让半导体产业界人士致力于每两年将晶片的电晶体密度加倍。摩尔定律最近有减速的趋势，未来半导体制程技术看来能更进一步微缩，但是飙涨的成本也变得越来越不具吸引力。

还有一种“定律”叫做“Dennard Scaling”，内容是说每当电晶体数量加倍，我们就能获得各种其他好处，例如更低的功耗、更快的时脉…等等；很少有产业外人士了解这种微缩能对更快速的机器有多少贡献，可惜Dennard Scaling在90奈米节点完全崩溃。而运算技术的进步也会因为其他障碍而减缓，像是记忆体与处理器速度的不匹配；总之时间会说明一切。

上述的《华盛顿邮报》文章提到了越来越无所不在的机器人，认为无论如何人类在精细、敏捷的动作上还是优于机器人，但这并不确实。今日的电子装置已经不能用人工来组装了，人类甚至无法达到将零组件放置到电路板上所要求的精确度，必须要仰赖抓取工具。而要把IC放上步进机对准光罩，更需要有超人的准确度，因此机器人也是可以非常灵活的。

不过今日的机器人却是令人惊讶地笨拙，多数只能做一些简单、重复性的工作；要让它们变得更聪明还有很多工作要做。我不怀疑有一天我们可以看到机器人变身端盘子的服务生，或是在家帮我们洗衣服，而且应该是在我有生之年；我的小孩一定能看得到。我们在短时间内也将看到无人驾驶汽车上路，它们的驾驶技术可能比我们更好。

但那些技术在那篇《华盛顿邮报》文章中，被归纳出一个中心思想(虽然只是暗示性地提到)：机器将带来道德抉择。今日有很多思考都进入了超越技术的问题，举例来说，车子为了提升安全性是否应该打破法律限制？人类驾驶的车辆也许有可能一辆接一辆以85英哩时速合并到一条高速公路上，但无人驾驶车可能因为卡在速限，所以永远做不到那样的合并。

或者假设有一种情况，选择只有让无人驾驶车冲向一群人，或是单一辆婴儿车；在现实世界，这种选择因为人类驾驶的恐慌以及可能采取的随机动作，这种选择不可能被物化，但当人们要设计无人驾驶车的软体，就得将不同的抉择写进程式。那些考量不是哲学就是法律问题，但哲学家与法律工作者却把问题丢给技术人员，我不确定这是不是正常的。

在《华盛顿邮报》文章中还提到了Ray Kurzweil，他做了一些有趣的研究，并预测电脑将在2030~2040年之间拥有像人脑一样的性能；他接着对可能产生的冲击，提出了一些虽然有趣，但我认为在理智上有不足的论点。我并不清楚是否大多数电脑逻辑与人类的思考模式相同，可能是，但没有人能确定。

虽然该篇文章接着不切实际地提到了超级智慧电脑肆虐的问题，但我认为更具威胁性而且迫在眉睫的，是智慧机器对人类工作的毁灭。无人驾驶车可能意味着计程车司机、卡车司机、清洁队员、快递员等要丢饭碗；自动化设备也正在改变制造业，如中国的富士康(Foxconn)就准备在生产线上安装百万台机器人来代替人类劳工。当中国劳工成本也变得太昂贵，那些试图在西方市场竞争的厂商会怎么做？



今天有部分合法研究工作是由电脑完成的…还有也许接待员也会被取代。便利商店现在也可以完全自动化，很难去想像将有更多人类职业，甚至包括在科学、工程等领域的，有哪些是不能被机器自动化。所以，当机器能取代例如两成人力时，会发生什么事？我预期那在十年或二十年间就会发生…那如果取代率达四成或六成呢？

当机器人能做各种事情，包括制造机器人还有开采原料，人类劳工的价值就越来越小了；那届时所有的东西都免费吗？或者我们将看到一个马克思主义(Marxian)的局面：劳工群众再也无法谋生，而矿场与机器人的主人在某种程度上会剥削之前的劳工阶级？今日有很多无聊的思考是有关于“1% vs. 99%”，其实收入不平等才是自动化带来的症状。

如果发生再一次反工业革命，而且是在整个国家甚至全球的范围内呢？恐怕没有任何人能阻止科技的进展；在科幻小说《莱博维兹的赞歌(A Canticle for Leibowitz)》中，叙述核子战争毁灭了文明，那些拥有技术能力的人都丧命了，只剩下一个名叫莱博维兹的工程师，他为此建立了一个修道院保存科学知识；经过一千年之后，科技回来了，但人类并没有改变，所以又重蹈覆辙。

也许有一天这个世界的经济模式会变成像是Star Trek影集里设定的那样，一切都是免费的、也没有薪资，人们所追求的都是提升自己的活动；但我对人性没有足够的信心，想像不出那会是什么样子。对我来说，人类仍旧会是人类，空闲下来并不是好事。

我担心人类职业被毁灭以及那可能对社会带来的影响；讽刺的是，我自己本人，各位读者们的工作，多多少少都与打造取代人工的机器有关。我觉得尝试遏止科技的进步是愚蠢的，因科技或许是我们解决其他更严重、急迫性问题的唯一希望…你说呢？你对于科技的进展有没有任何想法？我们该对一个AI未来世界感到不安吗？