深度 | 奥巴马再谈人工智能：我们需要新的社会契约来适应新技术

今年 8 月 24 日，Joi Ito, Scott Dadich, 还有美国总统奥巴马在白宫的罗斯福会议室里会面

● ● ●

人工智能如何给我们带来社会化价值？

Scott Dadich：首先感谢你们二位邀请我到白宫来。总统先生，我想问您最近一段时间过得如何？

奥巴马：忙碌，但我做了很多事情。想必你也了解到，目前国际上有不少政治问题需要解决。

Scott Dadich：接下来，我们谈论的重点主要集中在人工智能，这个领域已经从科幻小说里跳脱出来，成为现实，并对我们的生活产生深远影响。我想请问总统先生，您是什么时候开始意识到AI时代的来临？

奥巴马：我对人工智能的了解，是因为它开始以各种形式渗透到我们的生活中来，而我们却还浑然不知。另外一部分原因是，我们对人工智能的认识主要是源于流行文化。而实际上，广义和专业的AI存在区别，而这可能和很多读者所了解的有所不同。在科幻小说中，我们所知道都是广义 AI，不是吗？电脑开始变得比我们还聪明，意识到人类不总是那么有用，甚至把人类囚禁在温室里，不然就是打造一个 matrix 般的虚拟世界。

在和一些科学家探讨的过程中，我了解到这样的场景着实离我们还有很远距离。不过，这些设想能够放飞我们的思想，并让我们意识到自己还有足够的自由度，将专业的人工智能应用于各种重要的领域，也就是通过算法和计算机的处理，以解决日益增加的复杂问题。从医学到交通领域，甚至到电力的分配，我们已经见证了“术业有专攻”的人工智能在日常生活中起着怎样的作用，并且无疑在经济层面上也能提升生产力和效率。如果利用得当，它当然能让社会繁荣昌盛，带来无数机会。但它伴随而来的问题就是工作岗位的减少，或许会加剧不平等，工资水平也会削减。

Joi Ito：这个问题同样困扰着我 MIT 实验室里的学生们，但我关心的一点在于，能接触这些 AI 核心计算机技术的人大多是男孩子，尤其是白人，而他们在谈论电脑问题的时候显然要比谈论人种问题要轻松得多。他们中的不少人觉得，如果他们可以用人工智能创造出像科幻小说里一样的场景，我们也不必担忧如此多的政治及社会问题了。学生们会觉得，创造这样的机器，也是一种让人类摆脱这些问题的方式。

奥巴马：是的没错。

Joi Ito：但他们同时也预见到了可能带来的困难，我觉得我们已经来到了一个人工智能议题超越电脑问题的时代。很重要的一点是，每个人都需要理解 AI 如何运作。在媒体实验室里，我们使用了名为“延展智能”这样的术语。因为我们所面临的问题是，我们如何在 AI 之上建立社会化的价值？

奥巴马： Joi在午餐时间以自动驾驶为例。自动驾驶技术正如开挂般发展，这些搭载着自动驾驶技术的机器不仅能够代替人类快速作出决定、减少交通事故的发生、大大提高交通效率，还能帮助人类解决碳排放问题，缓解全球变暖现象。但是 Joi 提到至关重要的一点：我们在汽车上搭载这些技术的意义何在？在自动驾驶的道路上，我们还面临着一系列抉择：车在自动行驶时，如若发生意外，你可以保证不撞到行人，但你也许会撞到墙，或者让自己处于危险的境地。如果遇到这种两难境地，又该怎么办呢？这就变成了一个道德伦理问题，我们需要一些规则来解决这些问题。但是又该谁来制定这些规则呢？

Joi Ito：我们曾做过“car trolley problem”项目（该项目为MIT实验室的一个研究，研究主题为自动驾驶汽车在面临困境时的解决方法。比如：遇到两难情况时，是该牺牲5名乘客还是牺牲5名行人？），在研究中，我们发现大部分调查者同意应该牺牲乘客来拯救其他人的性命。还有一些调查者被问及此问题后，表示他们永远不会买自动驾驶汽车了。（笑）

● ● ●

政府在科技进步中应该扮演怎样的角色？

Scott Dadich：在解决这些道德伦理问题时，政府应该扮演何种角色呢？

奥巴马：从AI技术出现开始，我就在思考这个问题。我认为，在科技发展之初，正是“百花齐放、百家争鸣”的时候，这时政府应该充分鼓励支持技术的发展，加大对调查研究的投资，确保基础研究和应用研究之间有着良好的交流。随着技术的进步和成熟，我们就应该思考技术和现有的监管制度的关系了。要让这种关系良性发展，其实并非易事，因此我们就面临着更加艰难的挑战。这时，政府应该加强与科技领域的联系。我们应该首先保证政府的监管制度具有价值，能够促进技术的发展，而不是强迫新的科技快速与政府挂钩。如果不这样做，政府将会成为科技进步的阻碍，这对一部分人和团队非常不利。

Joi Ito：这种困境让我想起来了自闭症，电影《自闭历程》（Temple Grandin）里提到了这个。女主角说，莫扎特、爱因斯坦和特斯拉如果身在今天的时代，人们会觉得他们有自闭倾向。

奥巴马：他们的确是在自闭环境中成长。

Joi Ito：是的，没错。如果我们拥有治愈自闭症的能力，让每个人都“正常”，我认为不少 MIT 的孩子都会有所不同。无论我们是在讨论自闭还是多样性，这些选择只有当我们能实现之时才会出现。即使如此，我们也并不想要一个像爱因斯坦一样的小孩，因为虽然他聪明无比，但显得太过特立独行。但是如果没有爱因斯坦，我们的社会和科学将不会进步得如此之快。

奥巴马：这就牵涉到了一个更加宏大的问题，这个问题自 AI 发展之初就一直困扰着我们。我们的人生之所以有意义，很大一部分是因为人生的不完美。往往创造艺术或有所发明创造的人都是怪才，他们鹤立鸡群，与世相悖。但正是这些异于常人的品质让他们才华横溢，推动社会进步。如果一个系统是完美的，那么它一定是静态的。我们之所以会变成如今的样子，之所以会如此生机勃勃，正是因为我们是动态的、是发展的、是独特的，而且会因新的事物诞生而感到惊讶不已。但从长远来看，我们总要适应这个世界。现在的问题就是，什么时候、什么地点、什么场景下，我们才能让自己以平和的心态接受这样的变化？

Scott Dadich：当 AI 与政府、民企和学术界相适应时，AI必定发展到了一个较高的程度，那么这时，世界范围内的 AI 研究中心是哪个呢？或者说，有没有这样的一个角色存在？

Joi Ito：我觉得 MIT 当然会说研究中心就在我们这（笑）。从历史上看，研究中心也许是一支得到政府支持的学术团队。但就现在来看，大部分得到数十亿美元支持的实验室都已经商业化了。

奥巴马：我对支持这些机构的人有所了解，如果你问拉里·佩奇或者相关人士，不难想象他们都会异口同声地表示，自己最不想看到的是官僚式的冗余拖沓限制科技的发展。

现在所面临的部分问题是，为社会服务的基础研究没能很好地贯彻下去，而意识形态的阻碍让部分科技人士对于政府的支持丧失信心。

每当我们说到一个巨大的科技成就，我们都会将之与人类首次登月做类比，我想在50年后也会这样。有人曾告诉我，当时的登月计划仅花费整个 GDP 的 0.5%，听起来并不多。但换算到今天，这个数字就是800亿美元。如果说现今AI的发展可以和曾经的登月相提并论，那么现今我们应该每年在AI上投资800亿美元，但实际情况是，每年的投资额不到 10 亿。毫无疑问，这个数字将会增长。那么，政府应该加强支持。如果政府不支持，那么我们后面所讨论的一切都无从谈起。

Scott Dadich：您的想法让 Joi 曾提过的问题变得更加严峻了：人人享有的科技和国家享有的科技（如登月）是不同的。那么，我们怎样才能实现这两种科技的转换，让科技造福所有人呢？

奥巴马：我想强调一下，政府在支持科技的发展，并不意味着政府将独占这种科技，或者说这种科技只能在军事领域使用。举个例子：政府支持医学的发展，拨款建立美国人基因数据库，但每个美国公民都能使用它。因此，政府支持的科技将会分享给所有人，造福所有人。

Scott Dadich：但是我们将面临一些风险。马斯克和Nick Bostrom也曾担忧过AI的潜力将会超越人类，给人类带来威胁。当我们前进时，我们不仅要保护自己，还要保护所有人。怎样才能做到呢？

奥巴马：我先来说说更让我担忧的事情吧。如果你拥有一台会下围棋的计算机，它拥有强大的算法能力，能够帮你最大程度地在纽约证券交易所盈利。如果有人或者机构能够先人一步得到此技术，那么他将快速让股票市场降温。

那么这时，如果算法被不法分子窃取，它也许会渗透到核程序中，学会如何发射核武器。如果此算法能够自学且非常有效，那么我们将会面临危险。我认为，国家安全局不应该去担心那些将会取代世界的机器，而应该去担心这些有可能会渗透进国家机制、威胁人类安全的技术。也就是说，我们目前迫切地需要做得更好，因为对国家造成破坏的团队很有可能会走在我们前面。

Joi Ito：我基本同意。有些人认为10年之后，通用 AI 将会出现。但是深入研究发现，如果要出现这种AI，我们必须在这 10 年中让 AI 技术拥有几个重大的突破。因此如果突破出现时，你可以监管。

奥巴马：所以你需要做的是在关键处安插人手（笑）。当你预见到这种事情快要发生的时候，及时阻止就是了。

Joi Ito：重要的是挑选出出那些想要运用 AI 造福人类的个人和团队，并且身体力行地予以支援。

奥巴马：当我们之前提到安全和保护时，我们总会想到军队镇压或者搭建高墙。慢慢地，我们对于这两个词的理解开始发生变化。之所以网络安全问题变得如此艰巨，部分原因在于这个威胁是无形的，并不是像坦克那样有形的。现在，我们要转变关于安全的概念，调整我们的投资政策，为每个人的安全保驾护航。

网络袭击和流行病传染类似，这是我时常担忧的地方。要阻止病毒进入我们的体内，再高的墙也是无济于事的。我们需要建立完善的公共卫生系统、创造健康保障机制、开发更加有效的疫苗。因此，当我们面对AI威胁时，我们应该采取相应的行动。

Joi Ito：还有一件事我觉得有点意思，我在观察微生物时，发现可以引进好细菌来对抗坏细菌。

奥巴马：我完全同意。不过我还是不会让 Sunny 和 Bo 舔我，因为每次遛狗时，看到它们咬或是咀嚼什么时，我还是会不舒服。（笑）

Joi Ito：所以，我们也得重新思考，什么才是干净的。不管是网络安全，还是国家安全，我们都应该重新思考应对措施。制定出有效的应对措施是非常困难的。

Scott Dadich：在网络安全方面，会不会出现新一轮的军备竞赛呢？

奥巴马：毫无疑问，当今关于网络安全和AI的国际准则、协议和验证机制还处于初级阶段。现在，人们对于政府仍然存在着不信任，这将会成为网络安全措施的阻碍。如果说世界上有些国家将美国视为一支超群的网络力量，我们会说：如果你愿意约束自己，我们也愿意。现在的挑战便是一些成熟国家（如俄罗斯、中国和伊朗）所持的价值观和准则和我们不一样。我们会把它看成一个国际议题，这样才能更好地处理这些问题。

● ● ●

社会契约和经济模式都要与科技相适应

Joi Ito：我们正身处一个黄金时代，大家都非常乐于交流。如果我们能确保将资金和精力用来支持开放和分享，那么大家都能保持积极的态度。世界是一个大家庭，自己单干恐怕无法取得最好的效果。

奥巴马：Ito 说的很对，这也是我们每天一轮一轮开会，忙着拉有兴趣的人“入伙”的原因。另外我想说一点，虽然每次说到这个话题大家都会定很高的基调，但事实上我们必须考虑它对于经济的影响。毕竟在大多数人眼中，不会在意奇点是否会来临，他们更担心机器是否会抢了他们的饭碗。

对此问题，我倾向于持积极态度，因为从历史角度来看，人类曾无数次地对技术进行更新换代，但最终结果显示，我们没有被饿死，新技术反而创造了更多的就业岗位，我们的生活质量也得到了提高。当然，有些人的担心也不是无缘无故的，毕竟当 AI 大潮袭来，真正能快速从中获益的还是那些高技能人才，他们可以利用自己的才干，借助机器延伸自身的市场、销售、产品和服务。

那些低薪水低技能的人可能会显得越来越多余，他们的饭碗可能会保住，但薪水恐怕会有所降低。如果我们想要完成平稳的过渡，那么全社会应该广泛对话，讨论到底如何处理这一过渡期的尖锐矛盾，如何通过培训来保证经济持续包容性增长。我们的生产效率是越来越高了，但如果任其自流，那么大部分产品还是会流到上层一小部分的群体口袋中。因此，我们要如何解决这一问题，并保证每个人都能拿到一份有尊严的收入呢？另外，AI“统治”一切后，人类的艺术和文化该如何保留？那些为国奉献的退伍军人谁来管呢？我们引以为豪的社会契约需要与时俱进来包容这些新技术，而我们的经济模式也要随之发生相应转变。

Joi Ito：现在凭空去讨论 AI 会代替哪些职业，实际上有些不直观。举例来说，如果电脑先进到能理解整个医疗体系，那么诊断疾病对它来说恐怕是小菜一碟，因此医院里被替代的反而可能是经验丰富的医生们，而不是护士和药剂师，因为前者太贵了。同时，我们熟悉的一些高级职位如律师和审计员，可能也会因为 AI 的崛起而消失。相反，许多电脑力不从心的行业，如服务业，人类反而会继续发光发热。我不知道总统对社会基本收入这个概念怎么看，但我觉得社会可以给那些被机器替代的人找个新活干，就像搞学术和搞艺术的人那样，他们的工作不再直接与金钱挂钩。不过，想转变到这一模式必须要改变我们固有的社会认知，那就是没钱的人都是笨蛋。但事实是，在学术界有许多聪明透顶的人并不是什么大富豪。

奥巴马：Ito 还真是够犀利，这就是我前面说到要重新设计社会契约的原因。社会基本收入这一政策是否还能适应社会的发展，可能要留待未来 10-20 年内大家的讨论了。Ito 对 AI 所替代工作的趋势分析也很有道理，高级工作确实可能会被电脑替代，但这些工作都有一个特点，那就是高度的可重复性。此外，一个无从争辩的事实是：随着 AI 技术的进一步整合，我们的社会会越来越健康。生产与分销、工作与收入等的联系会越来越微弱，因为电脑搞定了大量的工作。面对这样的情况，我们不得不做出困难的决定：老师的工作对电脑来说很难完成，但我们却不得不给他们降薪。因此，教会人们给自己的工作估值，重新审视自己的收入水平，恐怕是当下函待讨论的重要问题。

我们要做的工作多着呢，政府正在逐步亲民化，未来报税的流程就跟订披萨或者买机票一样简洁。但现实是，想要让联邦政府、州政府和地方政府同时迈入 21 世纪都不是那么容易。虽然政府的精英在能力上已经与私企的不相上下，但在整体的技术装备水平上，却有无法跨越的鸿沟。就拿我自己来说，第一次进白宫的战情室时，还以为能用上《碟中谍》里的先进装备呢，但现实却让我大跌眼镜。就连我们追踪恐怖分子时传来的实时录像都那么不清晰，白宫的科技装备实在是该大换血了。

至于更宏大的问题，我坚信只要人类能解决气候变化问题，让海平面不再上升，那么其他一切都不是问题。对于这一问题，我非常乐观，虽然我们还有很长的路要走。

此外，安全透明的管理互联网也是当务之急，只有这样政府才能在不越权的情况下及时抓住坏人，否则互联网就成了政府压迫大众的工具。不过，从技术方面来看，这样的目标就不好解决。就拿加密来说，从曾不止一次的与技术人员和民众教堂，但没人能给出一个符合各方利益的答案。

既然这是个高端访问，我想再补充一点。作为一个痴迷宇宙的总统，我认为如何尽快让我们的下一代享受星际旅行也是个重要的议题。在这方面，我们的私营企业走在了前面，它们无需政府资助，只靠自己疯狂的点子就做出了我们不敢想的。政府的思路已经落后了，每次提到太空飞行，我们的路子还是停留在阿波罗登月时代，确实是该找找新的突破了。

● ● ●

关于《星际迷航》的探讨

Scott Dadich：总统先生，我知道您是个《星际迷航》的铁杆粉。不过说实话那个剧集只是包装了科技的外衣，其内核还是乌托邦式的思想。它是怎样塑造你对未来的愿景的呢？

奥巴马：我小时候就是《星际迷航》的脑残粉了，这剧集看起来太过瘾了。其实能让《星际迷航》保持经久不衰的并不是其中的科技元素，真正吸引人的是价值观和友情。所以即使过去这剧集用着五毛钱特效，我们也看的很开心。它教育了我们什么是人性，同时给了我们解决问题的信心。

在我看来，《黑客帝国》得了《星际迷航》的真传，倒不是说这电影宏大复杂的设定感动了我，相反，它向我们展示了许多人认真做工作应有的态度，而秉承这种态度，就会一往无前，而这也是我一直强调的美国梦的精神内核。无论能不能一次成功，我们都会大胆进行尝试，踩着自己失败的经验到达顶峰。如果我们丢掉了这一精神内核，那么我们所倚仗的一切都会瞬间坍塌。

Joi Ito：总统先生说的真棒，我也喜欢《星际迷航》传达的乐观主义精神。不过，我依然崇尚百花齐放，我认为电影中的坏人还是有些脸谱化，他们可能并不坏，有些人只是被误导了。

奥巴马：《星际迷航》与其他好故事一样，都帮助我们认识到了自己是个复杂的动物，我们的性格中也都有光明和阴暗面。我前面提到的大胆去做正应了这个主题，没有这一精神，我们肯定不能消除障碍和分歧。理性和人性之间必然会产生冲突，在 AI 的问题上亦是如此。我们虽然高谈阔论 AI 的未来，但其实对于这一技术，人类只是刚刚知道点皮毛而已。所以，我们必须保持一颗敬畏之心，放手大胆去尝试。

via wired