IBM如何“调教”更懂你的AI？这个workshop为你揭秘人机交互的奥秘｜AAAI 2017

美国西部时间 2 月 4 日早上，AAAI 大会已经悄然揭开帷幕。与其说今天是开幕的第一天，不如说是大会的「预热」环节。大部分主要的演讲及论文展示将在接下来几天陆续呈现，而今天进行的主要议程分为两大部分，一个是以学生群体分享为主的 Student Activities，另一个则是话题更为细分的 Workshop 环节。雷锋网此前报道中也有提及 Workshop 是人工智能的研究风向标，可以从话题中一窥产业界与学术界之间的联系。

今天共有八个持续一整天的 Workshop，包括 AI 道德伦理、人机合作学习、AI 游戏、human－aware AI 等议题。其中，IBM 作为 human－aware AI workshop 的组织方，也于今天邀请了数名在该领域有所建树的学者发表演讲，并于其间穿插本次入选 AAAI 的论文展示。

随着 AI 技术及系统的发展，人工智能与人类的交互问题日益突出。也就是说，人类实际上将和人工智能一同合作，对数据进行理解并作出决策。而这也是 Human－aware AI 的主要体现——即在增强智能中培养机器理解人类的能力，并与人类产生更好的交互。本次 workshop 主席、IBM Watson 研究中心的 Kartik Talamadupula 向雷锋网介绍，筹办这次研讨会的目的旨在联合学界人士齐聚一堂，「human－aware AI 是人工智能的一个重要且前沿的分支，我们希望召集对这一领域感兴趣的研究者们一同参与讨论，并在本次 workshop 中了解目前研究中的不足。」

在 workshop 伊始，南加州大学的计算机科学及空间科学研究教授 Craig Knoblock 就抛出了一个疑问：什么样的人工智能才能算具有了 human－aware 的能力？他举了一个例子，则一项能够根据在线网站资源构建图表的技术。这项技术的成功之处在于能够为感兴趣的用户提供简单而直观的手段达成一些看似困难的目标。Knoblock 向雷锋网表示，「我们在数据分析的过程中会发现目前的自动（生成）技术能够达到 80%－90％的准确度，但实际上这样的精确度很难为人所接受。不过为何我依然受邀在这个环节上进行分享呢？因为解决上述问题的核心，就在于要了解人所不能及的地方，并利用机器的能力把它放大。实际上严格意义来说，这些系统大概并不能称为『human－aware AI』，但我们能够让它以自然的方式与人类实现交互。我们刚刚提及的例子，就是一个很好的证明。」

而作为东道主，IBM 又是如何看待 human－aware 这个话题的呢？IBM Waston 研究中心的 Murray Campbell 发表了他的研究成果。他的研究主要集中在讨论对话在增强学习方面所扮演的角色。Murray Campbell 指出，随着人工智能领域研究的发展以及相关应用的实现，AI 与人越来越趋向于一起协同工作，而非像传统方法上那样作为人类的工具使用。而这一种协同工作的方式，已经在很多领域获得了实际应用。之所以在这个领域上深入研究不断突破限制，是因为基于研究发现，人与 AI 的协同工作相比于两者各行其道时有着更加优秀的性能表现，因此能在各种任务中带来诸多益处。而这种协同工作的基础，依赖于 dialog 机制。实际上这种机制已经被证明是一种解决人类与系统之间交流问题行之有效的手段，在当有足够的时间进行决策，足够的复杂度和重要性进行判断，人类的目的及偏好已获取等条件下时，dialog 就能在增强智能中发挥作用。

另一方面，人类与系统之间的沟通与交流，是 human－aware  AI 领域的一个关键。但在实现这种机制时，依然存在一些亟待解决的技术瓶颈，比如计算机网络的设计，脚本化方法难以拓展（诸如像深度学习，深度 RL，对抗学习等方法）、模型的评估与测量、情感的表达与侦测、在特定知识领域中可拓展的交互以及合理性。不过在学习中，Campbell 认为系统的表现会变得更好，比如增加与人类的互动，以获得足够的信息。在这里他引用了 Facebook bAbi task 中的一个例子：

1. Emma is in the garden.

2. Hannah is in the garden.

3. Hannah picks up the gift.

4. Hannah goes to the kitchen.

Question: Where is the gift?

根据四句话的信息，系统会通过分析上述文本了解礼物所在的位置；而如果把第四句话的 Hannah 去掉，改为「Someone goes to the kitchen」，那么系统遇到同样的问题，它会向人类再次询问，以获得足够的信息来回答此问题。

最后 Campbell 指出，AI 将会在可见的未来中扮演重要的角色，而 dialog 可能会是解决这种系统中沟通机制的最优手段，这方面的研究也会面对一定的挑战性。

既然是一个涉及人类交互的话题，IBM 又是如何看待人工智能的伦理道德问题呢？IBM Watson 研究中心的 FranCESca Rossi 向我们分享了她的观点。最近不断增加的 AI 应用，主要得益于机器学习技术提供的增强感知能力，并在解决一些全球问题上表现出了巨大潜力。比如说，AI 可以帮助治愈疾病、解决全球性的问题，管理全球经济，并给许多部门带来革命性的改变，如教育、零售、金融和制造业。而 Rossi 提出的一个核心观点是机器在学习的过程中会涉及到伦理道德问题，因为人类在决策的过程中可能存在偏差，因此机器在伦理道德上更具有优势，但在这个过程中存在三个问题。

首先是人类难以量化道德准则，其次是类似道德这样的常识实际上很难用机器能理解的语言说明；最后一点在于如何在系统和人之间建立信任机制。以自动驾驶为例，机器如何在“保障行人安全”和“保证速度”之间保持平衡？

而除了在对话领域， human－aware 又能产生怎样的社会效益呢？南加州大学的 Milind Tambe 对此作了更为具体的分享。洛杉矶有着 4 万流浪人士与 6000 多名无家可归的青少年，因此造成了很大的艾滋病传播隐患。为了对此作出评估并制定决策，Milind Tambe 和他的研究团队进行了一项长期的研究。这项使用了社交网络聚类分析，对社交网络进行剖析，识别出网络中特定的不同群体，并识别出当中最具有影响力的人（peer leader），通过他来对整个群体施加影响力，从而对他们进行定向的艾滋病防治宣传，甚至引导他们采取治疗手段。Tambe 向雷锋网表示，由于社交网络的复杂程度可能会导致 np hard 问题，因此团队引入了人工智能进行分析。而在此研究过程中，团队面临的主要挑战来自于社交网络的状态与结构的不确定性。

雷锋网此前也对 IBM Watson 的认知计算进行过不少报道，它也已经在很多领域实现了「感知人类」的能力。实际上，「 human－aware 」的本质在于利用机器学习手段，让机器更好地理解人类并帮助人类，这也是人类最希望人工智能实现的。在明天的 AI in Practice 环节中，除了 IBM 外，包括 Google、Amazon、Facebook 在内的公司都将在 AAAI 2017 上发表对人工智能的主题演讲，雷锋网会进行持续关注与报道，敬请期待。