AI科学家担忧政府人工智能的使用

集微网消息，据彭博社报道，加拿大计算机科学家约舒亚•本吉奥(yoshu Bengio)对中国将人工智能用于监控和政府监管感到担忧。他曾帮助开创了支撑当前人工智能热潮的技术。

总部位于蒙特利尔的人工智能软件公司Element AI的联合创始人本吉奥（Bengio）表示他担心自己帮助开发的技术被用于控制人们的行为和影响他们的思想。

“这是《1984》一书中所言独裁者的情景，”他在一次采访中说。“我认为这变得越来越可怕。”

蒙特利尔大学(University of Montreal)教授本吉奥(Bengio)与扬·勒昆(Yann LeCun)和杰夫·辛顿(Geoff Hinton)被认为是深度学习的三位“教父”之一。它是一种利用神经网络——一种松散地基于人类大脑各个方面的软件——根据数据进行预测的技术。它负责人脸识别、自然语言处理、翻译和推荐算法方面的最新进展。

深度学习需要大量的数据来提供可供学习的例子，拥有庞大人口和国家记录系统的中国就有很多这样的数据。

中国政府已开始使用闭路摄像头和面部识别技术，监控公民在公共场所的行为，从乱穿马路到参与政治活动。它还创建了一个全国信用信息共享平台，用于将铁路和航空乘客列入“反社会”行为黑名单，并考虑将该系统扩展到其他场景。

“用你的脸来追踪你应该受到严格的监管，”Bengio说。

与其他一些同行不同，蒙特利尔学习算法研究所(Mila)所长本吉奥(Bengio)抵制住了为一家大型广告驱动的科技公司工作的诱惑。他说，可靠的人工智能开发可能需要一些大型科技公司改变运营方式。

大型科技公司控制的数据量也令人担忧。他表示，建立数据信托(data trust)可能是一种解决方案。数据信托是一种非盈利实体或法律框架，人们可以在其中拥有自己的数据，并允许数据仅用于某些目的。他周四在英国国际特赦组织(Amnesty International)的一次讲话中说，如果一个信托机构持有足够的数据，它就可以与需要数据的大型科技公司就更好的条款进行谈判。

Bengio说，深度学习软件有很多好的用途。在周四的演讲中，他公布了自己正在进行的一个项目，该项目利用人工智能创建增强现实图像，描绘气候变化引发的自然灾害可能会将人们的住宅或社区遭受不同程度的伤害。

但他表示，人工智能的实施也有可能造成大规模、快速的失业，这与其他技术创新不同。他说，政府需要积极考虑这些风险，包括考虑在社会内部重新分配财富的新方法。

他说:“随着科技变得越来越强大，在不受其他影响的情况下，它只会导致权力和财富更加集中。”“这不利于民主，不利于社会公正，不利于大多数人的总体福祉。”