NXP发起人工智能伦理倡议

文章编译自EETimes

NXP发起了一项人工智能伦理倡议，旨在鼓励边缘设备中人工智能系统的伦理发展。这个由五个关键原则组成的框架，旨在让NXP在开发人工智能应用程序或人工智能支持技术时使用，但该公司也希望能为其客户树立一个好榜样。

今天的边缘人工智能系统包括各种各样的设备，它们可以在设备上感知环境并实时分析数据。这可能是一个智能手机使用面部识别解锁自己，或家用电器响应用户的语音命令。许多人使用NXP的微控制器和应用处理器，它们针对机器学习任务进行了优化。

NXP在18个月前开始了其人工智能伦理框架的工作，遵循了IoT安全信托宪章（Charter of Trust for IoT Security）的成功模式，这是一个成立于2018年的跨行业倡议，从工程师团队和世界各地的客户那里寻求各种意见。

NXP的人工智能道德约束的五个关键原则是：

无恶意。系统不应该伤害人类，算法偏差应该通过不断的研究和数据收集来最小化。

人类自主。人工智能系统应维护人类的自主性，并保证不受人工智能系统的从属或胁迫。

可解释性和透明度。对于建立和维护人工智能系统的信任至关重要，用户需要意识到他们正在与人工智能交互，并需要追溯系统决策的能力。

持续的关注和警惕。为促进人工智能风险缓解的跨行业方法，促进多方利益相关者网络共享新见解、最佳实践和信息。

隐私和安全设计。这些因素必须从一开始就加以考虑；不能事后再考虑。必须解决传统的软件攻击向量，但仅凭它们是不够的，还要继续努力为下一代AI/ML构建新的强健的框架。

NXP德国公司政府事务主管、NXP全球政府事务委员会主席Svend Buhl说，该框架将成为NXP自身和NXP客户的典范。

Svend Buhl NXP AI伦理倡议

“在任何形式的实现之前，我们需要一个我们一致同意并致力于的强大而坚实的框架。”Buhl对EETimes说，“该框架是为客户提供参考方案的基准，实际上客户中的一些人已经在遵循自己的道德准则，因此我们必须确保这些目标与我们客户的利益相匹配。但我们首先希望在公司中实施这种文化，并在我们的产品组合中体现出来。”

Buhl说，NXP在半导体行业看到的是，公司已经提出了道德框架，但它们通常只是作为政策制定者或监管者的建议，而不是作为系统开发的实用指南。

“这不是我们想要的，”布尔说。“我们真的想给自己一个创建和开发人工智能系统及其组件的框架。”

Buhl希望NXP的框架将激励其他公司效仿他们，并将IoT安全信托宪章倡议作为一个成功案例，该倡议目前已拥有来自整个行业的15个成员。但是，芯片供应商是否是领导人工智能伦理计划的合适公司？伦理责任当然在于系统实施者，也就是NXP的客户。

“我认为这是绝对重要的，因为如果一个系统的架构不能支持某些工具的实现，即使客户想要创建符合道德规范的系统，他也很难真正做到这一点，”Buhl说。“此外，由于我们提供的整个解决方案都包含大量的组件，包括生态系统库、编译器、工具……我认为，我们在这里树立榜样，向市场提供符合道德规范的解决方案，这一点非常重要。”

设计安全和隐私等原则属于NXP的范畴。安全引导、安全密钥管理、安全更新、加密通信和机器学习模型保护等功能是其中的一个重要部分。NXP还提供基于硬件的措施，以防止恶意攻击、误用或数据中毒。

“当你想要信任你的系统并建立一个真正遵循你自己或你的客户对道德规范的理解模型时，所有这些因素结合起来才是最重要的，因为当系统设计从一开始就从安全角度来看存在缺陷时，可能很难实现一个符合道德规范和值得信赖的体系，”Buhl说。

EETimes想知道，总部设在欧洲的NXP是否会对其在世界其他地区的一些客户有稍微不同的道德准则。例如，虽然最终用户的数据保护是欧洲法律的一项强有力的原则（如GDPR），但这一原则在其他地区就不那么完善了。

“这还有待观察，但我是肯定的。”Buhl说，他指出，在北美，围绕人工智能系统创造者的伦理责任的争论正在加速。例如，对于IBM、Google和Microsoft等公司发布的人工智能伦理倡议，有很多争论。Buhl说，NXP也看到了“中国对数据收集及使用上的负责。”

他说：“我认为这是一种全球意识。”。“当然，世界上有些地区比其他地区更注重这一点，这是正确的……还有很长的路要走。”