第四代至强® 可扩展处理器及英特尔® AMX助金蝶云•苍穹 AI 服务云性能提升34%

图: AI 服务云业务蓝图

在金蝶云·苍穹 AI 服务云中， 视觉识别服务 是一项重要的功能。基于 OCR、NLP 等深度学习技术的 智能文字识别和文档处理平台 ，提供了 开箱即用 的 文字识别预置模板、自定义模板、文档差异分析 及 信息提取 等功能，帮助企业以低代码方式实现日常票据、证照、文档处理工作的自动化。

此外，金蝶云·苍穹 AI 服务云还提供强大的 对话机器人平台 。该平台提供 任务型技能 和 问答型技能 ，重点解决人工重复查询、高频提单的痛点，提高企业工作效率、降低用人成本，应用于客服、营销和企业信息服务等多个场景， 具备对话管理、技能管理、自然语言处理、数据分析及知识图谱等相关技术能力 。对话机器人平台通过多渠道与企业的业务系统进行关联，在多产品线、多租户下进行统一管理。

然而，随着 AI 技术发展迅速，新的模型、新的算法、新的架构不断涌现。特别是近两年 AI 技术的普及，AI 应用已成为企业平台不可或缺的能力。随着访问请求的迅猛增长，AI 服务不断吞噬着底层算力资源，成为企业的一项重要支出。如何在提升 AI 服务质量的同时帮助企业降低成本成为AI在企业落地的一个重大因素。为此， 金蝶与英特尔紧密合作，基于第四代英特尔 ^® 至强 ^® 可扩展处理器，全面升级 AI 服务云 。

基于 CPU 的 AI 方案 具备 通用、成本较低、可获得性良好 等特点，在许多推理的场景获得越来越广泛的使用。为了验证新方案在性能、管理、稳定性等方面的表现，金蝶启动了基于第四代英特尔 ^® 至强 ^® 可扩展处理器的方案开发与测试。 该测试基于阿里云通用型实例规格族 g8i，全新的方案实现了性能的飞跃 。

测试表明 全新的视觉识别服务结合第四代英特尔 ^® 至强 ^® 可扩展处理器，性能获得巨大提升 ，相比第三代至强 ^® 可扩展处理器， 第四代至强在视觉识别服务测试中性能提升 34% ¹ ，内置 AI 加速引擎 AMX 指令集极大提升第四代至强 ^® 可扩展处理器的 AI 性能，使其更具竞争优势。

基于同规格的第三代至强 ^® 可扩展处理器以及第四代至强 ^® 可扩展处理器的性能测试

此外在对 话机器人平台 的测试显示，无论是在阿里云服务器还是本地服务器上，与使用 onnx 相比，使用 Intel 的 OpenVINO™ 无论 在推理耗时还是并发性能上都有显著提升 ，使用 OpenVINO™ 优化后的对话机器人平台配合第四代英特尔 ^® 至强 ^® 可扩展处理器， 相比原 onnx 与 E5-2650 V3 处理器的组合，耗时最多可下降 90% ² 以上 。

基于 E5-2650 v3&ONNX、E5-2650 v3&OpenVINO™、第四代至强 ^® 可扩展处理器&OpenVINO™ 的性能测试

展望未来，随着人工智能技术的成熟与普及，传统产业正在进行深度的行业价值链重构，企业的管理模式和核心竞争力都在重塑。金蝶云·苍穹 AI 服务云平台基于云原生技术，保障企业级业务的安全稳定发展，利用 AI 技术帮助企业提高生产力，使员工能够专注于更有创造性和战略性工作，改善运营效率，并发展新的商业机会。金蝶云·苍穹 AI 服务云将通过产品的升级迭代，使 AI 技术普惠千行百业。