项目背景

与某国内知名 AI 平台企业合作，协同解决其 AI 平台中算子种类规模大、涉及 Python、C++ 等多种开发方式导致的技术栈管理成本和复杂度挑战。同时帮助客户改进算子精度与性能测试框架和工程，缩短执行时间，简化开发阶段回归验证，全面提升开发交付效率。

咨询过程

根据客户 AI 平台软件特点，通过系统的诊断，进行多维度改进：1.优化算子开发技术栈，在同时兼顾算子的交付效率与极致性能的基础上，优化和提升开发体验的一致性和连贯性；2.优化基于 C++ 技术栈的算子开发框架，降低复杂算子的开发复杂度，提高代码复用率和开发效率；3.优化算子的跨语言测试集成机制，解决跨语言编写测试用例割裂问题，支撑单算子端到端测试验证；4. 针对算子融合场景，设计实现基于图构建和图校验的 DSL，解决图融合测试用例编写复杂和测试有效性不足的问题；5.优化算子测试并发执行性能，缩短性能测试用例执行时间，提高 CI 执行效率。

合作成果

基于优化后的算子开发工程，端到端的开发体验和交付效率得到了提升;重构后的 C++ 算子开发框架，支持更灵活的代码组合与复用，提高了软件复用率，优化后的算子自动化测试工程，提高了测试效率和反馈速度，单测试用例代码行从平均 200 行下降到平均 50 行。

项目背景

与某知名自研 NPU 企业合作，共同优化其自研 AI 编译器和推理引擎的架构、性能与工程效率。

咨询过程

与客户专家合作，针对其自研 NPU 的芯片特点，对 AI 编译器和推理引擎进行极致性能指标分解，对其核心架构进行重新设计建模，在保证 AI 编译器和推理引擎互相解的情况下，又能协同提高整体性能。和客户开发团队结对，基于高性能编码实践，完成核心架构和代码的重构、开发与测试。一共历时9个月时间，完成新版本的平稳上线切换。

合作成果

新版本的 AI 编译器支持更灵活的扩展能力，满足了长期演进的需求。重构后的 AI 推理引擎，整体性能提升三倍以上，超出了项目设定的性能规划预期，达成客户产品竞争力提升的合作目标。