岗位职责:
1、评估主流推理框架 (如 TensorRT、ONNX Runtime、TVM 等)，分析其适用场景及性能优劣；
2、根据业务需求选择最优框架并进行深度优化，确保性能与资源消耗的最佳平衡。
3、在端侧(如嵌入式设备或移动设备) 或云端实现高效的模型推理部署。
4、应用先进的推理加速技术(如算子优化、内存管理优化)，提升推理速度并降低资源消耗。
5、设计并实施性能监控工具，实时分析模型在生产环境中的运行表现。
6、对各种 AI推理框架的优分势有深入理解，高效完成模型推理的加速与优化。
任职要求：
1、统招本科学历，5年以上相关任职经验；熟练掌握主流推理框架 (TensorRT、ONNX Runtime、TVM 等)，并具备框架深度优化的经验，专注于 A 模型部与推理优化。
2、熟悉算子优化、内存分配等底层技术细节，有能力优化推理速度；
3、具备在端侧设备 (如移动端或嵌入式) 或云端部署 AI 模型的经验；
4、有完整的项目经历，从模型优化到生产部署，并能快速响应和解决实际问题；
5、精通 Python 和 C++，能够编写高效的推理代码并解决复杂技术问题；