岗位描述：

1、负责大模型训练框架、推理框架及Agent框架的设计与开发，优化模型并行、分布式训练/推理流程
2、针对大模型训练及推理过程，实现KVCache优化、动态批处理、模型量化/剪枝等技术
3、主导大模型离线部署、嵌入式部署及异构环境的适配，设计负载均衡、资源动态调度及异构编排方案
4、跟踪业界前沿框架技术（如加速框架、轻量化推理引擎），结合业务需求引入创新方案，解决性能瓶颈

任职资格：

1. 计算机相关专业本科及以上学历，硕士及以上或有大规模框架开发经验者优先，2年工作经验。
2. 熟练使用Python/C/C++/Golang/Java中的两项，具备扎实的数据结构与算法基础。
3. 熟悉主流AI框架（PyTorch/TensorFlow等）、大模型框架（Megatron-LM、DeepSpeed等）、推理框架（如 vLLM等）及加速工具（TensorRT等），有深度源码阅读和贡献者优先。
4. 具备KVCache优化、动态批处理、模型并行/流水并行等技术实践经验；
5、理解大模型训练/推理的底层技术（如Transformer架构、分布式训练通信协议），能针对性能瓶颈设计优化方案；
6、逻辑思维清晰，具备复杂问题排查能力，能推动复杂框架从设计到落地；自驱力强，主动跟踪前沿技术，乐于分享经验并主导技术方案迭代。