岗位职责：
1、完成大模型预训练、微调、强化学习性能优化；
2、完成大模型推理服务部署吞度性能优化，协助其他团队部署大模型推理服务；
3、完成大模型在垂直领域的能力提升；
4、编写大模型相关技术文档及发明专利。
任职资格：
1、熟悉大语言模型、多模态模型结构和基础算法；
2、具备服务器使用、容器化部署、Linux基础操作、并行计算等基础知识；
3、精通python编程，熟悉pytorch深度学习框架；
4、了解并行计算、cuda、多进程、多线程编程技术；
5、掌握大模型分布式并行策略、张量并行、流水并行、专家并行算法；
6、熟练使用大模型推理服务框架vllm、sglang等，具备对框架优化的能力；
7、熟悉c++、cutlass、trition，具备算子性能优化的能力。