1、负责大模型应用的设计开发，解决系统高并发、高可靠性、高可扩展性等技术难关;
2、覆盖大模型多领域的工作，包括:资源调度、模型训练、模型推理、数据管理、工作流编排等;
3、负责大模型推理优化和高效部署;
职位要求:
1、3到5年以上相关工作经验，有大模型开发、训练、优化的实际项目经验，参与过大模型机器学习模型的开发与部署，成功案例优先，优秀的代码能力、数据结构和基础算法功底，熟悉python、C、C++其中一种
2、熟悉至少一种主流的机器学习框架(TensorFlow / PyTorch);熟悉vllm或TensorRT-LLM，掌握大模型预训练、微调、指令调优、RLHF等技术，熟悉模型压缩技术及数据处理技术；
3、掌握分布式系统原理，参与过大规模分布式系统的设计、开发和维护；熟悉k8s;
4、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力;
5、良好的沟通协作能力，能和团队一起探索新技术，推进技术进步。