职位描述
推理场景岗位职责:
1、负责业界主流LLM大模型在昇腾的适配,参与单机多卡、量化压缩、动态调度、长序列推理等性能提升技术的研究与落地。
2. 负责大模型的性能分析和调优,识别和解决瓶颈问题,进行时延优化,提高模型推理吞吐。
3. 负责AI应用场景中上述软件栈的适配、调优,整体解决方案的制定。
训练场景岗位职责:
1.负责多模态/大语言大模型在昇腾设备的加速调优,开发适配优化算法;
2.负责PyTorch框架在昇腾设备上的适配,开发分布式通信、算子等框架能力;
3.结合新代际硬件特性,解决模型性能瓶颈,构建竞争力;
4.积极跟进AI学术界和工业界最新动态,提升模型效果及在芯片上的性能。
任职要求:
1、计算机科学、机器学习、统计学、应用数学等相关专业;
2、熟悉至少一种常用深度学习框架,了解常见神经网络架构,例如RNN、CNN、Transformer、GAN、GNN等, 熟悉常见NLP任务的定义和基础实现方法;
3、有良好的研究背景和成果,对算法研究兴趣浓厚,业务抽象能力强;具备创造性思维,能够将全新想法转化为工程应用;对研究工作充满热情,具备良好的团队合作精神和沟通能力;
4、具备较强的编程能力,精通主流编程语言,如C++ /Java /Python等;
5、在高水平国际会议和学术期刊发表过相关论文,例如在CL、NLP顶级会议或workshop上发表过论文,或有高水平竞赛获奖经历。
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕