职位描述
岗位内容描述
1、在自研芯片上适配常见的大模型,对齐精度并调优好训练和推理框架的策略
2、根据业务要求,产出各场景benchmark的精度和性能数据
3、定位到适配的算子精度和性能问题,供业务团队做算子优化
4、沉淀和开发模型适配和测试过程中的效率工具
能力要求描述
1、熟悉大模型常见结构与基础知识
2、熟悉Huggingface Transformer/Megatron/vLLM等大模型训推框架,有过模型适配经验
3、有独立的分析问题和解决问题的能力
4、有过芯片适配经验者优先
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕