职位描述
岗位职责:
1.参与公司大模型应用框架及配套工具链的设计和研发。
2.主导大模型在项目中的应用落地。
3.熟悉信创
任职资格:
1.熟悉主流国产开源大模型(如DeepSeek、通义千问、文心一言等)工作原理及应用,熟悉Prompt Engineering,RAG,Fine Tune,熟悉常见的嵌入模型。
2.熟悉LangChain、Dify、AutoGPT等开源大模型应用编排框架,熟悉其中之一即可。
3.有开源大模型的使用、定制及微调经验,熟悉常见的微调方法 (prompt tuning lora qlora p-tuning prefix tuning) 。
4.熟练掌握Python。
5.熟悉Pytorch2,MindSpore,TensorFlow、transformer等机器学习算法框架。
6.对大模型推理框架,如 vllm trt-llm有开发使用经验者优先。
7.有大模型推理加速优化经验的优先(量化、蒸馏)。
8.了解常用的llm中间件向量数据库 (milvus pinecone faiss) gpt-cache 以及护栏技术。
9.有开源项目研发经验的优先。
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕