工作职责：
1、大模型微调与优化：负责对大规模预训练模型（如 GPT、BERT、Llama3、Whisper、TTS 模型）进行微调，以适应特定应用场景的需求，提升模型性能；
2、端侧精简模型开发：基于端侧设备的计算限制，利用 蒸馏、量化、剪枝 等技术，对大模型进行精简，确保其在资源受限的环境中能够高效运行；
3、小型化语言模型构建：设计和开发轻量级的小型语言模型，能够满足应用需求，同时减少计算和存储资源消耗；
4、多模态模型构建：开发多模态模型，将语言、视觉、声音等不同模态的信息结合，提升机器人等系统的交互能力；
5、模型调优与性能优化：深入分析和调优模型在不同硬件平台上的表现，确保大模型在云端和端侧的高效部署和执行。
任职要求：
1、深入理解 Transformer 架构及相关优化技术：对 Transformer 结构、 Attention机制 以及各种优化技术（如混合精度训练、稀疏化 等）有深刻理解，能够进行深入的架构优化；
2、精通 PyTorch 或 TensorFlow：具有丰富的 PyTorch 或 TensorFlow 框架使用经验，能够开发和调试大规模预训练模型，并进行微调与优化；
3、熟悉 Hugging Face：对 Hugging Face 框架和模型库有深入了解，能够高效使用其进行大模型的微调、部署和优化；
4、模型剪枝、蒸馏、量化技术：精通 模型蒸馏（Knowledge Distillation）、量化（Quantization）、剪枝（Pruning）等技术，具备相关的实践经验，能够大幅减少模型大小并提高推理速度；
5、大规模数据训练和模型调优：有实际的大规模数据集训练经验，能够在大规模数据集上进行模型调优，提升模型的泛化能力和实际应用效果；
6、NLP 和多模态技术：熟悉 NLP（自然语言处理）领域的前沿研究进展，并能够在多模态（如语言+视觉）领域进行创新；
7、硬件优化经验：有对不同硬件平台（如 CPU、GPU、TPU、嵌入式设备）进行性能优化的经验，能够确保大模型在各种硬件平台上高效运行。