岗位职责
1、系统监控与告警：
建立完善的大模型系统监控体系，实时监控系统各项指标（GPU、内存、磁盘、无损网络等），及时发现并解决潜在问题。
配置告警规则，对异常情况进行及时告警，并制定相应的应急预案。
2、 性能优化：
分析系统性能瓶颈，提出优化方案，提升系统运行效率。
参与模型优化，提高模型推理速度和准确率。
3、故障处理与应急响应：
快速定位并解决系统故障，保障系统的稳定运行。
制定完善的应急预案，在突发事件发生时能够迅速响应。
4、运维自动化：
构建自动化运维平台，实现系统部署、配置、监控等工作的自动化。
使用Python与Shell编写GPU集群运维自动化脚本，提高运维效率。
5、容量规划：
根据业务发展需求，进行系统容量规划，确保系统资源充足。
6、技术文档编写：
编写详细的运维文档，方便团队成员了解系统架构和运维流程。