职位描述
1. 负责AI 多类型的模型(包含大语言,视频模型,语音模型)docker集群部署的后端开发,主要涵盖:模块架构设计、接口实现、并发容错等后端应用。
2. 与前端开发工程师协作,完成各种数据交互、可视化功能界面交互。
3. 数据结构设计、数据库性能优化。
4. 负责代码审查、单元和系统集成测试,确保代码质量和系统稳定性。
"Must:
1.高并发框架精通:深度掌握至少一种高性能异步框架,如 FastAPI、Sanic 或 Tornado(Python体系),或者 Go、Java (Spring WebFlux) 等。需要理解其事件循环、异步I/O模型,以避免阻塞导致并发能力下降。
2.gRPC/Protobuf 精通:许多高性能模型服务框架(如 Triton)使用 gRPC 进行通信。掌握 gRPC 和 Protobuf 对于构建高效、跨语言的内部服务网格至关重要。
3.API 设计与治理:设计稳定、易用、版本化的 RESTful/gRPC API,并实现限流、认证、鉴权、日志记录等中间件。
4.分布式系统原理:理解负载均衡、服务发现、熔断降级、重试机制等微服务核心概念。
任务队列管理:对于长时任务或请求排队,需要集成并管理像 Celery (配合 Redis/RabbitMQ) 或 Kafka 这样的消息队列。
5。理解模型底层运行原理和模型多GPU 理解nvlink-bridges技术更好
6,后端运维开发经验的
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕