职位描述
工作职责:
负责智能硬件产品的嵌入式软件架构设计、核心模块开发、调试、性能优化与维护。
负责嵌入式系统(基于主流MCU/SOC平台)与传感器、通信模块(如Wi-Fi, BlueTooth)等各种外围硬件接口的驱动开发、集成与调试。
设计和实现基于linux的嵌入式应用程序。
负责将优化后的大模型(包括但不限于开源LLM)部署到现有嵌入式/边缘硬件平台(如高性能SoC集成NPU/GPU),开发端侧推理引擎和应用。
探索和实现大模型端侧推理的性能优化技术(如模型量化、剪枝、编译优化),确保模型在资源受限环境下的高效、稳定运行。
开发必要的工具链、中间件或SDK,支持大模型在智能硬件产品中的应用(如语音交互、图像理解、智能决策等)。
熟悉并评估主流大模型推理框架(如vLLM, TensorRT, ONNX Runtime等),并根据项目需求选择和集成。
密切关注端侧AI推理、大模型压缩与加速技术的前沿发展。
任职要求 (Mandatory Requirements):
计算机科学、电子工程、软件工程、自动化或相关专业本科及以上学历。
5年以上 扎实的嵌入式软件开发经验。有智能硬件产品从0到1开发及量产经验者优先。
学习能力强,对新技术(尤其是AI、大模型、芯片软件栈)有强烈的求知欲和探索精神。
深入理解计算机体系结构以及嵌入式系统原理,熟悉常用MCU/SOC平台(瑞芯微,全志系列芯片)。
熟练使用Linux开发环境,精通Git版本控制,熟练使用Make/CMake等构建工具。
熟悉常用外设接口协议(如UART, SPI, I2C, USB, ADC, DAC,PWM)及驱动开发。
熟练掌握主流深度学习框架(PyTorch 必备,TensorFlow熟悉)。
深入理解大模型(LLM)的核心工作原理、训练和推理流程。
具备大模型端侧部署和优化实践经验(如模型量化、推理引擎集成)者优先。
有使用vLLM、TensorRT-LLM、llama.cpp或其他高效LLM推理框架经验者优先。有Android/IOS APP开发经验优先 。
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕