端侧全模态大模型工程专家

岗位描述

1. 端侧语言模型 / 多模态模型 / 全模态模型推理部署；
2. 深入全模态模型双工异步工作流推理开发与优化；
3. 模型量化、KV Cache 管理与投机推理加速；
4. 分析硬件性能调优与内存管理；
5. 跟进主流芯片厂商技术栈演进；
6. 了解主流模型架构，包括 Transformer 系列、LLaMA、Qwen、Whisper 等，能分析其计算与内存特点；
7. 熟悉TensorRT，了解llama.cpp、vllm、sglang框架；
8. 有Orin平台开发经验；
9. 了解投机采样（Eagle2/Eagle3/MTP）等推理加速思路，能够分析其对端侧延迟、内存和工程复杂度的影…