推理引擎工程师

岗位描述

1. 负责美团搜推各场景推理引擎架构的设计与开发，覆盖大语言模型（LLM）与搜推模型（生成式推荐/排序模型）两类场景。
2. 负责推理服务的降本增效，通过性能优化持续降低单次推理成本，支撑业务规模增长。
3. 跟踪并研究AI领域前沿技术发展，结合业务需求进行技术预研和落地实践。
4. 计算机、自动化、电子信息或相关专业本科及以上学历；
5. 熟悉C++/Python等编程语言，深入理解多线程编程、性能优化、分布式系统设计等核心技术；
6. 深入理解 GPU 体系结构（SM、显存带宽、Warp 调度等），有 CUDA 编程与性能调优经验
7. 熟悉主流推理框架（vLLM / TensorRT-…