点评技术-训推框架工程师

岗位描述

1. 负责训推框架的架构设计与开发，支持搜推模型、生成式推荐及大语言模型的训练与在线推理，提升框架的性能、稳定性与易用性。
2. 优化分布式训练，解决数据读取、Embedding 访问、GPU 计算、通信及显存等关键瓶颈，在保证训练正确性与收敛效果的前提下，提升吞吐和资源效率。
3. 与算法团队开展模型与系统协同设计，优化算子实现、模型执行与并行策略，兼顾模型效果、训练成本和推理时延。
4. 建设性能分析、故障…
5. 具备扎实的编程和系统基础，熟练使用 Python 与 C++，具备良好的代码设计、调试与性能分析能力。
6. 深入掌握至少一种主流深度学习框架，理解模型训练与推理的基本机制，…