大模型推理优化工程师-Commercial AI
字节跳动 · 北京
来源:字节跳动 官方招聘 · 更新于 2026-05-21 · 抓取快照,投递前请确认岗位仍在招
岗位描述
- 负责超大规模机器学习系统架构的设计开发,解决系统高并发、高可靠性、高可扩展性等技术难关;
- 负责大模型分布式推理任务性能优化,流量调度,池化部署等,涵盖LLM/MLLM/Diffusion等多个场景;
- 与算法部门深度合作,进行算法与系统的联合优化;
- 国产硬件的适配和性能优化。
- 代码能力、数据结构和基础算法功底,熟练掌握Linux环境下的C/C++、Python;
- 熟悉至少一种机器学习框架(PyTorch/TensorFlow/PaddlePaddle/Mindspore等训练框架),以及对应框架相应技术生态;
- 熟悉大模型推理框架(如vLLM/SGLang/TRT-L…
关于 字节跳动
同公司其他岗位
全部在招岗位 →加载中…
相似岗位
数据来源:腾讯招聘官方接口 + 美团招聘官方接口 + 网易招聘官方接口 + 字节跳动招聘官方接口 + 各企业官方招聘接口 · 更新于 2026-11-10,为快照数据,可能已变动。 请以 官方职位页面 为准。