大模型Infra工程师 (VLM推理)

生数科技 · 北京
来源:生数科技 官方招聘 · 更新于 2026-08-20 · 抓取快照,投递前请确认岗位仍在招
全职 算法 北京 互联网 / 电子 / 网游
去官方投递 → ← 返回岗位列表 薪资面议

岗位描述

负责 VLM(视觉-语言模型)大规模推理服务的基础设施设计与优化。以极致吞吐与极致成本为核心目标,从服务架构到底层 Kernel 进行全栈压榨,在既定算力预算下支撑尽可能大的业务流量。 1. 推理服务架构设计与优化:主导 VLM 在线推理服务的架构设计与持续演进,深度定制 SGLang 推理框架,针对 VLM 特点(长视觉序列、Prefill/Decode 异构计算)进行系统级适配与优化。持续提升服务吞吐上限,… 1. 推理框架深度掌握:精读过 SGLang 核心源码,对其调度器(Scheduler)、RadixAttention 缓存机制、CUDA Graph 加速、Overlap 调度等…

关于 生数科技

查看 生数科技 的全部在招岗位 · 官方招聘主页 ↗

同公司其他岗位

全部在招岗位 →
加载中…

相似岗位

数据来源:腾讯招聘官方接口 + 美团招聘官方接口 + 网易招聘官方接口 + 字节跳动招聘官方接口 + 各企业官方招聘接口 · 更新于 2026-11-10,为快照数据,可能已变动。 请以 官方职位页面 为准。