大模型推理引擎研发工程师

岗位描述

1. 负责LLM大语言模型的推理优化；
2. 负责机器学习引擎的编译优化工作；
3. 负责模型稀疏化和模型量化工作。 岗位要求：
4. 熟练掌握CUDA编程、C++编程，数据结构和算法知识；
5. 熟悉TVM或TensorRT或FastTransformer等推理优化框架；
6. 熟悉LLM大模型相关背景知识，有相关方向的研究经验和产出。 岗位亮点
7. 紧跟人工智能行业进展，接触到前沿技术和行业趋势，磨练出对人工智能的独到见解；
8. 参与AI大模型的数据、训练与评测的全流程，了解从理论到工程实践的全面技能；
9. 有机会参与公司的创新项目，跨足不同领域，拓宽人工智能技术的应用范围。