模型训练-大模型安全群组

岗位描述

1. 结合研发需求与内容安全标准，负责Prompt撰写及Agent搭建，通过系统性测试与深度分析，持续提升模型安全防护能力；
2. 负责大模型自动化评估日常运营，配置和维护评测集、组装评测套件、发起并跟踪模型评测任务，输出评估分析报告；
3. 探索Prompt攻击的新型形式与潜在场景，覆盖内容合规性、可靠性、鲁棒性等多维度测试，构建全面的安全测试体系；
4. 负责已上线产品的安全巡检与效果评估，联动产品研发、策略等相关…
5. 本科及以上学历，理工类或文理交叉学科背景，有一定英文（或小语种）基础优先；
6. 具备基础Python能力，能熟练使用SQL进行数据提取、筛选、分析，理解业务数据逻辑，有大模型评…