岗位职责:
1) 负责跟踪大模型安全评测的发展趋势,解读国际、国家大模型安全政策标准,参与AI公司大模型安全政策标准编写工作。
2) 负责构建大模型内容安全评测数据,包括多维度、多语言、多模态的评测数据,并构建自动评估机制。
3) 配合产研团队完成等大模型安全评测产品规划,包含但不限于AIGC安全风控系统、AIGC安全评测系统。
4) 配合运营团队构建AI公司大模型内容安全评测运营平台,设计出适合公司业务发展需要的大模型内容安全评测解决方案并推动落地。
5) 通过数据分析、评测效果反馈,不断优化大模型内容安全评测产品,提高大模型安全机审和人审防护质量。
任职要求:
1) 本科及以上学历,3年以上大模型评测工作经验;
2) 逻辑性强,对行业保持关注和洞见,能够敏锐的把握政策方向;
3) 责任心强,积极主动,有良好的沟通能力和团队合作能力;
4) 有大模型内容安全评测、AIGC内容安全评测从业经验者优先;