1. 大模型产品安全风险评测：对于公司大模型产品的架构、功能及应用场景有基础了解，运用专业知识和经验，对大模型生成内容进行全面的安全风险评测。通过系统性的测试用例设计，检测模型输出是否存在安全风险。
2. 工具运用与创新：熟练掌握各类大模型工具及相关辅助评测工具，善于运用其进行高效的内容安全分析。同时，积极探索和尝试新的工具和技术应用于评测工作，提高评测效率和质量。
3. 风险报告与沟通协作：对评测过程中发现的安全风险进行详细记录和分析，对于评测数据认真负责，能够根据业务标准，准确的对于case进行评估，及时发现安全风险问题
4. 数据监测与趋势分析：建立并维护内容安全数据监测机制，定期收集和分析评测数据。通过数据分析洞察大模型内容安全风险的变化趋势，为前瞻性的安全策略制定提供数据支持。及时发现潜在的安全隐患和异常情况，提前预警并采取相应措施。
职位要求
任职要求
教育背景：本科及以上学历，计算机科学、新闻相关专业优先。
工作经验：有内容安全相关工作经验，有大模型产品安全评测经验者优先。熟悉内容安全领域的常见风险和应对措施，对大模型技术有深入理解，了解其数据处理、训练机制及潜在安全风险点。
其他要求
- 具备较强的文字功底，能够准确理解和解读文本内容，对文字中的潜在风险有敏锐的洞察力。擅长撰写专业的评测报告和文档，表达清晰、逻辑严谨。
- 掌握一定的数据分析方法和工具，能够通过数据分析发现安全问题和趋势。
- 具备良好的沟通协作能力，能够与不同部门的团队成员有效合作，共同解决问题。
- 具备较强的学习能力和适应能力，能够快速掌握新知识和新技术，适应大模型行业快速发展的需求。