职位描述
1、消化吸收:AI生成的风险识别,能快速理解各方反馈的、可能是模糊的AI风险现象;
2、提炼归纳:从现象中提炼出可操作、可识别的核心风险特征,形成结构化的风险摘要,并结构化;
3、精准打击:执行快速止损AI内容风险,并主动外延搜寻同类风险,实现“打一个,揪一串”;
4、定性研判:从内容风险上升到账号风险,明确违规性质与影响范围,进行批量处置。
任职要求
整体要求:轻背景、重能力, “特征提炼” 和 “SQL基础” 是两个核心点。此外,要求强执行力、敏锐的洞察力和快速学习能力。
1、核心经验:有过风险特征分析、样本标注、策略辅助相关经验,熟悉内容安全规则和违规判定标准;
2、加分项:接触过AIGC内容风险(如深度伪造、AI生成违规内容)者更佳。
3、硬技能要求:
1)SQL基础:必须能独立编写基础查询语句(如SELECT, WHERE, GROUP BY, JOIN),用于提取和分析风险数据。这是岗位的硬性门槛;
2)信息处理能力:能从杂乱的信息中,快速提取特征、归纳模式、并形成清晰的摘要。
4、软素质要求:
1)风险敏感度高:对新型、隐蔽性风险有“嗅觉”,举一反三;
2)逻辑清晰,结构化思维强:能将模糊的风险现象,梳理“特征A、B、C”清晰条目;
3)执行力强,注重效率:追求在最短时间内阻断风险扩散;
4)细心且有耐心:样本分析和工作往往重复性强,坐得住。