1)负责跟踪大模型风控的趋势,输出政策解读、合规方案和合规策略,面向公司大模型内容提供合规咨询。
2)基于语言类、多模态类大模型风险防控要求,运用Prompt攻击检测和大模型输出安全评测工具,量化风控效果。在大模型内生安全、外置防御、安全测评方面,设计风控策略并推动落地,确保安全与体验的平衡。
3)根据大模型AIGC内容安全管控要求和范围,结合业务特性进行风险评估,设计出适配业务发展需要的内容安全解决方案并推动落地。
4)通过数据分析、评测效果反馈,不断优化安全管控策略,提高大模型安全机审和人审防护质量。
5)与业务、...

北京三快在线科技有限公司
北京市