状态: 活跃研究隐私保护型 AI负责任的 AI
隐私保护型 AI 管线
在受控模型访问前,进行敏感数据检测、脱敏与转换,并配合数据驻留控制与残余风险评估。
摘要
我们研究这样的管线:检测敏感数据、对其脱敏或转换、将数据保持在驻留边界内,并在任何模型接触内容前评估脱敏后的残余风险。
问题与动机
脱敏常被当作非黑即白且彻底的处理,但残余的再识别风险通常仍然存在,却很少被度量。
研究问题
- 脱敏后如何估计残余的再识别风险?
- 哪些转换能在降低泄露的同时保留任务效用?
方法
- 构建 检测 → 转换 → 残余风险评估 的管线。
- 比较不同转换在效用/泄露之间的权衡。
局限
- 不通过本站发布或接收任何包含真实个人或健康数据的数据集。
- 残余风险估计为近似值,且依赖于所用模型。
披露
- 资助
- 基础设施支持由 Octopus Core Pty Ltd 提供。
- 利益冲突
- Octopus Core 开发商业隐私基础设施;相关发现独立报告。
- 伦理
- 本方向不通过本网站收集任何人体受试者数据。