陈昱-隐私不上云模型放心用：通过结构化语义标签实现隐私防火墙（终版）.pdf

《陈昱-隐私不上云模型放心用：通过结构化语义标签实现隐私防火墙（终版）.pdf》由会员分享，可在线阅读，更多相关《陈昱-隐私不上云模型放心用：通过结构化语义标签实现隐私防火墙（终版）.pdf（28页珍藏版）》请在三个皮匠报告上搜索。

1、隐私不上云，模型放：通过结构化语义标签实现隐私防墙腾讯武实验室 陈昱01模型隐私泄漏险传统案局限背景与挑战模型服务隐私泄漏险 输与输出通常会被记录于控与调试 数据可能被于产品优化，除你明确选择退出 存储与备份可能位于不同地域甚跨境 障与滥审核可能让少数运营或程员接触到这些数据 删除请求往往存在延迟，备份与快照法即清除模型服务商隐私政策 提交合同、代码或客户资料会被写志或索引 外部搜索与第三接可能把敏感参数带出关 知识库未做脱敏会暴露姓名、邮箱和电话等元数据 监控与排障平台常保留完整请求与返回 分享链接或截图会让信息在外部扩散上下游隐私泄漏隐患 在前端暴露 API 密钥会被抓包或反编译直接获取

2、认证与租户隔离粒度不，容易出现横向访问与越权 外部调未设名单易被被诱导执任意请求 推理基础设施漏洞可能导致跨会话串线、数据错配 志、缓存与备份未加密，旦泄露即为明暴露部署时泄漏隐患模型常使场景分布How People are using ChatGPT by OpenAI 2025.9.15实指导:29%写作:24%信息检索:24%多模态:7%我表达:5%技术求助:5%其他:5%OpenAI.(2025,September 15).How people are using ChatGPT.https:/ 元数据（作者、修订历史）常触发：让模型总结内部 wiki、PDF、群聊各场景隐私泄漏点多模

3、态场景可能泄漏点：截图/照的脸、牌、牌号、牌、名、报销单/快递单维码，屏幕的 Slack/邮箱/云盘链接；EXIF 位置常触发：上传票据/板/证件照/桌截图让模型识别。我表达场景可能泄漏点：记/健康/情感记录的真名+具体时间地点+关系（家、同事、孩学校等）以及医疗/财务细节常触发：写记、朋友圈案、理倾诉技术求助场景可能泄漏点：代码/志/配置中的API Key、Token、Cookie、数据库连接串、内部域名、户ID/机号/订单号、IP地址常触发：贴错误志、配置件、SQL、抓包/控制台截图个信息输出险管理成式智能个信息保护技术要求 第6 部分:输出阶段管理6.2 涉及个信息输出场景对涉及个信息的

4、输出场景，成式智能服务提供者在输出阶段应满如下要求:a)默认情况下，不应展示已识别个信息(已公开个信息、户提供的个信息和已授权使的个信息除外)d)应对展示的个信息实施基线安全策略。成式智能个信息保护技术要求 第 8 部分:供应链管理在对第三提供户输数据前，宜先对个信息进识别，并采取去标识化或匿名化处理等安全保护措施其他要求训练阶段对其中涉及个信息部分内容进剔除，保障训练阶段本身不会引隐私数据合规险。对话运阶段，增加对于涉及隐私问题的检测，对于相关问题拒绝回答ChatBot 典型场景案例bot:李明（Liam）联系电话：13954312019 邮箱：ming.liproton.me 现居住地：加

5、利福尼亚州雪松湾市晨光道2019号5B室 出期：1991.05.07教育背景麻省理学院（MIT）博，2019清华学 姚班作经历Apple端侧模型推理专家专业领域端侧模型推理Core ML 部署求职意向意向公司：腾讯bot:Ming Li(Liam)Phone：13954312019 Email：ming.liproton.me Current Residence：Room 5B,No.2019 Morning Light Avenue,Cedar Bay City,California Birthday：1991.05.07EducationMassachusetts Institute of

6、 Technology（MIT）Ph.D.,2019Tsinghua University Yao ClassWork ExperienceAppleOn-device Model Inference ExpertAreas of ExpertiseOn-device model inferenceCore ML deploymentJob ObjectiveTarget Company：Tencent户：请将提供的信息梳理成简历的格式：李明（Liam）；1991.5.7；13954312019；ming.liproton.me,；清华姚班，2019年麻省理学博；Apple端侧模型推理专家；C