国家工业信息安全发展研究中心&amp奇安信：人工智能数据安全与监管机制研究（18页）.pdf

1、逆向还原指通过公共访问接口，利用数据关联和推算演绎等技术，根据输入和输出信息的特定映射关系，能够还原出核心算法，进而窃取相应的训练数据和隐私信息。基于数据集的人工智能算法易被逆向还原，威胁重要数据资产安全。据报道，主流自然语言模型GPT-2、BERT、RoBERTa等均存在泄露训练集隐私信息的可能,攻击者可利用模型漏洞还原出姓名、电话、地址、邮箱、传真等一整套个人信息;随机抽取的1800个输出结果中，有600个左右被还原出训练数据的内容。2020年9月,360人工智能安全研究院针对开源框架Tensorflow进行了安全测试，并在较短时间内发现了24个安全问题，包括2个严重危险( critica

2、l severity)漏洞，8个高危( high severity)漏洞。开源框架大都搭建在众多第三方开源基础库之上，众多平台开发者的安全意识和技术能力参差不齐，平台缺乏安全审查机制。广泛应用的人工智能开源框架存在安全漏洞隐患，导致数据泄露、篡改威胁加剧。国际标准化组织(ISO):加快人工智能基础技术及细分场景的数据安全标准研制。二十国集团(G20):鼓励成员国参与国际数据治理与数字经济政策讨论,推动全球数据的自由流通。亚太经济合作组织(APEC):建立和实施基于区域跨境隐私规则框架的个人隐私数据安全监管机制。积极出台战略规划,推动落实数据安全管理要求。在具体场景和州层级的数据安全立法已有较多实践。加大研发投入，保持人工智能安全领域先发技术优势。行业形成人工智能数据保护共识，促进企业加强自律。强调在人工智能和数据保护等领域推动更积极的欧洲价值观和原则。在通用数据保护条例(GDPR)基础上，发布人工智能法提案，提出基于风险的监管方法,推动人工智能数据安全监管。积极研究相关人工智能数据安全标准，重视数据隐私和伦理安全。