中科数测固源-AI大模型检测解决方案.pdf

1、AI大模型检测解决方案简介中科数测固源科技（安徽）有限公司SourceGuard Technology Ltd 硕士以上学历31%研发人员占比59%专利和软件著作权1730员工人数1996中科星图股份有限公司（股票代码：688568）创立于2006年，2020年7月在科创板上市 中国科学院空天信息创新研究院投资的国有控股高新技术企业 将大数据、云计算和人工智能等新一代信息技术、地理信息技术与航空航天产业深度融合 国内数字地球产品研发与产业化的领军企业，在国内数字地球行业具有领先地位 公司面向政府、企业、特种领域及大众用户提供软件销售与数据服务、技术开发与服务、专用设备及系统集成等业务。现已形成

2、特种领域、智慧政府、气象生态、航天测运控、企业能源、线上业务六大业务板块，促进了我国数字地球的产业化发展。关于固源星图概况获取处理承载可视化应用自主研发GEOVIS数字地球产品覆盖空天大数据各产业链环节关于固源企业介绍国内最早涉及安全芯片、FPGA模糊漏洞挖掘技术研究技术团队覆盖国内黑客、白帽子专业安全专家漏洞挖掘技术和成果被国际黑客大会邀请分享相关漏洞挖掘经验国内支持网联汽车协议最全且效果最好的模糊测试商业工具国内首个支持二进制固件未知漏洞挖掘能力的商业工具旗下商业化安全工具已获得多个行业龙头客户认可,并采购使用；也是国内首个被军工行业采购的国产厂商。固源的使命固源的使命:铸安全利器,御黑客

3、攻击固源的愿景固源的愿景:成为一家技术领先、敬畏规则、在网络安全领域受人尊敬的公司!已获得行业头部客户认可：已获得行业头部客户认可：IOTIOT领域：领域：华为车辆网 中兴通讯 海康威视 延锋卫士通汽车领域：汽车领域：一汽红旗 比亚迪 吉利 长城汽车 泛亚汽车 中汽研科研院所：科研院所：泰尔实验室 中国软测 国家测评 工信部四院 工信部五所 中船722 中电科30所 中科数测固源科技（安徽）有限公司，简称“中科固源”；成立于2022年，是安徽省芜湖市2022年第二批高层次人才引进团队，2023年获得“上海市第三届全球海聚英才铜奖”；核心成员由国内顶尖网络攻防安全专家，国内外知名安全公司中国区研

4、发骨干人员员组成。中科固源自主研发的Swift系列和Wisdom系列安全漏洞挖掘产品，可以广泛应用于各行各业的软硬件环境中，为客户实现安全前置，提前发现潜在安全漏洞，保障设备的安全性起到了很大的作用。中科固源于2024年6月完成了与中科院空间中心旗下上市公司中科星图(股票代码:688568)的全资并购,将为客户提供更加专业的团队和产品.LLM带来的潜在问题潜在风险视觉模型带来的潜在问题潜在风险感知算法存在缺陷，存在被欺骗的可能对抗案例视觉与大语言模型通过自研幻觉攻击算法对Gemini大语言模型进行攻击，使Gemini大语言模型出现异常，并回复如何窃取银行密钥的违规言论和可靠性问题通过自研的干扰

5、算法，生成的图像对抗样本，对自动驾驶视觉模型进行对抗性攻击，导致对限速标识的识别错误，并干扰自动驾驶，可能导致潜在安全隐患行业现状法规标准国内外法规标准p 欧盟委员会起草欧盟人工智能法案p 国家网信办起草生成式人工智能服务管理办法p 全国网络安全标准化技术委员会发布生成式人工智能服务安全基本要求p 腾讯提出大模型安全与伦理研究报告技术亮点针对视觉感知模型智能驾驶感知模型智能驾驶感知模型鲁棒性、安全性检测鲁棒性、安全性检测高鲁棒性视觉大模型训练高鲁棒性视觉大模型训练对抗性攻击与防御技术研究对抗性攻击与防御技术研究可检测所有智能驾驶感知模型的鲁棒性和安全性对智能驾驶感知模型进行类别划分，不同类别的

6、模型采用分类分级检测根据检测结果出具规范地安全检测报告，报告内容可清晰、明确、客观的反映模型鲁棒性和安全性的检测指标（业界唯一）为检测智能化汽车整车的人工智能安全赋能具备对超过100种已知视觉攻击方法的抵御能力（业界唯一）关键技术视觉感知鲁棒性检测1.视觉感知模型的鲁棒性检测针对图像感知模型攻击：开发了“梦蝶模型”抽取图像内容生成自然、细粒度地对抗样本对感知模型进行对抗攻击与鲁棒性测试基于视频感知模型的攻击:开发了“墨梅模型”针对使用单目摄像头获取的图像深度信息生成细粒度地对抗样本对单目深度估计模型进行对抗攻击与鲁棒性测试 测试样本覆盖噪声数据、异常场景