2023AI监管政策、手段及市场空间分析报告.pdf

1、2023 年深度行业分析研究报告 2/31 内容目录内容目录 1.AI 发展引发新的安全问题发展引发新的安全问题.5 1.1.AIGC 内容安全问题.5 1.2.数据安全问题.6 2.AI 监管：政策与法规先行监管：政策与法规先行.7 2.1.政府层面：借助法律法规保障 AI 行业有序繁荣.9 2.1.1.欧洲强监管，立法取得突破进展.9 2.1.2.美国弱监管鼓励行业自律，近期监管加速推进.10 2.1.3.中国首个生成式 AI 服务监管文件出台，关注 AIGC 内容安全.11 2.2.企业层面：加强自我监管，规范行业秩序.13 3.AI 监管：平衡创新与安全，监管手段多样监管：平衡创新与安

2、全，监管手段多样.13 3.1.引入安全机制.13 3.2.技术监管手段丰富.14 3.1.AI 监管有望催生千亿市场.17 3.2.AI 监管行业竞争要素：品牌、技术、市场.18 4.相关标的相关标的.18 4.1.人民网.18 4.2.新华网.20 4.3.美亚柏科.22 4.4.博汇科技.24 4.5.东方通.26 4.6.拓尔思.28 4XjYoUjXiXdUoMoMtQbR8QbRpNoOoMnOiNrRpQfQpNmR7NoPoOMYpOxOwMtOsO 3/31 图表目录图表目录 图 1：大模型输出内容容易存在较大风险.5 图 2：通过提示词绕过限制生成钓鱼邮件.6 图 3：AI

3、 生成图片显示五角大楼附近地区发生爆炸.6 图 4：潜在的数据泄露风险可能更高（2023 年 2 月和 2023 年 4 月，单位：人/10 万人）.7 图 5：OpenAI 调整 ChatGPT 数据管理措施.8 图 6：人工智能法案将 AI 应用分为不同风险级别进行监管，形成风险金字塔.9 图 7：OpenAI 主动发布Governance of superintelligence.13 图 8：AIGC 内容安全合规解决方案框架.14 图 9：AIGC-X 测试案例.14 图 10：AIGC 的生成瑕疵.15 图 11：AIGC 的生成瑕疵.15 图 12：事实核查机器人的亮点.15 图

4、 13：事实核查机器人识别暴恐内容.15 图 14：行业基础大模型框架.17 图 15：蚂蚁集团与清华大学联合推出的“蚁鉴 AI 安全检测平台 2.0”.17 图 16：人民网产品体系及旗下网站平台.19 图 17：人民网 2020-2023Q1 营收及同比增速.19 图 18：人民网 2020-2022 年营收结构（亿元）.19 图 19：新华网 2020-2023Q1 营收及同比增速.21 图 20：新华网 2020-2022 年营收结构（亿元）.21 图 21：事实核查机器人识别暴恐及色情内容.21 图 22：美亚柏科主营业务.22 图 23：美亚柏科 2020-2023Q1 营收及同比

5、增速.23 图 24：美亚柏科 2022 年营收结构.23 图 25：美亚柏科：AI-3300慧眼视频图像鉴真工作站.23 图 26：博汇科技：智能视听全站解决方案.24 图 27：博汇科技 2020-2023Q1 营收及同比增速.25 图 28：博汇科技 2022 年营收结构.25 图 29：系统运行界面.26 图 30：系统运行界面.26 图 31：东方通 2020-2023Q1 营收及同比增速.27 图 32：东方通 2020-2022 年营收结构.27 图 33：拓尔思 2020-2023Q1 营收及同比增速.29 图 34：拓尔思 2020-2022 年营收结构.29 图 35：TR

6、S 自动校对云服务.30 表 1：数据泄露事件引发担忧，ChatGPT 遭禁用.6 表 2：欧洲国家数据监管趋严，OpenAI 调整数据管理措施积极配合政府监管.8 表 3：欧盟人工智能法案具有域外效力.10 表 4：美国人工智能治理的重要文件与事件.10 表 5：政策文件中与内容安全有关的表述.11 4/31 表 6：人民网主要业务及具体内容.19 表 7：新华网主要业务及具体内容.20 表 8：博汇科技主要业务及具体内容.24 表 9：东方通主要业务及具体内容.26 表 10：拓尔思不同技术领域及具体内容.28 5/31 1.AI 发展引发新的安全问题发展引发新的安全问题 新技术新技术发展