1、2 0 2 3 年深度行业分析研究报告CONTENTS目录大模型未来:应用多点开花,产业智能跃迁1大模型演进:工业革命级的生产力工具324大模型现状:GPT引领,百模征战投资建议:关注数据端&模型端&应用端资料来源:中国信通院、吉林大学学报、Cornrell University、Attention Is All You Need,中航证券研究所整理算法的迭代推动人工智能的发展:几十年来,AI领域持续探索,1940-1980s符号AI占主导,1980年后,统计AI与神经AI齐头并进,二者竞争发展至今,GPT系列属于神经AI。符号(Symbolic)AI:二十世纪80年代以前属于符号AI时代,开
2、启了以知识建模算法、专家系统算法为代表AI早期发展阶段;统计(Statistical)AI:1985年的贝叶斯网络和1995年的SVM是20世纪机器学习发展的两大标志,但近年来,逐渐成为非主流的研究方向;神经(Neural)AI:经历了1980s-2012年神经网络、2012年后的深度学习两大阶段,深度神经网络和模型大小呈正相关,伴随着模型参数量的增加,相对应深度神经网络的能力将大幅提升,Google Brain的Transformer和OpenAI的GPT系列都属于深度学习领域的代表作。将人类专家的知识和经验转化为计算机可以理解的形式,并利用AI技术来实现手写规则,简单粗暴只能处理非常少量数
3、据知识建模、专家系统找到一些函数或参数分类固定量数据应用于数据分析、预测和分类等任务机器学习1970-1980s 1985至今1980s-2012 2017 2018像人脑一样学习开始尝试大量数据提前标注数据应用于计算机视觉、自然语言处理、语音识别等领域神经网络基于Transformer架构投喂海量学习数据无监督训练方法通用文本预训练GPT系列全注意力机制关注文本序列数据整体注意力Transformer深度学习Neural AIStatistical AISymbolic AI神经人工智能图表1:人工智能的发展历史1.1 大模型推动人工智能发展:ANI-AGI-ASI资料来源:灼识咨询,中航证
4、券研究所图表2:人工智能的三种类型比较1.1 大模型推动人工智能发展:ANI-AGI-ASI目前,ANI已经广泛应用,AGI处于研发阶段,大模型是实现AGI的重要路径。ANI(专用人工智能,Artificial Narrow Intelligence)又称为弱人工智能,是专注于执行某一领域任务的经过训练的人工智能,是目前大多数的AI形式;AGI(通用人工智能,Artificial General Intelligence)是指一种具有与人类相当的认知能力的智能系统,能够理解、学习、计划和解决问题,目前尚未真正实现;ASI(超级人工智能,Artificial Super Intelligence
5、)指在几乎所有领域都超过最优秀的人类所具备的智能、知识、创造力、智慧和社交能力的智能系统。擅长领域具备能力发展成熟度专用人工智能(ANI)某一特定领域具备执行能力已应用广泛通用人工智能(AGI)大部分领域拥有能够与人类相媲美的智慧处于研发阶段超级人工智能(ASI)所有领域全知全能尚处早期资料来源:灼识咨询、阿里云,中航证券研究所 1.2 大模型的技术原理:以“大规模预训练+微调”范式满足多元化需求 人工智能大模型:人工智能大模型是在参数和架构的基础上构建起来的一种结构,是人工智能迈向通用智能的里程碑技术,通过预先在海量数据上进行大规模训练,而后能通过微调以适应一系列下游任务的通用人工智能模型。
6、在“大数据+大算力+强算法”的加持下,进一步通过“提示+指令微调+人类反馈”方式,可以实现一个模型应用在很多不同领域。大模型VS小模型:人工智能的发展已经从“大炼模型”逐步迈向了“炼大模型”的阶段。“小模型”,针对特定应用场景需求进行训练,能完成特定任务,但是换到另外一个应用场景中可能并不适用,需要重新训练,如果某些应用场景的数据量少,训练出的模型精度就会不理想;“大模型”,在大规模无标注数据上进行训练,学习出一种特征和规则,基于大模型进行应用开发时,将大模型进行微调(在下游小规模有标注数据进行二次训练)或者不进行微调,就可以完成多个应用场景的任务,实现通用的智能能力。图表4:大模型技术原理涌