RAG和向量数据库打造差异化的生成式AI应用.pdf

1、 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。RAG RAG 和向量数据库打造差异化的生成式 AI AI 应用马丽丽数据库解决方案架构师亚马逊云科技臧昊旻工业4.0解决方案架构师博西家电 全球数字化服务 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。利用专有数据，构建独特的生成式 AI 程序RAG 和向量数据库博西案例分享议程 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。利用专有数据，构

2、建独特的生成式 AIAI 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。生成式AI AI 广泛应用生成式 AI AI 应用大模型 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。生成式AI AI 应用离不开数据生成式 AI AI 应用大模型存储结构化和非结构化数据OLTP OLTP 数据库SQL、NoSQL、文档、图形、向量分析与数据湖搜索、流式处理、批处理、交互式数据集成捕获、转换、流式处理数据管理目录、质量、隐私、访问控制 20

3、24,Amazon Web Services,Inc.或其附属公司。保留所有权利。2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。您的数据是实现差异化的重要因素！通用生成式 AI基于通用数据的大语言模型差异化的生成式 AI更了解您的业务和客户 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。复杂更容易如何提供数据给生成式AI AI 应用？训练专属模型微调提示词工程专门构建通用模型+上下文 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。提示词工程终端用户生成式AIAI应用大语言模型

4、用户输入对大语言模型有特定的指令吗？是否是一段连续对话的一部分？用户是谁？是否有与用户或其请求相关的数据吗？是否有语义上相关的数据？提示词模板提供的模型指令情境上下文对话历史与状态来自数据库/API 的数据语义上下文来自于向量数据库和搜索大语言模型提示词大语言模型响应应用响应 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。生成式AI AI 交互示例我想购买车险。鲍勃早上好，鲍勃！我很乐意帮助您购买车险。我已经记录了您车辆的详细信息。您驾驶一辆2021年的宝马 X3，您的住址是美国佛罗里达州 Anytown 市缅因街123号。以上信息是否正确？以下是我为您

5、找到的报价：ABC 保险：每月178美元XYZ 保险：每月198美元您是否想了解这些保险方案的更多详细信息？2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。示例背后的提示词工程您是HorizonGuard保险市场的对话智能体。问题回复应从不偏不倚的角度提供帮助和信息。请要求人类对回复予以确认。此人名叫鲍勃，他美国佛罗里达州 Anytown 市缅因街123号，拥有一辆2021年的宝马 X3，家庭成员包括莎拉（妻子）和杰克（儿子）。汽车保险是最常用的个人保险之一。大多数州要求车主购买某类保险才能在本州内合法驾驶。.参考信息：https:/content.nai

6、c.org/consumer/auto-insurance.htm我想购买车险。提示词工程使用提示模板、结构化数据源的上下文和语义上下文模型指令情境上下文“我想购买车险。”用户输入语义上下文用户提示/问题 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。终端用户生成式AIAI应用大语言模型用户输入工程化提示词应用响应大语言模型响应提示词工程常见技术数据l l采集数据处理摄取结构化数据非结构化数据情境上下文OLTP数据库提示词模板文档数据存储、对象存储或代码对话状态/历史NoSQL、文档或键值模型语义上下文向量数据库或搜索缓存内存数据库提示词模板提供的模型指