当前位置:首页 > 报告详情

在本地和边缘构建生成式和智能体人工智能应用程序.pdf

上传人: 明**** 编号:1012877 2025-12-21 38页 703.15KB

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
根据报告的内容,全文主要围绕生成式和代理式AI在边缘部署的应用和发展展开。以下是关键点: 1. **AI发展历程**:生成式AI发展迅速,预计2023年为POC年,2024年为生产年,2025年为商业价值年。 2. **边缘部署优势**:适用于数据驻留、合规性、低延迟和提升客户体验等场景。 3. **模型选择与优化**:推荐使用Llama.ccp框架,优化模型准确性和性能。 4. **代理式AI**:代理式AI是自主系统,可独立行动实现目标,减少人力监控。 5. **SLMs(小型语言模型)**:适用于代理式AI,具有高效、可扩展和低成本的特点。 6. **边缘SLMs架构**:包括本地VPC、GPU、知识库和推理服务。 7. **代理式AI用例**:适用于动态工作流程和复杂任务,如任务列表创建和与工具交互。 8. **代理式AI架构**:基于SLMs,包括感知、推理、规划和学习等组件。
2025年商业价值揭秘" "如何选择合适的生成式AI模型?" 自主决策的未来?"
客服
商务合作
小程序
服务号
折叠