生成式AI的设计模式：一份全面的指南

　　探索科技新纪元，洞悉行业脉动

　　人工智能、集成电路、新能源、生命科学、通讯产业——五大科技领域，尽在掌握之中。科研快车，即刻启程！

　　今日焦点：人工智能

　　生成式AI的设计模式：全面指南

　　在创新之旅中，我们依赖经过验证的方法、途径和模式。这一原则同样适用于软件工程领域，但对于生成式AI和人工智能而言，情况可能有所不同。对于新兴技术如生成式AI，我们缺乏充分记录的模式来支持我们的解决方案。在此，我将分享基于对大语言模型无数次实践评估的生成式AI方法和模式，旨在缓解和克服实现过程中的挑战，如成本、延迟和“幻觉”。

　　模式概览

1. 分层缓存策略下的模型微调
2. 专家团队——多路复用的AI代理
3. 多任务大语言模型微调
4. 规则导向与生成模型的融合
5. 利用知识图谱的大语言模型
6. AI代理群
7. 可组合的模块化大语言模型
8. 大语言模型的记忆认知构建
9. “红蓝”双模型的协作评估

　　分层缓存策略下的模型微调
引入缓存策略，旨在解决大语言模型的成本、冗余和训练数据组合问题。通过缓存初始结果，系统能更迅速地响应后续查询，提高效率。当数据积累到一定程度时，微调层开始发挥作用，利用早期交互的反馈，优化为更专用的模型。这不仅简化了流程，还使AI更适应特定任务，如客户服务或个性化内容创作等。可使用GPTCache等预构建工具，或利用Redis、Apache Cassandra、Memcached等缓存数据库自行构建。添加额外服务时，需监控和测量延时。

　　专家团队——多路复用的AI代理
设想一个生态系统，其中多个专注于特定任务的生成式AI模型（“代理”）并行工作。每个模型都是其领域的专家，处理一次询问的各个方面。这种多路复用策略带来多样化的响应，随后整合以提供全面答案。这种模式最适合解决复杂问题，需要不同专业知识。它像专家团队一样，各自解决更大问题的一个方面。这种模式用一个更大的模型（如GPT-4）理解语境，将其拆分为特定任务或信息请求，传递给较小的代理。这些代理可以是较小的语言模型或通用模型，具有个性特征、语境提示词和函数调用。

　　多任务大语言模型微调
同时对大语言模型进行多任务而非单任务微调。这种方法促进跨领域知识技能稳定迁移，增强模型通用性。对需要高能力胜任各种任务的平台（如虚拟助手或AI赋能的研究工具）尤其有用。它可能简化复杂领域的训练、测试工作流程。训练大语言模型的资源和包包括DeepSpeed及Hugging Face上的Transformer库训练功能。

　　规则导向与生成模型的融合
结合生成特性与基于规则逻辑的结构化精度，这种模式旨在提出创造性且符合规范的解决方案。对于产出需严格遵循标准或规定的行业而言，这是一种强大策略。它确保AI在理想参数范围内同时保持创造力和吸引力。例如，为基于规则的电话交互式语音应答系统（IVR系统）或传统聊天机器人生成用户请求的回应和信息流。

　　利用知识图谱的大语言模型
将知识图谱融合到大语言模型赋予它们以事实为导向的“超能力”，使输出不仅感知上下文，而且更符合事实。这在内容需无条件真实准确的应用中至关重要，如教育内容创作、医疗建议或任何错误信息会带来严重后果的领域。知识图谱和图本体论将复杂主题和组织问题拆解为结构化格式，帮助大语言模型获得深入上下文。可利用语言模型生成JSON或RDF格式的图本体。可用工具包括图形数据库如ArangoDB、Amazon Neptune、Azure Cosmos DB和Neo4j等。还有更广泛的数据集和服务用以访问更广泛知识图谱的工具。

　　AI代理群：集体智慧的结晶
受自然界中虫群畜群启发，这个模型运用大量AI代理共同解决问题，每方贡献独特视角。最终聚合的输出结果反映了一种集体智慧形式，超越任何单个代理水平。在需要多样创造性解决方案或处理复杂数据集时尤为有利。例如从多个“专家”视角审阅研究论文或一次性在多个用例中评估客户互动。使用这些代理并整合输出时可使用如Apache Kafka等信息服务处理代理和服务间消息传递。

　　可组合的模块化大语言模型：适应性设计强调适应性采用模块化AI系统可为了最优任务表现进行动态重新配置。它像一把瑞士军刀其中每个模件都可依需选择性激活这使得它在需要为不同顾客互动和产品需求定制方案的企业中非常高效。可部署各种自主代理框架和架构来开发每个代理及其工具示例框架包括CrewAI、Langchain、Microsoft Autogen和SuperAGI等对于一个销售模块化整体设置代理可分别专注于开发潜在客户处理预订生成消息以及更新数据库等如果未来有专业AI公司提供特定服务可针对给定任务或特定领域问题用外部或第三方服务替换某个模块等。

　　大语言模型的记忆认知构建：回忆与理解引入类似人类记忆的因素使模型能够回忆并基于之前交互构建更精细响应它对于持续对话或学习情境很有帮助因为AI随着时间深化理解很像专注私人助理或适应性学习平台随着时间推移这种记忆认知方法可通过总结存储关键事件以及讨论发展成一个矢量数据库为了控制总结计算量可权衡使用如spaCy等更小NLP库或在处理大量数据时使用BART语言模型所用数据库基于矢量并运用了相似性搜索来定位关键“事实”以在提示词阶段检索短期记忆如果可行解决方案感兴趣可看采取相似模式开源解决方法MemGPT等。