LLM介绍
。LLM 被证明在使用指令形式化描述的未见过的任务上表现良好。这意味着 LLM 能够根据任务指令执行任务，而无需事先见过具体示例，展示了其强大的泛化能力。
：小型语言模型通常难以解决涉及多个推理步骤的复杂任务，例如数学问题。然而，LLM 通过采用
思维链（CoT, Chain of Thought）
推理策略，利用包含中间推理步骤的提示机制来解决这些任务，从而得出最终答案。据推测，这种能力可能是通过对代码的训练获得的。
这些涌现能力让 LLM 在处理各种任务时表现出色，使它们成为了解决复杂问题和应用于多领域的强大工具。
2.2 作为基座模型支持多元应用的能力
在 2021 年，斯坦福大学等多所高校的研究人员提出了基座模型（foundation model）的概念，清晰了预训练模型的作用。这是一种全新的 AI 技术范式，借助于海量无标注数据的训练，获得可以适用于大量下游任务的大模型（单模态或者多模态）。这样，
多个应用可以只依赖于一个或少数几个大模型进行统一建设
大语言模型是这个新模式的典型例子，使用统一的大模型可以极大地提高研发效率。相比于每次开发单个模型的方式，这是一项本质上的进步。大型模型不仅可以缩短每个具体应用的开发周期，减少所需人力投入，也可以基于大模型的推理、常识和写作能力，获得更好的应用效果。因此，大模型可以成为 AI 应用开发的大一统基座模型，这是一个一举多得、全新的范式，值得大力推广。
2.3 支持对话作为统一入口的能力
让大语言模型真正火爆的契机，是基于对话聊天的
。业界很早就发现了用户对于对话交互的特殊偏好，陆奇在微软期间，就于 2016 年推进过“对话即平台（conversation as a platform）” 的战略。此外，苹果 Siri 、亚马逊 Echo 等基于语音对话的产品也非常受欢迎，反映出互联网用户对于聊天和对话这种交互模式的偏好。虽然之前的聊天机器人存在各种问题，但大型语言模型的出现再次让聊天机器人这种交互模式可以重新涌现。用户愈发期待像钢铁侠中“贾维斯”一样的人工智能，无所不能、无所不知。这引发我们对于
智能体（Agent）
类型应用前景的思考，Auto-GPT、微软 Jarvis 等项目已经出现并受到关注，相信未来会涌现出很多类似的以对话形态让助手完成各种具体工作的项目。
3、检索增强生成 RAG
大型语言模型（LLM）相较于传统的语言模型具有更强大的能力，然而在某些情况下，它们仍可能无法提供准确的答案。为了解决大型语言模型在生成文本时面临的一系列挑战，提高模型的性能和输出质量，研究人员提出了一种新的模型架构：
检索增强生成（RAG, Retrieval-Augmented Generation）
整合了从庞大知识库中检索到的相关信息，并以此为基础，指导大型语言模型生成更为精准的答案
，从而显著提升了回答的准确性与深度。
3.1 RAG工作流程
对原始数据进行清洗和处理。
将处理后的数据转化为检索模型可以使用的格式。
将处理后的数据存储在对应的数据库中。
将用户的问题输入到检索系统中，从数据库中检索相关信息。
对检索到的信息进行处理和增强，以便生成模型可以更好地理解和使用。
将增强后的信息输入到生成模型中，生成模型根据这些信息生成答案。
4、LangChain
4.1 Langchain简介
ChatGPT 的巨大成功激发了越来越多的开发者兴趣，他们希望利用 OpenAI 提供的 API 或者私有化模型，来开发基于大型语言模型的应用程序。尽管大型语言模型的调用相对简单，但要创建完整的应用程序，仍然需要大量的定制开发工作，包括 API 集成、互动逻辑、数据存储等等。
为了解决这个问题，从 2022 年开始，许多机构和个人相继推出了多个开源项目，旨在
帮助开发者们快速构建基于大型语言模型的端到端应用程序或工作流程
。其中一个备受关注的项目就是 LangChain 框架。
LangChain 框架是一个开源工具，充分利用了大型语言模型的强大能力，以便开发各种下游应用。它的目标是为各种大型语言模型应用提供通用接口，从而简化应用程序的开发流程
。具体来说，LangChain 框架可以实现数据感知和环境互动，也就是说，它能够让语言模型与其他数据来源连接，并且允许语言模型与其所处的环境进行互动。
利用 LangChain 框架，我们可以轻松地构建如下所示的
每个椭圆形代表了 LangChain 的一个模块
，例如数据收集模块或预处理模块。
每个矩形代表了一个数据状态
，例如原始数据或预处理后的数据。箭头表示数据流的方向，从一个模块流向另一个模块。在每一步中，LangChain 都可以提供对应的解决方案，帮助我们处理各种任务。
4.2 LangChain 的核心组件
LangChian 作为一个大语言模型开发框架，可以将 LLM 模型（对话模型、embedding 模型等）、向量数据库、交互层 Prompt、外部知识、外部代理工具整合到一起，进而可以自由构建 LLM 应用。 LangChain 主要由以下 6 个核心组件组成:
模型输入/输出（Model I/O）
：与语言模型交互的接口
数据连接（Data connection）
：与特定应用程序的数据进行交互的接口
：将组件组合实现端到端应用。比如后续我们会将搭建
记忆（Memory）
：用于链的多次运行之间持久化应用程序状态；
代理（Agents）
：扩展模型的推理能力。用于复杂的应用的调用序列；
回调（Callbacks）
：扩展模型的推理能力。用于复杂的应用的调用序列；
在开发过程中，我们可以根据自身需求灵活地进行组合。
5、开发 LLM 应用的整体流程
5.1 大模型开发特点
开发大模型相关应用，其技术核心点虽然在大语言模型上，但一般通过调用 API 或开源模型来实现核心的理解与生成，通过 Prompt Enginnering 来实现大语言模型的控制，因此，虽然大模型是深度学习领域的集大成之作，大模型开发却更多是一个
在大模型开发中，我们一般不会去大幅度改动模型，而是
将大模型作为一个调用工具，通过 Prompt Engineering、数据工程、业务逻辑分解等手段来充分发挥大模型能力，适配应用任务
，而不会将精力聚焦在优化模型本身上。因此，作为大模型开发的初学者，我们并不需要深研大模型内部原理，而更需要掌握使用大模型的实践技巧。
5.2 与传统AI开发的区别
5.2.1 整体思路
：首先需要将非常复杂的业务逻辑依次拆解，对于每一个子业务构造训练数据与验证数据，对于每一个子业务训练优化模型，最后形成完整的模型链路来解决整个业务逻辑。
：用 Prompt Engineering 来替代子模型的训练调优，通过 Prompt 链路组合来实现业务逻辑，用一个通用大模型 + 若干业务 Prompt 来解决任务，从而将传统的模型训练调优转变成了更简单、轻松、低成本的 Prompt 设计调优。
5.2.2 评估思路
：需要首先构造训练集、测试集、验证集，通过在训练集上训练模型、在测试集上调优模型、在验证集上最终验证模型效果来实现性能的评估。
：流程更为灵活和敏捷。从实际业务需求出发构造小批量验证集，设计合理 Prompt 来满足验证集效果。然后，将不断从业务逻辑中收集当下 Prompt 的 Bad Case，并将 Bad Case 加入到验证集中，针对性优化 Prompt，最后实现较好的泛化效果
5.3 大模型开发的一般流程
大体流程可以先看这张图，预告一下，笔者还会根据这个流程图做一个小项目，因此这里不过多介绍流程啦，感兴趣的小伙伴敬请期待哦！
大体流程可以先看这张图，预告一下，笔者还会根据这个流程图做一个小项目，因此这里不过多介绍流程啦，感兴趣的小伙伴敬请期待哦！
https://github.com/datawhalechina/llm-universe
