网站建设开发五行属性,seo的作用是什么,购物网站制作费用,中国商标官方网站LangChain 核心功能与组件链#xff08;Chains#xff09;记忆#xff08;Memory#xff09;提示模板#xff08;Prompts#xff09;代理#xff08;Agents#xff09;数据检索#xff08;Indexes#xff09; 应用场景文档问答自动化工作流知识管理系统 发展历程总结… LangChain 核心功能与组件链Chains记忆Memory提示模板Prompts代理Agents数据检索Indexes 应用场景文档问答自动化工作流知识管理系统 发展历程总结LangChain Cookbook **什么是 LangChain****为什么是 LangChain** LangChain 组件Schema - 使用大型语言模型 (LLM) 的基本知识**文本****聊天消息****文档** 模型——人工智能大脑的接口**语言模型****聊天模型**函数调用模型**文本嵌入模型** 提示 - 通常用作模型说明的文本**提示****提示模板****示例选择器****输出解析器方法 1提示指令和字符串解析****输出解析器方法 2OpenAI 函数** 索引 - 将文档结构化为 LLM 可以使用它们**文档加载器****文本分割器****检索器****VectorStores** 记忆聊天消息历史记录 链 ⛓️⛓️⛓️1. 简单顺序链2. 总结链 Agent Agent工具工具包 LangChain 是一个开源框架旨在帮助开发者构建基于大型语言模型LLM的应用程序。它通过模块化设计和灵活的组件组合简化了语言模型的集成和应用开发过程。
核心功能与组件
LangChain 提供了一系列强大的功能和组件以支持从简单到复杂的语言模型应用开发
链Chains
链是 LangChain 的核心机制通过将多个组件如语言模型、提示模板、工具等组合在一起形成一个自动化的工作流。链可以用于文档问答、多语言翻译、内容生成等多种场景。
记忆Memory
LangChain 提供了多种记忆机制如对话缓冲内存、对话摘要内存等。这些机制能够帮助语言模型在对话过程中保留上下文信息从而生成更具连贯性和个性化的响应。
提示模板Prompts
提示模板是预构建的结构用于优化语言模型的输入格式。开发者可以通过这些模板为聊天机器人、问答系统等应用提供更精准的指令。
代理Agents
代理是一种特殊的链能够根据用户输入动态调用工具和执行任务。它允许语言模型自主决定完成任务的最佳步骤适用于复杂的多步推理任务。
数据检索Indexes
LangChain 支持构建和操作文档索引能够将语言模型与外部数据源如向量数据库连接起来。这使得模型可以访问最新的数据而无需重新训练。
应用场景
LangChain 的灵活性使其能够支持多种应用场景包括但不限于 聊天机器人通过记忆和提示模板构建能够理解上下文的智能聊天助手。
文档问答
结合数据检索功能实现对特定文档的智能问答。
自动化工作流
通过代理和工具集成实现复杂的任务自动化。
知识管理系统
构建企业级的知识库支持智能检索和内容生成。
发展历程
LangChain 由 Harrison Chase 创立于 2022 年 10 月首次开源。其发展历程可以分为以下几个阶段 2022 年最初版本发布提供基础的提示管理和链式调用功能。 2023 年快速迭代推出记忆、代理、RAG 支持等关键功能。 2024 年进一步优化技术加强社区建设推动商业化应用。 LangChain 的成功不仅体现在其技术的先进性还在于其强大的社区支持和快速的迭代能力。
总结
LangChain 作为语言模型应用开发的框架凭借其模块化设计和强大的功能组件为开发者提供了极大的便利。它不仅简化了开发流程还通过记忆、检索和代理等功能扩展了语言模型的应用边界。无论是简单的问答系统还是复杂的多步推理任务LangChain 都能提供有效的解决方案。随着人工智能技术的不断发展LangChain 有望继续引领语言模型应用开发的潮流。
下面具体的代码演示
LangChain Cookbook
什么是 LangChain LangChain 是一个由语言模型驱动的应用程序开发框架。 LangChain 让使用 AI 模型进行工作和构建的复杂部分变得更容易。它通过两种方式帮助实现这一点
集成 - 将外部数据例如文件、其他应用程序和 API 数据带到您的 LLMAgent - 允许您的 LLM 通过决策与其环境交互。使用 LLM 来帮助决定下一步要采取什么行动
为什么是 LangChain 组件 - LangChain 可以轻松交换使用语言模型所需的抽象和组件。 定制链 - LangChain 为使用和定制“链”提供开箱即用的支持 - 一系列串联在一起的操作。 速度 - Langchain团队的更新速度非常快集成最新的 LLM 功能。 社区 - 出色的 discord 和社区支持、聚会、黑客马拉松等。
虽然 LLM 可以很简单文本输入、文本输出但一旦你需要开发出更复杂的应用程序很快就会遇到很多问题此时LangChain可以很好的帮助你解决问题
需要一个 OpenAI api 密钥才能遵循本教程。读者可以将其作为环境变量放在此 jupyter 笔记本所在的 .env 文件中或将其插入“YourAPIKey”所在的位置下方。
!pip install -q chromadb
!pip install -q tiktoken
!pip install -qU langchain-openai
!pip install -qU langchain-community
!pip install -q unstructuredimport os
from google.colab import userdata
OPENAI_API_KEYuserdata.get(OPENAI_API_KEY)
os.environ[OPENAI_API_KEY] OPENAI_API_KEYLangChain 组件
Schema - 使用大型语言模型 (LLM) 的基本知识
文本
与 LLM 交互的自然语言方式
# 你将使用简单的字符串其复杂性很快就会增加
my_text 星期五之后是星期几
my_text星期五之后是星期几聊天消息
类似文本但指定了消息类型系统、人类、人工智能
系统(System) - 有用的背景信息告诉人工智能该做什么人类(Human) - 旨在代表用户的消息人工智能(AI) - 显示人工智能响应的内容的消息
有关更多信息请参阅 OpenAI 的 文档
from langchain_openai import ChatOpenAIfrom langchain.schema import HumanMessage, SystemMessage, AIMessage# 这就是我们将要使用的语言模型。我们将在下一节中讨论我们正在做的事情
llm ChatOpenAI(modelgpt-4o, temperature0.7)现在让我们创建一些消息来模拟与机器人的聊天体验
llm.invoke([SystemMessage(content你是一个很棒的人工智能机器人能用一句话帮助用户知道该吃什么),HumanMessage(content我喜欢吃西红柿应该吃什么呢)]
)AIMessage(content你可以尝试做一个新鲜的西红柿鸡蛋汤简单又美味, additional_kwargs{refusal: None}, response_metadata{token_usage: {completion_tokens: 23, prompt_tokens: 44, total_tokens: 67, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-4o-2024-08-06, system_fingerprint: fp_5f20662549, finish_reason: stop, logprobs: None}, idrun-8b6991b4-6708-4383-8e0b-cc471bda0b47-0, usage_metadata{input_tokens: 44, output_tokens: 23, total_tokens: 67, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}})您还可以通过 AI 的回复传递更多聊天记录
llm.invoke([SystemMessage(content你是一个友好的AI机器人可以用简短的一句话帮助用户决定去哪里旅行),HumanMessage(content我喜欢海滩我应该去哪里),AIMessage(content你应该去法国尼斯),HumanMessage(content我到那里后还应该做些什么)]
)AIMessage(content除了享受海滩你还可以探索老城、参观马蒂斯博物馆或者沿着英国大道漫步。, additional_kwargs{refusal: None}, response_metadata{token_usage: {completion_tokens: 31, prompt_tokens: 62, total_tokens: 93, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-4o-2024-08-06, system_fingerprint: fp_5f20662549, finish_reason: stop, logprobs: None}, idrun-b287edd2-fd2f-4123-b87c-4b98f0b962e5-0, usage_metadata{input_tokens: 62, output_tokens: 31, total_tokens: 93, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}})您还可以根据需要排除系统消息
llm.invoke([HumanMessage(content星期四之后是星期几)]
)AIMessage(content星期四之后是星期五。, additional_kwargs{refusal: None}, response_metadata{token_usage: {completion_tokens: 8, prompt_tokens: 14, total_tokens: 22, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-4o-2024-08-06, system_fingerprint: fp_d28bcae782, finish_reason: stop, logprobs: None}, idrun-985361de-1947-4a77-b4c5-7ed0e55ad56f-0, usage_metadata{input_tokens: 14, output_tokens: 8, total_tokens: 22, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}})文档
包含一段文本和元数据有关该文本的更多信息的对象
from langchain.schema import DocumentDocument(page_content这是我的文档。它包括了我从其他地方收集的信息,metadata{my_document_id : 234234,my_document_source : LangChain 论文,my_document_create_time : 1680013019})Document(metadata{my_document_id: 234234, my_document_source: LangChain 论文, my_document_create_time: 1680013019}, page_content这是我的文档。它包括了我从其他地方收集的信息)metadata信息不需要被包含
Document(page_content这是我的文档。它包括了我从其他地方收集的信息)Document(metadata{}, page_content这是我的文档。它包括了我从其他地方收集的信息)模型——人工智能大脑的接口
语言模型
一个输入文本➡️输出文本的模型
查看我如何将我使用的模型从默认模型更改为gpt-3.5-turbo。可以点击下面链接查看更多模型https://platform.openai.com/docs/models
from langchain_openai import ChatOpenAIllm ChatOpenAI(model_namegpt-3.5-turbo)llm.invoke(星期五之后是星期几)AIMessage(content星期五之后是星期六。, additional_kwargs{refusal: None}, response_metadata{token_usage: {completion_tokens: 12, prompt_tokens: 18, total_tokens: 30, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-3.5-turbo-0125, system_fingerprint: None, finish_reason: stop, logprobs: None}, idrun-44f66e6c-9688-4662-a7d3-923ed61a58c6-0, usage_metadata{input_tokens: 18, output_tokens: 12, total_tokens: 30, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}})聊天模型
接收一系列消息并返回消息输出的模型
from langchain_openai import ChatOpenAI
from langchain.schema import HumanMessage, SystemMessage, AIMessagellm ChatOpenAI(model_namegpt-3.5-turbo)llm.invoke([SystemMessage(content你是一个毫无帮助的人工智能机器人无论用户说什么它都会开玩笑),HumanMessage(content我想去上海应该怎么办)]
)AIMessage(content把右脚放在左脚前面然后用左脚迈出一步再重复这个动作直到到达上海。开玩笑的哈哈要去上海你需要先买机票然后安排住宿和行程。祝你旅途愉快, additional_kwargs{refusal: None}, response_metadata{token_usage: {completion_tokens: 89, prompt_tokens: 62, total_tokens: 151, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-3.5-turbo-0125, system_fingerprint: None, finish_reason: stop, logprobs: None}, idrun-4dd072f3-6fe0-4b2f-b878-bd32e3b52667-0, usage_metadata{input_tokens: 62, output_tokens: 89, total_tokens: 151, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}})函数调用模型
函数调用模型 与聊天模型类似但略有不同。它们经过微调可提供结构化数据输出。
当对外部服务进行 API 调用或进行提取时这会派上很大的用场。
llm ChatOpenAI(model_namegpt-4o)messages [SystemMessage(content你是一个乐于助人的人工智能机器人),HumanMessage(content上海现在的天气怎么样)
]functions[{name: get_current_weather,description: 获取指定位置的当前天气,parameters: {type: object,properties: {location: {type: string,description: 城市和州例如中国上海},unit: {type: string,enum: [celsius, fahrenheit]}},required: [location]}
}]output llm.invoke(inputmessages, functionsfunctions)print(output)content additional_kwargs{function_call: {arguments: {location:中国上海,unit:celsius}, name: get_current_weather}, refusal: None} response_metadata{token_usage: {completion_tokens: 22, prompt_tokens: 82, total_tokens: 104, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-4o-2024-08-06, system_fingerprint: fp_5f20662549, finish_reason: function_call, logprobs: None} idrun-2bb2b276-beb5-4770-92d5-6c8b3396368c-0 usage_metadata{input_tokens: 82, output_tokens: 22, total_tokens: 104, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}}看到传回给我们的额外“additional_kwargs”了吗我们可以将其传递给外部 API 以获取数据。这省去了进行输出解析的麻烦。
文本嵌入模型
将文本转换为向量一系列包含文本语义“含义”的数字。主要用于比较两段文本。
顺便说一句语义意味着“与语言或逻辑中的含义相关”。
from langchain_openai import OpenAIEmbeddingsembeddings OpenAIEmbeddings()text 今天艳阳高照天气很舒服text_embedding embeddings.embed_query(text)
print (fHeres a sample: {text_embedding[:5]}...)
print (fYour embedding is length {len(text_embedding)})Heres a sample: [0.017948752269148827, 0.008655799552798271, 0.006652832496911287, -0.021351424977183342, 0.006696891039609909]...
Your embedding is length 1536提示 - 通常用作模型说明的文本
提示
需要传递给底层模型的内容
from langchain_openai import ChatOpenAIllm ChatOpenAI(model_namegpt-4o)prompt
今天是星期一明天是星期三。这句话有什么问题
print(llm(prompt))ipython-input-4-8f4e450524c6:11: LangChainDeprecationWarning: The method BaseChatModel.__call__ was deprecated in langchain-core 0.1.7 and will be removed in 1.0. Use :meth:~invoke instead.print(llm(prompt))content这句话有一个明显的问题逻辑上的不一致。根据常识今天是星期一那么明天应该是星期二而不是星期三。正确的表述应该是“今天是星期一明天是星期二。” additional_kwargs{refusal: None} response_metadata{token_usage: {completion_tokens: 52, prompt_tokens: 24, total_tokens: 76, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-4o-2024-08-06, system_fingerprint: fp_50cad350e4, finish_reason: stop, logprobs: None} idrun-699ad99c-bb3a-45f7-9c9d-97058974f0cb-0 usage_metadata{input_tokens: 24, output_tokens: 52, total_tokens: 76, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}}提示模板
一个帮助根据用户输入、其他非静态信息和固定模板字符串的组合创建提示的对象。
将其视为 Python 中的 f-string但用于提示
高级查看 LangSmithHub(https://smith.langchain.com/hub) 以获取更多社区提示模板
from langchain import PromptTemplatellm ChatOpenAI(model_namegpt-4o)# 注意下面的location这是稍后另一个值的占位符
template
我真的很想去{location}旅行。我应该在那里做什么用一个简短的句子回复
prompt PromptTemplate(input_variables[location],templatetemplate,
)final_prompt prompt.format(location上海)print (f最终提示词: {final_prompt})
print (-----------)
print (fLLM 输出: {llm(final_prompt)})最终提示词:
我真的很想去上海旅行。我应该在那里做什么用一个简短的句子回复-----------
LLM 输出: content游览外滩品尝当地美食探索豫园和参观东方明珠塔。 additional_kwargs{refusal: None} response_metadata{token_usage: {completion_tokens: 25, prompt_tokens: 30, total_tokens: 55, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-4o-2024-08-06, system_fingerprint: fp_d28bcae782, finish_reason: stop, logprobs: None} idrun-e38b3647-a03b-46ea-b370-f18a7ead1842-0 usage_metadata{input_tokens: 30, output_tokens: 25, total_tokens: 55, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}}示例选择器
一种从一系列示例中进行选择的简单方法可让您动态地将上下文信息放入提示中。通常在您的任务很细致或您有大量示例时使用。
可以通过下方的链接查看不同类型的示例选择器(https://python.langchain.com/docs/modules/model_io/prompts/example_selectors/)
from langchain.prompts.example_selector import SemanticSimilarityExampleSelector
from langchain.vectorstores import Chroma
from langchain.embeddings import OpenAIEmbeddings
from langchain.prompts import FewShotPromptTemplate, PromptTemplate
from langchain.llms import OpenAIllm ChatOpenAI(model_namegpt-4o)example_prompt PromptTemplate(input_variables[input, output],template示例输入: {input}\n示例输出: {output},
)# 名词所在位置的示例
examples [{input: 海盗, output: 船},{input: 飞行员, output: 飞机},{input: 司机, output: 汽车},{input: 树, output: 地面},{input: 鸟, output: 巢},
]# SemanticSimilarityExampleSelector 将通过语义含义选择与输入相似的示例example_selector SemanticSimilarityExampleSelector.from_examples(# 这是可供选择的示例列表。examples,# 这是用于生成嵌入的嵌入类用于测量语义相似性。OpenAIEmbeddings(),# 这是用于存储嵌入并进行相似性搜索的 VectorStore 类。Chroma,# 这是要生成的示例数量。k1
)ipython-input-6-ed2c96cfdf7f:8: LangChainDeprecationWarning: The class OpenAIEmbeddings was deprecated in LangChain 0.0.9 and will be removed in 1.0. An updated version of the class exists in the :class:~langchain-openai package and should be used instead. To use it run pip install -U :class:~langchain-openai and import as from :class:~langchain_openai import OpenAIEmbeddings.OpenAIEmbeddings(),similar_prompt FewShotPromptTemplate(# 有助于选择示例的对象example_selectorexample_selector,# 你的提示词example_promptexample_prompt,# 将添加到提示顶部和底部的自定义内容prefix给出物品通常出现的位置,suffixInput: {noun}\nOutput:,# 你的提示将收到什么输入input_variables[noun],
)my_noun 老虎
my_noun1 学生
my_noun2 植物
print(similar_prompt.format(nounmy_noun))
print()
print(similar_prompt.format(nounmy_noun1))
print()
print(similar_prompt.format(nounmy_noun2))给出物品通常出现的位置示例输入: 鸟
示例输出: 巢Input: 老虎
Output:给出物品通常出现的位置示例输入: 司机
示例输出: 汽车Input: 学生
Output:给出物品通常出现的位置示例输入: 树
示例输出: 地面Input: 植物
Output:llm(similar_prompt.format(nounmy_noun))AIMessage(content丛林, additional_kwargs{refusal: None}, response_metadata{token_usage: {completion_tokens: 3, prompt_tokens: 36, total_tokens: 39, completion_tokens_details: {accepted_prediction_tokens: 0, audio_tokens: 0, reasoning_tokens: 0, rejected_prediction_tokens: 0}, prompt_tokens_details: {audio_tokens: 0, cached_tokens: 0}}, model_name: gpt-4o-2024-08-06, system_fingerprint: fp_50cad350e4, finish_reason: stop, logprobs: None}, idrun-6fb9299a-c365-45f8-94a2-dcb611ad0274-0, usage_metadata{input_tokens: 36, output_tokens: 3, total_tokens: 39, input_token_details: {audio: 0, cache_read: 0}, output_token_details: {audio: 0, reasoning: 0}})输出解析器方法 1提示指令和字符串解析
一种格式化模型输出的有用方法。通常用于结构化输出。LangChain 在其 文档 中列出了更多输出解析器。
两个大概念
1. 格式化指令 - 自动生成的提示告诉 LLM 如何根据您期望的结果格式化其响应
2. 解析器 - 一种将模型的文本输出提取到所需结构通常是 json的方法
from langchain_core.output_parsers import PydanticOutputParser
from langchain_core.prompts import PromptTemplate
from langchain_openai import OpenAI
from pydantic import BaseModel, Field, model_validatormodel OpenAI(model_namegpt-3.5-turbo-instruct, temperature0.0)# 定义你所需的数据结构。
class Joke(BaseModel):setup: str Field(description设置笑话的问题)punchline: str Field(description解答笑话的答案)# 设置解析器并将指令注入提示模板。
parser PydanticOutputParser(pydantic_objectJoke)prompt PromptTemplate(template回答用户的询问。\n{format_instructions}\n{query}\n,input_variables[query],partial_variables{format_instructions: parser.get_format_instructions()},
)# 一个用于提示语言模型填充数据结构的查询。
prompt_and_model prompt | model
output prompt_and_model.invoke({query: 可以讲个笑话给我听吗})
parser.invoke(output)Joke(setup为什么熊猫喜欢睡觉, punchline因为他们是熊猫不是熊熊。)输出解析器方法 2OpenAI 函数
当 OpenAI 发布函数调用时游戏发生了变化。这是刚开始时推荐的方法。
他们专门训练模型以输出结构化数据。指定 Pydantic一种python中的数据验证模式 模式并获得结构化输出变得非常容易。
有很多方法可以定义你的模式我更喜欢使用 Pydantic 模型因为它们的组织性很强。请参考 OpenAI 的 文档 了解其他方法。
使用此方法需要使用支持函数调用的模型。我将使用gpt4-0613
示例 1简单
让我们从定义一个简单的模型开始以便从中提取。
from pydantic import BaseModel, Field
from typing import Optionalclass Person(BaseModel):关于一个人的身份信息。name: str Field(..., description该人的姓名)age: int Field(..., description该人的年龄)fav_food: Optional[str] Field(None, description该人最喜欢的食物)然后让我们创建一个链稍后会详细介绍它将为我们进行提取相关的信息
from langchain_openai import ChatOpenAIllm ChatOpenAI(model_namegpt-4o)structured_llm llm.with_structured_output(Person)
structured_llm.invoke(小丽 13岁小明刚满 12 岁并且喜欢吃菠菜。 小军比小丽大 10 岁。
)Person(name小丽, age13, fav_foodNone)注意到我们只有一个人的数据吗那是因为我们没有指定我们想要多个。让我们更改我们的架构以指定我们想要一个人员列表。
from typing import Sequenceclass People(BaseModel):识别文本中所有人物的信息。people: Sequence[Person] Field(..., description文本中的人物信息)现在我们将调用People这个大类而不是之前定义的person这个People的大类里面包含了Person这个小类
structured_llm llm.with_structured_output(People)
structured_llm.invoke(小丽 13岁小明刚满 12 岁并且喜欢吃菠菜。 小军比小丽大 10 岁。
)People(people[Person(name小丽, age13, fav_foodNone), Person(name小明, age12, fav_food菠菜), Person(name小军, age23, fav_foodNone)])让我们用它做更多解析
示例 2枚举
现在让我们解析列表中提及的产品
import enumllm ChatOpenAI(model_namegpt-4o)class Product(str, enum.Enum):CRM CRMVIDEO_EDITING 视频剪辑HARDWARE 硬件class Products(BaseModel):识别文本中提到的产品products: Sequence[Product] Field(..., description文中提到的产品)structured_llm llm.with_structured_output(Products)
structured_llm.invoke(这个演示中的 CRM 很棒。喜欢硬件。麦克风也很酷。喜欢视频编辑
)Products(products[Product.CRM: CRM, Product.HARDWARE: 硬件, Product.VIDEO_EDITING: 视频剪辑])索引 - 将文档结构化为 LLM 可以使用它们
文档加载器
从其他来源导入数据的一系列简单方法。与 OpenAI 插件 特别是检索插件 共享功能
可以访问下面的网站查看文档加载器的更多信息(https://python.langchain.com/en/latest/modules/indexes/document_loaders.html)。
Llama Index另外一个类似langchain的框架主要是索引和提取 上还有更多的信息
网站帖子
from langchain.document_loaders import HNLoaderWARNING:langchain_community.utils.user_agent:USER_AGENT environment variable not set, consider setting it to identify your requests.loader HNLoader(https://news.ycombinator.com/item?id34422627)data loader.load()print (f发现 {len(data)} 评论)
print (f以下是一个示例:\n\n{.join([x.page_content[:150] for x in data[:2]])})发现 76 评论
以下是一个示例:Ozzie_osman on Jan 18, 2023 | next [–] LangChain is awesome. For people not sure what its doing, large language models (LLMs) are veOzzie_osman on Jan 18, 2023 | parent | next [–] Also, another library to check out is GPT Index (https://github.com/jerryjliu/gpt_ind电子书
from langchain.document_loaders import GutenbergLoaderloader GutenbergLoader(https://www.gutenberg.org/cache/epub/2148/pg2148.txt)data loader.load()print(data[0].page_content[1855:1984])o.—_Seneca_.At Paris, just after dark one gusty evening in the autumn of 18-,I was enjoying the twofold lURL 和网页
让我们在 Paul Graham 的网站 上尝试一下
from langchain.document_loaders import UnstructuredURLLoaderurls [http://www.paulgraham.com/,
]loader UnstructuredURLLoader(urlsurls)data loader.load()data[0].page_contentNew: Writes and Write-Nots | Founder Mode Want to start a startup? Get funded by Y Combinator . © mmxxv pg文本分割器
通常的文档对于基本上所有的LLM 来说都太长就像一本书。因此需要将其分割成块。文本分割器可帮助完成此操作。
可以通过多种方式将文本分割成块可以访问下面的链接(https://python.langchain.com/v0.1/docs/modules/data_connection/document_transformers/code_splitter/) 中不同的方法来确定哪种方法最适合。
from langchain.text_splitter import RecursiveCharacterTextSplitter# 这是一个很长的文档
with open(/content/Xiyouji.txt) as f:pg_work f.read()print (f你有 {len([pg_work])} 个文档)你有 1 个文档text_splitter RecursiveCharacterTextSplitter(# 定义chunk size.chunk_size 500,chunk_overlap 20,
)texts text_splitter.create_documents([pg_work])print (f你有 {len(texts)} 个文档)你有 1784 个文档print (前言:)
print (texts[0].page_content, \n)
print (texts[1].page_content)前言:
第一回 靈根育孕源流出 心性修持大道生詩曰混沌未分天地亂茫茫渺渺無人見。自從盤古破鴻濛開闢從茲清濁辨。覆載群生仰至仁發明萬物皆成善。欲知造化會元功須看西遊釋厄傳。 蓋聞天地之數有十二萬九千六百歲為一元。將一元分為十二會乃子、丑、寅
、卯、辰、巳、午、未、申、酉、戌、亥之十二支也。每會該一萬八百歲。且就
一日而論子時得陽氣而丑則雞鳴﹔寅不通光而卯則日出﹔辰時食後而巳
則挨排﹔日午天中而未則西蹉﹔申時晡而日落酉戌黃昏而人定亥。譬於
大數若到戌會之終則天地昏曚而萬物否矣。再去五千四百歲交亥會之初
則當黑暗而兩間人物俱無矣故曰混沌。又五千四百歲亥會將終貞下起元
近子之會而復逐漸開明。邵康節曰「冬至子之半天心無改移。一陽初
動處萬物未生時。」到此天始有根。再五千四百歲正當子會輕清上騰
有日有月有星有辰。日、月、星、辰謂之四象。故曰天開於子。又經
五千四百歲子會將終近丑之會而逐漸堅實。《易》曰「大哉乾元至哉
坤元萬物資生乃順承天。」至此地始凝結。再五千四百歲正當丑會重
濁下凝有水有火有山有石有土。水、火、山、石、土謂之五形。故
曰地闢於丑。又經五千四百歲丑會終而寅會之初發生萬物。曆曰「天氣文本分割的方法有很多种这取决于检索策略和应用程序设计。可以访问下面的链接查看更多分割器(https://python.langchain.com/v0.1/docs/modules/data_connection/document_transformers/)
检索器
将文档与语言模型相结合的简单方法。 检索器有很多种类型其中最广泛支持的是 VectorStoreRetriever
from langchain.document_loaders import TextLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.vectorstores import FAISS
from langchain.embeddings import OpenAIEmbeddingsloader TextLoader(data/PaulGrahamEssays/worked.txt)
documents loader.load()# Get your splitter ready
text_splitter RecursiveCharacterTextSplitter(chunk_size1000, chunk_overlap50)# Split your docs into texts
texts text_splitter.split_documents(documents)# Get embedding engine ready
embeddings OpenAIEmbeddings(openai_api_keyopenai_api_key)# Embedd your texts
db FAISS.from_documents(texts, embeddings)# Init your retriever. Asking for just 1 document back
retriever db.as_retriever()retrieverVectorStoreRetriever(tags[FAISS], vectorstorelangchain.vectorstores.faiss.FAISS object at 0x7f8389169070)docs retriever.get_relevant_documents(what types of things did the author want to build?)print(\n\n.join([x.page_content[:200] for x in docs[:2]]))standards; what was the point? No one else wanted one either, so
off they went. That was what happened to systems work.I wanted not just to build things, but to build things that would
last.In this dimuch of it in grad school.Computer Science is an uneasy alliance between two halves, theory
and systems. The theory people prove things, and the systems people
build things. I wanted to build things. VectorStores
用于存储向量的数据库。最流行的是 Pinecone 和 Weaviate。OpenAIs retriever 文档 上有更多示例。Chroma 和 FAISS 易于本地使用。
从概念上讲将它们视为带有嵌入向量列和元数据列的表格。
示例
嵌入元数据[-0.00015641732898075134, -0.003165106289088726, …]{‘日期’ : 1/2/23}[-0.00035465431654651654, 1.4654131651654516546, …]{‘日期’ : 1/3/23}
from langchain.document_loaders import TextLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.vectorstores import FAISS
from langchain.embeddings import OpenAIEmbeddingsloader TextLoader(data/PaulGrahamEssays/worked.txt)
documents loader.load()# Get your splitter ready
text_splitter RecursiveCharacterTextSplitter(chunk_size1000, chunk_overlap50)# Split your docs into texts
texts text_splitter.split_documents(documents)# Get embedding engine ready
embeddings OpenAIEmbeddings(openai_api_keyopenai_api_key)print (fYou have {len(texts)} documents)You have 78 documentsembedding_list embeddings.embed_documents([text.page_content for text in texts])print (fYou have {len(embedding_list)} embeddings)
print (fHeres a sample of one: {embedding_list[0][:3]}...)You have 78 embeddings
Heres a sample of one: [-0.001058628615053026, -0.01118234211553424, -0.012874804746266883]...你的 vectorstore 存储你的嵌入☝️并使它们易于搜索
记忆
帮助 LLM 记住信息。
记忆是一个有点宽泛的术语。它可以简单到记住你过去聊过的信息也可以更复杂地检索信息。
我们将把它放在聊天消息用例中。这将用于聊天机器人。
记忆有很多种类型可以访问下面的链接(https://python.langchain.com/v0.1/docs/modules/memory/)看看哪一种适合特定的用例。
聊天消息历史记录
from langchain.memory import ChatMessageHistory
from langchain.chat_models import ChatOpenAIchat ChatOpenAI(temperature0, openai_api_keyopenai_api_key)history ChatMessageHistory()history.add_ai_message(hi!)history.add_user_message(what is the capital of france?)history.messages[AIMessage(contenthi!),HumanMessage(contentwhat is the capital of france?)]ai_response chat(history.messages)
ai_responseAIMessage(contentThe capital of France is Paris.)history.add_ai_message(ai_response.content)
history.messages[AIMessage(contenthi!),HumanMessage(contentwhat is the capital of france?),AIMessage(contentThe capital of France is Paris.)]链 ⛓️⛓️⛓️
自动组合不同的 LLM 调用和操作
例如摘要 #1、摘要 #2、摘要 #3 最终摘要
可以查看下面的链接(https://python.langchain.com/v0.1/docs/modules/chains/)搜索看看哪个最适合你自己的用例。
我们将介绍其中两个非常有代表性的
1. 简单顺序链
简单的链可以将 LLM 的输出用作另一个的输入。适合分解任务让LLM一次完成一项任务
from langchain.llms import OpenAI
from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate
from langchain.chains import SimpleSequentialChainllm OpenAI(temperature1, openai_api_keyopenai_api_key)template Your job is to come up with a classic dish from the area that the users suggests.
% USER LOCATION
{user_location}YOUR RESPONSE:prompt_template PromptTemplate(input_variables[user_location], templatetemplate)# Holds my location chain
location_chain LLMChain(llmllm, promptprompt_template)template Given a meal, give a short and simple recipe on how to make that dish at home.
% MEAL
{user_meal}YOUR RESPONSE:prompt_template PromptTemplate(input_variables[user_meal], templatetemplate)# Holds my meal chain
meal_chain LLMChain(llmllm, promptprompt_template)overall_chain SimpleSequentialChain(chains[location_chain, meal_chain], verboseTrue)review overall_chain.run(Rome)[1m Entering new SimpleSequentialChain chain...[0m
[36;1m[1;3m
A classic dish from Rome is Spaghetti alla Carbonara, featuring egg, Parmesan cheese, black pepper, and pancetta or guanciale.[0m
[33;1m[1;3m
Ingredients:
- 8oz spaghetti
- 4 tablespoons olive oil
- 4oz diced pancetta or guanciale
- 2 cloves garlic, minced
- 2 eggs, lightly beaten
- 2 tablespoons parsley, chopped
- ½ cup grated Parmesan
- Salt and black pepper to tasteInstructions:
1. Bring a pot of salted water to a boil and add the spaghetti. Cook according to package directions.
2. Meanwhile, add the olive oil to a large skillet over medium-high heat. Add the diced pancetta and garlic, and cook until pancetta is browned and garlic is fragrant.
3. In a medium bowl, whisk together the eggs, parsley, Parmesan, and salt and pepper.
4. Drain the cooked spaghetti and add it to the skillet with the pancetta and garlic. Remove from heat and pour the egg mixture over the spaghetti, stirring to combine.
5. Serve the spaghetti alla carbonara with additional Parmesan cheese and black pepper.[0m[1m Finished chain.[0m2. 总结链
轻松浏览大量长文档并获取总结。查看此视频 了解除 map-reduce 之外的其他链类型
from langchain.chains.summarize import load_summarize_chain
from langchain.document_loaders import TextLoader
from langchain.text_splitter import RecursiveCharacterTextSplitterloader TextLoader(data/PaulGrahamEssays/disc.txt)
documents loader.load()# Get your splitter ready
text_splitter RecursiveCharacterTextSplitter(chunk_size700, chunk_overlap50)# Split your docs into texts
texts text_splitter.split_documents(documents)# There is a lot of complexity hidden in this one line. I encourage you to check out the video above for more detail
chain load_summarize_chain(llm, chain_typemap_reduce, verboseTrue)
chain.run(texts)[1m Entering new MapReduceDocumentsChain chain...[0m[1m Entering new LLMChain chain...[0m
Prompt after formatting:
[32;1m[1;3mWrite a concise summary of the following:January 2017Because biographies of famous scientists tend to
edit out their mistakes, we underestimate the
degree of risk they were willing to take.
And because anything a famous scientist did that
wasnt a mistake has probably now become the
conventional wisdom, those choices dont
seem risky either.Biographies of Newton, for example, understandably focus
more on physics than alchemy or theology.
The impression we get is that his unerring judgment
led him straight to truths no one else had noticed.
How to explain all the time he spent on alchemy
and theology? Well, smart people are often kind of
crazy.But maybe there is a simpler explanation. MaybeCONCISE SUMMARY:[0m
Prompt after formatting:
[32;1m[1;3mWrite a concise summary of the following:the smartness and the craziness were not as separate
as we think. Physics seems to us a promising thing
to work on, and alchemy and theology obvious wastes
of time. But thats because we know how things
turned out. In Newtons day the three problems
seemed roughly equally promising. No one knew yet
what the payoff would be for inventing what we
now call physics; if they had, more people would
have been working on it. And alchemy and theology
were still then in the category Marc Andreessen would
describe as huge, if true.Newton made three bets. One of them worked. But
they were all risky.CONCISE SUMMARY:[0m[1m Finished chain.[0m[1m Entering new LLMChain chain...[0m
Prompt after formatting:
[32;1m[1;3mWrite a concise summary of the following: Biographies of famous scientists often edit out their mistakes, giving readers the wrong impression that they never faced any risks to achieve successful results. An example of this is Newton, whose smartness is assumed to have led straight him to truths without any detours into alchemy or theology - despite the fact that he spent a lot of time on both fields. Maybe the simpler explanation is that he was willing to take risks, even if it means potentially making mistakes.In the 17th century, Newton took a risk and made three bets, one of which turned out to be a successful invention of what we now call physics. The other two bets were on less popular subjects of the time such as alchemy and theology. People did not know then what the payoff would be, but the bets still seemed relatively promising.CONCISE SUMMARY:[0m[1m Finished chain.[0m[1m Finished chain.[0m Biographies tend to omit famous scientists mistakes from their stories, but Newton was willing to take risks and explore multiple fields to make his discoveries. He placed three risky bets, one of which resulted in the creation of physics as we know it today.Agent
官方 LangChain 文档完美地描述了Agent的概念 一些应用程序不仅需要对 LLM/其他工具的预定调用链还可能需要依赖于用户输入的未知链。在这些类型的链中有一个可以访问一套工具的“Agent”。根据用户输入Agent可以**决定调用这些工具中的哪一个如果有的话。 基本上Agent不仅将 LLM 用于文本输出还用于决策。此功能的酷炫和强大怎么强调都不为过。
Sam Altman 强调 LLM 是优秀的“推理引擎”。Agent的出现正是利用了这一点。
Agent
驱动决策的语言模型。
更具体地说Agent接收输入并返回与要采取的操作以及操作输入相对应的响应。可以访问下面的链接(https://python.langchain.com/v0.1/docs/modules/agents/agent_types/) 看到不同类型的Agent它们更适合不同的用例。
工具
Agent的“功能”。这是函数顶部的抽象使 LLM和Agent能够轻松与其交互。例如Google 搜索。
此区域与 OpenAI 插件 有共同之处。
工具包
一个特定的Agent可以从中选择的工具组
让我们将它们整合在一起
from langchain.agents import load_tools
from langchain.agents import initialize_agent
from langchain.llms import OpenAI
import jsonllm OpenAI(temperature0, openai_api_keyopenai_api_key)serpapi_api_keyos.getenv(SERP_API_KEY, YourAPIKey)toolkit load_tools([serpapi], llmllm, serpapi_api_keyserpapi_api_key)agent initialize_agent(toolkit, llm, agentzero-shot-react-description, verboseTrue, return_intermediate_stepsTrue)response agent({input:what was the first album of theband that Natalie Bergman is a part of?})[1m Entering new AgentExecutor chain...[0m
[32;1m[1;3m I should try to find out what band Natalie Bergman is a part of.
Action: Search
Action Input: Natalie Bergman band[0m
Observation: [36;1m[1;3m[Natalie Bergman is an American singer-songwriter. She is one half of the duo Wild Belle, along with her brother Elliot Bergman. Her debut solo album, Mercy, was released on Third Man Records on May 7, 2021. She is based in Los Angeles., Natalie Bergman type: American singer-songwriter., Natalie Bergman main_tab_text: Overview., Natalie Bergman kgmid: /m/0qgx4kh., Natalie Bergman genre: Folk., Natalie Bergman parents: Susan Bergman, Judson Bergman., Natalie Bergman born: 1988 or 1989 (age 34–35)., Natalie Bergman is an American singer-songwriter. She is one half of the duo Wild Belle, along with her brother Elliot Bergman. Her debut solo album, Mercy, ...][0m
Thought:[32;1m[1;3m I should search for the first album of Wild Belle
Action: Search
Action Input: Wild Belle first album[0m
Observation: [36;1m[1;3mIsles[0m
Thought:[32;1m[1;3m I now know the final answer
Final Answer: Isles is the first album of the band that Natalie Bergman is a part of.[0m[1m Finished chain.[0m
