国内做任务得数字货币的网站,长沙做网站哪家公司好,广告优化师前景,wordpress 4.5.2 下载LLM大模型与AI应用的粘合剂。
1 langchain是什么以及发展过程
LangChain是一个开源框架#xff0c;旨在简化使用大型语言模型构建端到端应用程序的过程#xff0c;也是ReAct(reasonact)论文的落地实现。 2022年10月25日开源 54K star 种子轮一周1000万美金#xff0c;A轮2…LLM大模型与AI应用的粘合剂。
1 langchain是什么以及发展过程
LangChain是一个开源框架旨在简化使用大型语言模型构建端到端应用程序的过程也是ReAct(reasonact)论文的落地实现。 2022年10月25日开源 54K star 种子轮一周1000万美金A轮2500万美金
11个月里累计发布200多次提交4000多次代码 2 langchain能做什么和能力一览
模型 A
构造提示词 - LLMs - 模型生产结果 - 结果处理 - 最终结果模型 B
构造提示词 - LLMs - 模型生产结果 - 结果处理 - 最终结果模型 N...
构造提示词 - LLMs - 模型生产结果 - 结果处理 - 最终结果
Langchain I/O系统
------------ ------------------------ ------------
| | 输入 | -------------- | 输入 | |
| 用户输入 | ------------- | | prompt | | ------------- | LLMs |
| | | -------------- | | |
| | | | | |
| | 输出 | -------------- | 输出 | |
| | ------------- | | Output | | ------------- | |
------------ | | Parsers | | ------------| -------------- |------------------------Langchain I/O系统
解决大模型各种问题的提示词工程方案之一提供了与LLMs交互的各种组件极大提升开发效率可以以文件方式加载提示词、链等方便共享提示词和做提示词版本管理提供丰富的链式工具箱
LLMs Prompt
提供了目前市面上几乎所有 LLM 的通用接口同时还提供了 提示词 的管理和优化能力同时也提供了非常多的相关适用工具以方便开发人员利用 LangChain 与 LLMs 进行交互。
Chains
LangChain 把 提示词、大语言模型、结果解析封装成 Chain并提供标准的接口以便允许不同的Chain形成交互序列为 AI 原生应用提供了端到端的 Chain
Retrieval-Augemented Generation
检索增强生成式一种解决预训练语料数据无法及时更新而带来的回答内容陈旧的方式。LangChain提供支持 检索增强生成式的Chain。使用时这些 Chain 会首先与外部数据源进行交互以获得对应数据然后再利用获得的数据与 LLMs 进行交互。典型应用场暴如基于特定数据源的问答机器人。
Agent
对于一个任务代理主要涉及让 LLMs 来对任务进行拆分、执行该行动、并观察执行结果代理 会重复执行这个过程直到该任务完成为止。LangChain 为 代理 提供了标准接口可供选择的代理以及一些端到端的代理的示例
Memory chain 或 agent 调用之间的状态持久化。LangChain 为 内存 提供了准接口三并提供了↖系烈COn的 内存 实现
Evaluation
LangChain 还提供了非常多的评估能力以允许我们可以更方便的对 LLMs 进行评估
3 langchain的优劣
3.1 优点
平台大语言模型调用能力支持多平台多模型调用为用户提供灵活选择轻量级SDK(python、javas生一起将LLMs与传统编程语言集成持多模态支持提供多模态数据支持如图像、音频等
3.2 缺点
学习曲线相对较高文档相对不完善官方文档不是很完善缺乏大型工业化应用实践
4 langchain开发环境搭建
4.1 为啥用Python
高级的接近人类语言的编程语言易于学习动态语言直译式语言可以跳过编译逐行执行代码广泛应用于web应用、软件、数据科学和机器学习AI方向的主流语言活跃的python社区数据巨大且丰富的库
4.2 环境要求
Python 3.8.1推荐 3.10.12 https://www.python.org/downloads/ 安装 jupyter
参阅安装使用教程
安装 LangChain
官网https://python.langchain.com
命令安装
$ pip install langchain
$ conda install langchain -c conda-forge
也可以使用VS code/PyCharm的jupyter插件启动。
关注我紧跟本系列专栏文章咱们下篇再续 作者简介魔都架构师多家大厂后端一线研发经验在分布式系统设计、数据平台架构和AI应用开发等领域都有丰富实践经验。 各大技术社区头部专家博主。具有丰富的引领团队经验深厚业务架构和解决方案的积累。 负责 中央/分销预订系统性能优化 活动券等营销中台建设 交易平台及数据中台等架构和开发设计 车联网核心平台-物联网连接平台、大数据平台架构设计及优化 LLM应用开发 目前主攻降低软件复杂性设计、构建高可用系统方向。 参考
编程严选网 本文由博客一文多发平台 OpenWrite 发布
