网站打开是404错误,华强北商城官网app,软件开发公司需要什么资质,佛山seo优化评价文章目录 一、用 Llama-index 创建 Agent1. 测试模型2. 自定义一个接口类3. 使用 ReActAgent FunctionTool 构建 Agent 二、数据库对话 Agent1. SQLite 数据库1.1 创建数据库 连接1.2 创建、插入、查询、更新、删除数据1.3 关闭连接建立数据库 2. ollama3. 配置对话… 文章目录 一、用 Llama-index 创建 Agent1. 测试模型2. 自定义一个接口类3. 使用 ReActAgent FunctionTool 构建 Agent 二、数据库对话 Agent1. SQLite 数据库1.1 创建数据库 连接1.2 创建、插入、查询、更新、删除数据1.3 关闭连接建立数据库 2. ollama3. 配置对话 Embedding 模型 三、RAG 接入Agent 一、用 Llama-index 创建 Agent
LlamaIndex 实现 Agent需要导入
Function Tool将工具函数放在 Function Tool 对象中 工具函数 - 完成 Agent 任务。⚠️大模型会根据函数注释来判断使用哪个函数来完成任务所以注释一定要写清楚函数功能和返回值 ReActAgent通过结合推理Reasoning和行动Acting来创建动态的 LLM Agent 的框架 初始推理agent首先进行推理步骤以理解任务、收集相关信息并决定下一步行为行动agent基于其推理采取行动——例如查询API、检索数据或执行命令观察agent观察行动的结果并收集任何新的信息优化推理利用新消息代理再次进行推理更新其理解、计划或假设重复代理重复该循环在推理和行动之间交替直到达到满意的结论或完成任务
1. 测试模型
使用一个数学能力较差的模型
# https://bailian.console.aliyun.com/#/model-market/detail/chatglm3-6b?tabKeysdk
from dashscope import Generation messages [{role: system, content: You are a helpful assistant.},{role: user, content: 9.11 和 9.8 哪个大},
]gen Generation()
response gen.call(api_keyos.getenv(API_KEY),modelchatglm3-6b,messagesmessages,result_formatmessage,
)print(response.output.choices[0].message.content)9.11 比 9.8 更大。2. 自定义一个接口类
# https://www.datawhale.cn/learn/content/86/3058
from llama_index.core.llms import CustomLLM, LLMMetadata, CompletionResponse
from llama_index.core.llms.callbacks import llm_completion_callback
import os
from typing import Any, Generatorclass MyLLM(CustomLLM):api_key: str Field(defaultos.getenv(API_KEY))base_url: str Field(defaultos.getenv(BASE_URL))client: Generation Field(defaultGeneration(), excludeTrue)model_name: strpropertydef metadata(self) - LLMMetadata:return LLMMetadata(model_nameself.model_name,context_window32768, # 根据模型实际情况设置num_output512)llm_completion_callback()def complete(self, prompt: str, **kwargs: Any) - CompletionResponse:messages [{role: user, content: prompt}, # 根据API需求调整]response self.client.call(api_keyself.api_key,modelself.model_name,messagesmessages,result_formatmessage,)return CompletionResponse(textresponse.output.choices[0].message.content)llm_completion_callback()def stream_complete(self, prompt: str, **kwargs: Any) - Generator[CompletionResponse, None, None]:response self.client.call(api_keyself.api_key,modelself.model_name,messages[{role: user, content: prompt}],streamTrue,)current_text for chunk in response:content chunk.output.choices[0].delta.get(content, )current_text contentyield CompletionResponse(textcurrent_text, deltacontent)# 实例化时使用大写环境变量名
llm MyLLM(api_keyos.getenv(API_KEY), base_urlos.getenv(BASE_URL), model_namechatglm3-6b
)3. 使用 ReActAgent FunctionTool 构建 Agent
from llama_index.core.tools import FunctionTool
from llama_index.core.agent import ReActAgentdef compare_number(a: float, b: float) - str:比较两个数的大小if a b:return f{a} 大于 {b}elif a b:return f{a} 小于 {b}else:return f{a} 等于 {b}tool FunctionTool.from_defaults(fncompare_number)
agent ReActAgent.from_tools([tool], llmllm, verboseTrue)
response agent.chat(9.11 和 9.8 哪个大使用工具计算)
print(response)Running step 8c56594a-4edd-4d63-a196-99198df94e12. Step input: 9.11 和 9.8 哪个大使用工具计算
Observation: Error: Could not parse output. Please follow the thought-action-input format. Try again.
Running step 22bbb997-4b52-4230-8a4d-d8eda252b7d1. Step input: None
Thought: The user is asking to compare the numbers 9.11 and 9.8, and they would like to know which one is greater. I can use the compare_number function to achieve this.
Action: compare_number
Action Input: {a: 9.11, b: 9.8}
Observation: 9.11 小于 9.8Running step c6ce4186-3ea7-48c8-8f76-7d219118afc4. Step input: None
Thought: 根据比较结果9.11小于9.8。
Answer: 9.11 9.8
9.11 9.8二、数据库对话 Agent
1. SQLite 数据库
1.1 创建数据库 连接
import sqlite3# 连接数据库
conn sqlite3.connect(mydatabase.db)# 创建游标对象
cursor conn.cursor()1.2 创建、插入、查询、更新、删除数据
创建
# create
create_tabel_sql CREATE TABLE IF NOT EXISTS employees ( id INTEGER PRIMARY KEY, name TEXT NOT NULL, department TEXT,salary REAL ); cursor.execute(create_table_sql)# 提交事务
conn.commit()插入
insert_sql INSERT INTO employees (name, department, salary) VALUES (?, ?, ?)# insert single
data (Alice, Engineering, 75000.0)
cursor.execute(insert_sql, data)
cursor.commit()# insert many
employees [(Bob, Marketing, 68000.0),(Charlie, Sales, 72000.0)
]
cursor.executemany(insert_sql, employees)
cursor.commit()查询
# 查询
# 条件查询按部门筛选
cursor.execute(SELECT name, salary FROM employees WHERE department?, (Engineering,))
engineering_employees cursor.fetchall()
print(\nEngineering department:)
for emp in engineering_employees: print(f{emp[0]} - ${emp[1]:.2f})更新
update_sql UPDATE employees SET salary ? WHERE name ?
cursor.execute(update_sql, (8000.0, Alice))
cursor.commit()删除
delect_sql DELECT FROM employees WHERE name ?
cursor.execute(delect_sql, (Bob,))
conn.commit()1.3 关闭连接
# 关闭游标和连接释放资源
cursor.close()
conn.close()建立数据库
python建立数据库的方法
import sqlite3
# create sql
sqlite_path llmdb.db
# 1. 创建数据库、创建游标对象
conn sqlite3.connect(sqlite_path)
curosr conn.cursor()create_sql CREATE TABLE section_stats (部门 varchar(100) DEFAULT NULL,人数 int(11) DEFAULT NULL);insert_sql INSERT INTO section_stats (部门, 人数)values(?, ?)data [[专利部, 22], [商务部, 25]]# 2. 创建数据库
cursor.execute(create_sql)
cursor.commit()
# 3. 插入数据
cursor.executemany(insert_sql, data)
cursor.commit()
# 4. 关闭连接
cursor.close()
conn.close()
2. ollama
安装 ollama
- 官网下载安装 [https://ollama.com](https://ollama.com/)
- 模型安装 如运行 ollama run qwen2.5:7b出现了success安装成功- 然后出现 符号即对话窗口 输入 /bye 推出交互页面- 浏览器输入 127.0.0.1:11434, 如果出现 ollama is running说明端口运行正常
- 环境配置- OLLAMA_MODELS OLLAMA_HOST 环境配置1. 创建存储路径如mkdir -p ~/programs/ollama/models2. 编辑环境变量配置路径 vim ~/.bash_profile # ~/.zshrcexport OLLAMA_MODELS~/programs/ollama/modelsexport OLLAMA_HOST0.0.0.0:11434- 确定mac地址和防火墙允许系统偏好设置 - 网络 安全性和隐私- 防火墙- 使配置生效source ~/.bash_profile # ~/.zshrc
3. 配置对话 Embedding 模型
!pip install llama-index-llms-dashscope三、RAG 接入Agent
https://github.com/deepseek-ai/DeepSeek-R1/blob/main/README.md https://github.com/deepseek-ai/DeepSeek-R1/blob/main/README.md
