东莞建设教育网站,html5个人网站模板,百度网站建设多少钱,删除wordpress 后台最近在研究调用官方的工具#xff0c;但官方文档的说明是在是太少了#xff0c;后来在一个视频里看到了如何配置#xff0c;记录一下
以PDF RAG Search工具举例#xff0c;官方文档对于自定义模型的说明如下#xff1a;
默认情况下#xff0c;该工具使用 OpenAI 进行嵌…最近在研究调用官方的工具但官方文档的说明是在是太少了后来在一个视频里看到了如何配置记录一下
以PDF RAG Search工具举例官方文档对于自定义模型的说明如下
默认情况下该工具使用 OpenAI 进行嵌入和总结。要自定义模型可以使用配置字典如下所示
tool PDFSearchTool(configdict(llmdict(providerollama, # or google, openai, anthropic, llama2, ...configdict(modelllama2,# temperature0.5,# top_p1,# streamtrue,),),embedderdict(providergoogle, # or openai, ollama, ...configdict(modelmodels/embedding-001,task_typeretrieval_document,# titleEmbeddings,),),)
)但是这个的前提是使用的官方openai的API如果要改成第三方API的配置应该如下
from crewai_tools import PDFSearchTool# 自定义大模型配置
pdf_tool PDFSearchTool(configdict(llmdict(provideropenai,configdict(base_urlhttps://xxxxxxx/v1,api_keysk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx,modelgpt-4o),),embedderdict(provideropenai,configdict(api_basehttps://xxxxxxx/v1,api_keysk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx,modeltext-embedding-3-small),),)
)其中gpt-4o和text-embedding-3-small都是购买的第三方API里的模型名称 如果想用本地模型配置如下
from crewai_tools import PDFSearchToolpdf_tool PDFSearchTool(configdict(llmdict(provideropenai,configdict(# Ollama deepseek-r1:8bbase_urlhttp://localhost:11434/v1,modeldeepseek-r1:8b),),embedderdict(provideropenai,configdict(# 文本嵌入模型 bge-m3api_basehttp://localhost:11434/v1,modelbge-m3:latest),),)
)下面是一个可以跑通的例子
from crewai_tools import PDFSearchTool
from dotenv import load_dotenv
import osload_dotenv() # 加载环境变量# 自定义大模型配置
tool PDFSearchTool(configdict(llmdict(provideropenai,configdict(base_urlos.getenv(OPENAI_API_BASE),api_keyos.getenv(OPENAI_API_KEY),modelos.getenv(OPENAI_MODEL_NAME)),),embedderdict(provideropenai,configdict(api_baseos.getenv(OPENAI_API_BASE),api_keyos.getenv(OPENAI_API_KEY),modeltext-embedding-3-small),),)
)# 运行工具调用工具解析文件并检索内容
result tool.run(pdf../data/deepseek.pdf,# 其他工具使用的参数基本都是search_queryquery介绍一下deepseek的核心驱技为优势
)
print(result:,result)注
deepseek.pdf内容如下
DeepSeek专注人工智能前沿的创新科技企业
一、企业概况
DeepSeek深度求索是一一以人人工智能技为核心驱动力的的创新科科技司成立于 2023年成总部位 中国。司聚焦 大模科研发、自然语言处理深NLP是、机器学习等前沿领域成致的 通过技为突破推力AI的普惠化应用。DeepSeek人探智能本质成赋能人类未来核使命成专注 核企业和开发者提供高效、可靠的人工智能解决方案成覆盖金融、医疗、教育、智能制造等多个行业。立于人来成司凭借技为实的和场景化落地能的成迅速立核AI赛道的新锐的量。
二、心驱技为优势
DeepSeek的心驱竞争的源 其自主研发的多模态大模科体系。司构建了千亿参数规模的预训练模科框架成支持文本、图像、语音等多模态数据的融合分析与生立。在自然语言理解深NLU是领域成其模科在语义推理、长文本处理、多语言交互等任务中达到行业领先水平。此外成DeepSeek创新性地提出了力态知识蒸馏技为成能够在保证模科性能的前提下成显著降低算的消耗成使AI服务更易 部署在边缘设备中。通过持续优化算法架构与训练方法成司技为团队已申请百余项国内外专利。
三、应用场景与产品生态
DeepSeek的技为已实现多维求商业化落地
智能客服系统核企业提供24小时多轮对话服务成理解准确率达95%人上
行业知识引擎赋能金融研报自力生立、医疗影像辅助诊断等垂直场景
开发者平台开放API接口与工具链成支持快速构建定制化AI应用
教育解决方案通过个性化学习路径推荐成提升教育资源配置效率。
司采用基础研究场景度耕的双轮动力模式成已与200企业建于合作成日均处理数据量超10亿条。
四、发展愿景与社会责任
DeepSeek始终秉持**技为向善**的发展理念成在追索商业价值的同时成积极参与AI伦理治理。司牵头制定了行业首个《生立式AI内容溯源标准》成通过区块链技为实现内容可追溯成防范技为滥用风险。未来三年成DeepSeek计划投入5亿元用 通用人工智能深AGI是的基础研究成并设于开放实验室支持学为机构的前沿探。司目标一通过持续创新成打造安全、可信、易用的人工智能基础设施成助的全球数字化转科。
五、团队与文化基因
创始团队由顶尖AI科学以与资度产业专以组立成立员多来自国际知名高校与科技企业。司构建了**极客精神务实创新**的文化体系成推行扁平化管理与跨学科协作机制成鼓励技为人才在宽松环境中实现突破。通过星火计划人才培养项目成DeepSeek已建于起覆盖算法、工程、产品等多领域的千人团队成研发人员占比超过80%成持续核行业发展输送高端人才。.env文件内容需要替换成自己的API配置
# ChatGPT
OPENAI_API_BASEhttps://xxxxxxxxxxxxx/v1
OPENAI_API_KEYsk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
OPENAI_MODEL_NAMEgpt-4o
