网站3d特效源码,远安网站建设,专业建设网站公司哪家好,宁波制作网页服务好百度千帆平台构建AI APP的基础概念梳理
如果想制作大语言模型#xff08;LLM#xff09;相关的APP#xff0c; 将利用百度的千帆平台在国内可能是最便捷的途径#xff0c;因为百度开发了成熟的工作流#xff0c;前些年还有些不稳定#xff0c;现在固定下来了#xff0c…百度千帆平台构建AI APP的基础概念梳理
如果想制作大语言模型LLM相关的APP 将利用百度的千帆平台在国内可能是最便捷的途径因为百度开发了成熟的工作流前些年还有些不稳定现在固定下来了但是对于刚了解的人还是有些眼花缭乱在这里总结自己学习的一点心得。
appbuilder平台是入口使用LLM构建聊天机器人
因为我们的目的是制作APP所以appbuilder是入口还有一个modelbuilder平台是训练模型用的和我们暂时没大关系进去以后按照流程一步一步走大概率能构建出一个聊天的机器人默认发布为网页模式还可以发布到微信小程序模式等支持openAPI调用可以用gradio和streamlit调用openAPI构建聊天机器人应用。这时候的应用就仅仅是聊天文字输入和输出。
关键词聊天机器人openAPILLM
调用组件让LLM使用工具
在以上界面中会看到调用组件的选项选择组件后构建的APP就支持上传图片和文件通过组件的功能来识别文字等来把APP变成一个Agent即一个可以使用工具的APP比如一个看图说话的APP就是通过组件识别图中的内容然后用LLM对图中的内容进行加工实现的。构建好APP之后用百度的提供的方式进行发布都是没有问题的但是如果想外地调用的话openAPI就不灵了这时候要选择SDK方式在gradio和streamlit等界面进行调用。SDK调用官方示例 比较典型的多模态输入例子来自官方教程
import os
import appbuilder# 注意以下示例正确运行依赖的条件包括
# 1. 在百度智能云千帆AppBuilder官网使用AppBuilderClient创建应用且应用已发布
# 2. 密钥正确有效
# 3. 密钥需要与发布的应用正确对应即需要使用发布应用的账户下的密钥# 配置密钥与应用ID
os.environ[APPBUILDER_TOKEN] ...
app_id 7016e0d3-451b-4a47-a818-dc0a16d4b496 # 初始化Agent实例
builder appbuilder.AppBuilderClient(app_id)# 创建会话ID
conversation_id builder.create_conversation()# 上传植物图片
file_id builder.upload_local_file(conversation_id, ./app_builder_resources/tree.png )# 植物识别
msg builder.run(conversation_id, 请识别图中的植物类别, file_ids[file_id])
print(植物识别助理回答内容, msg.content.answer)组件也可以单独使用那就是百度的另外一个平台智能云平台管理的需要是可以参考相关的文档。
关键词组件、SDK、agent
知识库LLM问答的来源
知识库的意思是自定义的信息就是把自己的知识作为APP问答的一个来源百度把它归在modelbuilder平台里面。
关键词知识库
总结
个人认为让LLM作为agent使用工具是比较有前景的一个方向而使用百度千帆平台可以很快速地体验这个过程了解了这些基础概念之后就很容易上手了。
