建立问答类的网站,山东网站备案时间,软件开发外包项目合作,江苏常州青之峰做网站自OceanBase 4.3.3版本推出以来#xff0c;向量检索的能力受到了很多客户的关注#xff0c;也纷纷表达希望OB能拓展更多 多模数据库大模型 的AI应用实践。
在上篇文章 #x1f449; OceanBase LLM#xff0c;免费构建你的专属 AI 助手 #xff0c;我们介绍了如何去搭建一…自OceanBase 4.3.3版本推出以来向量检索的能力受到了很多客户的关注也纷纷表达希望OB能拓展更多 多模数据库大模型 的AI应用实践。
在上篇文章 OceanBase LLM免费构建你的专属 AI 助手 我们介绍了如何去搭建一个RAG智能问答机器人也收到许多用户在论坛及博客上自发分享的利用AI助手Demo进行创新趣味改造非常感谢大家的热情支持
今天我们积极响应大家的建议为大家呈现一项全新的应用——
构建一个 Text2SQL 应用
Text2SQL指通过大模型用自然语言生成对应的查询 SQL不仅可以直接在 OceanBase 数据库中执行该 SQL 获取结果还能够将得到的查询结果进行可视化展示下文中会将这个应用称为 chat data。这个应用能够在一定程度上提升 OceanBase 数据库的易用性且步骤十分简单欢迎大家都来尝试一下。 1、Text2SQL应用简介 这个 Text2SQL 的 chat data 应用是基于蚂蚁集团的 AI 原生数据智能应用开发框架——DB-GPT 进行。
DB-GPT 通过多模型管理SMMF、Text2SQL 效果优化、RAG 框架以及优化、Multi-Agents 框架协作、AWEL 智能体工作流编排等多种技术能力使围绕数据库构建大模型数智应用变得更加简单和便捷。目前已有超过 106 万用户学习和使用 DB-GPT 并有 100 家企业已将其集成到生产系统中。
OceanBase 支持向量数据类型的存储和检索并已适配作为 DB-GPT 的可选向量数据库支持 DB-GPT 对结构化数据和向量数据的存取需求从而支撑其上 LLM 应用的开发和落地。
我们可以快速看看应用的效果让 chat data 写一条简单的 SQL对 TPC-H 测试集的数据进行查询并生成可视化的图表效果如下 chat data 会自动拿着生成的 SQL 去数据库里执行并返回查询结果。 再看看另一个示例——输入提示词后让 chat data 应用帮我们生产一个可视化的散点图。需要注意的是 Text2SQL 对大模型的能力要求较高如果执行结果出现错误提示可以尝试重试和修改提示词。 2、OceanBase 如何支持Text2SQL应用
我们可以通过下图去理解 OceanBase 数据库在 Text2SQL 应用中的作用。 图中展示的这个 OceanBase 租户里有三类 database分别为
✅ 用于存储用户数据的库图中的 User Data 库
✅ 用于存向量数据的库图中的 Vector 库
✅ 以及其他库图中的 Others 库。
Text2SQL 应用的服务对象是数据库这个被服务数据库在本实验中就是 OceanBase对应图中的 User Data 库同时应用需要对用户输入的自然语言将数据库对象的元数据拿出来进行相似性检查所以也需要一个服务于应用的向量数据库这个数据库也由 OceanBase 支持对应图中的 Vector 库。
也就是说这次实验不需要专门去另外搭建一个向量数据库通过 DB-GPT利用 OceanBase 的向量能力对在 OceanBase 中存储的用户数据进行服务完全实现了“自给自足”。
我们从上图的左侧部分来看 DB-GPT 在搭建 Text2SQL 应用的过程中生产向量的过程。 首先需要创建一个 User Data 库的连接在创建这个连接的时候就会把连接中对应库例如这个库的真名叫 dbgpt_test_db中用户数据的元信息表名、列名等拿出来 然后把这些元信息转成向量的形式 最后存入 Vector 库中的一张叫做 dbgpt_test_db_profile 的表内。
DB-GPT 每创建一个新的 User Data 库的连接就会在 OceanBase 的 Vector 库内创建一张叫做database_name_profile 的表database_name替换为用户使用的数据库名表中有一个 document 列用于存储元数据的文本信息还有一个 embedding 列用于存储将 document 列转换成的 1024 维向量。 上图的右侧部分则体现了 OceanBase 和用户交互然后通过大模型消费向量数据产生答案的过程。 步骤 1 到 3 首先会把用户的自然语言请求通过模型转换为向量并在 dbgpt_test_db_profile 表内查询相似度最高的向量。
步骤 4 到 5大语言模型会基于 Vector 库返回的元数据信息把自然语言转换为对应的 SQL并在 User Data 库中执行 SQL 和收集结果数据。还可以根据用户需求将结果数据生成适合的图表。 3、四步搭建chat data应用
进行实验之前我们需要先开通 OceanBase 数据库方式有两种使用 OB Cloud 实例或者使用 Docker 本地部署单机版 OceanBase 数据库。我们在此推荐 OB Cloud 实例因为它部署和管理都更加简单且不需要本地环境支持。
OB Cloud 目前已经支持 365 天免费试用大家可以开通事务型共享实例MySQL模式。
开通完成后只需要下面的 4 步 就可以完成 chat data 应用的搭建了。这里不做详细描述完整的实验步骤流程可通过下面的链接查看
docker/compose_examples/ob_dbgpt_tutorial.md · oceanbase-devhub/DB-GPT - Gitee.com
第一步获取 OceanBase 数据库实例连接串
第二步申请大模型 API KEY 可以选择阿里云百炼
第三步启动 Docker 容器复制项目镜像
第四步访问 DB-GPT 平台创建应用
在 DB-GPT中还支持知识库的 RAG 应用搭建大家也可以参考文档中的步骤去搭建。 4、还有更多
为了让更多的用户更容易地基于 OceanBase 搭建 AI 应用我们会陆续将不同场景的 AI 实验步骤录制为视频课程方便大家随时学习。目前已经上线的有 RAG AI 助手 Demo和如何结合低代码平台 Dify 去搭建 AI 应用本文的应用和更多实验也将陆续上线。下方链接可以直达课程。
OceanBase AI 动手实战课
