百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

BAML+Neo4j:网页内容秒变知识图谱

myzbx 2025-02-10 13:34 29 浏览

BAML 是由 Boundary 创建的一种语言,用于从非结构化数据生成干净、结构化的输出。Neo4j 是一种图数据库,用于以图的形式存储数据——包括节点和它们之间的关系。

在本文中,我将演示如何扩展 BAML 的一个示例项目,将网页内容转换为图表示,从而快速填充 Neo4j 实例。

要求

  • 已安装 BAML CLI
  • 一个正在运行的 Neo4j 数据库

工作流程

1. FastAPI

Boundary 提供了运行一个简单 FastAPI 服务器的示例代码,该服务器使用 BAML 从硬编码的简历中提取数据。FastAPI 是一个很棒的框架,包含一个交互式文档页面,可以直接在浏览器中测试端点。

我最初 fork 了这个项目,并添加了一个实验性端点,用于从网页内容中提取实体和关系。这个端点接受一个 URL 字符串列表作为参数。

底层函数会调用 BAML 函数,将网页中的数据提取为结构化的 JSON 对象,并将其上传到 Neo4j。

@app.post("/url_to_graph")
async def extract_url_content(urls: list[str]):
    """General purpose conversion of contents from a list of urls to a graph"""
    
    # 1. Prep html to text conversion
    h = html2text.HTML2Text()
    h.ignore_links = False

    # 2. Extract text from each url
    markdown_contents = []
    for url in urls:
        try:
            response = requests.get(url)
            response.raise_for_status()
            html_content = response.text
            markdown_content = h.handle(html_content)
            markdown_contents.append(markdown_content)
        except Exception as e:
            markdown_contents.append(f"Error processing {url}: {str(e)}")

    # 3. Composite the text 
    combined_markdown = "\n\n".join(markdown_contents)

    # 4. Run BAML to get a Cytoscape graph JSON representation of text
    json_output = b.GenerateCytoscapeGraph(combined_markdown)
    json_str = str(json_output.model_dump_json())
    json_dict = json.loads(json_str)

    # 5. Upload the JSON data to Neo4j
    finished = upload_cytoscape_to_neo4j(json_dict)
    return {"finished": finished}

2. BAML

在使用 BAML 时,项目根文件夹下会添加两个子文件夹:baml_srcbaml_client

baml_client 文件夹的内容可以通过 VS Code 插件自动生成,或者在更新 baml_src 文件夹内的 .baml 文件后手动运行 baml cli generate 命令生成。

baml_src 文件夹需要包含 main.bamlclients.baml 文件。clients.baml 文件包括用于基础模型的规范,而 main.baml 指定配置选项。

注意: 这里的版本号应与 CLI 版本匹配,否则自动生成的 baml-client 内容将停止工作。

您添加的 .baml 文件可以包含以下三种元素中的一种或全部:

  • 模型规范(必需)
  • 函数(必需)
  • 测试(可选)

BAML 函数定义了输入到输出的映射、使用的客户端模型以及 LLM 的提示词。以下是 FastAPI 端点调用的函数,用于将 HTML 文本转换为结构化的图数据。

模型类的定义类似于 Pydantic,但语法更简洁(BAML 实际上是基于 Pydantic 的)。要获得如下所示的结构化 JSON 输出:

    {
      "elements": {
        "nodes": [
          {
            "data": {
              "id": "neo4j_graph_database",
              "name": "Neo4j Graph Database",
              "label": "product",
              "description": "Self or fully-managed, deploy anywhere"
            }
          },
          {
            "data": {
              "id": "neo4j_auradb",
              "name": "Neo4j AuraDB",
              "label": "product",
              "description": "Fully-managed graph database as a service"
            }
          },
        ],
        "edges": [
          {
            "data": {
              "id": "edge_1",
              "source": "neo4j_graph_database",
              "target": "neo4j_auradb",
              "label": "RELATED_TO"
            }
          }
        ]
      }
    }

可以使用以下 BAML 中的模型定义:

注意: BAML 类和函数名称在全局范围内是唯一的,即使定义在不同的 .baml 文件中也是如此。此外,属性名称中带有下划线前缀(例如:_id)目前不被允许。

3. Cytoscape

示例 Cytoscape 可视化

Cytoscape 是一个流行的开源平台,用于可视化图(或网络)数据。它使用的 JSON 数据格式简单但灵活,除了节点所需的 idlabel 属性外,还支持额外的数据。

前文在 BAML 模型描述中已经展示了这种数据的一个示例。

我使用 Cytoscape.js 作为中间的图数据格式,因为 Neo4j 没有首选的 JSON 格式,而我将在未来的演示中使用 Cytoscape 来可视化图数据。

4. Neo4j

Neo4j 是目前最流行的图数据库之一。它原生使用 Cypher 查询语言来输入、操作和输出图数据。因此,在这个演示中,我使用了官方支持的 neo4j bolt Python 包,在 cytoscape2neo4j.py 文件中上传 Cytoscape 格式的 JSON 数据。

详细讲解 upload_cytoscape_to_neo4j 函数需要单独写一篇文章。但简单来说,它会遍历源 JSON 数据中定义的每个节点和关系,并为每个指定的节点创建一个 Cypher 查询,以及为每条指定的边创建一个关系。

使用对象图映射(OGM)包(例如 Neomodel)或设置 Apollo GraphQL 服务器是创建 JSON 和 Neo4j 之间输入桥接的其他方法。

运行

完整的应用可以在这个公共 Github 仓库中找到。按照安装和运行说明操作后,可以通过任意浏览器访问 localhost:8000/docs 打开交互式文档页面。

还有一些其他的实验性端点,但本文讨论的是 /url_to_graph 选项。

要测试,打开端点详情,点击 Try It Out 按钮(尝试按钮),输入一个或多个有效的网页 URL,然后点击 Execute(执行)。

根据源网页的数量和大小,经过几秒钟后,您应该会收到一个 finished:true 的响应。

在终端/控制台中,您应该会看到类似以下的内容:

    ...
    ---Parsed Response (class CytoscapeJSON)---
    {
      "elements": {
        "nodes": [
          {
            "data": {
              "id": "neo4j_graph_database",
              "name": "Neo4j Graph Database",
              "label": "product",
              "description": "Self or fully-managed, deploy anywhere"
            }
          },
          {
            "data": {
              "id": "neo4j_auradb",
              "name": "Neo4j AuraDB",
              "label": "product",
              "description": "Fully-managed graph database as a service"
            }
          },
          {
            "data": {
              "id": "generative_ai",
              "name": "Generative AI",
              "label": "use_case",
              "description": "Back your LLMs with a knowledge graph for better business AI"
            }
          }
        ],
        "edges": [
          {
            "data": {
              "id": "prod_use_case_1",
              "source": "neo4j_graph_database",
              "target": "generative_ai",
              "label": "ENABLED_BY"
            }
          },
          {
            "data": {
              "id": "prod_use_case_2",
              "source": "neo4j_auradb",
              "target": "generative_ai",
              "label": "ENABLED_BY"
            }
          }
        ]
      }
    }
INFO:     127.0.0.1:63190 - "POST /url_to_graph HTTP/1.1" 200 OK

在您的 Neo4j 控制台中,您应该会看到类似以下的内容:

下一步

  • 现在您已经有了一些图数据,可以开始探索各种 GraphRAG 技术来支持生成式 AI 应用。
  • 通过官方文档了解更多关于 BAML 的信息:https://docs.boundaryml.com/home

本文,完。觉得本篇文章不错的,记得随手点个赞、收藏和转发三连,感谢感谢~如果想第一时间收到推送,请记得关注我们?~

相关推荐

零基础入门AI智能体:详细了解什么是变量类型、JSON结构、Markdown格式

当品牌跳出固有框架,以跨界联动、场景创新叩击年轻群体的兴趣点,一场关于如何在迭代中保持鲜活的探索正在展开,既藏着破圈的巧思,也映照着与新一代对话的密码。在创建AI智能体时,我们会调用插件或大模型,而在...

C# 13模式匹配:递归模式与属性模式在真实代码中的性能影响分析

C#13对模式匹配的增强让复杂数据处理代码更简洁,但递归模式与属性模式的性能差异一直是开发者关注的焦点。在实际项目中,选择合适的模式不仅影响代码可读性,还可能导致执行效率的显著差异。本文结合真实测试...

零基础快速入门 VBA 系列 6 —— 常用对象(工作簿、工作表和区域)

上一节,我介绍了VBA内置函数以及如何自动打字和自动保存文件。这一节,我们来了解一下Excel常用对象。Excel常用对象Excel有很多对象,其中最常用也最重要的包括以下3个:1.Workbo...

不同生命数字的生肖龙!准到雷普!

属龙的人总在自信爆棚和自讨苦吃之间反复横跳?看完这届龙宝宝的日常我悟了。属龙的人好像天生自带矛盾体:领导力超强可人缘时好时坏,工作雷厉风行却总在爱情里翻车。关键年份的龙性格差异更大——76年龙靠谱但不...

仓颉编程语言基础-面向对象编程-属性(Properties)

属性是仓颉颉中一种强大的机制,它允许你封装对类(或接口interface、结构体struct、枚举enum、扩展extend)内部状态的访问。它看起来像一个普通的成员变量(字段),但在其背后,它通过...

Python中class对象/属性/方法/继承/多态/魔法方法详解

一、基础入门:认识类和对象1.类和对象的概念在Python中,类(class)是一种抽象的概念,用于定义对象的属性和行为,而对象(也称为实例)则是类的具体表现。比如,“汽车”可以是一个类,它有...

VBA基础入门:搞清楚对象、属性和方法就成功了一半

如果你刚接触VBA(VisualBasicforApplications),可能会被“对象”“属性”“方法”这些术语搞得一头雾水。但事实上,这三个概念是VBA编程的基石。只要理解它们之间的关系,...

P.O类型文推荐|年度编推合集(一百九十五篇)

点击左上方关注获取更多精彩推文目录2019年度编推35篇(1V1)《悖论》作者:流苏.txt(1V1)《桂花蒸》作者:大姑娘浪.txt(1V1)《豪门浪女》作者:奚行.txt...

Python参数传递内存大揭秘:可变对象 vs 不可变对象

90%的Python程序员不知道,函数参数传递中可变对象的修改竟会导致意想不到的副作用!一、参数传递的本质:对象引用传递在Python中,所有参数传递都是对象引用的传递。这意味着函数调用时传递的不是对...

JS 开发者必看!TC39 2025 最新动向,这些新语法要火?

大家好,很高兴又见面了,我是"高级前端进阶",由我带着大家一起关注前端前沿、深入前端底层技术,大家一起进步,也欢迎大家关注、点赞、收藏、转发,您的支持是我不断创作的动力。TC39第...

2025 年值得尝试的 5 个被低估的 JavaScript 库

这些JavaScript库可能不会在社交媒体或HackerNews上流行起来,但它们会显著提高您的工作效率和代码质量。JavaScript不再只是框架。虽然React、Vue和Sv...

Python自动化办公应用学习笔记30—函数的参数

一、函数的参数1.形参:o定义:在函数定义时,声明在函数名后面括号中的变量。o作用:它们是函数内部的占位符变量,用于接收函数被调用时传入的实际值。o生命周期:在函数被调用时创建,在函数执...

16种MBTI人格全解析|测完我沉默了三秒:原来我是这样的人?

MBTI性格测试火了这么久,你还不知道自己是哪一型?有人拿它当社交话题,有人拿它分析老板性格,还有人干脆当成择偶参考表。不废话,今天我一次性给你整理全部16种MBTI人格类型!看完你不仅能知道自己是谁...

JS基础与高级应用: 性能优化

在现代Web开发中,性能优化已成为前端工程师必须掌握的核心技能之一。本文从URL输入到页面加载完成的全过程出发,深入分析了HTTP协议的演进、域名解析、代码层面性能优化以及编译与渲染的最佳实践。通过节...

爱思创CSP-J/S初赛模拟赛线上开赛!助力冲入2024年CSP-J/S复赛!

CSP-J/S组初赛模拟赛爱思创,专注信奥教育19年,2022年CSP-J/S组赛事指定考点,特邀NOIP教练,开启全真实CSP-J/S组线上初赛模拟大赛!一、比赛对象:2024年备考CSP-J/S初...