Skip to main content
Open In ColabOpen on GitHub

Oracle AI 向量搜索：文档处理

Oracle AI Vector Search 专为人工智能 (AI) 工作负载设计，允许您基于语义而非关键词来查询数据。 Oracle AI Vector Search 的最大优势之一是，它能够在一个单一系统中将非结构化数据的语义搜索与业务数据的关系型搜索相结合。 这不仅功能强大，而且效率显著提高，因为您无需添加专门的向量数据库，从而避免了多系统间数据碎片化的困扰。

此外，您的向量可以受益于 Oracle 数据库的所有最强大功能，例如以下内容：

本指南演示了如何在 Oracle AI Vector Search 中使用文档处理能力，分别通过 OracleDocLoader 和 OracleTextSplitter 来加载和分块文档。

如果您刚开始使用 Oracle 数据库，可以考虑探索免费的 Oracle 23 AI，它为您提供了设置数据库环境的绝佳入门指南。在使用数据库时，通常建议避免默认使用 system 用户；相反，您可以创建自己的用户以增强安全性和定制化程度。有关创建用户的详细步骤，请参阅我们的端到端指南，其中还展示了如何在 Oracle 中设置用户。此外，理解用户权限对于有效管理数据库安全至关重要。您可以在官方关于管理用户账户和安全的Oracle 指南中了解更多相关信息。

先决条件​

请安装 Oracle Python Client 驱动程序，以便将 LangChain 与 Oracle AI Vector Search 配合使用。

# pip install oracledb

连接 Oracle 数据库

以下示例代码将展示如何连接到 Oracle 数据库。默认情况下，python-oracledb 以“Thin"模式运行，该模式直接连接到 Oracle 数据库。此模式不需要 Oracle 客户端库。然而，当 python-oracledb 使用这些库时，可提供一些额外的功能。当使用 Oracle 客户端库时，称 python-oracledb 处于"Thick"模式。两种模式都具备全面的功能，支持 Python 数据库 API v2.0 规范。请参阅以下指南，了解每种模式所支持的功能。如果您无法使用 thin-mode，可能希望切换到 thick-mode。

import sys

import oracledb

# please update with your username, password, hostname and service_name
username = "<username>"
password = "<password>"
dsn = "<hostname>/<service_name>"

try:
    conn = oracledb.connect(user=username, password=password, dsn=dsn)
    print("Connection successful!")
except Exception as e:
    print("Connection failed!")
    sys.exit(1)

现在让我们创建一个表并插入一些示例文档来进行测试。

try:
    cursor = conn.cursor()

    drop_table_sql = """drop table if exists demo_tab"""
    cursor.execute(drop_table_sql)

    create_table_sql = """create table demo_tab (id number, data clob)"""
    cursor.execute(create_table_sql)

    insert_row_sql = """insert into demo_tab values (:1, :2)"""
    rows_to_insert = [
        (
            1,
            "If the answer to any preceding questions is yes, then the database stops the search and allocates space from the specified tablespace; otherwise, space is allocated from the database default shared temporary tablespace.",
        ),
        (
            2,
            "A tablespace can be online (accessible) or offline (not accessible) whenever the database is open.\nA tablespace is usually online so that its data is available to users. The SYSTEM tablespace and temporary tablespaces cannot be taken offline.",
        ),
        (
            3,
            "The database stores LOBs differently from other data types. Creating a LOB column implicitly creates a LOB segment and a LOB index. The tablespace containing the LOB segment and LOB index, which are always stored together, may be different from the tablespace containing the table.\nSometimes the database can store small amounts of LOB data in the table itself rather than in a separate LOB segment.",
        ),
    ]
    cursor.executemany(insert_row_sql, rows_to_insert)

    conn.commit()

    print("Table created and populated.")
    cursor.close()
except Exception as e:
    print("Table creation failed.")
    cursor.close()
    conn.close()
    sys.exit(1)

加载文档​

用户可以灵活地从 Oracle 数据库、文件系统或两者中加载文档，只需适当配置加载器参数即可。有关这些参数的详细信息，请参阅 Oracle AI 向量搜索指南。

使用 OracleDocLoader 的一个显著优势是其能够处理超过 150 种不同的文件格式，从而无需为不同类型的文档使用多个加载器。有关支持格式的完整列表，请参阅Oracle Text 支持的文档格式。

以下是一个示例代码片段，演示如何使用 OracleDocLoader

from langchain_community.document_loaders.oracleai import OracleDocLoader
from langchain_core.documents import Document

"""
# loading a local file
loader_params = {}
loader_params["file"] = "<file>"

# loading from a local directory
loader_params = {}
loader_params["dir"] = "<directory>"
"""

# loading from Oracle Database table
loader_params = {
    "owner": "<owner>",
    "tablename": "demo_tab",
    "colname": "data",
}

""" load the docs """
loader = OracleDocLoader(conn=conn, params=loader_params)
docs = loader.load()

""" verify """
print(f"Number of docs loaded: {len(docs)}")
# print(f"Document-0: {docs[0].page_content}") # content
API 参考：OracleDocLoader | 文档

拆分文档​

文档的大小可能各不相同，从小型到超大型不等。用户通常倾向于将文档分割成较小的部分，以便于生成嵌入向量。此分割过程提供了丰富的自定义选项。有关这些参数的详细信息，请参阅Oracle AI 向量搜索指南。

以下是一个示例代码，展示了如何实现这一点：

from langchain_community.document_loaders.oracleai import OracleTextSplitter
from langchain_core.documents import Document

"""
# Some examples
# split by chars, max 500 chars
splitter_params = {"split": "chars", "max": 500, "normalize": "all"}

# split by words, max 100 words
splitter_params = {"split": "words", "max": 100, "normalize": "all"}

# split by sentence, max 20 sentences
splitter_params = {"split": "sentence", "max": 20, "normalize": "all"}
"""

# split by default parameters
splitter_params = {"normalize": "all"}

# get the splitter instance
splitter = OracleTextSplitter(conn=conn, params=splitter_params)

list_chunks = []
for doc in docs:
    chunks = splitter.split_text(doc.page_content)
    list_chunks.extend(chunks)

""" verify """
print(f"Number of Chunks: {len(list_chunks)}")
# print(f"Chunk-0: {list_chunks[0]}") # content
API 参考：OracleTextSplitter | 文档

端到端演示​

请参考我们的完整演示指南 Oracle AI 向量搜索端到端演示指南，借助 Oracle AI 向量搜索构建端到端的 RAG 流水线。