使用 Python 在 Azure Cosmos DB for NoSQL 中编制矢量索引和查询矢量

适用范围： NoSQL

在使用矢量索引和搜索功能之前，必须先启用该功能。 本文涵盖以下步骤：

1. 启用 Azure Cosmos DB for NoSQL 中的矢量搜索功能
2. 为矢量搜索设置 Azure Cosmos DB 容器
3. 创建矢量嵌入策略
4. 将矢量索引添加到容器索引策略
5. 使用矢量索引和矢量嵌入策略创建容器
6. 对存储的数据执行矢量搜索

本指南逐步讲解创建矢量数据、为数据编制索引，然后查询容器中的数据的过程。

先决条件

• 一个现有的 Azure Cosmos DB for NoSQL 帐户。
  • 如果你没有 Azure 订阅，请免费试用 Azure Cosmos DB for NoSQL。
  • 如果你当前有 Azure 订阅，请创建新的 Azure Cosmos DB for NoSQL 帐户。
• 最新版本的 Azure Cosmos DB Python SDK。

启用功能

若要对 Azure Cosmos DB for NoSQL 进行矢量搜索，则需要通过完成以下步骤来启用该功能：

1. 导航到 Azure Cosmos DB for NoSQL 资源页。
2. 选择“设置”菜单项下的“功能”窗格。
3. 选择“Azure Cosmos DB for NoSQL 中的矢量搜索”。
4. 阅读有关该功能的说明，确认你想要启用该功能。
5. 选择“启用”以启用 Azure Cosmos DB for NoSQL 中的矢量搜索功能。

az cosmosdb update \
     --resource-group <resource-group-name> \
     --name <account-name> \
     --capabilities EnableNoSQLVectorSearch

了解矢量搜索所涉及的步骤

以下步骤假定你知道如何设置 Cosmos DB NoSQL 帐户并创建数据库。 现有容器当前不支持矢量搜索功能，因此需要创建一个新容器并指定容器级矢量嵌入策略以及创建容器时的矢量索引策略。

让我们以为 Internet 书店创建数据库为例，为每本书存储“书名”、“作者”、ISBN 和“描述”。 我们还定义了两个属性来包含矢量嵌入。 第一个是“contentVector”属性，它包含从书籍文本内容生成的文本嵌入（例如，在创建嵌入之前将“书名”“作者”“isbn”和“描述”属性连接起来）。 第二个是“coverImageVector”，基于书籍封面图像生成。

1. 为要执行矢量搜索的字段创建并存储矢量嵌入。
2. 在矢量嵌入策略中指定矢量嵌入路径。
3. 在容器的索引策略中包含任何所需的矢量索引。

在本文的后续部分中，我们假设存储在容器中的项采用以下结构：

{
"title": "book-title", 
"author": "book-author", 
"isbn": "book-isbn", 
"description": "book-description", 
"contentVector": [2, -1, 4, 3, 5, -2, 5, -7, 3, 1], 
"coverImageVector": [0.33, -0.52, 0.45, -0.67, 0.89, -0.34, 0.86, -0.78] 
} 

为容器创建矢量嵌入策略

接下来，需要定义容器矢量策略。 该策略提供的信息用于告知 Azure Cosmos DB 查询引擎如何处理 VectorDistance 系统函数中的矢量属性。 这也为矢量索引策略提供了必要的信息，如果你选择指定一个的话。 包含的矢量策略中包含以下信息：

• “path”：包含矢量的属性路径
• “datatype”：矢量元素的类型（默认为 Float32）
• “dimensions”：路径中每个矢量的长度（默认为 1536）
• “distanceFunction”：用于计算距离/相似性的指标（默认余弦）

对于我们的书籍详细信息示例，矢量策略可能如 JSON 示例所示：

vector_embedding_policy = { 
    "vectorEmbeddings": [ 
        { 
            "path": "/coverImageVector", 
            "dataType": "float32", 
            "distanceFunction": "dotproduct", 
            "dimensions": 8 
        }, 
        { 
            "path": "/contentVector", 
            "dataType": "float32", 
            "distanceFunction": "cosine", 
            "dimensions": 10 
        } 
    ]    
} 

在索引策略中创建矢量索引

确定矢量嵌入路径后，需要将矢量索引添加到索引策略。 对于此示例，索引策略如下所示：

indexing_policy = { 
    "includedPaths": [ 
        { 
            "path": "/*" 
        } 
    ], 
    "excludedPaths": [ 
        { 
            "path": "/\"_etag\"/?",
            "path": "/coverImageVector/*",
            "path": "/contentVector/*"
            
        } 
    ], 
    "vectorIndexes": [ 
        {"path": "/coverImageVector", 
         "type": "quantizedFlat" 
        }, 
        {"path": "/contentVector", 
         "type": "quantizedFlat" 
        } 
    ] 
} 

使用矢量策略创建容器

目前，Azure Cosmos DB for NoSQL 的矢量搜索功能只支持新容器，因此你需要在创建容器时应用矢量策略，以后无法修改。

try:     
    container = db.create_container_if_not_exists( 
                    id=CONTAINER_NAME, 
                    partition_key=PartitionKey(path='/id'), 
                    indexing_policy=indexing_policy, 
                    vector_embedding_policy=vector_embedding_policy) 
    print('Container with id \'{0}\' created'.format(id)) 

except exceptions.CosmosHttpResponseError: 
        raise 

运行矢量相似性搜索查询

使用所需矢量策略创建容器并将矢量数据插入容器后，可以在查询中使用矢量距离系统函数进行矢量搜索。 假设你想通过查看描述来搜索有关食谱的书籍，首先需要获取查询文本的嵌入。 在这种情况下，可能需要为查询文本“食谱”生成嵌入。 获得搜索查询的嵌入后，可以在矢量搜索查询中的 VectorDistance 函数中使用它，获得与查询相似的所有项，如下所示：

SELECT TOP 10 c.title, VectorDistance(c.contentVector, [1,2,3,4,5,6,7,8,9,10]) AS SimilarityScore   
FROM c  
ORDER BY VectorDistance(c.contentVector, [1,2,3,4,5,6,7,8,9,10])   

此查询检索书名以及与你的查询相对应的相似度分数。 下面是一个使用 Python 的示例：

query_embedding = [1,2,3,4,5,6,7,8,9,10] 
# Query for items 
for item in container.query_items( 
            query='SELECT c.title, VectorDistance(c.contentVector,@embedding) AS SimilarityScore FROM c ORDER BY VectorDistance(c.contentVector,@embedding)', 
            parameters=[ 
                {"name": "@embedding", "value": query_embedding} 
            ], 
            enable_cross_partition_query=True): 
    print(json.dumps(item, indent=True)) 

相关内容

• VectorDistance 系统函数
• 矢量索引
• 设置 Azure Cosmos DB for NoSQL 进行矢量搜索。