如何解决Faiss:如何创建大小为 1024 的 10M 个向量的索引
我想创建一个包含近 10M 个大小为 1024 的向量的索引。这是我使用的代码。
import numpy as np
import faiss
import random
f = 1024
vectors = []
no_of_vectors=10000000
for k in range(no_of_vectors):
v = [random.gauss(0,1) for z in range(f)]
vectors.append(v)
np_vectors = np.array(vectors).astype('float32')
index = faiss.IndexFlatL2(f)
index.add(np_vectors)
faiss.write_index(index,"faiss_index.index")
该代码适用于少量向量。但是当vector数量在2M左右的时候,内存限制就超过了。我使用 index.add()
而不是将向量附加到列表(向量 = [])。但效果不佳。
我想知道如何为大量向量创建索引。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。