如何解决我可以仅使用numpy`indptr`和`indices`数组在二进制稀疏矩阵之间执行点积吗?
我想在两个稀疏矩阵之间执行点积而不使用scipy.sparse
。这仅应使用csrmat.indices
和csrmat.indtpr
数组,因此只能在numpy
中执行。原因是我想在PyKeOps
上的GPU上执行点积运算,该运算符不支持稀疏矩阵,但可以很高兴地在numpy样式的数组上运行。
具有二进制值的稀疏矩阵的示例。这种类型的矩阵可能来自TF-IDF功能化:
import numpy as np
from scipy.sparse import rand
from scipy import sparse
#how many instances?
n = 100
#how many dimensions?
d = 5000
#construct a binary sparse array
x = rand(n,d,density=0.05,format='csr')
x.data[:] = 1
现在,使用自身执行点积运算很简单,导致密集输出,计算稀疏矩阵中每一行之间共享元素的数量。这是计算Jaccard距离或余弦相似度的第一步:
intersections = x.dot(x.T).toarray()
intersections
>>>>>
array([[265.,13.,10.,...,16.,20.,15.],[ 13.,246.,14.,11.,9.,12.],[ 10.,254.,15.,14.],[ 16.,245.,7.,19.],[ 20.,272.,[ 15.,12.,19.,262.]])
是否有使用x.indices
和x.indptr
数组的矢量化方法来执行此操作?一个缓慢而糟糕的例子可能是:
indices = x.indices
indptr = x.indptr
results = np.zeros([n,n])
for countj,j in enumerate(range(indptr[:-1].shape[0])):
startj = indptr[j]
endj = indptr[j+1]
itemsj = indices[startj:endj]
for countk,k in enumerate(range(indptr[:-1].shape[0])):
startk = indptr[k]
endk = indptr[k+1]
itemsk = indices[startk:endk]
overlap = np.isin(itemsk,itemsj)
results[countj,countk] = overlap.sum()
results
>>>>
array([[265.,262.]])
但是,由于该示例不使用广播(即未矢量化),因此无法在PyKeOps中运行。
谢谢!
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。