Python numpy大矩阵运算内存不足如何解决

Gelsey ·
更新时间:2024-09-20
· 971 次阅读

程序运行,产生如下结果,然后进程终止,导致这一结果的原因很有可能是内存爆炸。

当两个较大的 (e.g., 10000*10000 维)ndarray 做运算(加法,or 乘法)时,很容易出现这样的结果.
解决办法:

大多数情况下,这种大矩阵都是稀疏的。尽可能地利用稀疏计算的方式,例如稀疏矩阵,或者只计算非 0 位置的值。 如果都是整数运算,可以设置 dtype=int,而非 dtype=float, 可以省下不少空间。

linux 系统下,使用 top 命令,可以很容易地看到内存(%MEM) 的使用情况。

# 代码段 1, true_similarity_matrix 是 int, similarity_matrix 是 float tmp_matrix = similarity_matrix * true_similarity_matrix # 内存会炸掉,两个 10000*10000 维 float array num_correct_edge = sum(sum(tmp_matrix)) # 代码段 2 for i in range(): for j in range(): set_true_ij.append(i,j) num_correct_edge = 0 for i, j in set_true_ij: num_correct_edge += similarity_matrix[i,j] 您可能感兴趣的文章:Python常用库Numpy进行矩阵运算详解Python numpy矩阵处理运算工具用法汇总python numpy矩阵信息说明,shape,size,dtypePython numpy.zero() 初始化矩阵实例python+numpy实现的基本矩阵操作示例Python numpy中矩阵的基本用法汇总Python 使用Numpy对矩阵进行转置的方法Python使用numpy产生正态分布随机数的向量或矩阵操作示例Python的numpy库中将矩阵转换为列表等函数的方法



NumPy 内存不足 矩阵 Python

需要 登录 后方可回复, 如果你还没有账号请 注册新账号