网站建设ppt下载,做网站备案哪些条件,wordpress 分类别名,wordpress标签静态文章目录 一、SVD降维的基本原理二、SVD降维的步骤三、SVD降维的优点四、SVD降维的应用五、代码应用六、SVD降维的局限性 一、SVD降维的基本原理
SVD是线性代数中的一种技术#xff0c;它将一个矩阵A分解为三个矩阵的乘积#xff1a;A UΣV^T。其中#xff0c;U和V是正交矩… 文章目录 一、SVD降维的基本原理二、SVD降维的步骤三、SVD降维的优点四、SVD降维的应用五、代码应用六、SVD降维的局限性 一、SVD降维的基本原理
SVD是线性代数中的一种技术它将一个矩阵A分解为三个矩阵的乘积A UΣV^T。其中U和V是正交矩阵Σ是对角矩阵对角线上的元素称为奇异值。这些奇异值表示了矩阵A在各个方向上的“重要性”或“能量”。
在降维过程中SVD通过保留矩阵A中最大的几个奇异值并忽略其他较小的奇异值来近似地重构原始矩阵。这样做可以在保留数据主要信息的同时减少数据的维度。
二、SVD降维的步骤
计算SVD首先对原始数据矩阵A进行SVD分解得到矩阵U、Σ和V^T。 选择奇异值根据需要保留的信息量或数据特征选择Σ中前k个最大的奇异值。这一步是关键因为它决定了降维后的数据维度和保留的信息量。 重构矩阵使用选定的奇异值和对应的U、V^T的子矩阵重构出一个近似于原始矩阵A但维度更低的矩阵A’。
三、SVD降维的优点
简化数据通过去除不重要的特征简化了数据表示便于后续处理和分析。 去除噪声较小的奇异值通常与噪声相关因此通过忽略这些奇异值可以在一定程度上去除数据中的噪声。 提高算法性能降维后的数据具有更低的维度可以减少计算量和存储需求从而提高算法的性能。
四、SVD降维的应用
SVD降维在多个领域都有广泛的应用包括但不限于
推荐系统在推荐系统中SVD可以用于构建用户或物品的隐式特征向量从而计算用户或物品之间的相似度。 图像处理SVD可以用于图像压缩和去噪。通过保留图像中的主要特征即较大的奇异值可以在保持图像质量的同时减少数据量。 文本挖掘SVD可以用于提取文本数据中的主题或潜在语义结构帮助理解和分析大量文本数据。
五、代码应用
import numpy as np
from PIL import Image
import matplotlib.pyplot as pltdef pic_compress(k, pic_array):global u, sigma, vt, sig, new_picu, sigma, vt np.linalg.svd(pic_array) # 进行奇异分解sig np.eye(k) * sigma[:k] # np.eye用于生成一个单位矩阵new_pic np.dot(np.dot(u[:, :k], sig), vt[:k, :]) # np.dot用于矩阵的乘法运算size u.shape[0] * k sig.shape[1] k * vt.shape[1]return new_pic, sizeimg Image.open(lf.jpg)
ori_img np.array(img)
new_img, size pic_compress(100, ori_img) # 压缩的维度
print(original size: str(ori_img.shape[0] * ori_img.shape[1]))
print(compress size: str(size))
fig, ax plt.subplots(1, 2)
ax[0].imshow(ori_img, cmapgray)
ax[0].set_title(before compress)
ax[1].imshow(new_img, cmapgray)
ax[1].set_title(after compress)
plt.show()函数定义pic_compress 函数接受两个参数k要保留的奇异值的数量和pic_array图像的NumPy数组表示。它使用SVD来分解图像矩阵并尝试通过保留最大的k个奇异值来重构图像。SVD分解使用 np.linalg.svd 对图像矩阵进行奇异值分解得到矩阵 U、sigma奇异值向量和V的转置。这里需要注意的是sigma 实际上是一个向量而不是矩阵。重构图像通过创建一个对角矩阵 sig其前k个对角元素是sigma的前k个元素其余为0来重构图像。通过np.dot对矩阵进行运算。图像处理读取图像并进行维度压缩然后打印原属数据的大小与压缩后数据的大小。图像显示使用 matplotlib 来显示原始图像和压缩后的图像。使用了 cmap‘gray’这会将图像转换为灰度进行显示。
六、SVD降维的局限性
尽管SVD降维具有许多优点但它也存在一些局限性
计算复杂度对于大规模数据集SVD的计算复杂度较高可能需要较长的计算时间。难以解释SVD降维后的数据维度通常不再具有原始数据的直观意义因此可能需要额外的解释工作来理解降维后的数据。无法处理非线性关系SVD是一种线性降维方法无法有效处理数据中的非线性关系。
综上所述SVD降维是一种有效的数据预处理技术它可以通过提取数据的主要特征来降低数据的维度并保留大部分重要信息。然而在使用SVD降维时也需要注意其局限性并结合具体应用场景来选择合适的降维方法。
