MATLAB SVD 介绍：掌握奇异值分解的关键步骤 – wiki大全

作者： /

The article about MATLAB SVD has been written.
“`markdown

MATLAB SVD 介绍：掌握奇异值分解的关键步骤

1. 引言

奇异值分解 (Singular Value Decomposition, SVD) 是线性代数中一个极其重要且功能强大的矩阵分解技术。它能将任何矩阵分解为三个更简单的矩阵的乘积，揭示了矩阵内在的结构和特性。SVD 在数据科学、机器学习、图像处理、信号处理、推荐系统等众多领域都有着广泛而深远的应用。掌握 MATLAB 中 SVD 的使用方法，对于有效处理和分析复杂数据至关重要。

2. 奇异值分解基础

对于任意一个 m 行 n 列的矩阵 A，其奇异值分解可以表示为以下形式：

A = U * S * V'

其中：
* U 是一个 m 行 m 列的正交矩阵（即 U'U = I），其列向量被称为 A 的左奇异向量。
* S 是一个 m 行 n 列的对角矩阵，其对角线上的元素（称为奇异值）均为非负实数，并按降序排列。对角线以外的元素均为零。奇异值的数量等于 min(m, n)。
* V 是一个 n 行 n 列的正交矩阵（即 V'V = I），其列向量被称为 A 的右奇异向量。V' 是 V 的共轭转置（在实数矩阵情况下即为转置）。

简而言之，SVD 将原始矩阵 A 转换成了一组正交基（U 和 V）和一个衡量这些基重要性的“缩放因子”（S 中的奇异值）。

3. MATLAB 中的 SVD

MATLAB 提供了内置函数 svd 来执行奇异值分解，使用起来非常直观和高效。

基本用法

svd 函数最基本的用法可以分为两种：

  1. 只获取奇异值向量：
    当你只需要矩阵的奇异值时，可以使用单输出形式。
    matlab
    A = rand(5, 3); % 创建一个 5x3 的随机矩阵
    s = svd(A); % s 将是一个列向量，包含按降序排列的奇异值
    disp(s);

  2. 获取完整的 U, S, V 矩阵：
    这是最常用的形式，返回左奇异向量矩阵 U、奇异值对角矩阵 S 和右奇异向量矩阵 V。
    “`matlab
    A = [1 2 3; 4 5 6; 7 8 9; 10 11 12]; % 创建一个示例矩阵
    [U, S, V] = svd(A);
    disp(‘U = ‘); disp(U);
    disp(‘S = ‘); disp(S);
    disp(‘V = ‘); disp(V);

    % 验证分解的正确性：A 约等于 U * S * V’
    A_reconstructed = U * S * V’;
    disp(‘Reconstructed A = ‘); disp(A_reconstructed);
    ``
    请注意，    S矩阵的维度会根据A` 的维度自动调整，其对角线上是奇异值。

经济型 SVD (Economy-Size SVD)

当处理大型或高度矩形矩阵时，完整的 SVD 计算可能会非常耗时且占用大量内存。MATLAB 提供了“经济型”SVD ("econ") 选项，只计算那些对重建矩阵有贡献的部分，从而提高效率。

  • 如果 m > n（行数大于列数），那么 U 只会计算前 n 列，S 会是 nxn 的方阵。
  • 如果 m < n（行数小于列数），那么 V 只会计算前 m 列，S 会是 mxm 的方阵。
  • 如果 m = n，经济型 SVD 与完整 SVD 结果相同。

“`matlab
A = rand(100, 10); % 一个 100×10 的矩阵
tic;
[U_full, S_full, V_full] = svd(A);
toc; % 测量完整 SVD 的时间

tic;
[U_econ, S_econ, V_econ] = svd(A, “econ”);
toc; % 测量经济型 SVD 的时间

disp([‘Full SVD U size: ‘, num2str(size(U_full))]);
disp([‘Economy SVD U size: ‘, num2str(size(U_econ))]);
``
从输出可以看出，经济型 SVD 在此情况下计算的U` 矩阵维度更小，因此计算更快。

奇异值输出格式控制

svd 函数还可以通过 outputForm 参数控制奇异值的返回格式：

  • [___] = svd(A, "vector"): 返回奇异值作为列向量，即使请求了 U, S, V 输出。
  • [___] = svd(A, "matrix"): 返回奇异值作为对角矩阵（这是默认行为，如果你请求 U, S, V）。

“`matlab
A = [1 2; 3 4];
s_vec = svd(A, “vector”);
disp(‘Singular values as vector:’); disp(s_vec);

[U_mat, S_mat, V_mat] = svd(A, “matrix”); % 等同于 [U,S,V] = svd(A)
disp(‘Singular values as diagonal matrix:’); disp(diag(S_mat));
“`

4. 结果解读

  • U 和 V 矩阵： 它们的列向量构成了原矩阵 A 数据空间的两个正交基。U 的列向量表示 A 在其行空间中的方向，V 的列向量表示 A 在其列空间中的方向。
  • S 矩阵（奇异值）： S 对角线上的奇异值衡量了对应奇异向量对重构原始矩阵 A 的贡献大小。奇异值越大，表示其对应的奇异向量捕获的信息越多，对矩阵的“重要性”也越高。由于奇异值是降序排列的，前几个奇异值通常包含了数据中的主要结构和大部分能量。

5. SVD 的实际应用

SVD 的普适性使其在多个领域都发挥着关键作用：

  • 图像压缩： 通过保留前 k 个最大的奇异值和对应的奇异向量，可以对图像进行有效的低秩近似，实现数据压缩，同时在视觉上保持良好的质量。
  • 降维 (Principal Component Analysis, PCA)： SVD 是实现 PCA 的一种方法。它可以将高维数据投影到较低维度的空间，保留数据中最重要的信息，减少噪声并提高计算效率。
  • 去噪： 数据中的噪声通常对应于较小的奇异值。通过将这些小奇异值置零并重构矩阵，可以有效地去除数据中的噪声。
  • 推荐系统： SVD 可以用于协同过滤，通过分解用户-物品评分矩阵来发现潜在的兴趣因子，从而为用户生成个性化推荐。
  • 求解线性方程组： SVD 能够提供矩阵的伪逆，这对于求解病态或奇异的线性方程组 Ax = b 尤其有用。

6. 总结

奇异值分解是数值线性代数中的一个基石，它提供了一种深刻理解和操作矩阵的强大工具。MATLAB 的 svd 函数使得这一复杂数学工具变得易于使用。无论是进行数据降维、图像处理还是解决复杂的数学问题，掌握 SVD 及Е其在 MATLAB 中的应用，都将极大地增强您的数据分析和处理能力。希望本文能帮助您更好地理解和应用 SVD！
“`

滚动至顶部