Geeks_Z の Blog Geeks_Z の Blog
首页
  • 学习笔记

    • 《HTML》
    • 《CSS》
    • 《JavaWeb》
    • 《Vue》
  • 后端文章

    • Linux
    • Maven
    • 汇编语言
    • 软件工程
    • 计算机网络概述
    • Conda
    • Pip
    • Shell
    • SSH
    • Mac快捷键
    • Zotero
  • 学习笔记

    • 《数据结构与算法》
    • 《算法设计与分析》
    • 《Spring》
    • 《SpringMVC》
    • 《SpringBoot》
    • 《SpringCloud》
    • 《Nginx》
  • 深度学习文章
  • 学习笔记

    • 《PyTorch》
    • 《ReinforementLearning》
    • 《MetaLearning》
  • 学习笔记

    • 《高等数学》
    • 《线性代数》
    • 《概率论与数理统计》
  • 增量学习
  • 哈希学习
GitHub (opens new window)

Geeks_Z

AI小学生
首页
  • 学习笔记

    • 《HTML》
    • 《CSS》
    • 《JavaWeb》
    • 《Vue》
  • 后端文章

    • Linux
    • Maven
    • 汇编语言
    • 软件工程
    • 计算机网络概述
    • Conda
    • Pip
    • Shell
    • SSH
    • Mac快捷键
    • Zotero
  • 学习笔记

    • 《数据结构与算法》
    • 《算法设计与分析》
    • 《Spring》
    • 《SpringMVC》
    • 《SpringBoot》
    • 《SpringCloud》
    • 《Nginx》
  • 深度学习文章
  • 学习笔记

    • 《PyTorch》
    • 《ReinforementLearning》
    • 《MetaLearning》
  • 学习笔记

    • 《高等数学》
    • 《线性代数》
    • 《概率论与数理统计》
  • 增量学习
  • 哈希学习
GitHub (opens new window)
  • Python

  • MLTutorials

    • 机器学习基础

    • 模型与算法

      • KNN
      • PCA
      • 奇异值分解SVD
      • K-means
      • 模型评估与选择
      • 正交普鲁克问题
        • 正交普鲁克问题
        • References
      • 指数移动平均EDA
      • 梯度提升GB
    • 模型优化

  • 卷积神经网络

  • 循环神经网络

  • Transformer

  • VisionTransformer

  • 扩散模型

  • 计算机视觉

  • PTM

  • MoE

  • LoRAMoE

  • LongTailed

  • 多模态

  • 知识蒸馏

  • PEFT

  • 对比学习

  • 小样本学习

  • 迁移学习

  • 零样本学习

  • 集成学习

  • Mamba

  • PyTorch

  • CL

  • CIL

  • 小样本类增量学习FSCIL

  • UCIL

  • 多模态增量学习MMCL

  • LTCIL

  • DIL

  • 论文阅读与写作

  • 分布外检测

  • GPU

  • 深度学习调参指南

  • AINotes
  • MLTutorials
  • 模型与算法
Geeks_Z
2021-08-16
目录

正交普鲁克问题

正交普鲁克问题

OrthogonalProcrustesProblem

min||AΩ−B||F2s.t.ΩTΩ=I

其中,A,B∈Rm×n​已知,待求的Ω∈Rn×n 正交矩阵。

||X||F 为Frobenius范数,是矩阵范数的一种:

||X||F=trace(XTX)=∑i,jxij2

即所有元素的平方和。

||AΩ−B||F2=trace((AΩ−B)T(AΩ−B))=trace(ΩTATAΩ−BTAΩ−ΩTATB+BTB)=trace(ΩTATAΩ)−trace(BTAΩ)−trace(ΩTATB)+trace(BTB)=trace(ΩTATAΩ)−2trace(BTAΩ)+trace(BTB)=trace(ΩΩTATA)−2trace(BTAΩ)+trace(BTB)=trace(ATA)−2trace(BTAΩ)+trace(BTB)

所以最小化||AΩ−B||F 价于最大化trace(BTAΩ),即正交普鲁克问题等价于:

maxtrace(CΩ)s.t.ΩTΩ=I

对C 异值分解:U∑VT=C​,则上述问题等价于最大化:

是三个单位正交阵的乘积,元素trace(CΩ)=trace(U∑VTΩ)=trace(∑VTΩU)=trace(∑Z)(Z是三个单位正交阵的乘积,元素≤1)=∑i,jσi,jzi,j=∑iσi,izi,i≤∑iσi,i

取等号的条件为:Z 对角元为1.

不妨令Z=I=VTΩU,解得:Ω=VUT

References

  • 正交普鲁克问题(Orthogonal Procrustes Problem) (opens new window)
#Model
上次更新: 2025/06/25, 11:25:50
模型评估与选择
指数移动平均EDA

← 模型评估与选择 指数移动平均EDA→

最近更新
01
帮助信息查看
06-08
02
常用命令
06-08
03
学习资源
06-07
更多文章>
Theme by Vdoing | Copyright © 2022-2025 Geeks_Z | MIT License
京公网安备 11010802040735号 | 京ICP备2022029989号-1
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式