李群和李代数

问题的引入

当我们估计出相机姿态 $[R, t]$ 了以后，估计的结果和实际的相机姿态肯定会有一些不一致性，因而我们需要对估计出来的结果进行优化。优化方法一般都采用迭代优化的方法，每次迭代都更新一个位姿的增量 $Δ$ ，使得目标函数最小。这个 $Δ$ 就是通过误差函数对 $T$ 或者 $R$ 求微分得到的，也就是说我们需要对变换矩阵 $T$ 以及旋转矩阵 $R$ 求导。

但是，旋转矩阵并没有良好定义的加法，即 $R_{1}$ 和 $R_{2}$ 是都是旋转矩阵，但是 $R_{1} + R_{2}$ 并不符合旋转矩阵的定义：旋转矩阵应该满足 $R R^{T} = I$ ，且 $d e t (R) = 1$ ，即行列式的值为1的正交矩阵，因此上边的结论是显而易见的。

所以，在实际操作中，我们无法通过如下的微调满足我们对相机观测模型的优化：

[R, t] Δ R, Δ t ⟶ [R^{'}, t^{'}] t^{'} = t + Δ t R^{'} = R + Δ R

因而也会影响到观测模型（关于旋转矩阵的函数）对 $R$ 的求导，因为通常来说我们的导数定义为：

U (R) = \frac{d U}{d R} = lim Δ R \to 0 \frac{U (R + Δ R) - U (R)}{Δ R}

没有良好定义的加法——没有传统意义上的导数定义。因此，李群和李代数的作用就是间接对 $R$ 进行求导。

预备知识

矩阵指数

首先要引入矩阵指数的概念（Matrix Exponential）。矩阵指数可以由线性微分方程的解的形式导出，比如有一阶线性微分方程：

\cdot x = a x (t)

其中， $x (t) \in R$ ， $a \in R$ ，并且初始分布为 $x (0) = x_{0}$ ，那么解为：

x (t) = e^{a t} x_{0}

其中指数函数可以展开为无穷级数：

e^{a t} = 1 + a t + \frac{(a t)^{2}}{2!} + \frac{(a t)^{3}}{3!} + \cdot \cdot \cdot

同理，如果我们对三维向量由一阶线性微分方程：

\cdot x (t) = A x (t)

其中 $x (t) \in R^{3}$ ， $A \in R^{3 \times 3}$ ，且初始条件为 $x (0) = x_{0}$ ，那么解为：

x (t) = e^{A t} x_{0}

其中矩阵指数函数可以展开为无穷级数的形式：

e^{A t} = I + A t + \frac{(A t)^{2}}{2!} + \frac{(A t)^{3}}{3!} + \cdot \cdot \cdot

矩阵指数与矩阵旋转的关系

向量旋转

如上图，三维向量 $p (0)$ 绕着单位旋转轴 $\hat{ω}$ （ $\hat{ω} \in R^{3}$ ， $| | \hat{ω} | | = 1$ ）旋转 $θ$ 角度，得到三维向量 $p (θ)$ 。该旋转运动亦可以视作是三维向量 $p (0)$ 以 $1 r a d / s$ 的角速度绕着单位旋转轴 $\hat{ω}$ 从时间 $t = 0$ 运动到时间 $t = θ$ 得到三维向量 $p (θ)$ 。

如果用 $p (t)$ 来表示旋转路径上向量端点处的位置，用 $\overset{\cdot}{p} (t)$ 表示该点的瞬时速度值，则有：

\cdot p =^ω \times p

而向量叉乘可以写为左端向量对应的反对称矩阵与右端向量的乘积形式：

\cdot p = [^ω] p

其中，定义 $[\cdot]$ 为反对称矩阵算子，假如 $\hat{ω} = {\begin{matrix} ω_{1} ω_{2} ω_{3} \end{matrix}}$ ，那么有：

[ω] = ⎡ ⎢ ⎣ \begin{matrix} 0 & - ω_{3} & ω_{2} ω_{3} & 0 & - ω_{1} - ω_{2} & ω_{1} & 0 \end{matrix} ⎤ ⎥ ⎦

那么上式就有如下解：

p (t) = e^{[^ω] t} p (0)

因为角速度为 $1 r a d / s$ ，所以这里角度 $θ$ 和时间 $t$ 是可以互换的：

p (t) = e^{[^ω] θ} p (0)

由于反对称矩阵有满足 ${[\hat{ω}]}^{3} = - [\hat{ω}]$ ，将矩阵指数函数展开有：

\begin{matrix} e^{[^ω] θ} & = I + [^ω] θ + [^ω]^{2} \frac{θ^{2}}{2!} + [^ω]^{3} \frac{θ^{3}}{3!} + \cdot \cdot \cdot = I + (θ - \frac{θ^{3}}{3!} + \frac{θ^{5}}{5!} - \cdot \cdot \cdot) [^ω] + （ \frac{θ^{2}}{2!} - \frac{θ^{4}}{4!} + \frac{θ^{6}}{6!} - \cdot \cdot \cdot ） [^ω]^{2} = I + sin θ [^ω] + (a - cos θ) [^ω]^{2} \end{matrix}

因此，三维旋转矩阵 $R$ 就可以用矩阵指数 $e^{[\hat{ω}] θ}$ 的形式来表示。

李群和李代数

群

群是一种集合加上一种代数运算。这个集合和运算应该满足“封结幺逆”四个性质，把集合记为 $A$ ，运算记为 $\cdot$ , 群就可以记为 $G = (A, \cdot)$ 。

封闭性： $\forall a_{1}, a_{2} \in A, a_{1} \cdot a_{2} \in A$
结合律： $\forall a_{1}, a_{2}, a_{3} \in A, (a_{1} \cdot a_{2}) \cdot a_{3} = a_{1} \cdot (a_{2} \cdot a_{3})$
幺元： $\exists a_{0} \in A, s . t . \forall a \in A, a_{0} \cdot a = a \cdot a_{0}$
逆元： $\forall a \in A, \exists a^{- 1} \in A, s . t . a \cdot a^{- 1} = a_{0}$

可以验证，三维旋转矩阵对矩阵乘法构成了特殊正交群 $S O (3)$ ——直观意义上接连两次旋转动作认为旋转。

S O (3) = {R \in R^{3 \times 3} | R R^{T} = I, d e t (R) = 1}

变换矩阵构成了特殊欧式群 $S E (3)$ ，它也对乘法封闭。

S E (3) = {T = [\begin{matrix} R & t 0^{T} & 1 \end{matrix}] \in R^{4 \times 4} | R \in S O (3), t \in R^{3 \times 3}}

但是二者对加法都不封闭，即两个变换矩阵相加后并不是旋转矩阵。

李群

李群（Lie group）是具有群结构的光滑微分流形，其群作用与微分结构相容，从抽象上来说，李群就是具有光滑或连续性质的群。对应到我们的问题上，由于三维机器人在空间中移动必然是连续地运动，不可能发生“瞬移”的情形，因而 $S O (3)$ 和 $S E (3)$ 都是李群。

下面由旋转矩阵 $R$ 引出李代数。因为R是随时间连续变化的——相机可看成是连续运动，我们将相机姿态看作是时间 $t$ 的函数，那么自然就有 $R (t) R (t)^{T} = I$ 成立。上式的左右两侧同时对t求导，我们可得

\cdot R (t) R (t)^{T} + R (t) \cdot R (t)^{T} = 0

整理后可得

\cdot R (t) R (t)^{T} = - {(R (t) \cdot R (t)^{T})}^{T}

如果我们把等式左边看成一个整体，那么我们会发现上式左边是一个反对陈矩阵。

对于任意一个反对称矩阵，我们都由一个向量做反对称变换得到，比如：

a^{\land} = A = ⎡ ⎢ ⎣ \begin{matrix} 0 & - a_{3} & a_{2} a_{3} & 0 & - a_{1} - a_{2} & a_{1} & 0 \end{matrix} ⎤ ⎥ ⎦, A^{\lor} = a = {a_{1}, a_{2}, a_{3}} .

如果将上式左边记为 $ϕ (t)^{\land} = \overset{\cdot}{R} (t) R (t)^{T} \in R^{3}$ ，我们对这个式子两边右乘 $R (t)$ 并注意到 $R (t)$ 的正交矩阵性质，就可以得到：

\cdot R (t) = ϕ^{\land} (t) R (t)

就好像对 $R (t)$ 求导后其实是左乘了一个 $ϕ (t)$ ，而上边这个等式就类似一个一阶微分方程， $ϕ$ 反应了一节导数的性质，它位于正切空间上(tangent space)。我们认为初始值 $R (0) = I$ ，那么就可以解得：

R (t) = e^{ϕ^{\land} t}

由于这个式子只在 $t$ 附近有效。由此可知，对任意时刻 $t$ ，旋转矩阵 $R$ 和一个向量 $ϕ$ 对应，二者满足矩阵指数关系，这个 $ϕ$ 就是 $S O （ 3 ）$ 上的李代数 $s o （ 3 ）$ 。因而，为了求 $R$ ，我们只需要求出 $e x p (ϕ t)$ 即可，这个关系即为指数映射。现在的问题是 $s o (3)$ 是如何定义的，指数映射又如何求出呢？

李代数

每个李群都有与之对应的李代数，李代数描述了李群的局部性质。在这个局部正切空间里，一些我们可以找到一些比较好的性质，比如良好定义的加法，从而我们有了良好定义的导数——将李群的导数转化为李代数上的导数，求出来后再转化回去，这就是我们处理李群导数相关内容的基本思路，同时也是研究的重心。

李代数由一个集合 $V$ , 一个数域 $F$ 和一个二元运算 $[\cdot]$ 组成。如果它们满足以下几条性质，则称 $(V, F, [\cdot])$ 为一个李代数，记作 $g$ ，其中二元运算 $[\cdot]$ 成为离括号，表达了两个元素的差异。

封闭性： $\forall X, Y \in V, [X, Y] \in V$
双线性： $\forall X, Y, Z \in V, a, b \in F$ , 有 $[a X + b Y, Z] = a [X, Z] + [Y, Z], [Z, a X + b Y] = a [Z, X] + b [Z, Y]$
自反性： $\forall X \in V, [X, X] = 0$
雅可比等价： $\forall X, Y, Z \in V, [X, [Y, Z]] + [Z, [X, Y]] + [Y, [Z, X]] = 0$

举例三位向量 $R^{3}$ 上定义的叉乘就是一个离括号，其中 $g = (R^{3}, R, \times)$ 就构成了李代数。

李代数 $s o (3)$

之前提到的 $S O (3)$ 对应的向量 $ϕ$ 就是一种李代数，他定义在 $R^{3}$ 的向量上。它的反对称矩阵记作： $Φ = ϕ^{\land}$ ，那么SO(3)中的向量对应的李括号为：

[ϕ_{1}, ϕ_{2}] = (Φ_{1} Φ_{2} - Φ_{2} Φ_{1})^{\lor}

经过验证可以得到上边的式子等价于两向量作外积。

[ϕ_{1}, ϕ_{2}] = ϕ_{1} \times ϕ_{2}

李代数 $s e (3)$

与 $s o (3)$ 不同的是， $s e (3)$ 定义在 $R^{6}$ 空间中。

s e (3) = {\begin{matrix} ξ = [\begin{matrix} ρ ϕ \end{matrix}] \in R^{6}, ρ \in R^{3}, ϕ \in s o (3), ξ^{\land} = [\begin{matrix} ϕ^{\land} & ρ 0^{T} & 0 \end{matrix}] \in R^{4 \times 4} \end{matrix}}

其中 $s e (3)$ 每个元素都称为 $ξ$ ，它是一个六维向量：前三维为平移，记作 $ρ$ ，后三位即为三维旋转向量 $ϕ$ ，实质上就是 $s o (3)$ 中的元素。另外在 $s e (3)$ 中， $\land$ 符号的含义被拓展了：这里它将一个六维向量转换为四维矩阵，但这里不再表示反对称矩阵，其实这里 $ξ$ 即为变换矩阵的转置。同样，李代数 $s e (3)$ 的李括号被定义为：

[ξ_{1}, ξ_{2}] = (ξ_{1}^{\land} ξ_{2}^{\land} - ξ_{2}^{\land} ξ_{1}^{\land})^{\lor}

上式经验证后发现，李括号将两个变换矩阵变成了了一个无旋的变换矩阵：

[ξ_{1}, ξ_{2}] = {\begin{matrix} Φ_{1}^{\land} ρ_{2} - Φ_{2}^{\land} ρ_{1} 0_{3 \times 3} \end{matrix}}

即旋转部分被抹去，只剩下平移部分，而平移部分是由原来两个元素中的旋转和平移部分组合得到的。

指数映射和对数映射

李群到李代数之间是一个指数映射（反之是对数映射），通过借助这个指数映射我们可以将大量在李群上不好解决的问题转嫁到李代数上解决，之后再映射回去间接得到李群上的答案。

$S O (3)$ 上的指数映射

我们利用关系李群和李代数之间的关系：

\cdot R (t) = ϕ^{\land} (t) R (t)

可知求出起初指数映射，就能得到李群上的导数。求指数映射我们需要用到泰勒展开式。任意矩阵的指数映射都可以写成一个泰勒展开式，这个展开式只有在收敛的情况下才有解，结果仍然是一个矩阵。所以对于 $s o (3)$ 中的元素 $ϕ$ ，其指数映射可以写成

e x p (ϕ^{\land}) = \infty \sum n = 0 \frac{1}{n!} (ϕ^{\land})^{n}

我们定义 $ϕ = θ a$ ，其中 $θ$ 和 $a$ 分别是 $ϕ$ 的模长和单位向量。我们可以验证：

a^{\land} a^{\land} = a a^{T} - I a^{\land} a^{\land} a^{\land} = - a^{\land}

以上两个式子提供了我们对泰勒展开式中高次项化简的方法。那么我们对上边泰勒展开式化简可以得到：

exp ϕ^{\land} = exp (θ a) = \infty \sum n = 0 \frac{1}{n!} (θ a^{\land})^{n} = cos θ I + (1 - cos θ) a a^{T} + sin θ a^{T}

这和之前的罗德里格斯公式有着相同的形式，标明 $s o (3)$ 实际上就是由旋转向量组成的空间，而指数映射其实就是罗德里格斯公式。那么与之对应的对数映射，给定旋转矩阵，我们就可以求李代数，将 $S O (3)$ 映射到 $s o (3)$ 上：

ϕ = ln (R)^{\lor} = (\infty \sum n = 0 \frac{(- 1)^{n}}{n + 1} (R - I)^{n + 1})^{\lor}

但是实际上没必要这样求，因为旋转向量已经介绍了矩阵到向量的转换关系：

θ = arccos \frac{t r (R) - 1}{2} R n = n

这里需要注意的是，指数映射是一个满射，即每个 $S O (3)$ 中的元素都可以找到一个 $s o (3)$ 里的元素与之对应；但是泛指不成立，因为多旋转一圈的旋转向量对应的李代数是相同的。但是如果把旋转角固定在 $[0, 2 π]$ 之间，那么李群和李代数的元素就是一一对应的。

$S E (3)$ 上的指数映射

下面是推导结果：

exp (ξ^{\land}) = ⎡ ⎢ ⎣ \begin{matrix} \infty \sum n = 0 \frac{1}{n!} (ϕ^{\land})^{n} & \infty \sum n = 0 \frac{1}{(n + 1)!} (ϕ^{\land})^{n} ρ 0^{T} & 1 \end{matrix} ⎤ ⎥ ⎦ = [\begin{matrix} R & J ρ 0^{T} & 1 \end{matrix}] = T

其中 $e x p (ξ^{\land})$ 的左上角是SO(3)的元素，即旋转部分。矩阵 $J$ 则为：

J = \frac{sin θ}{θ} I + (1 - \frac{sin θ}{θ}) a a^{T} + \frac{1 - cos θ}{θ} a^{\land}

这个公式与落地里格斯公式类似， $ξ$ 中的平一部分经过 $ρ$ 指数变换后，发生了一次以 $J$ 为系数的线性变换。

相反的， $S E (3)$ 到 $s e (3)$ 也有相应的对数映射，但是我们一般不用，我们一般利用左上角的旋转矩阵计算出旋转向量，再用右上角的平移向量得到 $ρ$ 。

李代数求导与扰动模型

李代数与李群的计算对应关系

我们由于李群没有加法讨论出来了李代数，我们想要利用李代数的加法定义李群的导数，再利用指数映射和对数映射完成变换关系。但是还有一个基本问题，就是在李代数上做加法，是否就等价于在李群上做乘法呢？

e x p (ϕ_{1}^{\land}) e x p (ϕ_{2}^{\land}) = e x p ({(ϕ_{1} + ϕ_{2})}^{\land})

上式在标量的情况下显然是成立的，但是现在指数上式矩阵，结果很遗憾是不成立的。我们由BCH(Baker-Campbell-Hausdorff)公式给出：

ln (exp (A) exp (B)) = A + B + \frac{1}{12} [A, B] + \frac{1}{12} [A, [A, B]] - \frac{1}{12} [B, [A, B]] + \dots

其中 $[\cdot]$ 为李括号，可以看到，两个矩阵指数的乘积结果的指数项，是两个矩阵之和再加上一些由李括号组成的余项。

我们在求导数的时候，其中一项肯定是小量，可以看成相机连续两帧之间的位姿变化，利用这个小量，我们就可以对上边的式子进行优化：

ln (exp (ϕ_{1}^{\land}) exp (ϕ_{2}^{\land}))^{\lor} \approx {\begin{matrix} J_{l} (ϕ_{2})^{- 1} ϕ_{1} + ϕ 2, 当 ϕ_{1} 为 小 量 J_{r} (ϕ_{1})^{- 1} ϕ_{2} + ϕ_{1}, 当 ϕ_{2} 为 小 量 \end{matrix}

上边的优化结果分别对应着 $ϕ_{1}$ 和 $ϕ_{2}$ 为小量时的近似状态，我们分别称为左乘模型和右乘模型。之所以要区分做成还是右乘模型，是因为其中的 $J_{l}$ 和 $J_{r}$ 是不一样的。对于左乘BCH近似模型，雅可比矩阵 $J_{l}$ 就是：

J_{l} = J = \frac{sin θ}{θ} I + (1 - \frac{sin θ}{θ}) a a^{T} + \frac{1 - cos θ}{θ} a^{\land}

它的逆为：

J_{l}^{- 1} = \frac{θ}{2} cot \frac{θ}{2} I + (1 - \frac{θ}{2} cot \frac{θ}{2}) a a^{T} - \frac{θ}{2} a^{\land}

而对于右乘模型，右乘雅可比矩阵就是将左乘雅可比矩阵的自变量取负号。

J_{r} (ϕ) = J_{l} (ϕ)

现在来小结一下，假如有一个旋转矩阵 $R$ ，对应的李代数为 $ϕ$ ，现在对它有一个微小的扰动，记作 $Δ R$ ，对应的李代数为 $Δ ϕ$ 。那么在李群上，新的旋转矩阵即为 $δ R \cdot R$ ，而在李代数上，新的李代数为 $J_{l}^{- 1} Δ ϕ + ϕ$ ，即：

exp (ϕ^{\land}) exp (Δ ϕ^{\land}) = exp ((ϕ + J_{l} (ϕ)^{- 1} Δ ϕ)^{\land})

反之，如果我们在李代数上做加法，那么可以近似为李群上带左/右雅可比矩阵的乘法：

e x p ((ϕ + Δ ϕ)^{\land}) = e x p ((J_{l} Δ ϕ)^{\land}) e x p (ϕ^{\land}) = e x p (ϕ^{\land}) e x p ((J_{r} Δ ϕ)^{\land})

至此，我们可以讨论一下怎么求没有良好定义加法的李群上的导数：

利用李代数表示位子，然后根据李代数的加法对李代数进行求导。（导数模型）
对李群来左乘或右乘微小扰动，并对这个扰动的李代数求导。（扰动模型）

求导模型

假设空间点 $p$ 进行了一次旋转 $R$ ，得到了新的点 $R p$ ，要计算旋转后的点相对于旋转的导数，可以不严谨得写为：

\frac{\partial (R p)}{\partial R}

设 $R$ 对应的李代数为 $ϕ$ ，就可以写成：

\frac{\partial (R p)}{\partial R} = \frac{\partial (exp (ϕ^{\land}) p)}{\partial ϕ}

按照导数的定义并利用一阶泰勒展开以及BCH公式，就可以得到：

\frac{\partial (exp (ϕ^{\land}) p)}{\partial ϕ} = lim δ ϕ \to 0 \frac{exp ((ϕ + δ ϕ)^{\land}) p - exp (ϕ^{\land}) p}{δ ϕ} = - (R p)^{\land} J_{l}

这个公式时直接对旋转矩阵 $R$ 进行求导，最后结果含有左雅可比矩阵 $J_{l}$ 。当然，我们自然希望避免计算雅可比矩阵，所以我们一般选用下边的扰动模型。

扰动模型

假设某空间点 $p$ 经过了一次变换 $T$ ，对应的李代数为 $ξ$ ，得到 $T p$ 。给 $T$ 左乘一个微小扰动 $Δ T$ ，扰动项的李代数为 $δ ξ = [δ ρ, δ ϕ]^{T}$ 。则有：

\frac{\partial (T p)}{\partial δ ξ} = lim δ ξ \to 0 \frac{exp (δ ξ^{\land}) exp (ξ^{\land}) p - exp (ξ^{\land}) p}{δ ξ} = [\begin{matrix} I_{3 \times 3} & - (R p + t)_{3 \times 3}^{\land} 0_{1 \times 3}^{T} & 0_{1 \times 3}^{T} \end{matrix}] = (T p)^{⨀}

最后结果被定义为了运算符号 $⨀$ ，把一个齐次坐标下的空间点变换成一个4*6 的矩阵。

分类算法与数学基础下的文章

李群和李代数

李群和李代数

问题的引入

预备知识