logo资料库

凸优化笔记复习期末考试精简.pdf

第1页 / 共78页
第2页 / 共78页
第3页 / 共78页
第4页 / 共78页
第5页 / 共78页
第6页 / 共78页
第7页 / 共78页
第8页 / 共78页
资料共78页,剩余部分请下载后查看
优化算法
Chapter 2 Convex Set x 对于 1 x 2 nR 连接两点的直线可表示为 x | x x 1 (1 x ) , 2 R [0,1] x 1 (1 x ) , 2 C ,则连接两点的直线也在C 内 2 x | x x x 连接两点的线段可表示为 仿射集(Affine Set) 定义:C 是仿射集↔ 1 , 例:线性方程组的解集是仿射集 C 证:线性方程组的解集可表示为 一条直线是仿射集,一条线段则不是 平面是仿射集,一块矩形区域则不是 { x | Ax = b A , R m n , b R n } x x , 设 1 2 C ,则 1Ax = b , 1Ax = b A x 1 (1 ) x 2 Ax + 1 (1 ) Ax 2 b (1 ) b b ,得证 仿射组合(Affine Combination) , , , k x , 1 2 k 1 2 kx x 设 k 个点 1 , , , 2 R 1 x 则称 1 1 2 x 2 k x 为 1 k kx x , , , 2 x 的仿射组合 仿射包(Affine Hull) 任意集合 nRC ,C 中任意元素的仿射组合构成的集合称仿射包 C aff x 1 1 2 x 2 k x k 2 x x x C , , , k 1 R , , , k 2 1 1 k 1 2 如果一个集合的仿射包就是它自己,那么它就是一个仿射集
C ,则连接两点的线段也在C 内 2 平面是凸集,一块矩形区域也是凸集 x x 凸集(Convex Set) 定义:C 是仿射集↔ 1 , 凸组合(Convex Combination) , [0,1] , k x , 1 2 1 k 1 2 一条直线是凸集,一条线段也是凸集 kx x 设 k 个点 1 , , , , 2 x 则称 1 1 2 x 2 k x 为 1 k kx x , , , x 的凸组合 2 凸包(Convex Hull) 任意集合 nRC ,C 中任意元素的凸组合构成的集合称凸包 C conv x 1 1 2 x 2 k x k , C x x x , , k 1 2 [0,1] , , , k 1 2 1 k 1 2 一个凸集,它的凸包就是它本身 凸集 非凸集 非凸集 凸集的凸包(本身) 非凸集的凸包
2 x x 凸锥(Convex Cone) 定义:C 是仿射集↔ 1 , 凸锥组合(Convex Cone Combination) 设 k 个点 1 0 kx x 过原点的射线是凸锥 x , 1 , , , , , , 2 2 k C ,对 1 2 , x ,有 1 1 2 0 x 2 C 过原点的两条射线之间的区域是凸锥 x 则称 1 1 2 x 2 k x 为 1 k kx x , , , 2 x 的凸锥组合 凸锥包(Convex Cone Hull) 任意集合 nRC ,C 中任意元素的凸锥组合构成的集合称凸锥包 C 0 , x x x k 1 , k 1 , , , , 2 k 2 2 x x k x 1 1 2 一个凸锥集,它的凸锥包就是它本身
凸集 √ √ √ √ √ √ √ √ √ √ √ √ √ √ √ 仿射集 √ √ x ) (1 √ √ √ × × √ × √ × × 凸锥 x x √ √ × × × × × √ √ × ( a a , 1 2 ) x 1 x 2 b P正定 , n n R R , , b R } b R } , x c R ,n r R 1 P x x ( ) r , x c c n R r R , (很多超平面和半空间的交集) n n | A = A T 集合名称 1. 空集 2. 1 个点 3. nR 空间 4. nR 空间的子空间:{ x | Ax = }0 5. 任一直线 6. 任一线段 7. 任一射线: x 0 v | 0 8. 超平面:{ x | a x = T b , x n R b R } , c c T T , , { { b b 9. 半空间: x | a x x | a x x x 10. 欧几里得空间中的球: B x r ( x x x r , ) || || 2 c 11. 欧几里得空间中的椭球: E x ( x x x ) T P r ) ( , , c x P 12. 多面体(Polyhedron): m , 1, j n 1, , b a x T i i c x = d T j 13. 对称矩阵: i , , A S n j R n 14. 对称半正定矩阵: S A R n n | A = A A , T 15. 对称正定矩阵: S n A R n n | A = A A , T 0 0 10)证明:设 1 x x , 2 B ,则 || || x 1 x 2 x c x c || 2 || 2 r r x x ) (1 || || 1 2 2 x x (1 ) || c 1 x x (1 || || c 2 1 r r r ) (1 x (1 ) c x x || 2 2 x x ) || c 2 c x c || 2 || 2 || x 1 (1 ) x x c 2
13)对称阵是仿射集,因而是凸集 证明:设 1 A A S ,则 1 n T A , 2 A , 2 1 T A A 2 对 R , A 1 (1 ) A 2 T A 1 (1 ) A ,得证 2 14)对称半正定阵是凸锥,因而是凸集 A , 2 1 A A S ,则 1 证明:设 1 n T A , 2 T A A ,且对x ,有 2 x A x , T 0 1 x A x T 2 0 对称已证明,现证明半正定,对x 和 1 14)对称正定阵是凸集 2 , , 0 T x ( 1 2 A 1 A x = x A x 2 1 1 ) T 2 x A x ,得证 T 0 2 证明:设 1 A A S ,则 1 n T A , 2 A , 2 1 T A A ,且对 2 x ,有 0 Tx A x > , 0 1 Tx A x > 0 2 , x T A 1 (1 ) A x = x A x 2 1 T (1 ) x A x > ,得证 T 0 2 对称已证明,现证明正定,对 x 和 0 [0,1]
保持凸集凸性的操作 交集(Intersection) 若 1S , 2S 为凸集,则 1 2S S 为凸集。 若 S 为凸集,对 A ,则 S 为凸集。 A 注:并集不能保持凸集的凸性 仿射函数(Affine Function) 定义:对 dom nRx f x , ( ) Ax + b A , R ,m n b R m f ,在称 : n mR R 是仿射的 定理:若 f nS R 是凸的, : n mR R 是仿射的,则 S 在 f 下的映射 ( f S ) { ( ) | f x x S 是凸的 } 同样,若 g nS R 是凸的, : n mR R 是仿射的,则 S 在 g 下的反映射 1( g S ) { | x g x ( ) S 是凸的 } S 仿射变换 f S ( ) 例:缩放 S { x x S 和位移 } | S a { x + a x S 是保持凸性的 } | S 例:两个凸集的和 1 S 2 { x + y x S y S 是保持凸性的 } , | 1 2 解释如下,集合 1S 与集合 2S 的笛卡尔乘积 1 S S 2 {( , x y ) | x S y S , 1 } 2 是保持凸性的 集合 1 2S S 在仿射变换 ( , f x y ) 下 x y f S ( 1 S 2 ) S 1 S 依然是保持凸性的 2 例:线性矩阵不等式(LMI: Linear Matrix Inequality): A x ( ) x 1 A 1 x n A n , , B A S (对称阵) B n i 类比一般的线性不等式(Linear Inequality): a x T x a 1 1 x a n n b ib x , , R ) 求证:线性矩阵不等式 ( )A X B 的解集{ 证明: ( f X ) B A X ( ) S n 是凸集 X A X ( | ) B 是凸集 } f 1( X ) { X B A X ( | ) S 也是凸集 }n 例:椭球是球的仿射映射,因此是凸的 球 而 x u ( ) || x x ( u u R || 2 R 1, 1, u=P u u u || || 1 2 n n 2 ) 是凸的,它在仿射变换 c x u P ( ) || x u ( ) 1 2 P u+ x 下 c x u ( ) || u || 2 1, u R n 也是凸的 1 2 ( x x c ) || 2 1, u R n x u P ( ) || 1 2 ( x x c ) || 2 2 1, u R n 2 a|| || T a a x u x x ( ) ( ) T c 1 P x x ( ) 1, u R n c 就是椭圆
透视函数(Perspective Function) 定义: P RP = , dom Rn R : n 1 n R z t P z t ( , ) , z n R t , R ( R t { R | t ) 0} 定理: 若 domC P 是凸集,则 ( P C ) { ( ) | P x x C 也是凸集 } 例:考虑 1nR 内的一个线段 设 x y x ( , y ( , x n y n 1 1 ), ), x n y 1 n 1 0 0 ,则 1nR 内的一个线段可表示为 x (1 y ) , [0,1] 该线段经透视变换后仍为线段 (1 (1 x x n P x (1 ) y 1 ) ) y y n x n 1 (1 ) 1 x y n 1 x n 1 + (1 y ) n 1 ) (1 x n 1 x n y y n 1 y n 1 x n 1 1 x n 1 (1 ) [0,1] y n 1 P x (1 ) P y 线性分数函数(Linear-fractional Function) n mR 1 R g x 满足 ( ) A c T x + b d , A R m n c R n d , b , R m R 设仿射函数 g : 设透视函数 P : m R 1 m R t 满足 ( , ) P z f 定义线性分数函数 : n mR R 满足 f R R t , m , z z t P g ,即 f x ( ) P g x ( ) P Ax + b c x d T Ax + b c x d T dom { | x c x f T 例:两个随机变量的联合概率与条件概率 设两个离散型随机变量(Random Variable) :{1, U n , :{1, , } V 联合概率: ijp P U i V { , ;条件概率: j } q ij P U i V { | d 0} m , } j } P U i V , { P V { j } j } p ij p kj n k 1 设 p p 1 p m p 11 p n 1 p m 1 p nm , q q 1 q m q 11 q n 1 q m 1 q nm I j ( 0 0 , e j (0 0 { }jq 是凸集,{ }q 是凸集 j I n n th block 1 1 j th block, n 1s 0 ) nm n 0) nm 1 ,于是 q j f p ( ) I p j e p j
Chapter 3 Convex Function 凸函数: f 一个函数 : n R R 为凸函数 若 domf 为凸集,且对 , x y domf , [0,1] ,有 f x ( ) ) (1 f y ( ) fy , y ( ) fx , x ( ) x f ( domf 为凸集 x 是为了保证 ) (1 y 在定义域内 f x ( (1 y ) ) f x ( ) (1 ) f y ( ) 即凸组合的函数值≤函数值的凸组合 严格凸函数: f 一个函数 : n R R 为凸函数 (1 y ) ) 若 domf 为凸集,且对 x y domf , (0,1) ,有 f x ( (1 y ) ) f x ( ) (1 ) f y ( ) 凹函数: 若 f 是凸函数,则 f 是凹函数 严格凹函数: 若 f 是严格凸函数,则 f 是严格凹函数 凸函数的另一种定义: f 一个函数 : n R R 为凸函数 若 domf 为凸集,且对 x domf , Rv n ,有 g t ( ) f ( x t v 在 dom { | t ) g x v t f dom } 上是凸的 fx , x ( ) 降 维 tx v ( )g t 扩展的凸函数: R f 设函数 : n R 为凸函数, dom f R ,则定义 n f x ( ) x ( ) f x x f dom f dom 例:已知凸集 nRC 0 no defined f x ( ) 是凸函数 x C x C I x ( ) 0 是凸函数 x C x C JC x ( ) 0 1 不是凸函数 x C x C
分享到:
收藏