京都大学 情報学研究科 数理工学専攻 2021年8月実施 線形計画
Author
Casablanca, 祭音Myyura
Description
日本語版
A \boldsymbol{A} A と B \boldsymbol{B} B を m × n m \times n m × n 行列とする。さらに A \boldsymbol{A} A の第 ( i , j ) (i,j) ( i , j ) 成分を A i , j = − i − j ( i = 1 , … , m , j = 1 , … , n ) A_{i,j} = -i-j(i = 1,\dots,m,j = 1,\dots,n) A i , j = − i − j ( i = 1 , … , m , j = 1 , … , n ) とする。
以下のパラメータ u ∈ R m \boldsymbol{u} \in \mathbb{R}^m u ∈ R m をもつ線形計画問題 P ( u ) P(\boldsymbol{u}) P ( u ) とパラメータ v ∈ R n \boldsymbol{v} \in \mathbb{R}^n v ∈ R n をもつ線形計画問題 Q ( v ) Q(\boldsymbol{v}) Q ( v ) を考える。
P ( u ) : Minimize u ⊤ A x subject to ∑ i = 1 n x i ≦ 1 x ≧ 0 Q ( v ) : Minimize v ⊤ B ⊤ y subject to ∑ i = 1 m y i ≦ 1 y ≧ 0 \begin{aligned}
P(\boldsymbol{u}): &\text{Minimize} \quad \boldsymbol{u^{\top}Ax} \\
&\text{subject to} \quad \sum_{i=1}^{n}x_i \leqq 1 \\
&\qquad \qquad \quad \boldsymbol{x} \geqq \boldsymbol{0} \\
Q(\boldsymbol{v}): &\text{Minimize} \quad \boldsymbol{v^{\top}B^{\top}y} \\
&\text{subject to} \quad \sum_{i=1}^{m}y_i \leqq 1 \\
&\qquad \qquad \quad \boldsymbol{y} \geqq \boldsymbol{0} \\
\end{aligned} P ( u ) : Q ( v ) : Minimize u ⊤ Ax subject to i = 1 ∑ n x i ≦ 1 x ≧ 0 Minimize v ⊤ B ⊤ y subject to i = 1 ∑ m y i ≦ 1 y ≧ 0
ただし, P ( u ) P(\boldsymbol{u}) P ( u ) の決定変数は x = ( x 1 , x 2 , … , x n ) ⊤ ∈ R n \boldsymbol{x} = (x_1,x_2,\dots,x_n)^{\top} \in \mathbb{R}^n x = ( x 1 , x 2 , … , x n ) ⊤ ∈ R n であり, Q ( v ) Q(\boldsymbol{v}) Q ( v ) の決定変数は y = ( y 1 , y 2 , … , y m ) ⊤ ∈ R m \boldsymbol{y} = (y_1,y_2,\dots,y_m)^{\top} \in \mathbb{R}^m y = ( y 1 , y 2 , … , y m ) ⊤ ∈ R m である。また, ⊤ \top ⊤ は転置記号を表す。
問題 P ( u ) P(\boldsymbol{u}) P ( u ) のすべての最適解の集合を S P ( u ) S_P(\boldsymbol{u}) S P ( u ) とし, 問題 Q ( v ) Q(\boldsymbol{v}) Q ( v ) のすべての最適解の集合を S Q ( v ) S_Q(\boldsymbol{v}) S Q ( v ) とする。さらに, X = { ( x ∗ , y ∗ ) ∈ R n × R m ∣ x ∗ ∈ S P ( y ∗ ) , y ∗ ∈ S Q ( x ∗ ) } X = \{(\boldsymbol{x^*,y^*}) \in \mathbb{R}^n \times \mathbb{R}^m |\boldsymbol{x^*} \in S_P(\boldsymbol{y^*}),\boldsymbol{y^*} \in S_Q(\boldsymbol{x^*})\} X = {( x ∗ , y ∗ ) ∈ R n × R m ∣ x ∗ ∈ S P ( y ∗ ) , y ∗ ∈ S Q ( x ∗ )} とする。
以下の問いに答えよ。
(i) 問題 P ( u ) P(\boldsymbol{u}) P ( u ) の双対問題を書け。
(ii) u = ( u 1 , u 2 , … , u m ) ⊤ \boldsymbol{u} = (u_1,u_2,\dots,u_m)^{\top} u = ( u 1 , u 2 , … , u m ) ⊤ を u i ≦ 0 ( i = 1 , … , m ) u_i \leqq 0 (i = 1,\dots,m) u i ≦ 0 ( i = 1 , … , m ) であるベクトルとする。このとき, 0 ∈ S P ( u ) \boldsymbol{0} \in S_P(\boldsymbol{u}) 0 ∈ S P ( u ) であることを示せ。
(iii) B = − A \boldsymbol{B} = -\boldsymbol{A} B = − A とする。このとき, すべての ( x ∗ , y ∗ ) ∈ X (\boldsymbol{x^*,y^*}) \in X ( x ∗ , y ∗ ) ∈ X に対して ( y ∗ ) ⊤ A x ∗ = 0 (\boldsymbol{y^*})^{\top}\boldsymbol{Ax^*} = 0 ( y ∗ ) ⊤ A x ∗ = 0 となることを示せ。
(iv) u ∈ R m \boldsymbol{u} \in \mathbb{R}^m u ∈ R m を u ≧ 0 \boldsymbol{u} \geqq 0 u ≧ 0 かつ u ≠ 0 \boldsymbol{u \neq 0} u = 0 であるベクトルとする。このとき, S P ( u ) S_P(\boldsymbol{u}) S P ( u ) を求めよ。
(v) B = A \boldsymbol{B = A} B = A とする。このとき, X X X を求めよ。
English Version
题目描述
设 A \boldsymbol{A} A 、B \boldsymbol{B} B 均为 m × n m\times n m × n 矩阵,并规定
A i j = − i − j ( i = 1 , … , m , j = 1 , … , n ) . A_{ij}=-i-j
\qquad
(i=1,\ldots,m,\ j=1,\ldots,n). A ij = − i − j ( i = 1 , … , m , j = 1 , … , n ) .
考虑分别带参数 u ∈ R m \boldsymbol{u}\in\mathbb{R}^m u ∈ R m 和
v ∈ R n \boldsymbol{v}\in\mathbb{R}^n v ∈ R n 的线性规划
P ( u ) : 最小化 u ⊤ A x 满足 ∑ i = 1 n x i ≦ 1 , x ≧ 0 , Q ( v ) : 最小化 v ⊤ B ⊤ y 满足 ∑ i = 1 m y i ≦ 1 , y ≧ 0 . \begin{aligned}
P(\boldsymbol{u}):\quad
&\text{最小化}\quad
\boldsymbol{u}^\top\boldsymbol{A}\boldsymbol{x}\\
&\text{满足}\quad
\sum_{i=1}^n x_i\leqq1,\qquad
\boldsymbol{x}\geqq\boldsymbol{0},\\[2mm]
Q(\boldsymbol{v}):\quad
&\text{最小化}\quad
\boldsymbol{v}^\top\boldsymbol{B}^\top\boldsymbol{y}\\
&\text{满足}\quad
\sum_{i=1}^m y_i\leqq1,\qquad
\boldsymbol{y}\geqq\boldsymbol{0}.
\end{aligned} P ( u ) : Q ( v ) : 最小化 u ⊤ A x 满足 i = 1 ∑ n x i ≦ 1 , x ≧ 0 , 最小化 v ⊤ B ⊤ y 满足 i = 1 ∑ m y i ≦ 1 , y ≧ 0 .
其中 P ( u ) P(\boldsymbol{u}) P ( u ) 的决策变量为
x = ( x 1 , … , x n ) ⊤ ∈ R n \boldsymbol{x}=(x_1,\ldots,x_n)^\top\in\mathbb{R}^n x = ( x 1 , … , x n ) ⊤ ∈ R n ,
Q ( v ) Q(\boldsymbol{v}) Q ( v ) 的决策变量为
y = ( y 1 , … , y m ) ⊤ ∈ R m \boldsymbol{y}=(y_1,\ldots,y_m)^\top\in\mathbb{R}^m y = ( y 1 , … , y m ) ⊤ ∈ R m ,且
⊤ \top ⊤ 表示转置。
记 S P ( u ) S_P(\boldsymbol{u}) S P ( u ) 和 S Q ( v ) S_Q(\boldsymbol{v}) S Q ( v ) 分别为
P ( u ) P(\boldsymbol{u}) P ( u ) 与 Q ( v ) Q(\boldsymbol{v}) Q ( v ) 的全部最优解集合,并定义
X = { ( x ∗ , y ∗ ) ∈ R n × R m | x ∗ ∈ S P ( y ∗ ) , y ∗ ∈ S Q ( x ∗ ) } . X=
\left\{
(\boldsymbol{x}^*,\boldsymbol{y}^*)\in
\mathbb{R}^n\times\mathbb{R}^m
\ \middle|\
\boldsymbol{x}^*\in S_P(\boldsymbol{y}^*),\
\boldsymbol{y}^*\in S_Q(\boldsymbol{x}^*)
\right\}. X = { ( x ∗ , y ∗ ) ∈ R n × R m ∣ x ∗ ∈ S P ( y ∗ ) , y ∗ ∈ S Q ( x ∗ ) } .
回答下列问题:
写出 P ( u ) P(\boldsymbol{u}) P ( u ) 的对偶问题。
若 u = ( u 1 , … , u m ) ⊤ \boldsymbol{u}=(u_1,\ldots,u_m)^\top u = ( u 1 , … , u m ) ⊤ 满足
u i ≦ 0 u_i\leqq0 u i ≦ 0 (i = 1 , … , m i=1,\ldots,m i = 1 , … , m ),证明
0 ∈ S P ( u ) \boldsymbol{0}\in S_P(\boldsymbol{u}) 0 ∈ S P ( u ) 。
令 B = − A \boldsymbol{B}=-\boldsymbol{A} B = − A 。证明对任意
( x ∗ , y ∗ ) ∈ X (\boldsymbol{x}^*,\boldsymbol{y}^*)\in X ( x ∗ , y ∗ ) ∈ X ,都有
( y ∗ ) ⊤ A x ∗ = 0. (\boldsymbol{y}^*)^\top\boldsymbol{A}\boldsymbol{x}^*=0. ( y ∗ ) ⊤ A x ∗ = 0.
若 u ≧ 0 \boldsymbol{u}\geqq\boldsymbol{0} u ≧ 0 且
u ≠ 0 \boldsymbol{u}\ne\boldsymbol{0} u = 0 ,求集合 S P ( u ) S_P(\boldsymbol{u}) S P ( u ) 。
令 B = A \boldsymbol{B}=\boldsymbol{A} B = A ,求集合 X X X 。
Kai
(i)
Lagrangian:
L ( x , λ , ν ) = u ⊤ A x + λ ( 1 ⊤ x − 1 ) − ν ⊤ x L(x, \lambda, \nu) = u^\top Ax + \lambda(\boldsymbol{1}^\top x - 1) - \nu^\top x L ( x , λ , ν ) = u ⊤ A x + λ ( 1 ⊤ x − 1 ) − ν ⊤ x
Lagrange dual function:
g ( λ , ν ) = inf x { L ( x , λ , ν ) } = − λ g(\lambda, \nu) = \inf_{x} \{ L(x,\lambda, \nu) \} = -\lambda g ( λ , ν ) = x inf { L ( x , λ , ν )} = − λ
Dual proble ( D ) (D) ( D ) :
( D ) : Maximize − λ subject to A ⊤ u + λ 1 ⪰ 0 λ ≧ 0 \begin{aligned}
(D): &\text{Maximize} \quad -\lambda \\
&\text{subject to} \quad A^\top u + \lambda \boldsymbol{1} \succeq \boldsymbol{0} \\
&\qquad \qquad \quad \lambda \geqq 0
\end{aligned} ( D ) : Maximize − λ subject to A ⊤ u + λ 1 ⪰ 0 λ ≧ 0
(ii)
Since u i ≤ 0 u_i\leq0 u i ≤ 0 and A i j < 0 A_{ij}<0 A ij < 0 , every component of A ⊤ u A^\top u A ⊤ u is nonnegative. Thus for every feasible x x x ,
u ⊤ A x = ( A ⊤ u ) ⊤ x ≥ 0. u^\top Ax=(A^\top u)^\top x\geq0. u ⊤ A x = ( A ⊤ u ) ⊤ x ≥ 0.
The feasible point x = 0 x=0 x = 0 attains 0 0 0 , so 0 ∈ S P ( u ) 0\in S_P(u) 0 ∈ S P ( u ) .
(iii)
Since B = − A B=-A B = − A and x ∗ ⪰ 0 x^*\succeq0 x ∗ ⪰ 0 , the coefficient vector of Q is
B x ∗ = − A x ∗ ⪰ 0 Bx^*=-Ax^*\succeq0 B x ∗ = − A x ∗ ⪰ 0 . Hence 0 ∈ S Q ( x ∗ ) 0\in S_Q(x^*) 0 ∈ S Q ( x ∗ ) .
If x ∗ = 0 x^* = 0 x ∗ = 0 , then ( y ∗ ) ⊤ A x ∗ = 0 (y^*)^\top Ax^* = 0 ( y ∗ ) ⊤ A x ∗ = 0 .
If x ∗ ≠ 0 x^* \neq 0 x ∗ = 0 , then every component of − A x ∗ -Ax^* − A x ∗ is strictly positive. Thus y ∗ = 0 y^*=0 y ∗ = 0 ; otherwise y ∗ ⊤ ( − A x ∗ ) > 0 y^{*\top}(-Ax^*)>0 y ∗ ⊤ ( − A x ∗ ) > 0 , contradicting the optimality of y ∗ y^* y ∗ because y = 0 y=0 y = 0 has value 0 0 0 .
Thus ( y ∗ ) ⊤ A x ∗ = 0 (y^*)^\top A x^* = 0 ( y ∗ ) ⊤ A x ∗ = 0 always holds.
(iv)
Let c = u ⊤ A \boldsymbol{c} = u^\top A c = u ⊤ A . Then we have
0 > c 1 > c 2 > … > c n 0 > c_1 > c_2 > \ldots > c_n 0 > c 1 > c 2 > … > c n
The KKT_conditions:
{ c + λ 1 − ν = 0 λ ⪰ 0 , ν ⪰ 0 − ν ⊤ x ∗ = 0 , λ ( 1 ⊤ x ∗ − 1 ) = 0 \text{ } \left\{
\begin{aligned}
c + \lambda \boldsymbol{1} - \nu & = 0 \\
\lambda \succeq \boldsymbol{0}, \nu & \succeq \boldsymbol{0} \\
-\nu^\top x^* = 0,\lambda (\boldsymbol{1}^\top x^* - 1) &= 0
\end{aligned}
\right. ⎩ ⎨ ⎧ c + λ 1 − ν λ ⪰ 0 , ν − ν ⊤ x ∗ = 0 , λ ( 1 ⊤ x ∗ − 1 ) = 0 ⪰ 0 = 0
And λ = − c n , ν = c − c n 1 , x ∗ = [ 0 , 0 , … , 1 ] ⊤ \lambda = -c_n , \nu = \boldsymbol{c} - c_n \boldsymbol{1}, x^* = [0,0,\ldots, 1]^\top λ = − c n , ν = c − c n 1 , x ∗ = [ 0 , 0 , … , 1 ] ⊤ satisfies the KKT-conditions,
thus [ 0 , 0 , … , 1 ] ⊤ ∈ S P ( u ) [0,0,\ldots, 1]^\top \in S_P(u) [ 0 , 0 , … , 1 ] ⊤ ∈ S P ( u ) ,
and
∀ x ~ ≠ [ 0 , 0 , … , 1 ] ⊤ , c x ~ > c n = c x ∗ \forall \widetilde{x} \neq [0,0,\ldots, 1]^\top, \boldsymbol{c} \widetilde{x} > c_n = \boldsymbol{c}x^* ∀ x = [ 0 , 0 , … , 1 ] ⊤ , c x > c n = c x ∗
hence S P ( u ) = { [ 0 , 0 , … , 1 ] ⊤ } S_P(u) = \{ [0,0,\ldots, 1]^\top \} S P ( u ) = {[ 0 , 0 , … , 1 ] ⊤ } .
(v)
Consider P ( y ∗ ) P(y^*) P ( y ∗ ) and Q ( x ∗ ) Q(x^*) Q ( x ∗ ) .
Let
Δ n = { x ∈ R n : x ⪰ 0 , 1 ⊤ x ≤ 1 } , Δ m = { y ∈ R m : y ⪰ 0 , 1 ⊤ y ≤ 1 } . \Delta_n=\{x\in\mathbb R^n:x\succeq0,\ \boldsymbol1^\top x\leq1\},
\qquad
\Delta_m=\{y\in\mathbb R^m:y\succeq0,\ \boldsymbol1^\top y\leq1\}. Δ n = { x ∈ R n : x ⪰ 0 , 1 ⊤ x ≤ 1 } , Δ m = { y ∈ R m : y ⪰ 0 , 1 ⊤ y ≤ 1 } .
If y ∗ = 0 y^*=0 y ∗ = 0 , then S P ( y ∗ ) = Δ n S_P(y^*)=\Delta_n S P ( y ∗ ) = Δ n . If also x ∗ ≠ 0 x^*\ne0 x ∗ = 0 , the coefficients A x ∗ Ax^* A x ∗ of Q are strictly negative and strictly decrease with the row index, so S Q ( x ∗ ) = { e m } S_Q(x^*)=\{e_m\} S Q ( x ∗ ) = { e m } ; hence y ∗ = 0 y^*=0 y ∗ = 0 is impossible. Therefore this case gives only ( x ∗ , y ∗ ) = ( 0 , 0 ) (x^*,y^*)=(0,0) ( x ∗ , y ∗ ) = ( 0 , 0 ) .
If y ∗ ≠ 0 y^*\ne0 y ∗ = 0 , part (iv) gives x ∗ = e n x^*=e_n x ∗ = e n . Since x ∗ ≠ 0 x^*\ne0 x ∗ = 0 , the same argument for Q gives y ∗ = e m y^*=e_m y ∗ = e m . Conversely, both pairs satisfy the defining optimality conditions. Therefore,
X = { ( 0 , 0 ) , ( e n , e m ) } . X=\{(0,0),(e_n,e_m)\}. X = {( 0 , 0 ) , ( e n , e m )} .