跳到主要内容

京都大学 情報学研究科 数理工学専攻 2016年8月実施 オペレーションズ・リサーチ

Author

Casablanca

Description

日本語版

A\boldsymbol{A}n×nn \times n の正定値対称行列とする。 さらに、関数 f:Rn×RnRf: \mathbb{R}^n \times \mathbb{R}^n \rightarrow \mathbb{R} , g:Rn×RnRg: \mathbb{R}^n \times \mathbb{R}^n \rightarrow \mathbb{R} , h:Rn×RnRh: \mathbb{R}^n \times \mathbb{R}^n \rightarrow \mathbb{R} を以下のように定義する。

f(x,z)=xx+zAxg(x,z)=xx+zAx+zzh(x,y)=xx+yy\begin{aligned} f(\boldsymbol{x}, \boldsymbol{z}) &= - \boldsymbol{x}^{\top} \boldsymbol{x} + \boldsymbol{z}^{\top} \boldsymbol{A} \boldsymbol{x} \\ g(\boldsymbol{x}, \boldsymbol{z}) &= \boldsymbol{x}^{\top} \boldsymbol{x} + \boldsymbol{z}^{\top} \boldsymbol{A} \boldsymbol{x} + \boldsymbol{z}^{\top} \boldsymbol{z} \\ h(\boldsymbol{x}, \boldsymbol{y}) &= \boldsymbol{x}^{\top} \boldsymbol{x} + \boldsymbol{y}^{\top} \boldsymbol{y} \end{aligned}

ただし、 \top は転置記号である。

zRn\boldsymbol{z} \in \mathbb{R}^n をパラメータにもつ次の非線形計画問題を考える。

P1(z):Maximizef(x,z)subject toxx1\begin{aligned} \text{P1}(\boldsymbol{z}): &\text{Maximize} &f(\boldsymbol{x}, \boldsymbol{z}) \\ &\text{subject to} &\boldsymbol{x}^{\top} \boldsymbol{x} \leqq 1 \end{aligned}
P2(z):Minimizeg(x,z)subject toxRn\begin{aligned} \text{P2}(\boldsymbol{z}): &\text{Minimize} &g(\boldsymbol{x}, \boldsymbol{z}) \\ &\text{subject to} &\boldsymbol{x} \in \mathbb{R}^n \end{aligned}
P3(z):Minimizeh(x,y)subject tox+y=z\begin{aligned} \text{P3}(\boldsymbol{z}): &\text{Minimize} &h(\boldsymbol{x}, \boldsymbol{y}) \\ &\text{subject to} &\boldsymbol{x} + \boldsymbol{y} = \boldsymbol{z} \end{aligned}

ただし、 P1(z)\text{P1}(\boldsymbol{z})P2(z)\text{P2}(\boldsymbol{z}) の決定変数は xRn\boldsymbol{x} \in \mathbb{R}^n であり、 P3(z)\text{P3}(\boldsymbol{z}) の決定変数は (x,y)Rn×Rn(\boldsymbol{x}, \boldsymbol{y}) \in \mathbb{R}^n \times \mathbb{R}^n である。

任意のパラメータ zRn\boldsymbol{z} \in \mathbb{R}^n に対して P1(z)\text{P1}(\boldsymbol{z}) , P2(z)\text{P2}(\boldsymbol{z}) , P3(z)\text{P3}(\boldsymbol{z}) は唯一の最適解をもつ。 P1(z)\text{P1}(\boldsymbol{z}) , P2(z)\text{P2}(\boldsymbol{z}) , P3(z)\text{P3}(\boldsymbol{z}) の最適解をそれぞれ x1(z)\boldsymbol{x}^1(\boldsymbol{z}) , x2(z)\boldsymbol{x}^2(\boldsymbol{z}) , (x3(z),y3(z))(\boldsymbol{x}^3(\boldsymbol{z}), \boldsymbol{y}^3(\boldsymbol{z})) とする。

以下の問いに答えよ。

(i) zAAz4\boldsymbol{z}^\top \boldsymbol{A}^{\top} \boldsymbol{A} \boldsymbol{z} \leqq 4 とする。 カルーシュ・キューン・タッカー (Karush-Kuhn-Tucker) 条件を用いて P1(z)\text{P1}(\boldsymbol{z}) の最適解 x1(z)\boldsymbol{x}^1(\boldsymbol{z}) を求めよ。( P1(z)\text{P1}(\boldsymbol{z}) が最大化問題であることに注意すること。)

(ii) カルーシュ・キューン・タッカー条件を用いて P3(z)\text{P3}(\boldsymbol{z}) の最適解 (x3(z),y3(z))(\boldsymbol{x}^3(\boldsymbol{z}), \boldsymbol{y}^3(\boldsymbol{z})) を求めよ。

(iii) 次の命題について、真であれば証明をし、偽であれば反例を与えよ。

  • (a) 関数 p:RnRp : \mathbb{R}^n \rightarrow \mathbb{R}p(z)=f(x1(z),z)p(\boldsymbol{z}) = f(\boldsymbol{x}^1(\boldsymbol{z}), \boldsymbol{z}) としたとき、関数 pp は凸関数である。
  • (b) 関数 q:RnRq : \mathbb{R}^n \rightarrow \mathbb{R}q(z)=g(x2(z),z)q(\boldsymbol{z}) = g(\boldsymbol{x}^2(\boldsymbol{z}), \boldsymbol{z}) としたとき、関数 qq は凸関数である。
  • (c)(c) 関数 r:RnRr : \mathbb{R}^n \rightarrow \mathbb{R}r(z)=h(x3(z),y3(z))r(\boldsymbol{z}) = h(\boldsymbol{x}^3(\boldsymbol{z}), \boldsymbol{y}^3(\boldsymbol{z})) としたとき、関数 rr は凸関数である。

English Version

题目描述

A\boldsymbol An×nn\times n 正定对称矩阵。定义

f(x,z)=xx+zAx,g(x,z)=xx+zAx+zz,h(x,y)=xx+yy,\begin{aligned} f(\boldsymbol x,\boldsymbol z) &=-\boldsymbol x^\top\boldsymbol x+ \boldsymbol z^\top\boldsymbol A\boldsymbol x,\\ g(\boldsymbol x,\boldsymbol z) &=\boldsymbol x^\top\boldsymbol x+ \boldsymbol z^\top\boldsymbol A\boldsymbol x+ \boldsymbol z^\top\boldsymbol z,\\ h(\boldsymbol x,\boldsymbol y) &=\boldsymbol x^\top\boldsymbol x+\boldsymbol y^\top\boldsymbol y, \end{aligned}

其中上标 \top 表示转置。对参数 zRn\boldsymbol z\in\mathbb R^n,考虑三个优化问题:

P1(z):maxxRnf(x,z)s.t.xx1,P2(z):minxRng(x,z),P3(z):min(x,y)Rn×Rnh(x,y)s.t.x+y=z.\begin{aligned} \mathrm{P1}(\boldsymbol z):\quad \max_{\boldsymbol x\in\mathbb R^n}\quad &f(\boldsymbol x,\boldsymbol z) &&\text{s.t.}\quad \boldsymbol x^\top\boldsymbol x\leq1,\\ \mathrm{P2}(\boldsymbol z):\quad \min_{\boldsymbol x\in\mathbb R^n}\quad &g(\boldsymbol x,\boldsymbol z),\\ \mathrm{P3}(\boldsymbol z):\quad \min_{(\boldsymbol x,\boldsymbol y)\in\mathbb R^n\times\mathbb R^n}\quad &h(\boldsymbol x,\boldsymbol y) &&\text{s.t.}\quad \boldsymbol x+\boldsymbol y=\boldsymbol z. \end{aligned}

已知对任意 zRn\boldsymbol z\in\mathbb R^n,三个问题都各有唯一最优解,依次记为

x1(z),x2(z),(x3(z),y3(z)).\boldsymbol x^1(\boldsymbol z),\qquad \boldsymbol x^2(\boldsymbol z),\qquad \bigl(\boldsymbol x^3(\boldsymbol z),\boldsymbol y^3(\boldsymbol z)\bigr).

完成以下各问:

  1. zAAz4\boldsymbol z^\top\boldsymbol A^\top\boldsymbol A\boldsymbol z\leq4
    的条件下,利用 Karush–Kuhn–Tucker(KKT)条件求 P1(z)\mathrm{P1}(\boldsymbol z) 的最优解 x1(z)\boldsymbol x^1(\boldsymbol z);注意该问题是最大化问题。
  2. 利用 KKT 条件求 P3(z)\mathrm{P3}(\boldsymbol z) 的最优解
    (x3(z),y3(z)).\bigl(\boldsymbol x^3(\boldsymbol z),\boldsymbol y^3(\boldsymbol z)\bigr).
  3. 分别判断下列命题的真伪;若为真则证明,若为假则给出反例:
    1. p(z)=f(x1(z),z),p(\boldsymbol z)=f\bigl(\boldsymbol x^1(\boldsymbol z),\boldsymbol z\bigr),
      p:RnRp:\mathbb R^n\to\mathbb R 是凸函数。
    2. q(z)=g(x2(z),z),q(\boldsymbol z)=g\bigl(\boldsymbol x^2(\boldsymbol z),\boldsymbol z\bigr),
      q:RnRq:\mathbb R^n\to\mathbb R 是凸函数。
    3. r(z)=h(x3(z),y3(z)),r(\boldsymbol z) =h\bigl(\boldsymbol x^3(\boldsymbol z),\boldsymbol y^3(\boldsymbol z)\bigr),
      r:RnRr:\mathbb R^n\to\mathbb R 是凸函数。

Kai

(i)

P1(z)MinimizexxzAxsubject toxx1\begin{aligned} \text{P1}(z) &\text{Minimize} &x^\top x - z^\top Ax\\ &\text{subject to} &x^\top x \leq 1\\ \end{aligned}

Lagrantian:

L(x,λ)=xxzAxλ(xx1)L(x, \lambda) = x^\top x - z^\top Ax - \lambda (x^\top x -1)
KKT-conditions: {(z+2λ)xzA=0λ0,ν0λ0,(x)210λ((x)21)=0\text{KKT-conditions: } \left\{ \begin{aligned} (z+2\lambda)x^* -z^\top A &= 0 \\ \lambda \succeq \boldsymbol{0}, \nu &\succeq \boldsymbol{0} \\ \lambda \geq 0, (x^*)^2 - 1 &\leq 0 \\ \lambda ((x^*)^2 - 1) &= 0 \end{aligned} \right.

easy to see x=zA2,λ=0x^{*\top} = \frac{z^\top A}{2}, \lambda = 0 satisfies KKT-conditions.

x1(z)=Az2x^1(z) = \frac{A^\top z}{2}

(ii)

P3(z)Minimizexx+yysubject tox+yz=0\begin{aligned} \text{P3}(z) &\text{Minimize} &x^\top x + y^\top y\\ &\text{subject to} &x+y-z =0\\ \end{aligned}

Lagrangian:

L(x,y,μ)=xx+yy+μ(x+yz)L(x,y,\mu) = x^\top x + y^\top y + \mu (x+y - z)
KKT-conditions: {2x+μ=02y+μ=0x+yz=0\text{KKT-conditions: } \left\{ \begin{aligned} 2x^* + \mu & = \boldsymbol{0} \\ 2y^* + \mu &= \boldsymbol{0} \\ x^* + y^* - z &= \boldsymbol{0} \\ \end{aligned} \right.

x=y=12z,μ=12zx^* = y^* = \frac{1}{2} z , \mu = -\frac{1}{2} z satisfies KKT-conditions, and we get minimum 12zz\frac{1}{2} z^\top z

(iii)

(a)

Let n=1n = 1 , then easy to see that the function is not conves.

(b)

Easy to see x2(z)=12Azx_2(z) = -\frac{1}{2} A^\top z . Then

g(x2(z),z)=14zAAz+zzg(x_2(z),z) = -\frac{1}{4} z^\top AA^\top z + z^\top z

when 14AA+I0-\frac{1}{4} A^\top A + I \prec \boldsymbol{0} , qq is not convex.

(c)(c)

h=12zzh = \frac{1}{2} z^\top z , obviously, it's convex