京都大学 情報学研究科 システム科学専攻 2023年8月実施 数学【II】

标签：

• 京都大学
• 约束最优化
• 熵
• 极限
• 链式法则
• 多元函数微分
• 误差反向传播
• 最值与上下确界

Author

AKIRA (小红书:94184092292), 祭音Myyura

Description

大学公表の原題 $\mathbb{R}$ を実数全体からなる集合, $\pi$ を円周率とする。行列およびベクトルの転置を $\top$ で表す。

問1

以下の設問に答えよ。

(i) 変数 $x > 0$ に対して関数 $f(x) = \frac{1}{x^m} a^{-\frac{1}{x}}$ を考える。 $f(x)$ の $x$ に関する最大値が存在するならばそのときの $x$ を求めよ。存在しない場合はそのことを示せ。ただし、 $m$ は正の整数、 $a > 1$ は定数とする。

(ii) 条件 $\sum_{i=1}^N x_i = 1,\ x_i > 0\ (i = 1, \dots, N)$ の下で $-\sum_{i=1}^N x_i \log x_i$ の最大値を求めよ。ただし、 $N$ は正の整数とする。

(iii) 原点を $O$ とする $xy$ 平面上の曲線 $A$ :

$$x = a \cos^3 \theta, \quad y = b \sin^3 \theta \quad (0 < \theta < \frac{\pi}{2})$$

を考える。ここで、曲線 $A$ 上の点 $(x_0, y_0)$ における接線と $x$ 軸および $y$ 軸との交点をそれぞれ点 $P(p, 0)$ および点 $Q(0, q)$ とする。ただし、 $a, b\ (a > 0, b > 0)$ は定数とする。

• (a) $p, q$ を $a, b, x_0, y_0$ を用いて表せ。
• (b) 接点 $(x_0, y_0)$ を動かしたときの、原点 $O$ と点 $P$ および点 $Q$ の $3$ 点を頂点とする三角形の面積の最大値とそのときの接点に対応する $\theta$ の値を求めよ。

問2

以下の設問に答えよ。

(i) 次の極限を求めよ。極限が存在しない場合は、そのことを示せ。

• (1) $\displaystyle \lim_{x \to \infty} (1 + 2x + 3^x)^{1/x}$
• (2) $\displaystyle \lim_{x \to 0} \frac{(1 - \cos x) \sin \frac{1}{x}}{x}$

(ii) $x \in \mathbb{R}$ に対して $f(x)$ を微分可能な実関数とし、その導関数を $f'(x)$ で表す。また、2 次元実ベクトル $\mathbf{x} = (x_1, x_2)^\top \in \mathbb{R}^2$ に対して

$$f(\mathbf{x}) = (f(x_1), f(x_2))^\top, \quad f'(\mathbf{x}) = (f'(x_1), f'(x_2))^\top$$

と定義する。

また、整数 $L \ge 2$ および $(L-1)$ 個の $2 \times 2$ 実行列 $A^{(1)}, \dots, A^{(L-1)} \in \mathbb{R}^{2\times 2}$ に対して、実ベクトル $\mathbf{x}^{(1)} = (x_1^{(1)}, x_2^{(1)})^\top, \dots, \mathbf{x}^{(L)} = (x_1^{(L)}, x_2^{(L)})^\top \in \mathbb{R}^2$ が全ての $\ell \in \{1, \dots, L-1\}$ について

$$\mathbf{x}^{(\ell+1)} = f(A^{(\ell)} \mathbf{x}^{(\ell)})$$

という関係を満たすものとする。

これ以降、 $i, j \in \{1, 2\},\ \ell \in \{1, \dots, L-1\}$ とする。 $\mathbf{x}^{(\ell+1)}$ を $\mathbf{x}^{(\ell)}$ の関数とみなすときの $x_i^{(\ell+1)}$ の $x_j^{(\ell)}$ に関する偏微分を

$$u_{i,j}^{(\ell)} = \frac{\partial x_i^{(\ell+1)}}{\partial x_j^{(\ell)}}$$

で表し、また、 $\mathbf{x}^{(L)}$ を $\mathbf{x}^{(\ell)}$ の関数とみなすときの $x_i^{(L)}$ の $x_j^{(\ell)}$ に関する偏微分を

$$v_{i,j}^{(\ell)} = \frac{\partial x_i^{(L)}}{\partial x_j^{(\ell)}}$$

で表す。これらを $(i,j)$ 成分にもつ $2\times 2$ 行列をそれぞれ $U^{(\ell)}, V^{(\ell)}$ とする。また $V^{(L)}$ を $2 \times 2$ 単位行列とする。

以下、 $A^{(\ell)}$ の $(i,j)$ 成分を $a_{i,j}^{(\ell)}$ と表記する。なお、必要に応じて $A^{(\ell)}$ の第 $i$ 行を $\mathbf{a}_i^{(\ell)}$ と表記してよい。また、実ベクトル $\mathbf{x} \in \mathbb{R}^2$ に対してその各対角成分をもつ対角行列を返す関数

$$\mathrm{diag}(\mathbf{x}) = \begin{pmatrix} x_1 & 0 \\ 0 & x_2 \end{pmatrix}$$

を用いてもよい。

(1) $U^{(\ell)}$ を $\{A^{(m)}\}_{m=1}^{L-1},\ \{\mathbf{x}^{(m)}\}_{m=1}^L$ およびそれらの成分と $f'$ のうち必要なものを用いて表せ。

(2) $V^{(\ell)}$ を $V^{(\ell+1)},\ \{A^{(m)}\}_{m=1}^{L-1},\ \{U^{(m)}\}_{m=1}^{L-1},\ \{\mathbf{x}^{(m)}\}_{m=1}^L,\ f'$ のうち必要なものを用いて表せ。

(3) $k \in \{1, 2\}$ とする。 $x_k^{(L)}$ を $(A^{(1)}, \dots, A^{(L-1)})$ の関数とみなすときの $\frac{\partial x_k^{(L)}}{\partial a_{i,j}^{(\ell)}}$ の値を $\{V^{(m)}\}_{m=1}^L,\ \{A^{(m)}\}_{m=1}^{L-1},\ \{\mathbf{x}^{(m)}\}_{m=1}^{L}$ およびそれらの成分と $f'$ のうち必要なものを用いて表せ。

题目描述

下文中 $\mathbb{R}$ 表示实数集，$\pi$ 表示圆周率，矩阵与向量的转置记作 $\top$。回答以下两题。

1. 完成下列各问。

   1. 对 $x>0$ 考虑

$$f(x)=\frac{1}{x^m}a^{-1/x},$$

其中 $m$ 是正整数，$a>1$ 是常数。若 $f(x)$ 关于 $x$ 的最大值存在，求取得最大值的 $x$；若不存在，则证明不存在。 2. 在约束

$$\sum_{i=1}^N x_i=1,\qquad x_i>0\quad(i=1,\ldots,N)$$

下，求

$$-\sum_{i=1}^N x_i\log x_i$$

的最大值，其中 $N$ 为正整数。 3. 在原点为 $O$ 的 $xy$ 平面内，考虑参数曲线 $A$

$$x=a\cos^3\theta,\qquad y=b\sin^3\theta,\qquad 0<\theta<\frac{\pi}{2},$$

其中 $a,b>0$。曲线在点 $(x_0,y_0)$ 处的切线分别与 $x$ 轴、$y$ 轴交于 $P(p,0)$、$Q(0,q)$。

  1. 用 $a,b,x_0,y_0$ 表示 $p,q$。
  2. 让切点 $(x_0,y_0)$ 沿曲线移动，求以 $O,P,Q$ 为顶点的三角形面积的最大值，并求达到该最大值时切点所对应的 $\theta$。

2. 完成下列各问。

1. 求以下两个极限；若某个极限不存在，则证明其不存在：

$$\lim_{x\to\infty}(1+2x+3^x)^{1/x},$$

$$\lim_{x\to0} \frac{(1-\cos x)\sin(1/x)}{x}.$$

2. 设 $f:\mathbb{R}\to\mathbb{R}$ 可微，其导函数为 $f'$。对

$$\boldsymbol{x}=(x_1,x_2)^\top\in\mathbb{R}^2,$$

定义逐分量作用

$$f(\boldsymbol{x}) =(f(x_1),f(x_2))^\top, \qquad f'(\boldsymbol{x}) =(f'(x_1),f'(x_2))^\top.$$

给定整数 $L\geq2$ 和 $L-1$ 个实矩阵

$$A^{(1)},\ldots,A^{(L-1)} \in\mathbb{R}^{2\times2},$$

并设二维实向量 $\boldsymbol{x}^{(1)},\ldots,\boldsymbol{x}^{(L)}$ 对每个 $\ell\in\{1,\ldots,L-1\}$ 都满足

$$\boldsymbol{x}^{(\ell+1)} =f\!\left(A^{(\ell)}\boldsymbol{x}^{(\ell)}\right).$$

以下令 $i,j\in\{1,2\}$、$\ell\in\{1,\ldots,L-1\}$。把 $\boldsymbol{x}^{(\ell+1)}$ 看成 $\boldsymbol{x}^{(\ell)}$ 的函数，定义

$$u_{i,j}^{(\ell)} = \frac{\partial x_i^{(\ell+1)}} {\partial x_j^{(\ell)}}.$$

把最终向量 $\boldsymbol{x}^{(L)}$ 看成 $\boldsymbol{x}^{(\ell)}$ 的函数，定义

$$v_{i,j}^{(\ell)} = \frac{\partial x_i^{(L)}} {\partial x_j^{(\ell)}}.$$

令 $U^{(\ell)}$、$V^{(\ell)}$ 分别为以上述 $u_{i,j}^{(\ell)}$、$v_{i,j}^{(\ell)}$ 为 $(i,j)$ 元的 $2\times2$ 矩阵，并规定 $V^{(L)}$ 是 $2\times2$ 单位矩阵。把 $A^{(\ell)}$ 的 $(i,j)$ 元记作 $a_{i,j}^{(\ell)}$；必要时可将其第 $i$ 行记作 $\boldsymbol{a}_i^{(\ell)}$。还可以使用函数

$$\operatorname{diag}(\boldsymbol{x}) = \begin{pmatrix} x_1&0\\ 0&x_2 \end{pmatrix}.$$

完成：

  1. 用集合
     $\{A^{(m)}\}_{m=1}^{L-1}$、
     $\{\boldsymbol{x}^{(m)}\}_{m=1}^{L}$、它们的分量以及
     $f'$ 中必要的量表示 $U^{(\ell)}$。
  2. 用 $V^{(\ell+1)}$ 以及
     $\{A^{(m)}\}_{m=1}^{L-1}$、
     $\{U^{(m)}\}_{m=1}^{L-1}$、
     $\{\boldsymbol{x}^{(m)}\}_{m=1}^{L}$ 和 $f'$ 中必要的量表示
     $V^{(\ell)}$。
  3. 取 $k\in\{1,2\}$。把 $x_k^{(L)}$ 看成
     $(A^{(1)},\ldots,A^{(L-1)})$ 的函数，用
     $\{V^{(m)}\}_{m=1}^{L}$、
     $\{A^{(m)}\}_{m=1}^{L-1}$、
     $\{\boldsymbol{x}^{(m)}\}_{m=1}^{L}$、它们的分量及
     $f'$ 中必要的量表示

$$\frac{\partial x_k^{(L)}} {\partial a_{i,j}^{(\ell)}}.$$

Kai

問1

(i) 対数微分から

$$\frac{f'(x)}{f(x)}=-\frac mx+\frac{\log a}{x^2}.$$

従って $x=\log a/m$ の前で増加、後で減少する。最大値とその位置は

$$\boxed{x=\frac{\log a}{m},\qquad f_{\max}=\left(\frac{m}{e\log a}\right)^m}.$$

(ii) $-t\log t$ の狭義凹性と Jensen の不等式より

$$-\sum_{i=1}^N x_i\log x_i\le-N\frac1N\log\frac1N=\boxed{\log N}.$$

等号は $x_1=\cdots=x_N=1/N$ のときに限る。

(iii)(a) パラメータ微分より接線の傾きは $-(b/a)\tan\theta$。従って接線は

$$\frac{x}{a\cos\theta}+\frac{y}{b\sin\theta}=1.$$

よって

$$\boxed{p=a\cos\theta=a^{2/3}x_0^{1/3},\qquad q=b\sin\theta=b^{2/3}y_0^{1/3}}.$$

(b) 三角形の面積は $S=pq/2=(ab/4)\sin2\theta$。従って $\theta=\pi/4$ で最大となり

$$\boxed{S_{\max}=ab/4}.$$

問2

(i)(1)

$$\frac1x\log(1+2x+3^x) =\log3+\frac1x\log\left(1+\frac{1+2x}{3^x}\right) \longrightarrow\log3.$$

従って極限は $\boxed3$ である。

(i)(2)

$0\le1-\cos x\le x^2/2$ より、

$$\left|\frac{(1-\cos x)\sin(1/x)}x\right| \le\frac{|x|}2\longrightarrow0.$$

従って極限は $\boxed0$ である。

(ii)(1)

$x_i^{(\ell+1)}=f(\sum_j a_{i,j}^{(\ell)}x_j^{(\ell)})$ を微分すると、

$$u_{i,j}^{(\ell)} =f'\!\left(\mathbf a_i^{(\ell)}\mathbf x^{(\ell)}\right)a_{i,j}^{(\ell)}.$$

従って

$$\boxed{U^{(\ell)}= \operatorname{diag}\!\left(f'(A^{(\ell)}\mathbf x^{(\ell)})\right)A^{(\ell)}}.$$

(ii)(2)

連鎖律より

$$v_{i,j}^{(\ell)} =\sum_{r=1}^2 v_{i,r}^{(\ell+1)}u_{r,j}^{(\ell)}, \qquad \boxed{V^{(\ell)}=V^{(\ell+1)}U^{(\ell)}}.$$

(ii)(3)

$a_{i,j}^{(\ell)}$ は直後の層の第 $i$ 成分だけに直接作用する。従って

$$\frac{\partial x_r^{(\ell+1)}}{\partial a_{i,j}^{(\ell)}} =\delta_{ri} f'\!\left(\mathbf a_i^{(\ell)}\mathbf x^{(\ell)}\right)x_j^{(\ell)}.$$

これを連鎖律に代入して、

$$\boxed{\frac{\partial x_k^{(L)}}{\partial a_{i,j}^{(\ell)}} =v_{k,i}^{(\ell+1)} f'\!\left(\mathbf a_i^{(\ell)}\mathbf x^{(\ell)}\right) x_j^{(\ell)}}.$$