京都大学 情報学研究科 システム科学専攻 2023年8月実施 数学【II】

标签：

• Kyoto-University
• Local-Extrema
• Constrained-Optimization
• Entropy
• Limit
• Chain-Rule
• Multivariable-Differentiation
• Backpropagation

Author

AKIRA (小红书:94184092292)

Description

$\mathbb{R}$ を実数全体からなる集合, $\pi$ を円周率とする。行列およびベクトルの転置を $\top$ で表す。

問1

以下の設問に答えよ。

(i) 変数 $x > 0$ に対して関数 $f(x) = \frac{1}{x^m} a^{-\frac{1}{x}}$ を考える。$f(x)$ の $x$ に関する最大値が存在するならばそのときの $x$ を求めよ。存在しない場合はそのことを示せ。ただし、$m$ は正の整数、$a > 1$ は定数とする。

(ii) 条件 $\sum_{i=1}^N x_i = 1,\ x_i > 0\ (i = 1, \dots, N)$ の下で $-\sum_{i=1}^N x_i \log x_i$ の最大値を求めよ。ただし、$N$ は正の整数とする。

(iii) 原点を $O$ とする $xy$ 平面上の曲線 $A$:

$$x = a \cos^3 \theta, \quad y = b \sin^3 \theta \quad (0 < \theta < \frac{\pi}{2})$$

を考える。ここで、曲線 $A$ 上の点 $(x_0, y_0)$ における接線と $x$ 軸および $y$ 軸との交点をそれぞれ点 $P(p, 0)$ および点 $Q(0, q)$ とする。ただし、$a, b\ (a > 0, b > 0)$ は定数とする。

• (a) $p, q$ を $a, b, x_0, y_0$ を用いて表せ。
• (b) 接点 $(x_0, y_0)$ を動かしたときの、原点 $O$ と点 $P$ および点 $Q$ の $3$ 点を頂点とする三角形の面積の最大値とそのときの接点に対応する $\theta$ の値を求めよ。

問2

以下の設問に答えよ。

(i) 次の極限を求めよ。極限が存在しない場合は、そのことを示せ。

• (1) $\displaystyle \lim_{x \to \infty} (1 + 2x + 3^x)^{1/x}$
• (2) $\displaystyle \lim_{x \to 0} \frac{(1 - \cos x) \sin \frac{1}{x}}{x}$

(ii) $x \in \mathbb{R}$ に対して $f(x)$ を微分可能な実関数とし、その導関数を $f'(x)$ で表す。また、2 次元実ベクトル $\mathbf{x} = (x_1, x_2)^\top \in \mathbb{R}^2$ に対して

$$f(\mathbf{x}) = (f(x_1), f(x_2))^\top, \quad f'(\mathbf{x}) = (f'(x_1), f'(x_2))^\top$$

と定義する。

また、整数 $L \ge 2$ および $(L-1)$ 個の $2 \times 2$ 実行列 $A^{(1)}, \dots, A^{(L-1)} \in \mathbb{R}^{2\times 2}$ に対して、実ベクトル $\mathbf{x}^{(1)} = (x_1^{(1)}, x_2^{(1)})^\top, \dots, \mathbf{x}^{(L)} = (x_1^{(L)}, x_2^{(L)})^\top \in \mathbb{R}^2$ が全ての $\ell \in \{1, \dots, L-1\}$ について

$$\mathbf{x}^{(\ell+1)} = f(A^{(\ell)} \mathbf{x}^{(\ell)})$$

という関係を満たすものとする。

これ以降、$i, j \in \{1, 2\},\ \ell \in \{1, \dots, L-1\}$ とする。$\mathbf{x}^{(\ell+1)}$ を $\mathbf{x}^{(\ell)}$ の関数とみなすときの $x_i^{(\ell+1)}$ の $x_j^{(\ell)}$ に関する偏微分を

$$u_{i,j}^{(\ell)} = \frac{\partial x_i^{(\ell+1)}}{\partial x_j^{(\ell)}}$$

で表し、また、$\mathbf{x}^{(L)}$ を $\mathbf{x}^{(\ell)}$ の関数とみなすときの $x_i^{(L)}$ の $x_j^{(\ell)}$ に関する偏微分を

$$v_{i,j}^{(\ell)} = \frac{\partial x_i^{(L)}}{\partial x_j^{(\ell)}}$$

で表す。これらを $(i,j)$ 成分にもつ $2\times 2$ 行列をそれぞれ $U^{(\ell)}, V^{(\ell)}$ とする。また $V^{(L)}$ を $2 \times 2$ 単位行列とする。

以下、$A^{(\ell)}$ の $(i,j)$ 成分を $a_{i,j}^{(\ell)}$ と表記する。なお、必要に応じて $A^{(\ell)}$ の第 $i$ 行を $\mathbf{a}_i^{(\ell)}$ と表記してよい。また、実ベクトル $\mathbf{x} \in \mathbb{R}^2$ に対してその各対角成分をもつ対角行列を返す関数

$$\mathrm{diag}(\mathbf{x}) = \begin{pmatrix} x_1 & 0 \\ 0 & x_2 \end{pmatrix}$$

を用いてもよい。

(1) $U^{(\ell)}$ を $\{A^{(m)}\}_{m=1}^{L-1},\ \{\mathbf{x}^{(m)}\}_{m=1}^L$ およびそれらの成分と $f'$ のうち必要なものを用いて表せ。

(2) $V^{(\ell)}$ を $V^{(\ell+1)},\ \{A^{(m)}\}_{m=1}^{L-1},\ \{U^{(m)}\}_{m=1}^{L-1},\ \{\mathbf{x}^{(m)}\}_{m=1}^L,\ f'$ のうち必要なものを用いて表せ。

(3) $k \in \{1, 2\}$ とする。$x_k^{(L)}$ を $(A^{(1)}, \dots, A^{(L-1)})$ の関数とみなすときの $\frac{\partial x_k^{(L)}}{\partial a_{i,j}^{(\ell)}}$ の値を $\{V^{(m)}\}_{m=1}^L,\ \{A^{(m)}\}_{m=1}^{L-1},\ \{\mathbf{x}^{(m)}\}_{m=1}^{L}$ およびそれらの成分と $f'$ のうち必要なものを用いて表せ。

题目描述

以下 $\mathbb R$ 表示实数集，$\pi$ 表示圆周率，矩阵和向量的转置记作 $\top$。

1. 回答下列问题。

   （i）对 $x>0$，考虑

   $$f(x)=\frac1{x^m}a^{-1/x},$$

   其中 $m$ 为正整数，$a>1$ 为常数。若 $f$ 关于 $x$ 的最大值存在，求取得最大值时的 $x$；若不存在，则证明不存在。

   （ii）在

   $$\sum_{i=1}^Nx_i=1,\qquad x_i>0\quad(i=1,\ldots,N)$$

   的约束下，求

   $$-\sum_{i=1}^Nx_i\log x_i$$

   的最大值，其中 $N$ 为正整数。

   （iii）在以原点为 $O$ 的 $xy$ 平面上考虑曲线 $A$：

   $$x=a\cos^3\theta,\qquad y=b\sin^3\theta, \qquad0<\theta<\frac\pi2,$$

   其中 $a,b>0$。曲线在点 $(x_0,y_0)$ 处的切线与 $x$ 轴、$y$ 轴分别交于 $P(p,0)$、$Q(0,q)$。

   1. 用 $a,b,x_0,y_0$ 表示 $p,q$。
   2. 当切点 $(x_0,y_0)$ 沿曲线移动时，求以 $O,P,Q$ 为顶点的三角形面积的最大值，以及取得最大值的切点所对应的 $\theta$。

2. 回答下列问题。

   （i）求下列极限；若不存在，则证明其不存在。

   $$\lim_{x\to\infty}(1+2x+3^x)^{1/x},$$
   $$\lim_{x\to0} \frac{(1-\cos x)\sin(1/x)}{x}.$$

   （ii）设 $f(x)$ 是定义在 $\mathbb R$ 上的可微实函数，导函数为 $f'(x)$。对二维实向量

   $$\mathbf x=(x_1,x_2)^\top\in\mathbb R^2,$$

   定义逐分量作用

   $$f(\mathbf x)=(f(x_1),f(x_2))^\top,\qquad f'(\mathbf x)=(f'(x_1),f'(x_2))^\top.$$

   给定整数 $L\geq2$ 及 $L-1$ 个实矩阵

   $$A^{(1)},\ldots,A^{(L-1)}\in\mathbb R^{2\times2},$$

   二维实向量 $\mathbf x^{(1)},\ldots,\mathbf x^{(L)}$ 对所有 $\ell\in\{1,\ldots,L-1\}$ 满足

   $$\mathbf x^{(\ell+1)} =f\!\left(A^{(\ell)}\mathbf x^{(\ell)}\right).$$

   以下 $i,j\in\{1,2\}$、$\ell\in\{1,\ldots,L-1\}$。把 $\mathbf x^{(\ell+1)}$ 视为 $\mathbf x^{(\ell)}$ 的函数，定义

   $$u_{i,j}^{(\ell)} =\frac{\partial x_i^{(\ell+1)}} {\partial x_j^{(\ell)}}.$$

   把最终向量 $\mathbf x^{(L)}$ 视为 $\mathbf x^{(\ell)}$ 的函数，定义

   $$v_{i,j}^{(\ell)} =\frac{\partial x_i^{(L)}} {\partial x_j^{(\ell)}}.$$

   令 $U^{(\ell)},V^{(\ell)}$ 分别为以 $u_{i,j}^{(\ell)},v_{i,j}^{(\ell)}$ 为 $(i,j)$ 元素的 $2\times2$ 矩阵，并规定 $V^{(L)}$ 为 $2\times2$ 单位矩阵。记 $A^{(\ell)}$ 的 $(i,j)$ 元素为 $a_{i,j}^{(\ell)}$；必要时可把其第 $i$ 行记作 $\mathbf a_i^{(\ell)}$。还可使用

   $$\operatorname{diag}(\mathbf x) = \begin{pmatrix} x_1&0\\0&x_2 \end{pmatrix}.$$

   1. 用 $\{A^{(m)}\}_{m=1}^{L-1}$、$\{\mathbf x^{(m)}\}_{m=1}^{L}$ 及其分量和 $f'$ 中必要的量表示 $U^{(\ell)}$。

   2. 用 $V^{(\ell+1)}$、$\{A^{(m)}\}_{m=1}^{L-1}$、$\{U^{(m)}\}_{m=1}^{L-1}$、$\{\mathbf x^{(m)}\}_{m=1}^{L}$ 和 $f'$ 中必要的量表示 $V^{(\ell)}$。

   3. 令 $k\in\{1,2\}$。把 $x_k^{(L)}$ 视为 $(A^{(1)},\ldots,A^{(L-1)})$ 的函数，用 $\{V^{(m)}\}_{m=1}^{L}$、$\{A^{(m)}\}_{m=1}^{L-1}$、$\{\mathbf x^{(m)}\}_{m=1}^{L}$ 及其分量和 $f'$ 中必要的量表示

      $$\frac{\partial x_k^{(L)}} {\partial a_{i,j}^{(\ell)}}.$$

考点

• 一元函数极值与对数微分：处理含 $x^{-m}$ 和指数参数的正函数最大化。
• 熵的约束最大化：利用 Lagrange 乘数或凸性证明均匀分布最大化 Shannon 熵。
• 参数曲线切线与面积优化：求星形线切线截距并最大化坐标轴截距三角形。
• 极限的主导项与夹逼：识别指数主导增长并控制振荡因子。
• 多元链式法则与反向传播：写出逐层 Jacobian、反向递推和输出对单个权重的梯度。

Kai

問1

問2