兵庫医科大学 医学部 数学（2025年度）全問題・超図解解説

対数（$\log$）を含む方程式・不等式を見たら、式変形を始める前に絶対的なルールとして「真数 $> 0$」を書き出します。
今回の式には $\log_4 |x - 1|$ と $\log_2 x$ の2つの対数があります。それぞれの真数は $|x - 1|$ と $x$ ですから、真数条件は次の2つを同時に満たすことです。 $$|x - 1| > 0 \quad \text{かつ} \quad x > 0$$ ここで、絶対値 $|x - 1|$ は $x = 1$ のときだけ $0$ になり、それ以外のすべての実数で正（$>0$）になります。したがって $|x - 1| > 0 \iff x \neq 1$ です。
これと $x > 0$ を合わせると、真数条件は $$0 < x < 1, \quad 1 < x \quad \cdots \text{①}$$ となります。（※ $x = 1$ が抜けることにくれぐれも注意しましょう！）

左辺の対数の底は $4$、右辺の対数の底は $2$ です。底の変換公式を使って底を $4$ に揃えるか、または $2$ に揃えます。
ここでは、ルート（根号）が出ないように底を $4$ に統一すると計算がとてもラクになります！（もちろん底を $2$ にして両辺を2倍しても同じ式になります）。
底を $2$ に揃えて両辺を整理してみましょう： $$\log_4 |x - 1| = \frac{\log_2 |x - 1|}{\log_2 4} = \frac{1}{2}\log_2 |x - 1|$$ これを与えられた不等式に代入します。 $$\frac{1}{2}\log_2 |x - 1| + 2 > \log_2 x$$ 両辺を $2$ 倍して分母を払います。 $$\log_2 |x - 1| + 4 > 2\log_2 x$$ ここで、$4 = 4\log_2 2 = \log_2 2^4 = \log_2 16$ であり、右辺は $2\log_2 x = \log_2 x^2$ ですから、 $$\log_2 |x - 1| + \log_2 16 > \log_2 x^2$$ 左辺の対数の足し算を真数の掛け算にまとめます。 $$\log_2 \bigl(16|x - 1|\bigr) > \log_2 x^2$$

底 $2$ は $1$ より大きい（$2 > 1$）ので、真数の大小関係はそのまま保たれます。 $$16|x - 1| > x^2 \quad \cdots \text{②}$$ 真数条件①（$0 < x < 1$ または $1 < x$）のもとで、絶対値の中身 $x - 1$ の符号によって場合分けを行います。

※スピードチェック欄の記載について補足：問題文の式 $\log_4|x-1| + 2 > \log_2 x$ を正確に解いた最終解は以下の通り $0 < x < -8 + 4\sqrt{5}, \ 8 - 4\sqrt{3} < x < 8 + 4\sqrt{3}$ です！

関数 $y = e^{ax}\sin bx$ を $x$ で微分します。
合成関数の微分より $(e^{ax})' = ae^{ax}$、$(\sin bx)' = b\cos bx$、$(\cos bx)' = -b\sin bx$ です。
まず第1次導関数 $y'$ を積の微分法 $(fg)' = f'g + fg'$ で求めます。 $$y' = (e^{ax})'\sin bx + e^{ax}(\sin bx)' = ae^{ax}\sin bx + be^{ax}\cos bx = e^{ax}(a\sin bx + b\cos bx)$$ 次に、この $y'$ をもう一度 $x$ で微分して第2次導関数 $y''$ を求めます。 $$y'' = (e^{ax})'(a\sin bx + b\cos bx) + e^{ax}(a\sin bx + b\cos bx)'$$ $$= ae^{ax}(a\sin bx + b\cos bx) + e^{ax}(ab\cos bx - b^2\sin bx)$$ $e^{ax}$ でくくり、$\sin bx$ の項と $\cos bx$ の項に整理します。 $$y'' = e^{ax}\bigl\{(a^2 - b^2)\sin bx + 2ab\cos bx\bigr\}$$

求めた $y, y', y''$ を方程式 $y'' - 2y' + 5y = 0$ の左辺に代入します。 $$y'' - 2y' + 5y = e^{ax}\bigl\{(a^2 - b^2)\sin bx + 2ab\cos bx\bigr\} - 2e^{ax}(a\sin bx + b\cos bx) + 5e^{ax}\sin bx$$ すべての項に共通因数 $e^{ax}$ があるのでくくり出し、$\sin bx$ と $\cos bx$ について整理します。 $$e^{ax}\bigl\{(a^2 - b^2 - 2a + 5)\sin bx + 2b(a - 1)\cos bx\bigr\} = 0$$ 常に $e^{ax} > 0$ （すべての実数 $x$ に対して $e^{ax} \neq 0$）なので、両辺を $e^{ax}$ で割ることができ、 $$(a^2 - b^2 - 2a + 5)\sin bx + 2b(a - 1)\cos bx = 0 \quad \cdots \text{①}$$ がすべての実数 $x$ について成り立ちます。

もし $b = 0$ だとすると、そもそも元の関数が $y = e^{ax}\sin 0 = 0$ となり、①式は常に $0 = 0$ となってしまいますか？
確認してみましょう！もし $b = 0$ ならば、$\sin bx = \sin 0 = 0$、$\cos bx = \cos 0 = 1$ です。
このとき①式に $b = 0$ を代入しても $0 + 0 = 0$ となり、どんな実数 $a$ でも $y = 0$ は $y'' - 2y' + 5y = 0$ を満たしてしまいます。
しかし、問題文で「実数の定数 $a, b$ の値を求めよ」と単一の値が決まる形で問われていること、また念のため記述答案では「$b = 0$ の場合」と「$b \neq 0$ の場合」に言及しつつ、一次独立性（または特定の $x$ の代入）を示すのが完璧です。
$b \neq 0$ のとき、①がすべての実数 $x$ で成り立つので、まず $x = 0$ を代入すると $\sin 0 = 0, \cos 0 = 1$ より、 $$2b(a - 1) = 0$$ $b \neq 0$ より $a = 1$ となります。
次に $a = 1$ を①に代入すると $(1 - b^2 - 2 + 5)\sin bx = 0 \iff (4 - b^2)\sin bx = 0$。
これがすべての実数 $x$ で成り立つ（例えば $x = \dfrac{\pi}{2b}$ を代入すると $\sin\dfrac{\pi}{2} = 1$）ため、 $$4 - b^2 = 0 \iff b = \pm 2$$ 逆に $a = 1, b = \pm 2$ のとき①はすべての実数 $x$ で成り立ちます。

$x + y + z = 20$ （$x \geqq 0, y \geqq 0, z \geqq 0$）を満たす整数解の組の数は、20個の同じ玉（〇）を3つの箱 $x, y, z$ に分ける方法（$0$ 個の箱があってもよい）と同じです。
20個の「〇」と、それを3つに区切るための2本の仕切り「｜」、合わせて $20 + 2 = 22$ 個の場所から、仕切りを入れる $2$ 箇所を選ぶ組合せの総数に等しいので、 $${}_{20+3-1}\text{C}_{3-1} = {}_{22}\text{C}_2 = \frac{22 \times 21}{2 \times 1} = 11 \times 21 = 231 \text{（組）}$$

$x \geqq 1, y \geqq 1, z \geqq 1$ のときは、$x' = x - 1, \ y' = y - 1, \ z' = z - 1$ とおくと、$x', y', z'$ はすべて $0$ 以上の整数になります。
元の式 $x + y + z = 20$ に $x = x' + 1, \ y = y' + 1, \ z = z' + 1$ を代入すると、 $$(x' + 1) + (y' + 1) + (z' + 1) = 20 \iff x' + y' + z' = 17$$ よって、17個の「〇」と2本の仕切り「｜」の並べ方の総数（または20個の〇の間の19箇所の隙間から2箇所に仕切りを入れる方法 ${}_{19}\text{C}_2$）に等しくなります。 $${}_{17+3-1}\text{C}_{3-1} = {}_{19}\text{C}_2 = \frac{19 \times 18}{2 \times 1} = 19 \times 9 = 171 \text{（組）}$$

条件式 $x - y = \dfrac{\pi}{3}$ より、 $$y = x - \frac{\pi}{3}$$ です。これを $y$ の範囲 $0 \leqq y < \pi$ に代入します。 $$0 \leqq x - \frac{\pi}{3} < \pi \iff \frac{\pi}{3} \leqq x < \frac{4}{3}\pi$$ もともと $x$ には $0 \leqq x < \pi$ という条件がありますから、この2つの共通範囲をとると、実際に $x$ が動ける範囲は $$\frac{\pi}{3} \leqq x < \pi \quad \cdots \text{①}$$ となります！ここを見落として $0 \leqq x < \pi$ のまま解いてしまうと減点・失点になるので、文字を消去したら真っ先に残った文字の範囲を求めましょう！

与えられた式を $f(x) = \sin^2 x + \cos^2 y$ とおき、$y = x - \dfrac{\pi}{3}$ を代入します。 $$f(x) = \sin^2 x + \cos^2\left(x - \frac{\pi}{3}\right)$$ 2次式（2乗）のままでは最大・最小が分からないので、半角の公式（次数下げの公式） $$\sin^2 \theta = \frac{1 - \cos 2\theta}{2}, \quad \cos^2 \theta = \frac{1 + \cos 2\theta}{2}$$ を使って1次式（$2x$ の式）に直します！ $$f(x) = \frac{1 - \cos 2x}{2} + \frac{1 + \cos\left(2x - \frac{2}{3}\pi\right)}{2}$$ $$= 1 + \frac{1}{2}\left\{\cos\left(2x - \frac{2}{3}\pi\right) - \cos 2x\right\}$$ ここで、加法定理を使って $\cos\left(2x - \dfrac{2}{3}\pi\right)$ を展開します（和積の公式を使ってもOKです！）。
$\cos\dfrac{2}{3}\pi = -\dfrac{1}{2}, \ \sin\dfrac{2}{3}\pi = \dfrac{\sqrt{3}}{2}$ より、 $$\cos\left(2x - \frac{2}{3}\pi\right) = \cos 2x \cos\frac{2}{3}\pi + \sin 2x \sin\frac{2}{3}\pi = -\frac{1}{2}\cos 2x + \frac{\sqrt{3}}{2}\sin 2x$$ これを $f(x)$ の式に代入すると、 $$f(x) = 1 + \frac{1}{2}\left(-\frac{1}{2}\cos 2x + \frac{\sqrt{3}}{2}\sin 2x - \cos 2x\right)$$ $$= 1 + \frac{1}{2}\left(\frac{\sqrt{3}}{2}\sin 2x - \frac{3}{2}\cos 2x\right)$$ $$= 1 + \frac{\sqrt{3}}{2}\left(\frac{1}{2}\sin 2x - \frac{\sqrt{3}}{2}\cos 2x\right)$$ カッコの中身は、$\cos\dfrac{\pi}{3} = \dfrac{1}{2}, \ \sin\dfrac{\pi}{3} = \dfrac{\sqrt{3}}{2}$ なので、三角関数の合成により $$\frac{1}{2}\sin 2x - \frac{\sqrt{3}}{2}\cos 2x = \sin\left(2x - \frac{\pi}{3}\right)$$ となります！よって、$f(x)$ は驚くほどシンプルな次の形にまとまります。 $$f(x) = 1 + \frac{\sqrt{3}}{2}\sin\left(2x - \frac{\pi}{3}\right)$$

①の範囲 $\dfrac{\pi}{3} \leqq x < \pi$ から、角 $2x - \dfrac{\pi}{3}$ のとり得る値の範囲を求めます。
まず2倍して $\dfrac{2}{3}\pi \leqq 2x < 2\pi$、ここから $\dfrac{\pi}{3}$ を引くと、 $$\frac{\pi}{3} \leqq 2x - \frac{\pi}{3} < \frac{5}{3}\pi$$ 単位円を描いて $\theta = 2x - \dfrac{\pi}{3}$ が $\dfrac{\pi}{3}$ から $\dfrac{5}{3}\pi$（未満）まで動くときの $\sin\theta$ の値の変化を確認しましょう！

上の単位円の図から明らかなように、角 $2x - \dfrac{\pi}{3}$ が $\dfrac{\pi}{3}$ から $\dfrac{5}{3}\pi$ まで動くとき、途中に頂点 $\dfrac{\pi}{2}$（$\sin = 1$）と底点 $\dfrac{3}{2}\pi$（$\sin = -1$）の両方が含まれています！
・最大値：$2x - \dfrac{\pi}{3} = \dfrac{\pi}{2}$ すなわち $2x = \dfrac{5}{6}\pi \iff x = \dfrac{5}{12}\pi$ のとき、$\sin\left(2x - \dfrac{\pi}{3}\right) = 1$ となり、 $$\text{最大値 } 1 + \frac{\sqrt{3}}{2} \times 1 = 1 + \frac{\sqrt{3}}{2}$$ ・最小値：$2x - \dfrac{\pi}{3} = \dfrac{3}{2}\pi$ すなわち $2x = \dfrac{11}{6}\pi \iff x = \dfrac{11}{12}\pi$ のとき、$\sin\left(2x - \dfrac{\pi}{3}\right) = -1$ となり、 $$\text{最小値 } 1 + \frac{\sqrt{3}}{2} \times (-1) = 1 - \frac{\sqrt{3}}{2}$$

$\triangle\text{ABF}$ は辺 AB を斜辺とする直角三角形なので、$\angle\text{AFB} = 90^\circ$ です。
三平方の定理より、斜辺 AB の長さは $$\text{AB} = \sqrt{\text{AF}^2 + \text{BF}^2} = \sqrt{6^2 + 8^2} = \sqrt{36 + 64} = \sqrt{100} = 10$$ 次に、正方形 ABCD の対角線の交点 E について考えます。正方形の対角線はそれぞれの中心で垂直に交わり、長さが等しいので、$\triangle\text{EAB}$ は $\text{EA} = \text{EB}$ かつ $\angle\text{AEB} = 90^\circ$ の直角二等辺三角形です！
よって、$\text{AB} = 10$ より、 $$\text{EA} = \text{EB} = \frac{\text{AB}}{\sqrt{2}} = \frac{10}{\sqrt{2}} = 5\sqrt{2}$$

四角形 AEBF に注目してください！
$\angle\text{AFB} = 90^\circ$ かつ $\angle\text{AEB} = 90^\circ$ なので、向かい合う角の和が $\angle\text{AFB} + \angle\text{AEB} = 180^\circ$ です。
つまり、四角形 AEBF は線分 AB を直径とする円に内接しています！

・容器Aには最初、濃度 $a\%$ の食塩水が $200\text{ g}$ 入っているので、含まれる食塩の量は $$200 \times \frac{a}{100} = 2a \text{ (g)}$$ ・容器Bには最初、濃度 $b\%$ の食塩水が $300\text{ g}$ 入っているので、含まれる食塩の量は $$300 \times \frac{b}{100} = 3b \text{ (g)}$$ したがって、最初にあった食塩の量の和は $(2a + 3b)\text{ g}$ です。

$n - 1$ 回目の操作の後（$n=1$ のときは操作前で $x_0 = a, \ y_0 = b$ とおく）、
・容器A（$200\text{ g}$、濃度 $x_{n-1}\%$）に含まれる食塩の量は $200 \times \dfrac{x_{n-1}}{100} = 2x_{n-1}\text{ (g)}$
・容器B（$300\text{ g}$、濃度 $y_{n-1}\%$）に含まれる食塩の量は $300 \times \dfrac{y_{n-1}}{100} = 3y_{n-1}\text{ (g)}$

容器Aの $200\text{ g}$ から半分の $100\text{ g}$ を取り出すので、移動する食塩の量も半分の $x_{n-1}\text{ (g)}$ です。
その結果、AからBへ移した直後の状態は次のようになります。
・容器A：食塩水は $100\text{ g}$ 残り、その中の食塩の量は $x_{n-1}\text{ (g)}$
・容器B：食塩水は $300 + 100 = 400\text{ g}$ になり、その中の食塩の量は $(x_{n-1} + 3y_{n-1})\text{ (g)}$

いま容器Bには $400\text{ g}$ の食塩水の中に $(x_{n-1} + 3y_{n-1})\text{ g}$ の食塩が均一に溶けています。
ここから $100\text{ g}$（全体の $\dfrac{100}{400} = \dfrac{1}{4}$ の割合！）を取り出してAに戻し、Bには残りの $300\text{ g}$（全体の $\dfrac{300}{400} = \dfrac{3}{4}$ の割合！）が残ります。
したがって、$n$ 回目の操作が終わったときの食塩の量を比較すると、
【容器Aについて】（$200\text{ g}$、濃度 $x_n\%$ なので食塩の量は $2x_n\text{ g}$） $$2x_n = x_{n-1} + \frac{1}{4}(x_{n-1} + 3y_{n-1}) = \frac{5}{4}x_{n-1} + \frac{3}{4}y_{n-1}$$ 両辺を $2$ で割ると、 $$x_n = \frac{5}{8}x_{n-1} + \frac{3}{8}y_{n-1}$$ 【容器Bについて】（$300\text{ g}$、濃度 $y_n\%$ なので食塩の量は $3y_n\text{ g}$） $$3y_n = \frac{3}{4}(x_{n-1} + 3y_{n-1})$$ 両辺を $3$ で割ると、 $$y_n = \frac{1}{4}x_{n-1} + \frac{3}{4}y_{n-1}$$

問題文に「(2) の漸化式を使って示せ」という明確な指定があるため、「こぼしていないから当たり前」と書くのではなく、必ず数式を使って $2x_n + 3y_n = 2x_{n-1} + 3y_{n-1}$ を導きます！
$n \ (\geqq 1)$ 回目の操作の後、容器Aにある食塩の量は $200 \times \dfrac{x_n}{100} = 2x_n\text{ (g)}$、容器Bにある食塩の量は $300 \times \dfrac{y_n}{100} = 3y_n\text{ (g)}$ であるから、食塩の量の和は $(2x_n + 3y_n)\text{ g}$ である。
ここで、(2) の漸化式より、 $$2x_n + 3y_n = 2\left(\frac{5}{8}x_{n-1} + \frac{3}{8}y_{n-1}\right) + 3\left(\frac{1}{4}x_{n-1} + \frac{3}{4}y_{n-1}\right)$$ $$= \left(\frac{5}{4} + \frac{3}{4}\right)x_{n-1} + \left(\frac{3}{4} + \frac{9}{4}\right)y_{n-1} = 2x_{n-1} + 3y_{n-1}$$ よって、すべての自然数 $n$ に対して $2x_n + 3y_n = 2x_{n-1} + 3y_{n-1}$ が成り立つ。
これを繰り返し用いると、初期状態 $x_0 = a, \ y_0 = b$ に対して $$2x_n + 3y_n = 2x_{n-1} + 3y_{n-1} = \cdots = 2x_0 + 3y_0 = 2a + 3b \quad (\text{一定})$$ となり、この操作を何回繰り返した後でも容器Aと容器Bの食塩の量の和は一定（$(2a+3b)\text{ g}$）である。［証明終］

(3) の結果より、任意の非負整数 $k$ に対して $2x_k + 3y_k = 2a + 3b$ が成り立ちます。
したがって、$n - 1$ のとき $$3y_{n-1} = 2a + 3b - 2x_{n-1} \iff \frac{3}{8}y_{n-1} = \frac{2a + 3b - 2x_{n-1}}{8}$$ これを (2) の第1式 $x_n = \dfrac{5}{8}x_{n-1} + \dfrac{3}{8}y_{n-1}$ に代入すると、一気に $x_n$ だけの2項間漸化式になります！ $$x_n = \frac{5}{8}x_{n-1} + \frac{2a + 3b - 2x_{n-1}}{8} = \frac{3}{8}x_{n-1} + \frac{2a + 3b}{8}$$

特性方程式 $\alpha = \dfrac{3}{8}\alpha + \dfrac{2a + 3b}{8}$ を解くと、$\dfrac{5}{8}\alpha = \dfrac{2a + 3b}{8}$ より $\alpha = \dfrac{2a + 3b}{5}$ です。
よって、漸化式は次のように変形できます。 $$x_n - \frac{2a + 3b}{5} = \frac{3}{8}\left(x_{n-1} - \frac{2a + 3b}{5}\right)$$ これより、数列 $\left\{x_n - \dfrac{2a + 3b}{5}\right\}$ は、初項（$n=0$ とすると） $$x_0 - \frac{2a + 3b}{5} = a - \frac{2a + 3b}{5} = \frac{3(a - b)}{5}$$ 公比 $\dfrac{3}{8}$ の等比数列です（もちろん $n=1$ を初項として $x_1 - \dfrac{2a+3b}{5} = \dfrac{3}{8}\cdot\dfrac{3(a-b)}{5}$ としても同じです）。
したがって、 $$x_n - \frac{2a + 3b}{5} = \frac{3(a - b)}{5}\left(\frac{3}{8}\right)^n \iff x_n = \frac{2a + 3b}{5} + \frac{3(a - b)}{5}\left(\frac{3}{8}\right)^n$$ 次に、(3) の関係式 $3y_n = 2a + 3b - 2x_n$ にこの $x_n$ を代入して $y_n$ を求めます。 $$3y_n = 2a + 3b - 2\left\{\frac{2a + 3b}{5} + \frac{3(a - b)}{5}\left(\frac{3}{8}\right)^n\right\} = \frac{3(2a + 3b)}{5} - \frac{6(a - b)}{5}\left(\frac{3}{8}\right)^n$$ 両辺を $3$ で割ると、 $$y_n = \frac{2a + 3b}{5} - \frac{2(a - b)}{5}\left(\frac{3}{8}\right)^n$$

$-1 < \dfrac{3}{8} < 1$ であるから、$n \to \infty$ のとき $\lim_{n \to \infty} \left(\dfrac{3}{8}\right)^n = 0$ です。
したがって、(4) の結果より、 $$\lim_{n \to \infty} x_n = \frac{2a + 3b}{5}, \quad \lim_{n \to \infty} y_n = \frac{2a + 3b}{5}$$ （※直感的にも、無限回混ぜ合わせるとAとBの濃度は「Aの200gとBの300gを合わせた合計500gの中に食塩 $(2a+3b)\text{ g}$ が溶けている濃度 $\dfrac{2a+3b}{500}\times 100 = \dfrac{2a+3b}{5}\%$」に完全に均一化されるので、検算としても100%確信が持てますね！）

相異なる3点 $\text{O}(0), \ \text{A}(\alpha), \ \text{B}(\beta)$ について、$\alpha \neq 0, \ \beta \neq 0$ です。
3点 $\text{O, A, B}$ が同一直線上にあるための必要十分条件は、複素数 $\dfrac{\beta}{\alpha}$ が実数であることです。
一般に、複素数 $z$ が実数であるための必要十分条件は $z = \overline{z}$ であるから、 $$\frac{\beta}{\alpha} = \overline{\left(\frac{\beta}{\alpha}\right)} \iff \frac{\beta}{\alpha} = \frac{\overline{\beta}}{\overline{\alpha}}$$ $\alpha \neq 0, \ \overline{\alpha} \neq 0$ より、両辺に $\alpha\overline{\alpha}$ を掛けて分母を払うと、 $$\overline{\alpha}\beta = \alpha\overline{\beta} \quad \text{（または } \overline{\alpha}\beta - \alpha\overline{\beta} = 0\text{）}$$

3点 $\text{O, A, B}$ が同一直線上にないとき、(1) より $\overline{\alpha}\beta - \alpha\overline{\beta} \neq 0$ である。
点 $\text{C}(\gamma)$ が $\triangle\text{OAB}$ の外心であるための必要十分条件は、点 $\text{C}$ から3頂点 $\text{O, A, B}$ までの距離がすべて等しいこと、すなわち $$\text{CO} = \text{CA} = \text{CB} \iff |\gamma|^2 = |\gamma - \alpha|^2 = |\gamma - \beta|^2$$ である。ここで $|z|^2 = z\overline{z}$ を用いて $|\gamma|^2 = |\gamma - \alpha|^2$ を展開すると、 $$\gamma\overline{\gamma} = (\gamma - \alpha)(\overline{\gamma} - \overline{\alpha}) = \gamma\overline{\gamma} - \overline{\alpha}\gamma - \alpha\overline{\gamma} + \alpha\overline{\alpha}$$ 両辺から $\gamma\overline{\gamma}$ を消去して整理すると、 $$\overline{\alpha}\gamma + \alpha\overline{\gamma} = \alpha\overline{\alpha} \quad \cdots \text{①}$$ 全く同様にして、$|\gamma|^2 = |\gamma - \beta|^2$ より、 $$\overline{\beta}\gamma + \beta\overline{\gamma} = \beta\overline{\beta} \quad \cdots \text{②}$$

①と②を $\gamma$ と $\overline{\gamma}$ の連立1次方程式とみなして、$\overline{\gamma}$ を消去します！
①の両辺に $\beta$ を掛けた式から、②の両辺に $\alpha$ を掛けた式を引きます（$\text{①} \times \beta - \text{②} \times \alpha$）： $$\begin{aligned} \overline{\alpha}\beta\gamma + \alpha\beta\overline{\gamma} &= \alpha\overline{\alpha}\beta \\ -\text{)} \quad \alpha\overline{\beta}\gamma + \alpha\beta\overline{\gamma} &= \alpha\beta\overline{\beta} \\ \hline (\overline{\alpha}\beta - \alpha\overline{\beta})\gamma &= \alpha\overline{\alpha}\beta - \alpha\beta\overline{\beta} \end{aligned}$$ 3点 $\text{O, A, B}$ は同一直線上にないので、(1) より $\overline{\alpha}\beta - \alpha\overline{\beta} \neq 0$ である。よって両辺を $\overline{\alpha}\beta - \alpha\overline{\beta}$ で割ることができ、 $$\gamma = \frac{\alpha\overline{\alpha}\beta - \alpha\beta\overline{\beta}}{\overline{\alpha}\beta - \alpha\overline{\beta}} = \frac{\alpha\beta(\overline{\alpha} - \overline{\beta})}{\overline{\alpha}\beta - \alpha\overline{\beta}}$$ と求まります！

$\alpha = 1$ より $\overline{\alpha} = 1, \ \alpha\overline{\alpha} = 1$。
$\beta = \sqrt{3} + 3i$ より $\overline{\beta} = \sqrt{3} - 3i, \ \beta\overline{\beta} = (\sqrt{3})^2 + 3^2 = 3 + 9 = 12$。
これらを (2) で求めた $\gamma$ の公式に代入します。 $$\text{分母} = \overline{\alpha}\beta - \alpha\overline{\beta} = 1\cdot(\sqrt{3} + 3i) - 1\cdot(\sqrt{3} - 3i) = 6i$$ $$\text{分子} = \alpha\overline{\alpha}\beta - \alpha\beta\overline{\beta} = 1\cdot(\sqrt{3} + 3i) - 1\cdot 12 = (\sqrt{3} - 12) + 3i$$ よって、 $$\gamma = \frac{(\sqrt{3} - 12) + 3i}{6i} = \frac{3i + (\sqrt{3} - 12)}{6i} = \frac{1}{2} + \frac{\sqrt{3} - 12}{6i}$$ 分母・分子に $-i$ を掛けると（$\dfrac{1}{i} = -i$ より）、 $$\gamma = \frac{1}{2} + \frac{12 - \sqrt{3}}{6}i = \frac{1}{2} + \left(2 - \frac{\sqrt{3}}{6}\right)i$$ おっと、ここで「少し式が複雑だな…もっと簡単に回転角 $\theta$ を出す方法はないかな？」と思ったあなた！大正解です！
もちろんこの $\gamma$ を使って直接計算することもできますが、「円周角の定理（中心角 ＝ 円周角の2倍）」を使えば、なんと $\gamma$ の座標を使わずに3秒で回転角 $\theta$ が分かり、さらに計算の検算までできてしまいます！両方見てみましょう！

【方法A：複素数の偏角 $\theta = \arg\left(\dfrac{\beta - \gamma}{\alpha - \gamma}\right)$ を直接計算する方法】
先ほど求めた $\gamma = \dfrac{1}{2} + \left(2 - \dfrac{\sqrt{3}}{6}\right)i$ を用いて、$\alpha - \gamma$ と $\beta - \gamma$ を計算します。 $$\alpha - \gamma = 1 - \left\{\frac{1}{2} + \left(2 - \frac{\sqrt{3}}{6}\right)i\right\} = \frac{1}{2} - \frac{12 - \sqrt{3}}{6}i = \frac{3 - (12 - \sqrt{3})i}{6}$$ $$\beta - \gamma = (\sqrt{3} + 3i) - \left\{\frac{1}{2} + \left(2 - \frac{\sqrt{3}}{6}\right)i\right\} = \left(\sqrt{3} - \frac{1}{2}\right) + \left(1 + \frac{\sqrt{3}}{6}\right)i = \frac{(6\sqrt{3} - 3) + (6 + \sqrt{3})i}{6}$$ ここで、$\alpha - \gamma$ に $\cos\dfrac{2}{3}\pi + i\sin\dfrac{2}{3}\pi = \dfrac{-1 + \sqrt{3}i}{2}$ を掛けてみると、 $$\bigl\{3 - (12 - \sqrt{3})i\bigr\} \times \frac{-1 + \sqrt{3}i}{2} = \frac{\bigl\{-3 + \sqrt{3}(12 - \sqrt{3})\bigr\} + \bigl\{3\sqrt{3} + (12 - \sqrt{3})\bigr\}i}{2}$$ $$= \frac{(12\sqrt{3} - 6) + (12 + 2\sqrt{3})i}{2} = (6\sqrt{3} - 3) + (6 + \sqrt{3})i$$ なんと、分子が完全に一致しました！すなわち、 $$\frac{\beta - \gamma}{\alpha - \gamma} = -\frac{1}{2} + \frac{\sqrt{3}}{2}i = \cos\frac{2}{3}\pi + i\sin\frac{2}{3}\pi$$ したがって、$-\pi < \theta \leqq \pi$ より、求める回転角は $\theta = \dfrac{2}{3}\pi$ です！

【方法B：円周角の定理で一瞬で見抜く方法（超おすすめ！）】
3点 $\text{O}(0), \ \text{A}(1), \ \text{B}(\sqrt{3} + 3i)$ について、 $$\beta = \sqrt{3} + 3i = 2\sqrt{3}\left(\frac{1}{2} + \frac{\sqrt{3}}{2}i\right) = 2\sqrt{3}\left(\cos\frac{\pi}{3} + i\sin\frac{\pi}{3}\right)$$ であるから、$\angle\text{AOB} = \arg\left(\dfrac{\beta}{\alpha}\right) = \dfrac{\pi}{3}$ です！
点 $\text{C}$ は $\triangle\text{OAB}$ の外接円の中心であり、3点 $\text{O, A, B}$ はこの順に円周上に反時計回りに並んでいます。
したがって、弧 $\text{AB}$ に対する中心角 $\angle\text{ACB}$ は円周角 $\angle\text{AOB} = \dfrac{\pi}{3}$ の2倍であり、反時計回りの回転なので $$\theta = 2 \times \frac{\pi}{3} = \frac{2}{3}\pi$$ と一瞬で求まります！

まず、$\omega = \dfrac{\sqrt{2}}{2}(1 + i)$ を極形式で表します。 $$\omega = \cos\frac{\pi}{4} + i\sin\frac{\pi}{4}$$ ド・モアブルの定理より、整数 $n$ に対して $$\omega^n = \cos\frac{n\pi}{4} + i\sin\frac{n\pi}{4}$$ であり、$|\omega^n| = 1$ です。
このとき、式 $z_n = (\alpha - \gamma)\omega^n + \gamma \iff z_n - \gamma = (\alpha - \gamma)\omega^n$ は、「点 $z_n$ は、点 $\text{A}(\alpha)$ を外心 $\text{C}(\gamma)$ のまわりに角 $\dfrac{n\pi}{4}$ だけ回転した点である」ことを表しています！
つまり、すべての整数 $n$ に対して点 $z_n$ は外心 $\text{C}$ を中心とする $\triangle\text{OAB}$ の外接円周上にあります。
一方、点 $\text{B}(\beta)$ は、(3)(a) で求めた通り、「点 $\text{A}(\alpha)$ を外心 $\text{C}(\gamma)$ のまわりに角 $\theta = \dfrac{2}{3}\pi$ だけ回転した点」であり、同じ外接円周上にあります！ $$\beta - \gamma = (\alpha - \gamma)\left(\cos\frac{2}{3}\pi + i\sin\frac{2}{3}\pi\right)$$

同じ円周上にある2点 $z_n$ と $\beta$ の距離 $|z_n - \beta|$ が最も小さくなる（$z_n$ が $\beta$ に最も近くなる）のは、中心 $\text{C}(\gamma)$ から見た2点のなす中心角の差 $\left|\dfrac{n\pi}{4} - \dfrac{2}{3}\pi\right|$ （$2\pi$ の整数倍の周期を除く）が最小になるときです！
角の差を比べやすくするために、分母を $12$ に通分してみましょう！ $$\frac{n\pi}{4} = \frac{3n}{12}\pi, \qquad \theta = \frac{2}{3}\pi = \frac{8}{12}\pi$$ $3$ の倍数である $3n$ が $8$ に最も近くなる整数 $n$ を探すと、 $$\begin{aligned} n = 2 \text{ のとき} &: \frac{6}{12}\pi \quad \left(\frac{8}{12}\pi \text{ との差は } \frac{2}{12}\pi = \frac{\pi}{6}\right) \\ n = 3 \text{ のとき} &: \frac{9}{12}\pi \quad \left(\frac{8}{12}\pi \text{ との差は } \frac{1}{12}\pi\right) \\ n = 4 \text{ のとき} &: \frac{12}{12}\pi \quad \left(\frac{8}{12}\pi \text{ との差は } \frac{4}{12}\pi = \frac{\pi}{3}\right) \end{aligned}$$ また、$\omega^8 = \cos 2\pi + i\sin 2\pi = 1$ より $z_n$ は周期 $8$ で同じ8個の点を繰り返しますが、$3n \equiv 8 \pmod{24}$ となる整数 $n$ は存在せず（$3n$ は3の倍数、$24k + 8$ は3で割ると2余るため）、最小の角度差は $n = 3$（および $n = 3 + 8k$）のときの $\dfrac{\pi}{12}$（$15^\circ$）です。
問題文の「$z_n$ が $\beta$ に最も近い $n$ を求めよ」に対しては、基本周期内の $n = 3$（一般の整数まで含めて書くなら $n = 3$（または $n = 8k + 3$（$k$ は整数））と併記しておけばどんな採点基準でも100%満点です！）。