トマエ関数の連続関数による極限表示

関数にはいろいろなクラスがあります．よく見かけるクラスとしては微分可能関数というものがあります． $C\ef 0(U)$ と書かれていたら，これは $U$ 上連続関数を表し， $C\ef n(U)$ は $U$ 上で $n$ 階微分可能関数全体の集合(足し算や掛け算の構造まで込みで考えると環)を表します．これら微分可能関数の集合たちは次のような包含関係があります． $$C\ef 0(U)\supset C\ef 1(U)\supset C\ef 2(U)\supset\cdots$$ 連続関数の集合が一番大きい集合になっているわけです．また $C^\infty (U)$ というのは何回でも微分可能な関数を表し， $C^\omega (U)$ はその中でもベキ級数表示が可能な関数を表しています．包含関係としては $$C\ef 0(U)\supset C\ef 1(U)\supset C\ef 2(U)\supset\cdots \supset C^\infty (U)\supset C^\omega (U)$$ という位置づけになっています． さて，微分可能という性質に関して一番大きい集合は連続関数の集合であることは想像に難くありませんが，実は $C^0(U)$ よりも大きい関数の種類があります．それがベール関数と呼ばれる関数の集合 $B\ef\kappa(U)$ です． まず $B\ef 0(U)$ は $C\ef 0(U)$ と同じく連続関数を表し， $B\ef 1(U)$ は第1級ベール関数と呼ばれる関数の集合になっています．第1級ベール関数とは， $B\ef 0(U)$ の関数の極限として表されるものと定義されます．いま $U$ は実数直線 $\rea$ であるとします．例えば $$f(x)=\begin{cases} 1 & (x=0)\\ 0 & (x\neq 0) \end{cases}$$ は不連続関数ですが， $\rea$ 上第1級ベール関数，つまり $B\ef 1(\rea)$ の要素になっています．なぜなら $f(x)$ は任意の点 $x\in\rea$ において $$f(x)=\lim\thr n\to\infty e^{-nx^2}$$ と表されるからです．

$e^{-nx\ef 2}$ は $B\ef 0(\rea)$ の要素(連続関数)であり， $x=0$ において $$\lim\thr n\to\infty e^0 =\lim\thr n\to\infty 1=1$$ $x\neq 0$ において $$\lim\thr n\to\infty e^{-nx^2}=0$$ となることが分かります．したがって確かに $e^{-nx^2}$ の極限は $f(x)$ になっています． また，当たり前の例として， $f$ が $U$ 上連続関数なら $$\forall x\in U\quad f(x)=\lim\thr n\to\infty f(x)$$ なので，連続関数 $B\ef 0(U)$ は $B\ef 1(U)$ に含まれています． このように第1級ベール関数は連続関数 $B\ef 0(U)$ の集合よりも大きいものになっています．第2級ベール関数も同様に $B\ef 1(U)$ の要素の極限として得られる関数の集合を指します．有名なところでは有理数 $\ratio$ の特性関数(別名ディリクレ関数) $\chi_\ratio$ があります． $$\chi\f\ratio (x)=\begin{cases} 1 & (x\in\ratio )\\ 0&(x\in\rea\setminus\ratio) \end{cases}$$ これは実は第1級ベール関数の極限として表され，さらに連続関数の極限としては表せないので，真の第2級ベール関数になっています．つまり $\chi\f\ratio\in B\ef 2(\rea )\setminus B\ef 1(\rea)$ です． さて，ディリクレ関数と似た関数としてトマエ関数というものがあります． $$T(x)=\begin{cases} \dis\frac 1p & \paren{\dis x=\frac qp,\; \gcd\jb{p,q}=1,\; p>0}\\ 0 & (x\in\rea\setminus\ratio ) \end{cases}$$

このトマエ関数は有理数の点において不連続であり，無理数の点では連続になるという直観に反した性質を持っています．トマエ関数はいたるところで点が上下している大変複雑な関数に見えます．しかし，実はトマエ関数は第1級ベール関数なのです．つまり連続関数の極限として表せてしまいます．今回はこのトマエ関数が次のような極限の表示を持つことを発見したのでそれを証明してみます．

(トマエ関数の極限表示) トマエ関数 $T(x)$ は任意の $x\in\rea$ において $$T(x)=\lim\thr n\to\infty \frac{1}{n}\sum\thr k=0\ethr n-1(\cos k\pi x)^{k!}$$ という連続関数の極限表示を持つ．

$$\frac 1n\sum\thr k=0\ethr n-1(\cos k\pi x)^{k!}\ のグラフ$$

トマエ関数は $x=p/q$ のときに $1/q$ という値を返す関数です．つまり有理数 $p/q$ から分母の部分 $1/q$ だけを取り出す関数を連続関数の極限として構成することができれば，トマエ関数をつくることができます．そのために次のような数列を考えます $$\jb{a\f n}\thr n=1^\infty =\braces{\underbrace{0,0,0,\ldots 0,1}_q, \underbrace{0,0,0,\ldots 0,1}_q,\ldots}$$ 与えられた有理数 $p/q$ からこのような数列を作り出すことができれば， $1/q$ という値はこの数列の平均の極限として与えられるはずです．つまり $$\frac 1q=\lim\thr n\to\infty \frac{a\f 0+a\f 1+\cdots +a\thr n-1}{n}=\lim\thr n\to\infty\frac{1}{n}\sum\thr k=0\ethr n-1 a\f k$$ となるはずです．平均の極限は数列の中に $1$ が現れる密度を表しているためです．実際に $p/q$ からこのような数列 $\jb{a\f n}$ をつくる操作を考えてみます．つまり各自然数 $i$ に対して $$\frac pq\mapsto a\f i$$ を実現するような写像を考えるわけです．しかし連続関数を用いてこのような数列を直接作る手段は思いつきませんでした．記号を濫用すれば，数列 $0,0,\ldots ,0,1$ を $q$ の周期で実現するような関数は $$\braces{\paren{\cos^2 k\pi\frac pq}^\infty}$$ というものが一つ例として上がります． $k$ が $q$ の倍数でないときは $kp/q$ は整数にならないため $$\cos^2k\pi\frac pq<1$$ であり，その" $\infty$ 乗"は $0$ になります． $k$ が $q$ の倍数のときは $kp/q$ は整数であり， $\cos^2$ の部分を $\infty$ 乗すると $1$ になってくれるため，欲しい数列が得られます．しかし $\infty$ 乗という部分は数学的には曖昧になってしまっています．そこで指数の肩の部分を $\infty$ ではなく「大きな自然数 $N$ 」に置き換える方法が考えられます．しかしそれだと $\jb{(\cos^2k\pi p/q)^N}$ は $\jb{a\f n}$ に完全に一致してくれません．ただし $\jb{a\f n}$ に非常に近いものにはなってくれます． こうした発想の流れから， $\jb{a\f n}$ に一致するような数列を考えるのではなく， $\jb{a\f n}$ に限りなく近づいていく数列を生み出すことができればうまく行くかもしれないという考えに至りました．つまり $\jb{(\cos^2 k\pi p/q)^N}$ ではなく，例えば $$\jb{(\cos k\pi p/q)^{k!}}$$ のように，指数の肩の部分も大きくなっていくようなものを考えます．これによって作られる数列は $\jb{a\f n}$ には一致しませんが， $\jb{a\f n}$ に無限に近づくような数列になります． ここで $\jb{b\f n}=\jb{(\cos k\pi p/q)^{k!}}$ としたときに， $b\f n$ の平均の極限が $a\f n$ の平均の極限に一致することを示すことができれば， $$\frac 1q=\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1 a\f k=\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1b\f k=\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1\paren{\cos k\pi\frac pq}^{k!}$$ となることを示すことができます．そこで次のような補題を証明します．

(平均の極限についての補題) $\dis \lim\thr n\to\infty (b\f n-a\f n)=0$ とする．このとき， $\jb{a\f n}$ または $\jb{b\f n}$ の平均の極限が存在するならば $$\lim\thr n\to\infty\frac{a\f 0+a\f 1+\cdots +a\f n}{n}=\lim\thr n\to\infty\frac{b\f 0+b\f 1+\cdots +b\f n}{n}$$ が成り立つ．(注意点として， $\jb{a\f n},\jb{b\f n}$ はそれ自身が極限を持つことは仮定していない．)
(証明) $\jb{a\f n}$ の平均の極限が存在すると仮定し，その値を $\alpha$ とする．すなわち $$\lim\thr n\to\infty\frac{a\f 0+\cdots +a\f n}{n}=\alpha$$ である．このとき $\jb{b\f n}$ の平均の極限が $\alpha$ となることを証明する． まず任意の正の実数 $\vare >0$ を固定する．仮定から $$\exists N\f 1\in\nature\ \forall n\in\nature\ n>N\f 1\Naraba \abs{b\f n-a\f n}<\frac\vare 3\\ \exists N\f 2\in\nature\ \forall n\in\nature\ n>N\f 2\Naraba \abs{\frac{a\f 0+\cdots +a\f n}{n}-\alpha }<\frac\vare 3$$ このとき $N=\max\jb{N\f 1,N\f 2}$ とすれば， $n>N$ であるような自然数 $n$ に対して $$\begin{align} \abs{\frac{b\f 0+\cdots +b\f n}{n}-\alpha}&\leq \abs{\frac{b\f 0+\cdots +b\f n}{n}-\frac{a\f 0+\cdots +a\f n}{n}}+\abs{\frac{a\f 0+\cdots +a\f n}{n}-\alpha }\\ &\leq \frac{\abs{b\f 0-a\f 0}}{n}+\cdots +\frac{\abs{b\f N-a\f N}}{n}\\ &\qquad +\frac{\abs{b\thr N+1-a\thr N+1}}{n}+\cdots +\frac{\abs{b\f n-a\f n}}{n} +\abs{\frac{a\f 0+\cdots +a\f n}{n}-\alpha }\\ &<\sum\thr k=0\ef N\frac{\abs{b\f k-a\f k}}{n}+\frac{n-N}{n}\cdot\frac\vare 3+\frac\vare 3\\ &=\frac 1n\sum\thr k=0\ef N\abs{b\f k-a\f k}+\paren{2-\frac N{n}}\frac\vare 3 \end{align}$$ が成り立つ．いま $$\frac 1n\sum\thr k=0\ef N\abs{b\f k-a\f k}+\paren{2-\frac Nn}\frac\vare 3\leq \vare$$ であるような自然数 $n$ を見つけることができればよい．この不等式を解くと $$\frac{3}{\vare}\sum\thr k=0\ef N\abs{b\f k-a\f k}-N\leq n$$ である．結局上の議論を総合すると，$n>N$ となる自然数 $n$に対して $$\frac{3}{\vare}\sum\thr k=0\ef N\abs{b\f k-a\f k}-N\leq n\quad \Naraba\quad \abs{\frac{b\f 0+\cdots +b\f n}{n}-\alpha}<\vare$$ となる( $\sum\abs{b\f k-a\f k}$ の部分は $n$ に依らないことに注意)．つまり $$M=\max\braces{\dis\frac{3}{\vare}\sum\thr k=0\ef N\abs{b\f k-a\f k}-N,\; N}$$ とすると $$\forall n\in\nature\ n>M\Naraba\abs{\frac{b\f 0+\cdots +b\f n}{n}-\alpha}<\vare$$ が成り立っている．したがって $$\lim\thr n\to\infty\frac{b\f 0+\cdots +b\f n}{n}=\alpha$$ となる．□

これを使うことによってトマエ関数の連続関数による極限表示が冒頭で与えられた式 $$T(x)=\lim\thr n\to\infty \frac 1n\sum\thr k=0\ethr n-1\paren{\cos k\pi x}^{k!}$$ によって与えられることを証明することが出来ます．

(トマエ関数の極限表示の証明) いま数列 $b\f k(x)$ を $$\jb{b\f k(x)}\thr k=0\ef\infty=\jb{(\cos k\pi x)^{k!}}\thr k=0^\infty$$ とし，また $$\jb{a\f k}\thr k=0\ef\infty =\braces{ \underbrace{0,0,\ldots ,0,1}_q,\underbrace{0,0,\ldots ,0,1}_q,\ldots }$$ とする． $x$ を有理数とし， $x=p/q,\; \gcd\jb{p,q}=1,\; q>0$ とすると， $$\lim\thr n\to\infty(b\f n(x)-a\f n)=0$$ が成り立つ．したがって上で示した補題により $b\f k(x)$ と $a\f k$ の平均の極限は一致する．つまり $$\frac 1q=\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1 a\f k=\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1b\f k(x)=\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1\paren{\cos k\pi x}^{k!}$$ となる．また $x$ が無理数のときは $$\lim\thr n\to\infty (b\f n(x)-0)=0$$ となるため，再び補題により $\jb{b\f k(x)}\thr k=0^\infty$ と $\jb{0}\thr k=0^\infty$ の平均の極限は一致し， $$0=\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1b\f k(x)=\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1(\cos k\pi x)^{k!}$$ となる． 以上を総合すると， $$\lim\thr n\to\infty\frac 1n\sum\thr k=0\ethr n-1(\cos k\pi x)^{k!}=\begin{cases} \dis\frac 1p & \paren{\dis x=\frac qp,\; \gcd\jb{p,q}=1,\; p>0}\\ 0 & (x\in\rea\setminus\ratio ) \end{cases}$$ となるので，これはトマエ関数と一致する．□

これでトマエ関数が連続関数，さらに言うなら $C^\infty$ 級関数の極限によって表されることが分かりました．以上の考え方を利用すれば，有理数上で $$\frac pq\overset{g}{\longmapsto} f(p,q)$$ という形の式はすべて連続関数の極限として表すことができそうです．少なくとも有理数上だけ考えるならば， $$g\paren{x}=f\!\paren{\frac{x}{T(x)},\;\frac{1}{T(x)}}$$ という表示が与えられますね．