@misc{oai:ir.soken.ac.jp:00000752, author = {高橋, 勇人 and タカハシ, ハヤト and TAKAHASHI, Hayato}, month = {2016-02-17}, note = {本論文は,0,1の無限列上の確率測度とKolmogorov complexityとの関係を探究したものである。特にパラメトリックモデルから自然に得られる計算不可能な確率測度とKolmogorov complexityとの関係について論じている。

 計算可能な確率測度とKolmogorov complexityとの関係は,これまで知られているが,計算不可能な確率測度とKolmogorov complexityとの関係はあまり知られていない。本論文ではこれを調べるために,A.R.Barron [Ph.D.Dissertation 1985]によって示されたBayes符号を,Kolmogorov complexityの評価に適用する方法を選んでいる。それは,パラメトリックモデルP(・; θ)が与えられたとき,直接Shannon符号を用いて符号長を評価するのではなく,P(χn)= ∫P(χn; θ)dθのようにパラメータで積分した測度にShannon符号を適用するものである。この符号化方法をKolmogorov complexityの評価に適用するには,Pが計算可能であると仮定すればよい。"パラメータが計算可能⇔モデルが計算可能"という状況のもとで,この仮定はかなり一般的に成立することがら知られている。またこのときの符号長の上限はモデルが滑らかであるという条件の下ですべてのパラメータに対して
          
-log P(χn; θ) + k/2 log n + ο(log n)

となることが知られている。ただし,θは最尤推定量を表しkはパラメータの次元とする。また符号長の下限もルベーグ測度0のパラメータの集合を除いてほぼ同じオーダとなることが知られている。

本論文では,上記のBarronで示された方法を次ぎの2点にわたって拡張している。
1 モデルが滑らかという条件の下でパラメータがルベーグ測度0の集合に属する場合の符号長,およびKolmogorov complexityの評価をしたこと。
2 モデルが滑らかでない場合のKolmogorov complexityの評価をしたこと。特に無理数回転モデルから得られる確率モデルを探究し,そのKolmogorov complexityの評価をするとともに,このモデルが滑らがでないことを示し,またそれがもつ幾つかの特徴を明らかにした。

 上記の1を調べるために特異測度を事前分布に採用している。積分論においては一般に特異測度による積分の理論が展開されてはいるが,具体的に特異測度による積分の計算をした例はあまりないので,この点に本論文の貢献がある。また,尤度関数が最尤推定量のまわりに集中するという統計学のモデルでは標準的な条件のもとて特異速度による積分の漸近展開を計算している。これによってこれまでに知られていた事実を自然な形で一般化した結果が得られ,滑らかなパラメトリックモデルの符号長の構造ががなり解明されている。特に本論文では,具体的に計算できる特異測度とKolmogorov complexityがら導がれる有限な集合体上の測度を用いたBayes符号の符号長の漸近展開を計算している。その結果,パラメータがルベーグ測度0の集合に属する場合,(1)のlog nオーダの項が通常のBayes符号と比べて小さくできることを示している。

 上記の2に関しては,力学系から導かれるパラメトリックモデルの単純で興味深い例となっている。特に,無理数回転の中でも興味深い性質をもつSturmian列を生成するモデルの性質が考究されている。その結果,このモデルが通常の滑らがなパラメトリックモデルと比べて著しく異なる特徴をもっことが判明した。例えば,尤度関数のサポートが縮退すること,尤度関数のグラフの形が全て3角形となることなどが証明されている。またこのモデルから生成される列,すなわちSturmian列のKolmogorov complexityの評価が得られ,滑らかなモデルとは異なることが示されている。またパラメータが計算不可能な実数の場合,生成されるSturmian列は全て計算不可能であることを明らかにしている。, 総研大甲第569号}, title = {パラメトリックモデルとコルモゴロフ複雑度}, year = {} }