事後分布と事実の対応

ベイズ分析では、データに対してパラメータとデータの同時確率分布を適用して分析が行われ、事後確率分布として分析結果が得られる。同時確率分布が事実に対応するものであれば、得られた事後確率分布は事実に対応していることが期待される。ここで、同時確率分布は次式（１）で与えられるものである（Gelman et al., 2014, p. 6）。

事前確率が事実と対応しているとき（性格特性を表すモデルにおいて潜在因子が標準正規分布に従うとするなど）、同時確率分布は事実に対応していると考えられ、従って事後確率は事実に対応していることが期待される。ここでの議論では、データ生成モデルは、事実を表しているものとする。

事実に対応する事前分布が判らないときにベイズ分析を行うためには、同時分布（１）の設定のために何らかの事前分布を設定する必要がある。このとき、事前分布と事実との関係が不明であるので、同時分布と事実との関係も不明である。したがって、事後分布と事実との関係も不明となる。データ分析を行うときは、分析結果が事実とどのような関係にあるかを調べておくことは重要である。

なお、データ数が多いときは事後分布についての漸近定理がある（Gelman et al., 2014, pp. 585-587）

これは、最尤法における漸近定理（Hogg et al., 2005, p. 325）と同じ形である

したがって、データ数が多いときは、事後分布と事実の関係はよいことが期待できる。問題は、データ数が多くないときである。

事後分布と事実の関係を確信区間が真値を含む比率によって検討する。事後分布が事実と対応しているのであれば、確信区間が真値を含む確率がであることが期待される。データが離散値である２項分布と連続量である正規分布についてシミュレーションによって調べる。

事実との対応が分からない場合のシミュレーションであるので、事前分布は一様分布あるいは一様分布に近いフラットなものを用いる。

Lambert (2018, pp. 96-97) は以下のように書いている。

When there is a premium placed on the objectivity of analysis as is true in regulatory work (drug-trials, public policy and the like), then the use of uninformative priors is desired. For example, if we were uncertain about the proportion with a particular disease, then we might specify a uniform prior.

また、さらに以下のように書いている(Lambert, 2018, p. 97)。

…as a merit of uniform priors they ‘let the data speak for itself’ through the likelihood. This is used as the justification for using a flat prior in many analysis.

2項分布

データ生成確率を

事前分布を

とおく。

２項分布の母数の真値を

とする。

まず、データ数（２項分布における総試行数）が３の場合についての結果を図１に示す。シミュレーション数はである。図１は、圧縮ファイルprgfiles.zipに含まれているスクリプトBinomialN3P0_7.pyを実行すると得ることができる。

図１

CI (credible interval：確信区間)に対して、確信区間に真値が含まれた比率が青線で示されている。青線を覆う緑色の帯は、比率の95％CI (confidence interval：信頼区間)である。事後分布が事実に対応しているのであれば、確信区間が真値を含む比率はであることが期待されるが、図１では真値を含む比率は確信区間の名目上の確率から外れている。確信区間の名目上の確率と真値を含む比率が一致する場合のグラフは赤線で示されているが、赤線と青線のずれは明瞭である。事後分布が事実に対応しているとは言い難い。

２項分布の試行総数Nの値を1000試行とした場合の結果を図２に示す。図２は、圧縮ファイルprgfiles.zipに含まれているスクリプトBinomialN1000P0_7.pyを実行すると得ることができる。

図２

確信区間の名目上の確率と、確信区間が真値を含んだ比率が一致していると見なされることが、赤線と青線の重なりから示唆される。これは、事後分布が事実と対応していることを示していると解釈することができよう。

図１の青線と赤線の著しいずれは、２項分布の確率変数が離散量（図１の場合は、K=0,1,2,3の３通り）であることによると考えることができる。確率変数が連続量である場合として正規分布の場合を調べてみる。データ数が少ないN=3の場合、ベイズ分析のソフトStanでのMCMCサンプリングが安定しない場合が頻発したので、データ数が少ない場合としてN=5を扱った。MCMCサンプリングを安定化するために弱い事前情報を用いる方法もあるが（Gelman et al., 2021）、事前情報による制約を出来るだけなくした状態での事後分布を調べることにした。

正規分布

データ生成確率を

事前分布を

とした。

真値を

と置いてシミュレーションを行い、CIの名目確率と、確信区間CIが真値を含んだ比率の関係を調べた。

データ数N=5の場合の、母数との結果を図３と図４に示す。図３と図４は、圧縮ファイルprgfiles.zipに含まれているスクリプトファイルNormalN5.pyを実行すると得ることができる。

図３

図４

パラメータの場合（図３）、真値を含む比率は名目上の確率より大きくなっている。パラメータの場合（図４）は、真値を含んだ比率（青線）は、確信区間の名目上の確率（赤線）に近接しているが、95％信頼区間を示す緑色の帯は赤線から下方に離れているので、パラメータの場合は、真値を含む比率は名目上の確率より小さいことが示唆されている。

確率変数が連続量である正規分布の場合も、データ数がN=5と少ない場合は、事後分布と事実との対応はよくないと言えそうである。

次にデータ数をN=100に増やした場合について調べてみた。結果を図５、図６に示す。これらの図は、圧縮ファイルprgfiles.zipに含まれているスクリプトファイルNormalN100.pyを実行すると得ることができる。

図５

図６

いずれの図の場合も、真値を含んだ比率の95％信頼区間（CI: confidence interval）を示す緑色の帯が、確信区間（CI: credible interval）の名目上の確率を示す赤線と重なっているので、確信区間の名目上の確率は真値を含む比率と等しいと言えそうである。この意味で、事後分布は事実に対応していると解釈できそうである。

参考文献

Gelman, A., Hill, J., & Vehtari, A. (2021). Regression and Other Stories. Cambridge University Press.

Gelman, A., Carlin, J. B., Stern, H. S., Dunson, D. B., Vehtari, A., & Rubin, D. B. (2014). Bayesian Data Analysis, third edition. CRC Press.

Hogg, R. V., McKean, J. W., & Craig, A. T. (2005). Introduction to Mathematical Statistics, sixth edition. Pearson Prentice Hall.

Lambert, B. (2018). A student’s guide to Bayesian statistics. SAGE.