事前分布の選択

Published on by anesth

Bayesian Biostatistics by E Lesaffre & AB Lawson, Chapter 5 学習ノート
ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー
とにかく一旦、理解できるかどうかにかかわらず全体を走り読みして、次にRプログラム動かして、その詳細部分の理解から入るようにする。
本章は、ベイズの根幹に関わる事前分布について、深い考察を記述している。
ベイズに歴史的に敵対的な統計学者が、この事前分布情報の取扱に含まれる主観情報の問題点を攻撃し続けたようだ。そこで、ベイズ論者は、以下に事前分布を正論化するかについて、たいへんな努力を積み重ねてきたようである。とくに、事前情報が「ほとんど無い」場合、無情報事前分布なる考えから、フィッシャーの統計情報量の平方根から算出されるjeffreysの事前分布の考え方、弱情報/漠然事前分布等への考え、情報がある場合にも、専門家による知識を取り入れる方法や、圧倒的な事前情報を元に設計する場合など、事前分布の選択一つに相当なうんちくがあることが理解できる（ただし、詳しい内容は難解でわからない）。面白いのは、第?相臨床試験において、通常、事前情報たる第一相や第二相のデータを組み込むことは、頻度論では認められてこなかったが、ベイズ流では当然、利用できる情報があるのならば、それらを適正に加味することが当然であろうとの考えであるが、一方で、どのように組み込むかについては、懐疑的な立場や熱狂的な立場など、それはそれで複雑そうであるということがなんとなく感じられた。

5.1 はじめに

三種類の事前分布
1) 共役事前分布
2) 無情報事前分布
3) 情報あり事前分布

5.2 ベイズの定理の逐次利用
5.3 共役事前分布
5.3.1 1変量分布

例V.2:食事研究：正規事前分布とｔ事前分布
食事研究がどういうものであったか振り返ると、IBBENS調査がベルギー銀行員に対して行われた事前調査で371名の男性と192名の女性、合わせて563名のコレステロール値で、その後のIBBENS-2調査はベルギーで行われた仮想のコレステロール値調査。

IBBENS調査では、563名の標本平均は328 mg/dayで、標本標準偏差は120.3 mg/day

muには、280〜380までの範囲において200刻みで数値が収められた。
事前分布として、正規分布を選択の場合は、N(328,100)を選択できる

IBBENS-2調査では50名、標本平均318.07、標本分散285.57

事前分布をt分布を選択するなら、

事前分布に正規分布を選択するなら、解析的に公式を使って事後分布を求める。

まずはグラフの枠を作成し、


ｔ分布を事前分布として選んだ場合、t30(328,100)


次に正規分布尤度を掛けた場合、事後分布は、


次に、正規分布を事前ぶんぷに選んだ場合、


その場合の事後分布は、N(325.4242, 8.606072)

事前分布に正規分布N(328, 100)を選んでも、T分布t30(328, 100)を選んでも、事後分布は実質的には変わらない。しかし、ｔ分布を選んだ場合は、
１）事後分布は解析的には求められない
２）事後分布が事前分布と同じ分布族には属さない
３）事後要約量が事前分布や標本要約量の簡単な関数ではない。

5.3.2 正規分布ー平均と分散が未知
5.3.3 多変量分布
5.3.4 条件付き共役と準共役事前分布
5.3.5　超事前分布
例V.3 虫歯研究：対数正規事前分布の近似

dmft指数の平均を表すθに対して、対数正規事前分布を仮定した。この事前分布の欠点は、事後分布の要約量がサンプリングによってのみ可能であることである。そこで、うまく選択された３つのガンマ分布の混合で対数政治事前分布を近似する。
dmftのデータがどんなデータだったか、もう一度分析するところから始める。


混合分布と対数正規事前分布の間の距離を最小にするグリッド検索によって、次の混合分布の構成が与えられた。
(1) π1=0.15, α1=2.5, β1=1.75
(2) π2=0.3, α2=3.8, β2=0.67
(3) π3=0.55, α3=6, β3=0.3
これが、どうやって選ばれたのか、チンプンカンプン！

5.4 無情報事前分布
5.4.1 はじめに

Noninformative (NI) prior distribution 無情報事前分布：
情報の欠如や無知を表す無情報事前分布は、実際には無情報ではなく、何かしらの情報を含んでいると考えるべきである（弱や拡散というほうがふさわしいかも）。厳密には、非正則分布improperと呼ばれる。非正則improperとは積分しても収束しない。

5.4.2 無情報
事前情報をもたないとき、「無関心の原則principle of indifferece」と呼ばれる
「不十分な理由の原則principle of insufficient reason」= ベイズ・ラプラスの公準Bayes-Laplace postulateとも呼ばれる。

厳密には、情報がないことを表現できる事前分布はない。

5.4.3 無情報事前分布選択の一般原理
Jeffreys事前分布

Jeffreys不変原則Jeffreys invariance principle of rule

事前分布をフィッシャーの情報行列の平方根に比例するように定める。
「一つのパラメータθに対する事前分布は事前分布がフィッシャーの情報量の平方根に比例するとき、近似的に無情報である」

ψ ∝ ∫ F^(1/2)(θ)dθ

フィッシャーの情報行列とは？
フィッシャー情報量は、確率変数がパラメーターに関して持つ情報量のことである。
スコア関数の分散はフィッシャー情報量として定義されている。スコア関数の分散は次のように式変換することで、尤度関数の偏微分として表すことができる。スコア関数の θ が複数ある場合、フィッシャー情報量は行列として表すことができる。

パラメータ θ
を持つ確率密度関数：f(x,θ)
で表される分布について考えます。

1．尤度関数：
L(θ;x1)=f(x1,θ)
（尤度関数と確率密度関数は意味が異なります，詳細は統計の本を参照して下さい）。

2．対数尤度関数：
logL(θ;x1)=logf(x1,θ)
尤度関数は対数を取った方が計算しやすい場合が多いのでけっこう登場します。

スコア関数とフィッシャー情報量
3．スコア関数：
∂∂θlogL=1L∂L∂θ
対数尤度関数をパラメータで偏微分したものです。スコア関数は観測値 x1
の関数なので，確率変数です。従って，期待値や分散を考えることができます。
そして，スコア関数の期待値は 0
です（証明は後述）。そのため，スコア関数の分散は二次モーメントと一致します。この量をフィッシャー情報量と言います。

4．フィッシャー情報量（パラメータの関数）：
Var[∂∂θlogL]=E[(∂∂θlogL)2]

Jeffreys事前分布
ポアソン分布：　p(θ) ∝　θ^(-1/2) フラット事前分布に対応
σが既知の正規分布: p(μ)∝c
μが既知の正規分布: p(σ-2)∝σ^(-2)

p(θ) ∝ ｜F(θ)｜^(1/2)

データ変換尤度原理data-translated likelihood principle, DLT
μが与えられたもとで、σに対する正規分布の尤度は、
L（σ|μ, y) ∝ σ^(-n)*exp(-nS^2/2σ^2), S^2 = Σ(yi -μ)^2

n=10で、標準偏差Sが、5, 10, 20の３つのデータを仮定すると、σの関数としての尤度は、位置と形状が変化するが、log(σ）の関数では、位置のみが変化する。
log(σ)に対するフラット事前分布は、p(σ)∝σ^(-1)、p(σ^2)∝σ^(-2):=Jeffreys事前分布

例V.4 μが与えられたもとでの正規分布のσの尤度へのDTL原理の適応

5.4.4 非正則事前分布
多くの無情報（NI)事前分布は正則な分布でない。

5.4.5 弱情報/漠然事前分布
弱情報事前分布：　σ0の大きい正規分布N（0, σ0^2)とか、逆ガンマ事前分布IG(ε,ε):
ε->∞ で、Jeffreys事前分布p(σ^2)∝σ-2となる。

5.5 情報のある事前分布
5.5.1 はじめに
a) 過去のデータをべき事前分布power priorを用いて事前情報として形式化する。
b) 過去のデータまたは専門家の知識にものづく事前分布である臨床事前分布clinical prior
c) 事前の懐柔主義や楽観主義を表す形式的ルールに基づく事前分布を用いる。

5.5.2 データにもとづく事前分布
過去のデータは現在のデータと同じ条件下で実現されたと仮定し、過去のデータからの事前情報と現在のデータの尤度を結合することである。

＜Ibrahim and Chenの提案＞
p(θ|y, y0, α0) ∝ L(θ|y)L(θ|y0)^α0*p0(θ|c0)
α0=0のとき、過去のデータは無視、α0=1であるとき、過去のデータは現在のデータと同じ重みが与えられる。ただし、どのようなα0を選ぶのかは、すぐにはわからない。

5.5.3　事前知識の抽出(専門家の知識による事前分布)
例V.5: 脳卒中試験：専門家知識による第１回目の中間解析に対する事前分布

rt-PA治療患者に対するSICHの発生率θに関して、過去のデータはないとする。
こそで専門家の知識の抽出：
(1)θに対する最も当てはまりそうな値（事前分布の最頻値、平均値、あるいは中央値として解釈）
(2)θにたいする不確実性は、例えば95%等裾確率CIとして表現。
ー＞例えば、θに対する事前分布の最頻値を0.10で、事前95%等裾確率CIを[0.05, 0.20]と仮定する。ー＞Beta(7.2, 56.2)

5.5.3.2識別可能性の問題
ある状況では、強力な主観的事前情報が事後の推定値にたどり着くために不可欠なときがある。
データがモデルの全パラメータを推定するのに十分でない時、モデルは識別不能nonidentifiableと呼ばれる。尤度識別可能とは、すなわち尤度がモデルパラメータのゆいちの推定値を提供するのに十分であるという意味。「強力な事前情報ー＞全パラメータについて合理的な事後情報を得る」
ということもある。

5.5.4 典型的な事前分布
懐疑的skeptical事前分布と熱狂的enthusiastic事前分布

5.5.4.1 懐疑的事前分布
例V.7:第?相ランダム化試験における懐疑的事前分布の利用

5.5.4.2 熱狂的事前分布
例V.9：脂質軽減ランダム化臨床試験：熱狂的事前分布の利用

5.6 回帰モデルにおける事前分布

5.7 事前分布のモデル化

5.8 その他の回帰モデル