「Wang2007」の編集履歴（バックアップ）一覧はこちら

「Wang2007」(2008/01/08 (火) 19:19:05) の最新版変更点

追加された行は緑色になります。

削除された行は赤色になります。

*Wang, Y (2007) J.PKPD

[[Derivation of various NONMEM estimation methods>http://www.springerlink.com/content/x513842121054931/]]

NONMEM の目的関数についての解説。

**Laplace 近似

**FOCE

**FOCE+INTERACTION

**FO

**Pinheiro & Bates の nlme

**SAS/nlmixed

*Wang, Y (2007) J.PKPD

[[Derivation of various NONMEM estimation methods>http://www.springerlink.com/content/x513842121054931/]]

NONMEM の目的関数についての解説。

　NONMEM が具体的にどういう式で目的関数を計算しているかついて、マニュアルには明瞭に書かれていない。特に、FOCE + INTERACTION 法や Laplace 法の目的関数の式は mystery でさえある。そこでこの論文では Laplace 法、FOCE 法、FO 法の目的関数が明確に示された。
　まず、（周辺尤度の）積分を Laplace 近似する方法で目的関数を導く。ただし、個体内誤差は問う誤差モデルを仮定する。この枠組みでは、Laplace、FOCE、FO の違いは、対数尤度の二階微分（ヘッセ行列）をどう評価するかの違いに帰着する。ヘッセ行列をそのまま評価（数値計算）しようとするのが Laplace 法であり、一方、FOCE、FO 法ではヘッセ行列をその期待値で近似する。期待値ならば一階微分のみを用いて計算可能である。なお、FOCE 法と FO 法とでは、個体間変動パ
ラメータηに関する Taylor 展開の際にηの経験ベイズ推定量の周りで行う (FOCE) か、あるいは、期待値 (=0) の周りで行うか、が異なる。
　ところで、Laplace 近似に基づく目的関数の式はそのままでは数値計算に使いにくい。それは上記したヘッセ行列（の期待値）の評価が含まれるためである。そこで、論文中では FOCE 法と FO 法について、より直感的な誘導も示される。この場合、いわゆる「モデル式」、すなわち、

 Yi = f(θ, ηi) + εi

の f(.) をηi について展開した上で、Yi の周辺期待値および周辺分散を近似によって求める。後は、Yi が（多変量）正規分布に従うとの仮定のもと、尤度を書き下せばよい。
　さて、前者の Laplace 近似に基づく方法と後者の周辺分布に基づく方法とで導かれるそれぞれの目的関数は（INTERACTION のない）FOCE 法と FO 法とでは一致する。なお、比例誤差モデルの場合は、εの分散としてσ^2 ではなく、f(θ, η=0)^2 x σ^2 を使えばよい。一方、FOCE + INTERACTION 法では上記二つの方法で導かれる目的関数式は異なってしまう。NONMEM では Laplace 近似に基づく式が用いられている（らしい）。
　論文中には、目的関数を数値計算するための簡単なデータ例と、NONMEM コントロールファイルおよび FOCE (+INTERACTION) 法での S-PLUS/R のスクリプトが示されている。このスクリプトは後者の方法での式をそのまま素直に implement している。従って、FOCE での目的関数値について NONMEM とこのスクリプトでの計算値は等誤差、比例誤差いずれの場合であっても一致するが、比例誤差の場合、FOCE + INTERACTION 法での NONMEM とスクリプトの計算値は一致しない。論文の Table 2 を見ると確かに異なっている。ただし、論文中にはこの結果についての直接的な記載はなく、式の誘導を示している箇所に「二つの方法での式は一致しない」と注意されているのみである。なお、言うまでもないことであるが、等誤差モデルの場合の FOCE + INTERACTION 法は考慮する必要がない。
　では Laplace 法の場合はどうなっているであろうか。実は本論文中では Laplace 法についてはあまり記載がなく、上述のとおり、積分の Laplace 近似に基づく目的関数式が示されているのみである。S-PLUS/R のスクリプトも、数値計算結果も載っていない。
　ところで、NONMEM V までは Laplace 法では INTERACTION 法を用いることができなかった。それは、Ver. V までの NONMEM は比例誤差モデルの場合、まず、

 Yi = f(θ, ηi) (1 + εi)
    ≒ f(θ, ηi) + f(θ, 0)εi

と近似していたからである。すなわち、残差誤差部分には個体間変動パラメータηが含まれないような近似が自動的に行われていたのだ。FOCE + INTERACTION 法の場合のみ、f(θ, η=ηi0)εi という近似をすることができていたというわけである。従って、非線形モデルの近似としては FOCE 法よりも Laplace 法のほうが一般に良い近似であるが、比例誤差モデルを用い、かつ、個体間変動が大きい場合は、Laplace 法では INTERACTION を考慮することができないため、Laplace 法よりも FOCE + INTERACTION 法のほうが良い結果が得られることもありうる。なお、Ver. VI からは Laplace 法においても INTERACTION を考慮した計算ができるようになった。
　さて、この論文では他の教科書よりも式の誘導がやや丁寧に書いてある。また、NONMEM の言葉 (notation) で書かれているので、読みやすい。行列計算の部分は若干厄介であるし、一部の式には誤植もあるが、じっくり式の展開を追う価値はある。

　まとめます。
　FO 法および FOCE 法については等誤差モデル、比例誤差モデル両方の場合の NONMEM 目的関数式が示された。また、S-PLUS/R スクリプトによって NONMEM の計算結果を再現することもできた。一方、FOCE + INTERACTION 法においては NONMEM で用いられている式自体は示されたが、NONMEM での値を数値計算で再現するまでには至っていない。Laplace 法については式が示されただけであり、値を再現するためのスクリプトは提示されなかった。
　今後は、まず、FOCE + INTERACTION での NONMEM の目的関数値を再現するスクリプトを作成する必要がある。そのプログラムは FOCE + INTERACTION 用の CWRES-I を確認するためにも重要な役割を果たす。さらに、Laplace 法の値を再現するプログラムも必要であろう。