Here’s the deal: I used PyMC, matplotlib, and Jake Vanderplas’ JSAnimation to create javascript animations of three MCMC sampling algorithms – Metropolis-Hastings, slice sampling and NUTS. I like visualizations because they provide a good intuition for how the samplers work and what problems they can run into. You can download the full notebook here or view it in your browser. Note that for this p
□Bayesian Estimation Supersedes the t Test(BEST) 本日は ベイズ で平均値の差の検定を行っていきます。使用パッケージはBESTですが、 JAGS もインストールしておく必要がありますので、ご注意ください。また、以下2本の論文と説明書を参考にしております。 ・ John Kruschke(2013) Bayesian Estimation Supersedes the t Test, Journal of Experimental Psychology: Vol. 142, No. 2, 573– 603 ・ Mike Meredith and John Kruschke(2015): Bayesian Estimation Supersedes the t-Test ・ Packages "BEST" 平均値の比較といえば、Student’s
Private content!This content has been marked as private by the uploader.
NagoyaStat#7 StanとRでベイズ統計モデリング(アヒル本）の発表資料 NagoyaStat#7StanとRでベイズ統計モデリング(アヒル本）�Chapter 4 https://atnd.org/events/91891 2017/11/02 ヤフー名古屋オフィスで開催 NagoyaStat#7で行った発表資料です StanとRでベイズ統計モデリング(アヒル本）�のChapter 4です http://www.kyoritsu-pub.co.jp/bookdetail/9784320112421 NagoyaStat#7のイベント商法 https://atnd.org/events/91891 NagoyaStatとは https://www.slideshare.net/itoyan110/nagoyastat-5 2017/11/02 @ヤフー名古屋オフィス
先日行われた第9回「データ解析のための統計モデリング入門」読書会にて、 「可視化で理解するマルコフ連鎖モンテカルロ法」というタイトルで発表させて頂きました。 発表スライドは以下です。 可視化で理解するマルコフ連鎖モンテカルロ法 from hoxo_m この発表は、みどりぼんに登場する、マルコフ連鎖モンテカルロ法(MCMC)のアルゴリズムである「メトロポリス法」と「ギブス・サンプラー」について、可視化して理解しようというお話です。 「マルコフ連鎖モンテカルロ法」というのは、字面だけ見ると難しそうですが、この発表で理解すべきポイントは、次のスライド 1枚に凝縮されています。 このことを念頭に置いて、それぞれの手法を見ていきましょう。 まず、メトロポリス法ですが、これは、 前の状態の近くの点を次の遷移先候補として選ぶ（マルコフ連鎖） そのときの確率比 r < 1 ならば確率 r で棄却する。それ
library(rstan) N <- 1000 x <- rnorm(N, mean = 50, sd = 10) y <- 10 + 0.8 * x + rnorm(N, mean =0, sd = 7) stancode <- ' data{ int<lower=0> N; real x[N]; real y[N]; } parameters { real alpha; real beta; real<lower=0> s; } model{ for(i in 1:N) y[i] ~ normal(alpha + beta * x[i], s); alpha ~ normal(0, 100); beta ~ normal(0, 100); s ~ inv_gamma(0.001, 0.001); } ' datastan <- list(N=N, x=x, y=y) fit <- s
library(rstan) N <- 1000 x <- rnorm(N, mean = 50, sd = 10) y <- 10 + 0.8 * x + rnorm(N, mean =0, sd = 7) data <- data.frame(x, y) stancode <- ' data{ int<lower=0> N; vector[2] y[N]; } parameters { vector[2] mu; real<lower=0> var_x; real<lower=0> var_y; real cov; } transformed parameters { matrix[2,2] sigma; sigma[1,1] <- var_x; sigma[2,1] <- cov; sigma[1,2] <- cov; sigma[2,2] <- var_y; } model{ fo
GPUでモンテカルロ法の計算をしたくなったりした場合には普通CUDA,OpenCLを使うことになります。 C++でプログラミングする必要があるのですが、変数の確保、解放などで記述が長くなりがちです。pythonを用いると記述を簡潔にできるところが多いらしいので関連するライブラリを紹介します。 実務的にはPyMCからTheanoが呼べるらしいのでそれを使用するのが良さそうですが、現段階では実装されていない機能もあります。 @beroberoさん http://heartruptcy.blog.fc2.com/blog-entry-152.html id:breakbeeさん http://breakbee.hatenablog.jp/entry/2014/05/20/121722 がインストール、実行に関して解説されているのでここでは実装面を少し説明します。というか備忘録です。 PyCUDA
Bayesian Data Analysis (3rd ed.)の12章12.6節“Stan: developing a computing environment”のメモ。わからなかったところもありました。 Hamiltonian Monte Carloにはプログラミングとチューニングにすこしばかり努力がいる。 ややこしい設定のもとでは、HMCはMarkov chainよりはやくて、信頼できる。 プログラミングとチューニングの難しさを緩和するため、Stan (Sampling through adaptive neiborhoods)というコンピュータープログラムを開発した。ベイズモデルに自動的にHMCを適用する。 アルゴリズムの主要ステップ データとモデルの入力 対数事後密度とその勾配の計算 warm-up期間でチューニングパラメーターの設定 no-U-turn samplerを実行し
巷で話題のRstanをインストールだけしておいた。 OSはubuntu 12.04 LTS. なんか困ったらhttp://heartruptcy.blog.fc2.com/かAnalyze IT.を見れば問題ない。 # 依存関係 install.packages("inline") install.packages("Rcpp") install.packages("coda") # あると便利 # Rstan options(repos = c(getOption("repos"), rstan = "http://wiki.rstan-repo.googlecode.com/git/")) install.packages('rstan', type = 'source') Eight Schoolsの例をとりあえずやってみる。計算結果のstanfitクラスオブジェクトのデフォルトプロ
ベイズ統計学の基礎概念からW理論まで概論的に紹介するスライドです．数理・計算科学チュートリアル実践のチュートリアル資料です．引用しているipynbは * http://nhayashi.main.jp/codes/BayesStatAbstIntro.zip * https://github.com/chijan-nh/BayesStatAbstIntro を参照ください． 以下，エラッタ． * 52 of 80：KL(q||p)≠KL(q||p)ではなくKL(q||p)≠KL(p||q). * 67 of 80：2ν=E[V_n]ではなくE[V_n] → 2ν (n→∞). * 70 of 80：AICの第2項は d/2n ではなく d/n. * 76 of 80：βH(w)ではなくβ log P(X^n|w) + log φ(w). - レプリカ交換MCと異なり、逆温度を尤度にのみ乗す
概要 ・前回(http://nekopuni.holy.jp/?p=983)、非農業部門雇用者数(NFP)に対してローカルレベルモデルを適用し、そのパラメータは最尤推定により推定した。 ・今回は、巷で話題沸騰のMCMCを用いて、パラメータの不確実性を考慮した推定を行なう。 最尤推定の問題点 最尤法でパラメータ \( \psi \)を推定できるからいいジャマイカというのが尤もな感覚なのですが、 『フィルタリング漸化式や平滑化漸化式にMLE\( \hat{ \psi } \)を使うのは一般的な慣習ではあるが、\( \psi \)の不確実性を適切に考慮しづらいという欠点がある。』(P.150) 最尤推定のアイディアとしては、現在取得できるデータに最もフィットするパラメータを選択するというものですから、真のパラメータとは外れたところで推定されている可能性もあり、そのパラメータのバラ付き具合も含めて
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く