ランダムウォークのスレ

最近この話題が多いので、ご自由にお使い下さい。
テンプレ等は各自でお願いします。

流石、数学板の良心こと「おにぃ」であるw

ハゲは甘え

Mervyn Stoneのパラドックス
The Marginalization Paradox and the Formal Bayes’ Law
arxiv.org/pdf/0708.1350

階数2の自由群F_2のなすケーリーグラフ上をランダムウォークする
参加者が多数いるとする。回答者には、参加者が原点から出発して
ランダムウォークを終えた地点までの経路が簡約語の形で渡される。
F_2の生成元をa,bとするとき、ケーリーグラフ上では
各点から、a,b,a^{-1},b^{-1}の4方向に進むことができ
たとえば、aa^{-1} つまり行って戻るような道のりは
簡約語では消えてしまい、表示されない。
参加者はウォークを終えた地点の直前の位置に宝を埋めている。
回答者はその位置を推定する。
たとえば、回答者が渡されたある参加者の経路を示す簡約語が
「...ab」の場合、
直前が「...a」で最後にb方向に進んだ
直前が「...ab^2」で最後にb^{-1}方向に進んだ
直前が「...aba^{-1}」で最後にa方向に進んだ
直前が「...aba」で最後にa^{-1}方向に進んだ
の4通りがある。

局所的に見れば、この4通りの可能性は平等であるように見える。
そこで回答者1（ベイジアン）は、上記経路「...ab」における
条件付き確率において、上記4ケースの確率をどれも25%と
算出する。そこで、4つの中からランダムに選んだ1つの直前
の位置に宝があると予測する。

回答者2（頻度主義者）は全体像を俯瞰する。
参加者たちがランダムウォークを終える一歩手前の点の集合
をSとする。Sから出ている道は、75%が原点から遠ざかること
に注目する。したがって宝の位置は、原点に近い方、上記例
で言えば「...a」の位置であると予測する。

ゲームを繰り返すと、回答者1の勝率は25%であり、
回答者2の勝率は75%となる。

テンプレ 代わり
https://rio2016.5ch.io/test/read.cgi/math/1787102338/307
>The Marginalization Paradox and the Formal Bayes’ Law
>arxiv.org/pdf/0708.1350

テンプレは下記か？

(参考)
https://arxiv.org/abs/0708.1350
Statistics Theory
[Submitted on 10 Aug 2007]
The marginalization paradox and the formal Bayes' law
Timothy C. Wallstrom
It has recently been shown that the marginalization paradox (MP) can be resolved by interpreting improper inferences as probability limits. The key to the resolution is that probability limits need not satisfy the formal Bayes' law, which is used in the MP to deduce an inconsistency. In this paper, I explore the differences between probability limits and the more familiar pointwise limits, which do imply the formal Bayes' law, and show how these differences underlie some key differences in the interpretation of the MP.
(google訳)
周辺化のパラドックスと形式的ベイズの法則
周辺化パラドックス（MP）は、不適切な推論を確率限界として解釈することで解決できることが最近示された。解決の鍵は、確率限界は形式的なベイズの定理を満たす必要がないという点にある。形式的なベイズの定理は、MPにおいて矛盾を推論するために用いられる。本稿では、確率限界と、形式的なベイズの定理を満たすより一般的な点ごとの限界との違いを探り、これらの違いがMPの解釈におけるいくつかの重要な相違点の根底にあることを示す。
コメント 2007年7月、ニューヨーク州サラトガ・スプリングスで開催されたMaxent 2007にて発表
主題: 統計理論（math.ST）；確率論（math.PR）

(google検索)
marginalization probability limits
AI による概要
(抜粋)
Marginalization in probability is the process of summing or integrating out unwanted variables from a joint distribution to find the Marginal distribution - Wikipedia of a subset of variables.
Core Definition and Limits (Sums and Integrals)
略す

(参考) 検索
Marginal distribution
Wikipedia
https://en.wikipedia.org › wiki › M...
It gives the probabilities of various values of the variables in the subset without reference to the values of the other variables. This contrasts with a ...

Law of total probability
Wikipedia
https://en.wikipedia.org › wiki › L...
In probability theory, the law (or formula) of total probability is a fundamental rule relating marginal probabilities to conditional probabilities.

Probability concepts explained: Marginalisation
Medium · Jonny Brooks-Bartlett
2200 件以上の高評価 · 8 年前
Marginalisation tells us to just add up some probabilities to get to the desired probabilistic quantity. Once we've calculated our answer (it ...

テンプレ 代わり
https://rio2016.5ch.io/test/read.cgi/math/1787102338/309
追加

(google検索)
"Mervyn" Stone paradox probability wiki

＜結果＞
Safe Probability
arXiv
https://arxiv.org › pdf
PDF
P Grünwald 著 · 2016 · 被引用数: 58 — A Philip Dawid and Mervyn Stone. The functional-model basis of fiducial inference. The. Annals of Statistics, pages 1054–1067, 1982. 30. Page ...

https://www.researchgate.net/publication/301880607_Safe_Probability
researchgate.net
ArticlePDF Available
Safe Probability
April 2016Journal of Statistical Planning and Inference 195(2)
DOI:10.1016/j.jspi.2017.09.014
Authors:
Peter Daniel Grünwald
Centrum Wiskunde & Informatica

Bayesian measures of model complexity and fit
Wiley & Sons
https://rss.onlinelibrary.wiley.com › ...
2002/10/23 — I am not suggesting that the use of DIC is wrong, but a formal derivation is lacking. Mervyn Stone ( University College London ). The paper ...

When did Bayesian inference become " ...
SciSpace
https://scispace.com › pdf
PDF
notes that Bayes' definition of probability is subjective, and Aldrich (online Wikipedia ... Mervyn Stone. (as a visitor) , Irwin Guttman ... “A Statistical Paradox ...

grammar induction and parsing with dependency-and ...
Stanford NLP Group
https://nlp.stanford.edu › pubs › SpitkovskyThesis
PDF
VI Spitkovsky 著 · 2013 · 被引用数: 14 — [314] Mervyn Stone. Cross-validatory choice and assessment of statistical predictions. Journal of the Royal Statistical Society. Series B, 36, 1974. [315] ...
242 ページ

テンプレ 代わり
https://rio2016.5ch.io/test/read.cgi/math/1787102338/310
追加の追加

>1次元の場合はそれができたが
>2次元以上だとどうすれば良いのか

下記
1次元と2次元は、あまり変わらないように書いて有るけど？（＾＾

(google検索)
高次元 ランダムウォーク wiki
AI による概要
高次元のランダムウォーク（酔歩）における最大の特質は、1〜2次元とは異なり、出発点（原点）に再び戻ってくる確率が1未満（非再帰的・過渡的）になることです。
詳細な解説や全体像については、Wikipediaのランダムウォーク記事をご参照ください。
高次元ランダムウォークの性質
・ポリアの定理:
1次元および2次元の単純ランダムウォークは確率1で出発点に戻る（再帰的）のに対し、3次元以上の高次元では確率1未満でしか戻らない（非再帰的・過渡的）ことが知られています。
・原点への回帰確率:
　・1次元: 100%（確実に戻る）
　・2次元: 100%（確実に戻る）
　・3次元: 約34%
　・4次元: 約19%
・直感的な理由:
次元が増えると移動できる方向（選択肢）が爆発的に増えるため、空間の広がりに対して戻る確率（遭遇する確率）が急速に小さくなり、無限の彼方へ逃げやすくなります。

高次元ランダムウォークの数学的証明（極限分布や確率漸化式）や、物理・情報科学への応用例について詳しく知りたいですか？

(参考)
ランダムウォーク
Wikipedia
https://ja.wikipedia.org › wiki › ランダムウォーク
ランダムウォーク（英: random walk）は、次の値が「今の値 + 確率的な値」となる離散時間確率過程である。 酔歩 （ すいほ ）、 乱歩 （ らんぽ ）とも。

ランダム・ウォーク理論
Wikipedia
https://ja.wikipedia.org › wiki › ランダム・ウォーク理論
ランダム・ウォーク理論 (ランダム・ウォークりろん、英: Random Walk Theory) とは、株価の値動きについての「予測の不可能性」を説明する理論。相場の値動きを論じた ...

つづく

テンプレ 代わり
https://rio2016.5ch.io/test/read.cgi/math/1787102338/311
つづき

確率過程とランダムウォーク - 知識のサラダボウル
知識のサラダボウル
jimdofree.com › 2018/05/02 › 確率過...
2018/05/02 — ランダムウォークの高次元への拡張. さきほどの1次元のランダムウォークを2次元平面上に拡張すると、次のようになります。 初期化 実行 一時停止. 3次元 ...

問題意識と具体的な研究対象
九大数理学研究院
www2.math.kyushu-u.ac.jp › topics_inbrief-j
2001/04/09 — このモデルの連続極限はランダムウォークなどとは 全く異なるものである． 高次元では Integrated super-Brownian Excursion (ISE)と 呼ばれる 確率 ...

第35回-熊谷氏 大阪科学賞
大阪科学賞
osaka-prize.ostec.or.jp › ...
はじめに、正方格子上のランダムウォークと、そのスケール極限で現れるブラウン運動について説明しましょう。ある点にいる粒子が1秒後に等確率で隣の点に動く時、このよう ...

なぜ数千次元でも状態を見分けられるのか
toorPIA
www.toor.jpn.com › technology
時系列構造の高忠実な保存：8本のランダムウォークを8. 公開ベンチマークより：8本のランダムウォーク（各500ステップ、色は時間の進行）を各手法で2次元に射影した結果
(引用終り)
以上

テンプレ 代わり
https://rio2016.5ch.io/test/read.cgi/math/1787102338/262
さらに追加

下記で、箱入り無数目 スレ https://rio2016.5ch.io/test/read.cgi/math/1786586164/
を語っているが
いまいち理解できなかった
（箱入り無数目 自身は、ランダムウォークではないから）

暇ができたら書いておくれ （＾＾

(参考)
>この例は俺が箱入り無数目で
>ひとつひとつは確率0なのに条件付き確率は有限
>みたいな状況を上手く表現できるんじゃ無いかと思ってるのの
>よい例示になってるかも知れないなと思えてきた

>IUTの望月さんの主張も
>もしかしたら
>この回答者２の考察のようなものなのかも？
>何かしら全く新しい概念を
>自分の中だけで「納得」していて
>それを「説明できない」みたいな？

ふーん、ご苦労さまです
天下のチラシの裏 5ｃｈ
まあ、がんばって

”箱入り無数目で
ひとつひとつは確率0なのに条件付き確率は有限”
は、面白い視点だと思うよ
但し、”条件付き”の条件を 数学として明示しないと ちょっと曖昧

”自分の中だけで「納得」していて
それを「説明できない」みたいな？”
は、下記の梅村先生の最終講義 に類似例がある

(参考)
https://ocw.nagoya-u.jp/farewell/0100-%E5%B0%84%E5%BD%B1%E6%A5%B5%E9%99%90%E3%81%A8%E5%B8%B0%E7%B4%8D%E6%A5%B5%E9%99%90/
射影極限と帰納極限
farewell
2007年度 退職記念講義
講師 梅村浩 教授
講義資料
https://ocw.nagoya-u.jp/files/100/umemura_lect.pdf
P25
最初の印象 でたらめの論文に思えた． クリスマスが終わる頃には少しづつ分かり始めた 年が明けると Painlevé 自身がよくっ分かっていることが理解できるようになった．

ただ自分の発見を表現する言語を持っていないだけであると． 夏までにPainlevéのアイディアを現代 代数幾何学の言葉で表現することに成功した. その夏にストラスブールで微分方程式の 日仏シンポジュウムがあり，そこで発表した．

w∈W(e)aW(e)
に対して
wc∈W(e)
であり
wc∈W(e)
なら
f(wc)=f(w)f(c)=f(w)c=e
より
f(w)=a
則ち
w∈W(a)=W(e)aW(e)
よって
W(e)aW(e)={w∈W:wc∈W(e)}

同様に
w∈W(e)aW(e)aW(e)
なら
wcc∈W(e)
であり
wcc∈W(e)
なら
f(w)=aa
より
W∈W(aa)=W(e)aW(e)aW(e)
よって
W(e)aW(e)aW(e)={w∈W:wcc∈W(e)}

W[c]={wc∈W(e)}
と書くとすると
W(e)¥W0=W[a]+W[b]+W[c]+W[d]
で
|W[a]2n|=|W[b]2n|=|W[c]2n|=|W[d]2n|=|W(e)2n|/4
同様に
W[cc]={wcc∈W(e)}
と書くとすると
W(e)¥W0=W[aa]+…W[dd]
で
|W[aa]2n|=…=|W[dd]2n|=|W(e)2n|/16

|(W(e)aW(e)a)2n|=|(W(e)aW(e))2n-1|=|W[c]2n|=|W(e)2n|/4
|(W(e)aW(e)aW(e))2n|=|W[cc]2(n+1)|=|W(e)2(n+1)|/16
Q(W(a)a)=Σ|(W(e)aW(e)a)2n|p^2n=Σ|W(e)2n|p^2n/4
Q(W(aa))=Σ|(W(e)aW(e)aW(e))2n|p^2n=Σ|W(e)2(n+1)|p^2n/16=Σ|W(e)2n|p^2(n-1)/16
Q(W(a)a)/Q(W(aa))=1/4p^2
あれれ？
p→1
の極限は
1/4=25％
だな
それと
p→0
の極限が∞はどこかがおかしいことを意味しているな
もうちょっと考えるか

>Σ|W(e)2(n+1)|p^2n/16=Σ|W(e)2n|p^2(n-1)/16
左辺はn≧1だから
右辺はn≧2か
Q(W(a)a)=Σ|W(e)2n|p^2n/4
の右辺はn≧1だからズレてるか
Q(W(aa))=4p^2Q(W(a)a)-Q(W(e)2)/16
ここで
W(e)2={ac,bd,ca,db}
なので
Q(W(e)2)=4p^2
よって
Q(W(a)a)/Q(W(aa))=4/p^2(16-1/Q(W(a)a)))
か
Q(W(a)a)=Σ|W(e)2n|p^2n/4
を具体的に求める必要があるのか

>p→0
>の極限
pがドンドン小さくなると
ランダムウォークはすぐ止まるようになるから
W(aa)のうちW(a)aであるものはほとんど1になるはずつまり
P(W(a)a)/P(W(aa))=Q(W(a)a)/Q(W(aa))→1
でなくてはおかしい
さすがに条件付き確率であっても1を超えるのは話がおかし

>|(W(e)aW(e)aW(e))2n|=|W[cc]2(n+1)|=|W(e)2(n+1)|/16
ここ違うかも
W(e)aW(e)aW(e)=W[cc]={w∈W:wcc∈W(e)}
aa,ab,ad
ba,bb,bc
cb,cc,cd
da,dc,dd
はお互い移りあうから同数は良い
ac,bd,ca,db
もお互い同数
しかし
aaとacは同数だろうか？

>aa,ab,ad
>ba,bb,bc
>cb,cc,cd
>da,dc,dd
>はお互い移りあうから同数は良い
これもどうかな
aa,bb,cc,ddは同数と
ab,ad,ba,bc,cb,cd,da,dcは同数は言えるが
結局
aa,ab,acを別々に考えた方がよさげ

W[ac]={w∈W:wac∈W(e)}=W(e)
W[ab]={w∈W:wab∈W(e)}=W(dc)=W(e)dW(e)cW(e)
W[aa]={w∈W:waa∈W(e)}=W(cc)=W(e)cW(e)cW(e)

そもそも可算無限にたくさんある事象について「全部対称性でおなじ」にできるわけがない。「確率の極限」はできても「極限とって対称性で全部同じな確率」が定義できるわけじゃない。難しいんじゃなくて原理的に不可能

なぜ回答者2が圧倒的に勝つのか？自由群 \(F_{2}\) のケーリーグラフは、すべての頂点から4本の枝が出ている「無限の4正則樹形図（ツリー）」です。この空間には以下の決定的な特徴があります。空間が指数関数的に広がる: 原点から距離 \(n\) にある頂点の数は \(4 \times 3^{n-1}\) 個あり、歩を進めるほど選択肢（外側への道）が爆発的に増えます。「戻る」道は常に1本だけ: どの頂点に立っていても、原点に向かって近づく道（内側への道）は必ず1本しかありません。残りの3本はすべて原点から遠ざかる道です。参加者がランダムウォークをしている最中、直前の位置から「外側（遠ざかる方向）」へ進む確率は常に 75%（4分の3） であり、「内側（近づく方向）」へ戻る確率は 25%（4分の1） です。そのため、最終的な到着点が「...ab」であるならば、確率的にその一歩手前は、高確率（75%）で内側の「...a」にいたことになります。回答者2はこの大域的な流束（流れ）の偏りを正しく見抜いています。

やっぱなんだか
|W(ab)2n|=|W(aa)|
のような気がしてきたが
どう説明付けるかな

w∈W(aa)=W(e)aW(e)aW(e)
に対して
{(p,q,r):w=paqar}
の最短の|p|であるものが決まるから
qarをa→b→c→d→aの置換σで入れ替えて
q^σ=q',r^σ=r'∈W(e)
なので
W(aa)∋w=paqar→w'=paq'br'∈W(ab)
は単射
w'∈W(ab)=W(e)aW(e)bW(e)
に対して
{(p',q',r'):w'=p'aq'br'}
の最短の|p'|であるものに対して
q^σ=q',r^σ=r'
で
W(ab)∋w'=p'aq'br'→w=p'aqar∈W(aa)
も単射
よって
|W(aa)2n|=|W(ab)2n|
あれ？
でもそれなら
|W(aa)2n|=|W(ac)2n|=|W[ac]2n|=|W(e)2(n-1)|
でもあるかな？
何か変だな

>|W(ac)2n|=|W[ac]2n|
ここが違うか
W(ac)=W(e)aW(e)cW(e)⊂≠W(e)
だわな
aa,bb,cc,dd
を
ab,ad,ba,bc,cb,cd,da,dc
と区別する必要は無いわけだ

F_2のケーリーグラフの対称性とマルコフ性を使うと、abを原点eに移して
考えることができる。停止確率をpとすると、どのウォークの発生確率にも
pが乗ぜられるので、発生確率の比だけを考えればいい。まず最初に停止で
e（空ウォーク）が発生している。あとは、旅をして原点に戻ってきて停止
するウォークがある。両者をまとめてすべて計算すると、p→0の極限で
空ウォークの発生確率の3/2倍になるようだ。つまり、空ウォーク自体に
比べて50%増える。1が空ウォークで、1/2が旅をして戻って来るウォーク。
1/2は等方向から来るはずなので、1/8ずつ4方向からになる。
空ウォーク+1方向の和が 1+1/8=9/8, 残り3方向の和が3/8.
比を見ると3:1。したがって、最初の問題>>61に戻ると、やはり
原点方向からが75%、残り3方向からが合わせて25%という結論になると思う。

適切に読めば、数え上げで75%を出す話は、>>196で終わっている。
「簡単のため原点に移して考える」というのが分かりにくかったのなら
「まず最初に停止で空ウォーク」を、「abへの初到達ウォーク」
「旅をして原点に戻ってきて停止するウォーク」を「初到達後、
周回してから再度abに戻って来るウォーク」と読み替えて下さい。
原点からabに到達する任意のウォークwは、abへの初到達ウォークをw_0,
周回して再び戻って来るウォークをw_1として、w=w_0+w_1 と分解する。
まず、w_0は必ず原点方向から来るに注意しよう。これは原点を
出発点とすることと、グラフの木構造からの帰結である。
これの重みを1とする。すべてのw_1を数え上げた上での重みは、
>>207に書いた数え上げ公式で計算できる。回帰ウォークの数え上げ公式
W(z)=3/(1+2√(1-12z^2)) において、z=(1-p)/4を代入した上で
1を引いた値（これは空ウォークも公式に含まれているため）になる。
この値は、p→0の極限で1/2になる。よって周回回帰ウォークの重みは1/2となる。
あとは>>196に書いた理屈で、原点方向からabに到達したウォークの
重みは9/8, 他方向からが3/8となる。比を見ると、3:1.
したがって、原点方向からabに到達した確率は75%となる。
どうしてもabへの初到達ウォークw_0の全体を数え上げたいと言うなら
その手段はあるが、75%という数字を出すことには本来不要である。

>Q(W(aa))
W(aa)=W[cc]
つまり
W(e)のうちccで終わるものからそのccを取り去ったウォークの全体
そもそもW(e)の元となるウォークはn→∞でかなり起こりにくくなる
W(e)0={e}
W(e)2={ac,bd,ca,db}
W(e)4={aacc,abdc,acac,acbd,acca,acdb,adbc,…}
W(e)6={aaaccc,aabdcc,aacacc,…}
W(aa)={aa,aaac,aabd,aaca,…}
Q(W(aa))=(p/4)^2+10(p/4)^4+…＞(p/4)^2(1+10(p/4)^2)
p→1
で
limQ(W(aa))＞13/128
limQ(W(a)a)/Q(W(aa))＜167/156
・・・何の意味も無いか

結局何がどうだというんだ？