海野秀之（うんのひでゆき）の外部記憶
Twitter (twilog) / RSS / アンテナ / ぶくま
言い伝えによれば……(中略)……
フォン・ノイマンは「ともかく誰も実際にエントロピーが何なのかがわからないので… (中略)…」 と公言した
らしいので、そんなに珍しいことではない……と思いたいのですが、 「エントロピー」というアイデアがよくわかっていない。 むしろ、どちらかというと、劣等感を抱いている。
シャノンの情報エントロピーについては、教科書にのっている練習問題が解ける程度には わかっているつもりだが、熱力学のエントロピーとの関連がまったくわからない。 っていうか、熱力学のエントロピーがわかっていない…… orz。
だけど、もうちょっと勉強すれば、腑に落ちるかもしれないという気になってきたぞ。 気のせいかも知れないけど、積年の劣等感からすれば、これは大きな変化だ。
次の二冊を読めば「エントロピー」がわかるかもしれない：
いずれも物理学者によるものというところに、思うところがないでもない。
ちなみに冒頭の引用は、「ファインマン計算機科学」から。 この本の 5 章を読みはじめて、ぼくは、やっと「エントロピー」に対する劣等感を 近いうちになんとかできるかも知れないという気持ちになった。 ただ、比較的軽い「お話」として語られているので、乱暴と思われる箇所がある。 この本でわかりそうな気になった事柄は、別の教科書できっちり押さえておく必要があると思う。
で、「熱力学」。 僕自身が本に記入したメモによれば、2005 年に入手したみたいなのですが、 まだちゃんと読めていない。「なんだか『エントロピー』のことがわかりそうだぁ！」という 誤解にも似た希望の勢いをかって、６章まできちんと読み進めてみたい。
で、ここから先なのですが。さらに急激に妄想色を増します。
将棋のようなゲームの、ゲーム木の各ノード（つまり、各局面）について、 エントロピーを定義可能なのではないかと思っている。 おそらく開始局面で最大、詰んでいる局面で極小値をとるような、加法的かつ示量的な (←ひやひや、どきどき) 量。
それには、一手指すたびに情報量がどう変化するのか、とか、おそらくは、断熱操作や 「エネルギー」に相当するものはなにか？ということも考える必要があるのだと思う。
なんとなくギャグにしか聞こえないってひともいると思うので、おなじくらいギャグに 聞こえるものをご紹介しておこう。
ただし、将棋のような大きなゲームにおける情報量を、すべて数え上げる方式で計算することは 事実上不可能である（それができるなら、つべこべ言わずに解いている）。
と、いうわけで、ちまたで話題のモンテカルロ法が、実はこれをやっているんでは ないかと踏んでいる。つまり、モンテカルロ法を、静的評価の代わりに用いるのではなく、 エントロピーを近似計算するために用いるのが吉だと、私は思っている。
かような妄想が、私の出発点であります。半年、一年先に、ここにどーゆーことを書く ことになりますやら。
以上、あとで読むと恥ずかしいに違いないメモ。