例えば、コインを投げたとき、表が出る確率はいくつでしょうか。
もちろん正解は0.5です。
しかし、それは『コイントスの結果には表と裏の2種類のみしかなく、それぞれが出る確率は等しい』という前提のもとです。
では、一体その等しさはどうやって確かめれば良いのでしょう。
確率論ならば、それらが保証された前提で問を立てても構いません。
しかし、現実に試行した場合の確率は決してその確率論どおりにはいきません。
そのノイズを解決する手段として重宝しているのがベイズ理論です。
コインの例で言えば、そもそも表裏の出現確率はわからない前提で実験を繰り返し、より現実的な確率を調べていくということです。