エントロピー

エントロピー（Entropy）とは、主に「乱雑さの度合い」を表す概念である。熱力学では「エネルギーの散らばり具合」を、情報理論では「情報の不確かさ（予測できなさ）」を表す。