Curva de Entropía Binaria
H(p) = -p·log₂(p) - (1-p)·log₂(1-p)

Haz hover sobre los puntos para ver los valores exactos

p = 0.1
H(p) = 0.468996 bits
p = 0.3
H(p) = 0.881291 bits
Simétrico
p = 0.5
H(p) = 1.000000 bits
Máxima Entropía
p = 0.7
H(p) = 0.881291 bits
Simétrico
p = 0.9
H(p) = 0.468996 bits
Propiedades de la Entropía Binaria
  • Máximo en p = 0.5: La entropía es máxima cuando ambos eventos son igualmente probables (máxima incertidumbre)
  • Simetría: H(p) = H(1-p), la función es simétrica respecto a p = 0.5
  • Extremos: H(0) = H(1) = 0, no hay incertidumbre cuando un evento es completamente seguro
  • Rango: 0 ≤ H(p) ≤ 1 bit para distribuciones binarias
  • Interpretación: Mide la cantidad promedio de información (en bits) necesaria para codificar el resultado