Hasta ahora hemos medido eventos estaticos dentro de un universo congelado. Las siguientes dos definiciones introducen el concepto de flujo de información.

La intuición de la proba. condicional es geométrica, al saber que ha sucedido un evento , nuestro universo de posibilidades se “encoge”. Todo lo que está fuera de pasa a tener probabilidad cero! se “convierte” en .

Definición. (Probabilidad Condicional)

Sea un esp. de prob. y sea un evento tal que . Para cualquier evento , la probablidad condicional de dado se define como,

¿Cuál es la probabilidad de que ocurra una cosa y ocurra otra al mismo tiempo?

Teorema. (Regla de la Multiplicación)

Para entonces:

Ortogonalidad de la Información

la probabilidad independiente significa que lo que pasa en un evento no cambia ni afecta las probabilidades de que ocurra el otro

La intuición nos diría que dos eventos son independientes “no tienen nada que ver el uno con el otro”, es decir, saber que ocurrío aporta cero información sobre . Usando esta intuición, tendríamos

El tema es cuando , por ello construimos como sigue la siguiente def.

Definición. (Proba Independiente)

Sean , decimos que es independiente de , denotado si y sólo si

Observación.

Vemos que es una relación con las siguientes propiedades:

  1. Simetría:
  2. Ajenos: