Actividad

 Hallar la extensión de una fuente de memoria nula.

Partiendo del siguiente alfabeto: S = {M1, M2, M3}, con P{M1} = P{M2} = 1/5 y P{M3}
= 1/3

Hallar la probabilidad de secuencia de cada símbolo.

Hallar la Entropía Binaria aplicando la fórmula.

Desarrollo

Símbolo M σ1 σ2 σ3 σ4 σ5 σ6 σ7 σ8 σ9
Secuencia M1 M1M M2M M2M M1M M2M M3M M3M M3M
de M1 3 1 3 2 2 1 2 3
símbolos
Probabilida 1/2 1/15 1/25 1/15 1/125 1/25 1/15 1/15 1/9
d 5

− 1
/ − 1
− 1 − M − M
/
/ 1 2
− 1
− 1 − 1
/
− 1 − M − 1
/ 3

− 1
/

 M1=M2
 M2=1/5
  M3=1/3

σ 1 =M 1 M 1 σ 6=M 2 M 2

1 1 1 1
σ1= . σ 6= .
5 5 5 5

1 1
σ1= σ 6=
25 25

1 1
σ 2= . σ 7 =M 3 M 1
15 3

1 1 1 1
σ 2= . σ7= .
15 3 3 1

2 1 7 1
σ = σ =
15 15

σ 3 =M 2 M 1 σ 8=M 3 M 2

1 1 1 1
σ3= . σ 8= .
5 5 3 5

1 1
σ3= σ 8=
25 15

σ 4=M 2 M 3
1 1
σ 4= .
5 3

1
σ 4=
15

σ 5 =M 1 M 2

1 1
σ5= .
5 5

1
σ5=
25

σ 9=M 3 M 3

PÁGINA 1
 1 1
σ 9= .
3 3

1
σ 9=
9

1 1 1
¿ log 25+ 4 ∙ log 15+ 4 ∙ log 9
25 15 9

¿ 3 bit

PÁGINA 2