Propiedades de los Cdigos

La accin de codificar consiste en transformar cada smbolo de la fuente en otro de un

grupo de smbolos pertenecientes a un conjunto llamado alfabeto cdigo.
Fig. Clasificacin de los cdigos
Definicin: Un cdigo bloque es aquel que asigna a cada uno de los smbolos del
alfabeto fuente o alfabeto mensaje S una sola secuencia fija de smbolos del alfabeto
cdigo X. Estas secuencias fijas de j se llama palabra cdigo. !enominamos j a la
palabra cdigo que corresponde al smbolo o mensaje sj.
Ejemplo:
Smbolos de la
Fuente
Cdigo 1 Cdigo 2 Cdigo 3
s" # ## #
s$ "# ## ""
s% "" #"
"#
""
Cdigo &loque Cdigo 'o &loque Cdigo &loque
Si se desea utili(ar los cdigos bloque )an de imponerse restricciones. *odas las palabras
cdigo X+ deben ser distintas. Las palabras cdigo del ejemplo anterior+ s$ , s%+ eran
id-nticas.
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
'o &loque
&loque
Singular
'o Singular
'o Un/oco
Un/oco
'o 0nstant1neo
0nstant1neo
Cdigo
"
Definicin: Un cdigo bloque es no singular+ si todas sus palabras cdigo son distintas.
Ejemplo:
Smbolos de la Fuente Cdigo o palabra cdigo
s" #
s$ ""
s% ##
s2 #"
*odas sus palabras cdigo son diferentes+ pero es posible encontrar alg3n caso en una
secuencia dada sea ambigua o indefinida. .or ejm+ la secuencia ##"" puede corresponder
a s"s"s$ s%s$. En este ejm+ el cdigo es no singular en su detalle+ pero es singular en su
forma general.
Con el este ejemplo se demuestra que para definir un cdigo utili(ables+ se debe enunciar
una condicin m1s restricti/a+ que la no singularidad.
Definicin: Un cdigo se llama no singular cuando todas las palabras cdigo son
distintas+ , cada entrada es interpretada correctamente a la salida.
El cdigo es singular+ si se le )ace corresponder a dos o m1s smbolos de la fuente la
misma palabra cdigo.
Smbolo Fuente o
mensaje
Cdigo 1 Cdigo 2 Cdigo 3
a" " " #
a$ ## ## ""
a% #" #" ""
a2 #" "# #"
Singular 'o Singular Singular

Ejemplo:
Smbolo Fuente o
mensaje
Palabra cdigo
a" "
a$ "#
a% ""
a2 #"
El cdigo es no singular. Si se considera una sucesin de mensajes de la fuente como a$ a%
, a" a2 a" se muestra que se corresponde con la misma sucesin de palabra cdigo
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
$
a$ a% "#""
a" a2 a" "#""
Definicin: Un cdigo bloque es un/ocamente decodificable+ s , solamente si+ su
etensin n es no singular para cualquier /alor finito n.
4 sea que dos secuencias cualquiera de smbolos fuente o mensaje de la misma o
diferente longitud dan lugar a secuencias de smbolos diferentes.
Ejemplos de cdigos unvocamente decodificables:
Smbolo de la Fuente Cdigo A Cdigo B
o del mensaje
s" ## #
s$ #" "#
s% "# ""#
s2 "" """#
El cdigo 5 tiene palabras cdigo de la misma longitud+ adem1s es no singular.
El cdigo & es un/ocamente decodificables+ ,a que es no singular , es un cdigo coma.
En el cdigo &+ el # act3a como una coma que separa una palabra de la siguiente. .uede
interpretarse la coma como lugar donde termina una palabra , comien(a la siguiente.
Constru,amos un 6rafo absorbente del cdigo 5.
Ejemplo:
Smbolos de la Fuente Cdigo C
o del mensaje
s" #
s$ #"
s% #""
s2 #"""
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
#
#
"
"
# "
%
El cdigo C difiere del 5 , del &.
Si recibimos una secuencia binaria compuesta de palabras cdigo de C+ no seramos
capaces de decodificar la sentencia en sus palabras+ seg3n la /amos recibiendo. 5l recibir
#"+ no podremos asegurar que corresponde al smbolo s$+ )asta que )a,amos recibido el
smbolo siguiente. Si -ste es un #+ sabemos que #" corresponde a s$. Si por el
contrario recibimos un "+ tendremos que anali(ar un smbolo m1s antes de afirmar si se
trata de s% 7#""8 s2 7#"""8. Este retraso es in)erente al proceso de decodificacin+ si
se utili(a el cdigo C+ en cambio con los cdigos 5 , & podemos decodificar las palabras
seg3n /a llegando.
Definicin: Un cdigo un/ocamente decodificable se denomina cdigo instantneo+
cuando es posible decodificar las palabras de una secuencia sin precisar del conocimiento
de los smbolos que las suceden.
Los cdigos 5 , & son cdigos instant1neos. El cdigo C es un cdigo un/oco no
instant1neo. En estos tres casos )a resultado sencillo comprobar si lo eran o no. .ero
necesitamos de una regla general que permita decidir cuando un cdigo instant1neo.
Definicin: Sea Xi 9 i"+ i$+: im una palabra de un cdigo. Se denomina prefijo de esta
palabra a la secuencia de smbolos 7i"+ i$+: ij8+ donde j ; m
Ejemplo:
La palabra cdigo #""" tiene cuatro prefijos+ #+ #"+ #""+ #"""
.uede enunciarse la regla: La condicin necesaria , suficiente para que un cdigo sea
instant1neo es que ninguna palabra del cdigo coincida con el prefijo de otra.
Sntesis de un cdigo instantneo.
0ntentemos sinteti(ar un cdigo instant1neo binario a partir de una fuente de cinco
smbolos. Comen(aremos asignando un # al smbolo s".
s" #
Seg3n esto+ todos los dem1s smbolos de la fuente deben asociarse a palabras que
comiencen por ". !e no ser as+ se contradira la regla. El smbolo s$ no debe asociarse a
la palabra formada por el smbolo aislado "< de )acerse+ no quedara ning3n smbolo con
el que pudieran comen(ar las tres restantes palabras.
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
2
.uede asociarse
s$ "#
lo que eige que los dem1s cdigos comiencen por "". Si
s% ""#
el 3nico prefijo de tres binits sin utili(ar es """+ por lo que puede )acerse
s2 """#
,
s= """"
>a, que destacar que por el )ec)o de asignar a s"+ el /alor #+ autom1ticamente se limita
el n3mero de palabras cdigo. !ado este paso deberemos concretarnos a palabras que
empiecen por ". .uede imaginarse+ por lo tanto+ que si seleccionamos una palabra de $
binits para representar a s"+ tendramos un ma,or grado de libertad en la eleccin de las
siguientes+ , llegaramos incluso a e/itar palabras tan largas como las dos 3ltimas del
cdigo anterior.
Cambiemos a un nue/o cdigo binario instant1neo con cinco smbolos o mensajes:
s" ##
.or lo que podemos elegir
s$ #"
?uedan toda/a dos prefijos de longitud $ sin utili(ar+ prefijos que podemos utili(ar de la
siguiente forma:
s% "#
s2 ""#
s= """
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
=
Ejemplo:
Supongamos que las salidas posibles de una fuente de informacin son a"+ a$+ a%+ a2+ a=+ ,
consideremos los siguientes cdigos de esta fuente.
@ensajes .robabilidad Cdigo " Cdigo $ Cdigo % Cdigo 2
a" A " " # ##
a$ B #" "# "# #"
a% "CD ##" "## ""# "#
a2 "C"E ###" "### """# ""
a= "C"E ####" "#### """" ""#
En el primer cdigo cada palabra termina en un ". En consecuencia+ tan pronto como el
decodificador obser/a un "+ reconoce que la palabra cdigo )a terminado , una nue/a
comen(ar1. Esto significa que el cdigo es autosincroni(ante o cdigo coma. En el
segundo cdigo cada palabra comien(a con un ". .or eso+ al obser/ar un "+ el
decodificador reconoce que )a llegado una palabra cdigo nue/a , en consecuencia+ el
bit pre/io era el 3ltimo de la palabra anterior. Este cdigo es tambi-n autosincroni(ante+
pero no es tan con/eniente como el primero+ porque con este es necesario esperar )asta
recibir el primer bit de la palabra siguiente para reconocer que una nue/a palabra )a
comen(ado. En el cdigo " se reconoce el 3ltimo bit sin necesidad de recibir el primer
bit de la prima palabra cdigo. Los cdigos " , $ son de esa manera un/ocamente
decodificables. Sin embargo+ slo el cdigo " es instant1neo. Los cdigos " , % tienen la
propiedad de que ninguna palabra cdigo es prefijo de otra+ o sea que satisfacen la
condicin de prefijo.
El cdigo de prefijo se define como aquel en que la palabra no es prefijo de ninguna
otra.
Un cdigo prefijo es un cdigo+ tpicamente un cdigo de longitud /ariable+ con la
Fpropiedad de prefijoF: ninguna palabra de cdigo es prefijo de cualquier otra palabra de
cdigo del conjunto. Un cdigo con las palabras de cdigo G#+ "#+ ""H tiene la propiedad
de prefijo< un cdigo G#+ "+ "#+ ""H no la tiene+ porque F"F es prefijo de tanto F"#F como
F""F.
La condicin de prefijo es una condicin necesaria , suficiente para que un cdigo sea
un/ocamente decodificable.
El cdigo 2 no es un/ocamente decodificable+ ,a que la secuencia ""#""# puede
decodificarse de dos formas distintas+ como a=a=+ o como a2a$a%. Los cdigos que no son
un/ocamente decodificables no son deseables , deben e/itarse en la pr1ctica.
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
E
Inecuacin de raft
La condicin necesaria , suficiente para la eistencia de un cdigo instant1neo de
longitud l"+ l$+: lq es que
n
I r
Jli
; "
i 9"
donde r es el n3mero de smbolos diferentes que constitu,en el alfabeto cdigo.
En el caso del alfabeto binario+ la inecuacin de Kraft se transforma en:
n
I $
Jli
; "
i 9"
Cabe resaltar que la inecuacin de Kraft no asegura que el cdigo sea un cdigo
instant1neo+ ,a que condiciona las longitudes de las palabras , no las palabras mismas.
5dem1s+ como los cdigos instant1neos son una subdi/isin de los cdigos un/ocos+ la
condicin suficiente se aplica tambi-n a ellos< es decir+ si las longitudes l"+ l$+ :+ lq
satisfacen la inecuacin de Kraft+ puede construirse con ellas un cdigo un/oco.
Ejemplo:
Smbolos de la Fuente Cdigo A Cdigo B Cdigo C Cdigo D Cdigo E
o del mensaje
s" ## # # # #
s$ #" "## "# "## "#
s% "# ""# ""# ""# ""#
s2 "" """ """ "" ""
Calculemos el /alor de
n
I $
Jli
; "
i 9"

para cada uno de los cdigos.
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
L
.ara el cdigo 5:
2
I $
Jli
9 $
M$
N $
M$
N $
M$
N $
M$

i 9"
9 "
.or lo tanto las longitudes de las palabras cdigo de 5 son aceptables para un cdigo
instant1neo. O en este caso no slo las longitudes del cdigo 5 son aptas+ sino que las
palabras mismas constitu,en un cdigo instant1neo.
.ara el cdigo &:
2
I $
Jli
9 $
M"
N $
M%
N $
M%
N $
M%
i 9"
9 LCD
; "
.or lo tanto las longitudes de las palabras cdigo de & son aceptables para un cdigo
instant1neo. O en este caso no slo las longitudes del cdigo & son aptas+ sino que las
palabras mismas constitu,en un cdigo instant1neo.
.ara el cdigo C:
2
I $
Jli
9 $
M"
N $
M$
N $
M%
N $
M%

i 9"
9 "
.or lo tanto las longitudes de las palabras cdigo de C son aceptables para un cdigo
instant1neo. O en este caso no slo las longitudes del cdigo C son aptas+ sino que las
palabras mismas constitu,en un cdigo instant1neo.
.ara el cdigo !:
2
I $
Jli
9 $
M"
N $
M%
N $
M%
N $
M$

i 9"
9 "
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
D
.or lo tanto las longitudes de las palabras cdigo de ! son aceptables para un cdigo
instant1neo. .ero este cdigo no es instant1neo+ ,a que la cuarta palabra cdigo es un
prefijo de la tercera palabra.
.ara el cdigo E:
2
I $
Jli
9 $
M"
N $
M$
N $
M%
N $
M$

i 9"
9 " "CD
Las longitudes de sus palabras cdigo no satisfacen la inecuacin de Kraft+ luego no es un
cdigo instant1neo.
Ejemplo: Supongamos que deseamos codificar las salidas de una fuente o mensaje
decimal

S 9 G#+ " + $+: + PH + en un cdigo instant1neo binario.
Smbolos o mensaje Cdigo o palabra cdigo
# #
" "#
$ ""###
% ""##"
2 ""#"#
= ""#""
E """##
L """#"
D """"#
P """""
P
I $
Jli
9 $
M"
N $
M$
N D7$
M=
8
i 9#
Q "
.or lo tanto+ no es posible construir un cdigo instant1neo.
Ejemplo:
Supongamos que deseamos codificar un alfabeto fuente o de mensajes de "# smbolos
en un cdigo instant1neo trinario+ de palabras de longitudes "+$+ $+ $+ $+ $+ %+ %+ %+ %.
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
P
5plicando la prueba de inecuacin de Kraft tenemos:
"#
I %
Jli
9 "C% N = 7"CP8 N 2 7"C$L8
i 9"
9 $DC$L
Q "
.or lo tanto no es posible construir un cdigo trinario instant1neo con palabras
cdigo de esas longitudes.
Ejemplo:
Supongamos que deseamos codificar un alfabeto fuente o de mensajes de P smbolos
en un cdigo instant1neo trinario+ de palabras de longitudes "+ $+ $+ $+ $+ $+ %+ %+ %.
5plicando la prueba de inecuacin de Kraft tenemos:
"#
I %
Jli
9 "C% N = 7"CP8 N % 7"C$L8
i 9"
9 "
.or lo tanto+ es posible construir un cdigo trinario instant1neo.
Smbolos de la Fuente Cdigo
o del mensaje
s" #
s$ "#
s% ""
s2 "$
s= $#
sE $"
sL $$#
sD $$"
sP $$$
5qu se elige un prefijo de longitud " 7el #8+ quedando obligados a adoptar uno de los
restantes prefijos. Esto limita a dos /eces tres+ es decir seis+ las palabras permitidas de
longitud $. Se emplean 3nicamente cinco de ellas+ conser/ando la seta 7$$8 como
prefijo de las tres 3ltimas palabras.
.rof.: E/elia !aniel
*eora de la 0nformacin , Codificacin: .ropiedades de los cdigos
"#