En la teoría de codificación, la desigualdad de Kraft del da la condición necesaria y suficiente para la existencia de un código únicamente decodable para un sistema dado de longitudes del codeword. Sus usos para prefijar códigos y árboles encuentran a menudo uso en el la teoría de información de informática de y .

Más específicamente, la desigualdad de Kraft del limita el sistema de longitudes codeworded posibles para hacer un código del prefijo. Afirma que las asignaciones exponentiated de la longitud del codeword deben parecer una función de masa de probabilidad . La desigualdad de Kraft del se puede pensar en en términos de un presupuesto obligado que se pasará en codewords, con codewords más cortos siendo más costosos.

si la desigualdad de Kraft se sostiene con la desigualdad terminante, el código tiene cierta redundancia.
Si la desigualdad de Kraft se sostiene con igualdad terminante, el código en la pregunta es un código completo .
Si la desigualdad de Kraft no se sostiene, el código no es el únicamente decodable.

Declaración formal

Dejar cada fuente símbolo de alfabeto

$S=\; \backslash \; \{\backslash ,\; s\_1,\; s\_2,\; \backslash \; ldots,\; s\_n\; \backslash ,\; \backslash \}\; \backslash ,$

codificarse en un código únicamente decodable sobre un alfabeto del tamaño $r$ con longitudes del codeword, $\backslash \; ell\_1\; del$

l \ ell_2, \, \ ell_n de los ldots \,

Entonces

$\backslash \; sum\_\; \{i=1\}\; ^\; \{n\}\; \backslash \; ido\; (\backslash \; frac\; \{1\}\; \{r\}\; \backslash \; derecho)\; ^\; \{\backslash \}\; \backslash \; leq\; 1.$ del ell_i

Inversamente, porque un sistema dado de, $\backslash \; ell\_1\; de\; los\; números\; naturales\; \backslash \; ell\_2,\; \backslash ,\; \backslash \; ell\_n\; de\; los\; ldots\; \backslash ,$ que satisface la desigualdad antedicha, allí existe un código únicamente decodable sobre un alfabeto del tamaño $r$ con esas longitudes del codeword.

Un caso especial comúnmente de ocurrencia de un código únicamente decodable es un código del prefijo. La desigualdad de Kraft por lo tanto también se sostiene para cualquier código del prefijo.

Prueba para los códigos del prefijo

Cualquier código dado del prefijo se puede representar por un árbol de $r$-ary del $\backslash \; ell\_n$ de la profundidad donde las ramas de cada nodo corresponden a uno de alfabetos del código de $r$ y cada codeword es representado por la trayectoria a un $en\; profundidad\; \backslash \; ell\_i$ de la hoja. Esto garantiza que no hay codeword un prefijo de otro. Para cada hoja en tal árbol de código, considerar el sistema de los descendientes $A\_i$ que cada uno tendría $en\; profundidad\; \backslash \; ell\_n$ en un árbol lleno de $r$-ary. Entonces, $A\_i\; del$

l \ bigcap A_j = \, varnothing \ patio i \ neq j

y

$|A\_i|\; =\; r^\; \{\backslash \; ell\_n-\; \backslash \; ell\_i\}.$

Así, dado que el número total del $en\; profundidad\; \backslash \; ell\_n$ de los nodos es el $r^\; \{\backslash \; ell\_n\}$,

$|\backslash \; ^n\; A\_i\; del\; bigcup\_\; \{i=1\}|\; =\; \backslash \; r^\; del\; ^n\; del\; sum\_\; \{i=1\}\; \{\backslash \; ell\_n-\; \backslash \; ell\_i\}\; \backslash \; r^\; del\; leq\; \{\backslash \; ell\_n\}$

de cuál sigue el resultado.

Inversamente, dado cualquie secuencia pedida de números naturales de $n$, $\backslash \; ell\_1\; \backslash \; leq\; \backslash \; ell\_2\; \backslash \; leq\; \backslash \; puntos\; \backslash \; leq\; \backslash \; ell\_n$ del

l

la desigualdad de Kraft satisfactorio, una puede construir un código del prefijo con las longitudes del codeword iguales al $\backslash \; ell\_i$ por las sub-estructuras de la poda de un árbol lleno de $r$-ary del $\backslash \; ell\_n$ de la profundidad. Primero elegir cualquier nodo del $en\; profundidad\; \backslash \; ell\_1$ del árbol lleno y quitar a todos sus descendientes. Esto quita la fracción del $r^\; \{-\; \backslash \; ell\_1\}$ de los nodos del árbol lleno de la consideración para el resto de los codewords restantes. La iteración siguiente quita la fracción del $r^\; \{-\; \backslash \; ell\_2\}$ del árbol lleno para el total de $r^\; \{-\; \backslash \; ell\_1\}\; +r^\; \{-\; \backslash \; ell\_2\}$. Después de iteraciones de $m$, $del$

l \ r^ del ^m del sum_ {i=1} {- \ ell_i}

la fracción de los nodos completos del árbol se quita de la consideración para cualquier codewords restante. Pero, por la asunción, esta suma es menos de 1 para todo el

Prueba del caso general

Considerar la función de generación en lo contrario de $x$ para el código $S$ $F\; del$

l (x) = \ x^ del ^n del sum_ {i=1} {-|s_i|} = \ p_ \ ana {máximos} del ^ del sum_ {\ ell=min} \, x^ {- \ ana}

en qué coeficiente del $p\_\; \backslash \; ell$-the delante del $x^\; \{-\; \backslash \; ana\}$-is el número de codewords distintos del $\backslash \; ell$ de la longitud. Aquí $min$ es la longitud del codeword más corto de $S$, y $max$ es la longitud del codeword más largo de $S$.

Para cualquier número entero del positivo $m$ consideran el producto $S^m$ de $m$-fold, cuál consiste en todas las palabras del s_ del $s\_\; de\; la\; forma\; \{i\_1\}\; \{i\_2\}\; \backslash \; del\; s\_\; de\; los\; puntos\; \{i\_m\}$, donde $i\_1,\; i\_2,\; \backslash \; puntea,\; i\_m$ son los índices entre $1$ y $m$. Observar que, puesto que $S$ fue asumido a únicamente decodable, si el s_ del $s\_\; \{i\_1\}\; \{i\_2\}\; \backslash \; el\; s\_\; del\; =s\_\; del\; s\_\; de\; los\; puntos\; \{i\_m\}\; \{j\_1\}\; \{j\_2\}\; \backslash \; el\; s\_\; de\; los\; puntos\; \{j\_m\}$, entonces $i\_1=j\_1,\; i\_2=j\_2,\; \backslash \; puntea,\; i\_m=j\_m$. Es decir cada palabra en $S^m$ viene de una secuencia única de codewords en $S$. Debido a esta característica, uno puede computar el $G\; de\; la\; función\; de\; generación\; (x)$ para $S^m$ del $F\; de\; la\; función\; de\; generación\; (x)$ como $G\; del$

l (x) = \ se fue = \ a la izquierda (\ el x^ del ^m (de F (x) \ derecho) del ^n del sum_ {i=1} {-|s_i|} \) ^m correcto

\ ^n del sum_ {i_11} \ ^n del sum_ {i_21} \ cdots \ x^ del ^n del sum_ {i_m1} {-|s_ {i_1} + s_ {i_2} \ cdots + s_ {i_m}|}

\ sum_ {\ minuto del ellm \ del cdot} ^ {m \ cdot máximo} q_ \ ana \, x^ {} \; - \ de la ana .

Aquí, semejantemente como antes, coeficiente del $q\_\; \backslash \; ell$-the delante del $x^\; \{-\; \backslash \; ana\}$ en el $G\; (x)$-is el número de palabras del $\backslash \; ell$ de la longitud en $S^m$. Claramente, el $q\_\; \backslash \; ell$ no puede exceder el $r^\; \backslash \; ell$. Por lo tanto para cualquie $x$ positivo

$\backslash \; se\; fue\; (F\; (x)\; \backslash \; derecho)\; ^m\; \backslash \; le\; \backslash \; sum\_\; \{\backslash \; minuto\; del\; ell=m\; \backslash \; del\; cdot\}\; ^\; \{m\; \backslash \; cdot\; máximo\}\; r^\; \backslash \; ana\; \backslash ,\; x^\; \{\}\; \backslash ;\; -\; \backslash \; de\; la\; ana\; .$

Substituyendo el valor $x=r$ tenemos $del\; \backslash \; se\; fue\; ^m\; (de\; F\; (r)\; \backslash \; derecho)\; \backslash \; le\; m\; \backslash \; cdot\; (máximo-minuto)\; +1$ para cualquier número entero positivo $m$. El lado izquierdo de la desigualdad crece exponencial en $m$ y derecho solamente linear. La única posibilidad de la desigualdad a ser válida para todo el $m$ es ese $F\; (r)\; \backslash \; le\; 1$. Mirada detrás en la definición del $F\; (x)$ finalmente conseguimos la desigualdad.

$\backslash \; r^\; del\; ^n\; del\; sum\_\; \{i=1\}\; \{-\; \backslash \; ell\_i\}\; =\; \backslash \; r^\; del\; ^n\; del\; sum\_\; \{i=1\}\; \{-|s\_i|\}\; =\; F\; (r)\; \backslash \; le\; 1\; \backslash ;\; .$

Ejemplos

Árboles binarios

Dado un el árbol binario, la desigualdad de Kraft indica eso $del$

l \ sum_ {\ ana \ en \ mathrm {hojas}} 2^ {- \ mathrm {profundidad} (\ ana)} \ leq 1

Aquí la suma se asume el control las hojas del árbol, es decir los nodos sin ningunos niños. La profundidad es la distancia al nodo de raíz. En el árbol a la derecha, esta suma está

$\backslash \; frac\; \{1\}\; \{4\}\; +\; 4\; \backslash \; ido\; (\backslash \; frac\; \{1\}\; \{8\}\; \backslash \; derecho)\; =\; \backslash \; frac\; \{3\}\; \{4\}\; \backslash \; leq\; 1.$

Constante de Chaitin

En la teoría de información algorítmica, se define constante de Chaitin como $del$

l \ = \ sum_ {p \ en P} 2^ de Omega {-|p|}.

Ésta es una suma infinita que tiene un summand para cada programa sintácticamente correcto que pare. | p | soportes para la longitud de la cadena binaria del p . Los programas se requieren ser prefijo-libres en el sentido que ningún summand tiene un prefijo el representar de un programa sintácticamente válido que pare. Por lo tanto las cadenas binarias son códigos del prefijo, y la desigualdad de Kraft da ese $\backslash \; Omega\; \backslash \; leq\; 1$.

Zenithic

Fuerte River

Random links:

Nick Discepola | Districto de Yoshiki, Yamaguchi | Vítor Baía | Mike Feldman | Kasson Crooker