1. Entropía
La entropía es la medida del desorden. En un sistema de información diremos que hay mucha entropía cuando haya mucha imprevisibilidad.
Ci es
la cantidad de información que hay en un mensaje.
| Ci=-log2(P(xi)) |
xi suceso
P(xi) probabilidad de xi (será
un valor entre 0 y 1)
cuando la probabilidad de un suceso es 1 la cantidad de información que aporta es cero.
La entropía es el sumatorio de la probabilidad de aparición de un suceso por la cantidad de información que aporta, todo en signo negativo.
Propiedades de la entropía:
-En un sistema donde hay n sucesos equiprobables la entropía es máxima y su valor es el del logaritmo en base dos de n
-Cuando los sucesos no son equiprobables: 0<=H<=log2n
-En un sistema predecible la entropía
es cero, a mayor imprevisibilidad mayor entropía
2. Redundancia
La entropía nos da una medida de la redundancia que hay en un mensaje. El concepto de bit va relacionado con la definición de cantidad de información, es la unidad mínima de información. La entropía nos permitirá medir la redundancia de los lenguajes.
INDICE REAL DE UN LENGUAJE: es la entropía de todos los mensajes de una determinada longitud dividido por esa longitud (r).
INDICE ABSOLUTO: es el logaritmo en base dos de todas las posibles letras del lenguaje (D).
REDUNDANCIA: es el indice absoluto menos el real (R)
INDICE DE COMPRESIÓN: es la redundancia dividido por el indice absoluto, todo buen compresor debería tener este indice de compresión.
Un criptosistema seguro de Shanon es aquel en el cual I(c,m)=0 es alcanzable. También se denomina criptosistema ideal. El hecho de conocer c nonos tiene que decir nada sobre m. Para que un criptosistema cumpla esto es necesario que el cardinal del conjunto de claves sea como poco igual al cardinal del conjunto de mensajes, cosa que en la practica es muy poco manejable.
DISTANCIA DE UNICIDAD: la longitud mínima
de mensaje cifrado que lleva H(k,c) hacia cero, es decir, la cantidad de
cifrado que se necesitara para descubrir la clave.
TÉCNICAS BÁSICAS PARA OCULTAR LA REDUNDANCIA
Confusión Intenta ocultar la relación directa que existe entre el mensaje cifrado y el mensaje natural. El mecanismo más simple de confusión es la sustitución de un símbolo por otro.
Difusión Intenta diluir la
redundancia del texto, repartiéndola por todo el texto. esto se
consigue mediante transposición.