Resultado s como el Producto Interno entre b
(m)
y el Patrón de Prueba t y lo
escribimos como <b
(m)
, t >.
S = [< b
(1)
, t >, < b
(2)
, t>,…, < b
(M)
, t>] donde la operación del Producto Interno
para una entrada de valor real se define como:
< b
(m)
, t>
b
(m)T
t
b
I
(m)
ti
I = 1
Al vector resultado s se le hace un Procesado no Lineal llegando a un Vector
de Decisión Binario V = N {s} que se espera tenga solo un elemento distinto de
cero. Si este elemento se posiciona correctamente, entonces se puede realizar
la Recuperación Holográfica. El patrón a recuperar es el Valor de Salida Av.
constituida por la matriz formada por los vectores columna a
(k)
.
El propósito del operador NOLINEAL N {-} es seleccionar sólo un nodo ganador
y simultáneamente descartar todos los otros nodos. El propósito es suprimir el
ruido llegando a la Recuperación Holográfica. Los operadores no lineales se
pueden manifestar como un elemento de umbral o un circuito MAXNET.
Redes de Hamming
Las redes de Hamming son comúnmente utilizadas cuando las entradas
son de tipo binario. La red de Hamming selecciona un ganador de entre los
patrones almacenados {b
(m)
, m=1,..., M}, que tienen la menor distancia de
Hamming al vector de entrada. Para los vectores bipolares (-1/1) se puede
adoptar la misma definición de producto interno introducida anteriormente.
Para los valores binarios (1/0) de entrada, el producto interno se tiene que
redefinir como:
k
< b
(m)
, t>
(2b
i
(m)
– 1) (2t
i
– 1)
i = j
Por lo tanto se tiene que:
k
< b
(m)
, t>
(2b
i
(m)
– 1) (2t
i
– 1)
i = j
= numero total de bits que concuerdan
- numero de bits que no concuerdan
= K - 2 (distancia de Hamming entre b
(m)
y t)
En donde la distancia de Hamming es el número de inconsistencias entre
los bits de los dos vectores. Esto prueba que en este caso, tanto el valor del
producto interno como la distancia de Hamming darán el mismo efecto.
REDES DE MEMORIA RETROASOCIATIVA
Una Red con Realimentación necesita de muchas iteraciones hasta que conseguir
la recuperación del patrón final. La Red de Retroasociacion más popular es el
Modelo de Hopfield el cual que tiene las siguientes características:
1.
Los Pesos sinápticos son prealmacenados.
2.
Se usan operaciones no lineales de escalonamiento en cada etapa para
producir valores binarios.
3.
La retroalimentación tiene la función de propiciar que los estados se puedan
actualizar iterativamente.
4.
Las iteraciones convergen hacia una solución que minimiza una función de
energía de la red.
1.
MODELO DE HOPFIELD SECUENCIAL (ASÍNCRONO)
Obtención de los Pesos Sinápticos
Dados M patrones binarios (i.e., {a
i
(m)
} tiene valores binarios 0 o 1), los pesos
en el modelo de Hopfield se obtienen de la siguiente forma:
W
ij
=
M
m =1
(2ª
i
(m)
– 1) (2ª
j
(m)
- 1 ) i
j
El umbral de la red se da de la siguiente forma:
k
i
= - ½
W
ij
j=1
Funciones de Energía y Convergencia
Utilizando la Función de Liapunov como concepto de Función de Energía:
E = - ½
W
ij
a
i
a
j
-
i
a
i
i j
i
Bajo la situación ideal de que los vectores almacenados son perfectamente
ortogonales, entonces cada patrón original representa un mínimo local (o
global) de la función de energía. Esto motiva que se diseñe la red para que
iterativamente se pueda buscar el estado de mínimo local. La técnica del
gradiente nos lleva al modelo secuencial de Hopfield. La diferencia de la
función de energía antes y después de la actualización de un estado es:
k
k
k
En caso de una actualización secuencial (asíncrona), hay solo una adaptación
de un bit al mismo tiempo. Sin perdida de generalidad, asumamos que sea
en
a
i
(k) + 1)
en el bit i-esimo:
k
- u
i
k
a
i
k
- ½W
ij
Puesto que W
ii
= 0:
k
- U
i
(k + 1)
a
i
k
Introduzcamos una versión discreta del gradiente como:
k
= U
i
k
a
k
k
Para garantizar el descenso de la Función de Energía
a
i
k
se debería
actualizar en la dirección de descenso del gradiente:
a
i
k
u
i
k
2.
MODELO DE HOPFIELD, ALGORITMO SEQUENCIAL
Suponiendo que la entrada a la red de retroalimentación es a, que se usa como
el vector de estado inicial, esto es, se fija a= a(0) = (a1(0), a2 (0), ..., a
N
(0)]
T
y
las iteraciones inician en k=1 hasta la convergencia. Durante la iteración k-
ésima, la red realiza la actualización en orden secuencial desde i=1, i=2,...,
hasta i=N se tiene que:
Cálculo del valor de red
U
i
(K + 1) =
W
ij
a
j
(k) +
I
Mister Wong
Portal para Investigadores y Profesionales
