1.
Conexiones hacia delante:
Los datos de las neuronas de una capa inferior
son propagados hacia las neuronas de la capa superior por medio de las redes
de conexiones hacia adelante.
2.
Conexiones hacia atrás: Los datos de las neuronas de una capa superior son
propagados hacia las neuronas de la capa inferior por medio de las redes de
conexiones hacia adelante.
3.
Conexiones con retardo: los elementos de retardo se incorporan en las
conexiones para implementar modelos dinámicos y temporales, es decir,
modelos que precisan de memoria.
TAMAÑO DE LAS REDES NEURONALES
El Tamaño de las Redes depende del Número de Capas y del Número de
Neuronas Ocultas por Capa.
1.
Número de capas: En una Red Multicapa, hay una o más capas de
neuronas ocultas entre la entrada y la salida. El número de capas se cuenta a
menudo a partir del número de capas de pesos en vez de las capas de
neuronas).
2.
Número de unidades ocultas: El Número de Unidades Ocultas está
directamente relacionado con las capacidades de la red. Para que el
comportamiento de la red sea correcto se tiene que determinar
apropiadamente el número de neuronas de la capa oculta.
APROXIMACIONES ACON FRENTE A OCON
Normalmente, cada nodo de salida se usa para representar una clase. Si tomamos
un problema de reconocimiento alfanumérico, habrá 36 clases y 36 nodos de
salida. Dado un patrón de entrada en la fase de prueba, el ganador es
normalmente el nodo que tiene el valor más alto a la salida.
ALL CLASS IN ONE NETWORK ACON: Todas las clases son reconocidas
dentro de una única Súper Red.
ONE CLASS IN ONE NETWORK OCON: En algunos casos es ventajoso
descomponer esta Súper Red en varias Subredes más pequeñas. La
descomposición más extrema es la llamada OCON donde una Subred se dedica
para una sola clase. Aunque el número de Subredes en la estructura OCON es
relativamente largo, cada una de ellas tiene un tamaño menor que la red ACON.
RED ENTERA
SUBREDES VARIAS
7.
MODELOS NO SUPERVISADOS
La capacidad de clasificación de la red neuronal depende de los valores de los
pesos sinápticos los cuales pueden ser preestablecidos o entrenados
adaptativamente mediante mecanismos de aprendizaje. En función de la forma con
la que los pesos sinápticos son entrenados, las ANNs|
se pueden clasificar
en
modelos supervisados y modelos no supervisados.
Una clase de modelos de entrenamiento no supervisado son las Redes Asociativas
de Pesos Fijos que se usan para obtener patrones originales libres de ruido a partir
de señales incompletas o distorsionadas. La principal característica de estas redes
es que sus pesos son preestablecidos y precalculados. Adicionalmente, estas
redes tienen aplicaciones limitadas ya que no se pueden adaptar a ambientes
cambiantes.
Otra clase de modelos de entrenamiento no supervisado son las Redes de
Aprendizaje Competitivo
cuyos pesos se adaptan de acuerdo con reglas de
aprendizaje no supervisadas. Estas redes pueden aprender en ausencia de un
maestro. En decir, el entrenamiento de las mismas se basa únicamente en la
información de los patrones de entrada.
REDES DE MEMORIA PROASOCIATIVA
1.
MEMORIA ASOCIATIVA LINEAL (LAM)
Una red de memoria asociativa es matemáticamente un mapeado de un
espacio de entrada sobre uno de salida. Las redes de memoria asociativa se
pueden usar tanto para las aplicaciones autoasociativas como para las
heteroasociativas. En las aplicaciones autoasociativas la dimensión del espacio
de entrada es igual al de salida. En las aplicaciones heteroasociativas la
dimensión del espacio de entrada y del espacio de salida son en general
diferentes. Los valores de entrada y de salida pueden ser reales o binarios.
Una LAM es una red de una capa de propagación. La LAM se deriva de un
conjunto de pares de patrones de entrada/salida {b
{m}
, a
{m}
}. Aquí la entrada
es b
{m}
= [b1
{m}
, b2
{m}
,..., b
k
{m}
]
y la salida es a
{m}
= [a1
{m}
,a2
{m}
, ..., a
k
{m}
]
para
m=1, 2,...., M, donde [-]
denota la transpuesta del Vector o Matriz. El objetivo
de LAM es recuperar el patrón de salida basado en la información total o
parcial del patrón de entrada.
Patrones de entrada Continuos
La Matriz de Pesos Sinápticos W en la Memoria Asociativa Lineal se
obtiene de la correlación de los pares de patrones originales: W =
a
(m)
b
(m)
donde a y b son Vectores Reales Continuos: a
R
N
y b
R
N
. Las
entradas de la matriz se denotan por W
ij
=
a
i
(m)
b
j
(m)
.
Patrones de Entrada Binarios
Si las entradas son binarias (1/0), entonces los elementos de la matríz de
pesos W, de N x K dimensiones, que se calculan como:
M
W
ij
=
(2ª
i
(m)
1) (2b
j
(m)
1)
M=1
Donde a, b
I
k
(Vectores Binarios). Esta fórmula permite que la condición
de ortogonalidad sea impuesta más apropiadamente. Para producir una
salida binaria, los elementos del vector Wt se ajustan primero por sus
umbrales respectivos:
k
i
= - ½
W
ij
j=1
Luego son procesados por alguna unidad no lineal en los nodos de salida.
Si el valor ajustado es positivo entonces la salida será 1; de cualquier otro
modo, será 0.
2.
MEMORIA ASOCIATIVA NO LINEAL PARA LA RECUPERACIÓN
HOLOGRÁFICA
El uso de una unidad de proceso no lineal, será esencial para eliminar las
perturbaciones indeseadas. Dado un Patrón de Prueba t, definimos el Vector