Red-Neuronal-Artificial

Neuronal-Networking
juan

Nota: (Una red-neuronal-artificial es un grupo interconectado de neuronas artificiales que utiliza un modelo matemático o computacional para el procesamiento de información basado en un enfoque conexionista de la computación, Las neuronas en las redes neuronales artificiales generalmente están estructuradas en capas, cada capa contiene varias neuronas).

 

Red-Neuronal-Artificial

-. La artificial-neural-network, son redes de neuronas artificiales y representan una rama de la inteligencia artificial, se estudia en neuroinformática.

Nota: Neuroinformática estudia los algoritmos que se adaptan a nuevas situaciones, es decir, aprenden . Se hace una distinción básica entre el aprendizaje supervisado y el aprendizaje no supervisado , un compromiso entre las dos técnicas es el aprendizaje por refuerzo . Las memorias asociativas son una aplicación especial de los métodos neuronales y, por lo tanto, a menudo son objeto de investigación en neuroinformática. Muchas aplicaciones para las redes neuronales artificiales también se pueden encontrar en el reconocimiento de patrones y especialmente encomprensión de la imagen .

-. Al igual que las Neuronas-Artificiales, las Redes-Neuronales-Artificiales tienen un modelo biológico. Se comparan con las redes neuronales naturales , que representan una Red-Neuronas en el sistema nervioso de un ser vivo. Sin embargo, las artificial-neural-network ANN se tratan más de una abstracción del procesamiento de información y menos de emular redes neuronales y neuronas biológicas, que es más un tema de neurociencia- computacional. los límites entre estas subdisciplinas están desapareciendo cada vez más, lo que se puede atribuir al carácter todavía muy dinámico e interdisciplinario de esta rama de investigación.

 

Descripción:

-. Las redes-neuronales-artificiales se basan principalmente en la conexión en red de muchas neuronas de McCulloch-Pitts o ligeras modificaciones de las mismas. En principio, también se pueden usar otras neuronas artificiales. La topología de una red debe estar bien pensada en función de su tarea. Después de la construcción de una red, sigue la fase de formación, en la que la red «aprende«.

La Red aprender a través de los métodos:

  • Eliminar conexiones existentes
  • Cambiar el peso
  • Ajustar los umbrales de las neuronas
  • Agregar o eliminar neuronas
  • Modificación de la función de activación, propagación o salida

-. El comportamiento de aprendizaje cambia cuando cambia la función de activación de las neuronas o la tasa de aprendizaje de la red. Una red “aprende” principalmente modificando los pesos de las neuronas. Una neuron puede encargarse de una adaptación del valor umbral , las ANN pueden aprender funciones no lineales complicadas utilizando un algoritmo de «aprendizaje» que intenta determinar todos los parámetros de la función a partir de la entrada existente y los valores de salida deseados por medio de un procedimiento iterativo o recursivo .

 

Topología:

-. En las redes-neuronales-artificiales, la topología describe la estructura de la red. La topología consiste cuántas neuronas artificiales hay en cuántas capas y cómo están conectadas entre sí. Las neuronas-artificiales se pueden conectar de diversas maneras para formar una red-neuronal-artificial. En muchos modelos, las neuronas están dispuestas en capas consecutivas, la mas básica es una red con solo una capa de neuronas entrenable se denomina red de una sola capa.

-. Las capa de entradas a veces también se representan como nodos, la última capa de la red, cuyas salidas de neuronas suelen ser las únicas visibles fuera de la red, se denomina capa de salida . Las capas que se encuentran intermedio se denominan correspondientemente capa oculta .

Topologia-Basica:

  • La estructura de una red está directamente relacionada con el método de aprendizaje utilizado y viceversa, solo una red de una sola capa puede entrenarse algoritmo LMS, con varias capas es necesaria una ligera modificación. Las redes no tienen por qué ser necesariamente homogéneas, también existen combinaciones de diferentes modelos para poder combinar distintas ventajas.

Nota: El algoritmo LMS se basa en el llamado método de descenso gradiente más pronunciado y estima el gradiente de una manera simple. El algoritmo funciona de manera recursiva en el tiempo, lo que significa que el algoritmo se ejecuta una vez con cada nuevo conjunto de datos y la solución se actualiza. El algoritmo LMS se usa a menudo debido a su baja complejidad. Una desventaja del algoritmo LMS es la dependencia de su velocidad de convergencia de los datos de entrada.

  • Hay redes de alimentación directa puras en las que una capa solo está conectada a la siguiente capa superior. Existen redes en las que se permiten conexiones en ambos sentidos. La estructura de red apropiada generalmente se encuentra utilizando el método de prueba y error , que puede ser respaldado por algoritmos evolutivos y retroalimentación de errores.
  • Red de retroalimentación de una sola capa: Las redes de una sola capa con la propiedad feedforward son las estructuras más simples de las redes-neuronales-artificiales . Solo tienen una capa de salida. La propiedad feedforward establece que las salidas de las neuronas solo se alimentan en la dirección de procesamiento y no se pueden retroalimentar a través de un borde recurrente.
  • Red de realimentación multicapa: Además de la capa de salida, las redes multicapa también tienen capas ocultas cuya salida, como se describe, no es visible fuera de la red. Las capas ocultas mejoran la abstracción de dichas redes.
  • Red Recurrente: Las redes-recurrentes también tienen bordes recurrentes bucles de retroalimentación y, por lo tanto, contienen retroalimentación . Dichos bordes siempre cuentan con un retraso de tiempo, de modo que las salidas de las neuronas de la unidad anterior se pueden aplicar nuevamente como entradas durante el procesamiento paso a paso. Estas retroalimentaciones permiten que una red se comporte dinámicamente y le otorgan una memoria .

 

Funcionamiento:

-. Las redes-neuronales-artificiales sirven como aproximadores de funciones universales. Los valores se propagan desde la capa de entrada a la de salida, con una función de activación que se encarga de la no linealidad. Al entrenar, se determina un error: Con la ayuda de la retroalimentación de errores y un proceso de optimización, los pesos se ajustan capa por capa.

 

Aplicación:

-. Sus propiedades especiales hacen que la ANN sea interesante para todas las aplicaciones donde hay poco o ningún conocimiento explícito sobre el problema a resolver. Estos son como reconocimiento de texto, reconocimiento de voz, reconocimiento de imágenes y reconocimiento de rostros , en los que se deben convertir unos pocos cientos de miles a millones de píxeles en una cantidad comparativamente pequeña de resultados permitidos.

  • Las ANN se utilizan en la ingeniería de control para reemplazar los controladores convencionales o para especificar valores objetivo que la red ha determinado a partir de un pronóstico de desarrollo propio del curso del proceso . De esta manera, los sistemas difusos también pueden diseñarse para que sean capaces de aprender a través de la conversión bidireccional en redes-neuronales.
  • Las ANN se utilizan para respaldar la predicción de cambios en sistemas complejos, para la detección temprana de tornados inminentes o para la evaluación del desarrollo ulterior de los procesos económicos.

Nota: Diferentes áreas de aplicación de artificial-neural-network

  • Control y análisis de procesos complejos
  • sistemas de alerta temprana
  • detección de errores
  • mejoramiento
  • Análisis de series temporales (clima, acciones, etc.)
  • síntesis de voz
  • síntesis de sonido
  • clasificación
  • procesamiento de imágenes y reconocimiento de patrones
  •    Reconocimiento de caracteres ( OCR )
  •    reconocimiento de voz
  •    procesamiento de datos
  •    máquina traductora
  •    Reconocimiento facial
  •    intercambio cara
  • Informática : En robótica , agentes virtuales y módulos de IA en juegos y simulaciones
  • Diagnóstico médico , epidemiología y biometría
  • Modelo de ecuaciones estructurales para modelar relaciones sociales o comerciales

 

Tipos artificial-neural-network

-. Las clases de las redes difieren principalmente por las diferentes topologías de red y tipos de conexión, como redes de una sola capa, multicapa, feedforward o feedback.

Nota: enumerar diferentes Tipos & Clases:

  • Redes McCulloch-Pitts
  • matriz de aprendizaje
  • perceptrón
  •    modelo adalina
  •    Red neuronal convolucional (CNN)
  • Mapas autoorganizados ( también conocido como Kohonen Networks) (SOM)
  • Crecimiento de gas neuronal (GNG)
  • Cuantificación de vectores de aprendizaje (LVQ)
  • máquina de Boltzmann
  • Redes de correlación en cascada
  • redes de contrapropagación
  • Redes neuronales probabilísticas
  • Redes de función de base radial (RBF)
  • Teoría de la resonancia adaptativa (ART)
  • neocognitrón
  • Picos de redes neuronales (SNN)
  •    Redes neuronales codificadas por pulsos (PCNN)
  • Redes neuronales de retardo de tiempo (TDNN)
  • Redes neuronales recurrentes (RNN)
  •    Memoria asociativa bidireccional (BAM)
  •       Redes Hopfield
  •    Redes Elman (también red recurrente simple, SRN)
  •    Jordan redes
  • Red neuronal oscilante

 

Función de activación:

-. A la salida de la neurona, puede existir, un filtro, función limitadora o umbral, que modifica el valor resultado o impone un límite que se debe sobrepasar para poder proseguir a otra neurona. Esta función se conoce como función de activación.

Nota: Tipos de función de activación

  • Función de activación lineal (conocida como identidad)
  • Función de activación Sigmoidea (también conocida como función Logística )
  • Función de activación Tangente hiperbólica , también conocida como Tanh
  • Función de activación unidad lineal Rectificada (ReLU)
  • Función de activación Softmax
  • Función Unidad Lineal Exponencial ( ELU ) es una variación de ReLU
  • Función de activación FugasReLU (Leaky ReLu)
  • Función de activación (Swish) (Silbido)

 

Los diferentes Método de Aprendizaje:

-. Con el aprendizaje se utilizan para modificar una red-neuronal de tal manera que genere patrones de salida asociados con ciertos patrones de entrada.

  • Aprendizaje supervisado: la ANN recibe un patrón de entrada y la salida que produce la red neuronal en su estado actual se compara con el valor que realmente se supone que debe generar. Al comparar la salida objetivo y la real, se pueden sacar conclusiones sobre los cambios que se deben realizar en la configuración de la red. La regla delta también regla de aprendizaje de perceptrones se puede aplicar a perceptrones de una sola capa . Conocido como: “algoritmo LMS se basa en el llamado método de descenso gradiente más pronunciado”.Los perceptrones multicapa generalmente se entrenan mediante retropropagación , que es una generalización de la de esta regla.
  • Aprendizaje no supervisado : tiene lugar exclusivamente introduciendo los patrones a aprender. La red neuronal cambia de acuerdo con los patrones de entrada.
  • Aprendizaje reforzado: No siempre es posible tener disponible el conjunto de datos de salida adecuado para el entrenamiento para cada conjunto de datos de entrada. No siempre puede decirle a un agente que tiene que orientarse en un entorno desconocido. Pero puede asignarle al agente una tarea que debe resolver de forma independiente. Después de una ejecución de prueba, que consta de varios pasos de tiempo, se puede evaluar el agente. En base a esta evaluación, se puede aprender una función de agente.
  • Aprendizaje estocástico: es una estrategia de aprendizaje en redes-neuronales artificiales basada en una búsqueda aleatoria en el espacio de pesos. Aprendizaje significa el ajuste de los parámetros del modelo para optimizar una función objetivo. Un algoritmo de aprendizaje trata de encontrar una hipótesis que haga predicciones que sean lo más precisas posible. El objetivo del aprendizaje estocástico es minimizar el riesgo empírico con la ayuda de una búsqueda aleatoria de los pesos w de la red y una función de pérdida (estadística) previamente seleccionada.

 

Recopilando:

Estos apuntes son una ampliación del anterior post para actualizarlos , ampliarlo y podríamos decir dar otra visión de artificial-neural-network algo diferente a la anterior.