Predicción de tráfico a partir de Redes Neuronales Recurrente

Predicción de tráfico a partir de Redes Neuronales
Recurrentes
Daniel Bastidas Betanccourt, Gustavo Adolfo Martinez, Hermes Sabogal Rojas
Departamento ...,
Universidad Jorge Tadeo Lozano
Dirección Cra. 4 # 22-61.
gustavoa.martinezm@utadeo.edu.co, gustavoa.martinezm@utadeo.edu.co, hermes.sabogalr@utadeo.edu.co.
Resumen- El artículo está dedicado al uso de redes neuronales
recurrentes (RNN) son una clase de redes neuronales que son
buenas para modelar datos en serie, como series de tiempo o
lenguaje natural. El artículo considera los fundamentos teóricos
y metodológicos, consideramos la aplicación de las redes
neuronales recurrentes para resolver el problema de identificar
y clasificar el trafico vehicular.
nuevos tipos de neuronas artificiales. Los más famosos de esta
serie son:
1) Neurona recurrente simple
2) Neurona LSTM
3) Neurona GRU
Palabras Claves: descriptores, aprendizaje profundo de bolsas
de palabras, redes neuronales recurrentes, redes de memoria a
corto plazo a largo plazo.
I. INTRODUCCIÓN
El rápido desarrollo de la tecnología informática moderna
ha dado lugar a la aparición de dispositivos informáticos
potentes y asequibles que le permiten implementar y ejecutar
algoritmos complejos que requieren una potencia informática
considerable. Gracias a esto, la implementación práctica de
varios métodos de inteligencia artificial ha sido posible,
incluidos los métodos efectivos de aprendizaje automático que
permiten reemplazar a una persona en varios campos de
actividad que requieren un procesamiento monótono de
información a largo plazo. La otra cara del progreso
tecnológico en esta dirección es el rápido crecimiento del
volumen de información acumulada, Como parte de este
trabajo, se realizó un análisis de los métodos existentes, el
procesamiento y la clasificación tráfico identificando ciertos
tipos de acciones en ellos, sin embargo, en este estudio, el
trabajo se realizó incidentes de datos abiertos de tráfico de
Waze. Con base en los resultados de la investigación, se
propuso un enfoque que utiliza una red neuronal recurrente
(RNN) con una memoria a largo plazo (LSTM) como
clasificador. LSTM RNS, una de las ventajas de las cuales es
la capacidad procesamiento de largas secuencias de
información.
II. METODOLOGÍA
En el proceso de investigación de redes neuronales
recurrentes, se hizo evidente que trabajan con neuronas
artificiales comunes (el modelo McCallock y Pitts): las
neuronas comunes parecen "desdibujarse" con el tiempo y
pierden su entrenamiento. Esto no permite el uso eficiente de
las neuronas ordinarias en redes neuronales recurrentes para
tareas de clasificación y, lo más importante, predicción de
series de tiempo. Y luego surgió una idea para desarrollar
Fig. 1. Recurrent Neural Networks (RNNs) [1].
A. Red neuronal recurrente (RNN)
Red neuronal recurrente (RNN): una clase de modelos de
aprendizaje automático basados en el uso de condiciones de
red anteriores para calcular la corriente. Dichas redes son
convenientes para usar en casos donde los datos de entrada de
la tarea son una secuencia inestable de valores, como datos de
texto, donde el fragmento de texto está representado por un
número inestable de oraciones, frases y palabras[2]. Cada
carácter en el texto, palabras individuales, signos de
puntuación e incluso frases completas, todo esto puede ser un
elemento atómico de la secuencia de entrada
A pesar de que, en general, el desarrollo de modelos
computacionales va de simple a más complejo, un modelo
GRU más simple apareció 17 años después que el modelo
LSTM. La redacción de la Unidad recurrente cerrada en sí es
más general e implica la inclusión de LSTM como un caso
especial. Sin embargo, esto no es más que un hecho histórico
entretenido. La familia de redes neuronales recurrentes que
utilizan filtros (compuertas), gracias a LSTM, se ha
desarrollado activamente en las siguientes áreas a lo largo de
su historia.
III. CONSTRUYENDO UN MODELO SIMPLE
Keras tiene tres capas RNN incorporadas:
1.
tf.keras.layers.SimpleRNN, un RNN completamente
conectado en el que la salida del paso de tiempo
anterior debe pasar al siguiente paso.
2.
tf.keras.layers.GRU, propuesto por primera vez en el
artículo Estudio de frases con códec RNN para
traducción automática estadística [4]
3.
tf.keras.layers.LSTM, propuesto por primera vez en el
artículo Memoria a corto plazo a largo plazo [5]
A principios de 2015, Keras presentó las primeras
implementaciones reutilizables de código abierto Python y
LSTM y GRU.
Fig. 3. Esquema Red Neuronal LSTM [8]
Una de las variedades de redes es una red neuronal recurrente
(RNS, inglés; red neuronal recurrente; RNN) [5]. Los RNS
difieren de las redes neuronales artificiales tradicionales por la
presencia de retroalimentaciones (tanto dentro como entre
capas), lo que permite tener en cuenta los resultados de las
iteraciones anteriores al analizar el conjunto actual de valores
de entrada. Esta característica le permite hablar sobre la
presencia de "Efecto de memoria", que le permite analizar la
secuencia de datos de entrada. Dicha red tiene un
inconveniente significativo: cuando se trabaja con secuencias
largas, el "efecto memoria" es limitado y, a veces, se pierden
datos importantes [3].
Fig. 2. RNN Keras [6]
IV. ELECCIÓN DE MÉTODOS
Para resolver con éxito el problema de reconocer tráfico,
es necesario elegir la forma más conveniente de representar
los datos de entrada / salida y seleccionar el clasificador
óptimo que le permita lograr la mejor precisión de las
predicciones. Un descriptor es un vector numérico o binario
que describe un punto clave que refleja las características de
su entorno, como la forma, el color o la textura. El punto clave,
a su vez, se llama cierto punto en la imagen, que caracteriza
de manera única la vecindad inmediata de la imagen. [1].
V. CLASIFICADOR LSTM RNN
Una red neuronal artificial como ya hemos mencionado
anteriormente es un modelo matemático de una red de
neuronas biológicas que consiste en una capa de entrada, una
capa / capas ocultas y una capa de salida. Cada capa consta de
una o más neuronas, que consisten en conjuntos de sinapsis,
sumadores, funciones de activación y elementos de umbral.
Fig. 4. Marco Propuesto Red Neuronal LSTM [2]
VI. DECLARACIÓN DEL PROBLEMA
Se supone que inicialmente hay un conjunto limitado de
acciones conocidas (clases) y un conjunto marcado de archivos
de tráfico, donde cada tráfico contiene un fondo y un objeto
que realiza alguna acción, por ejemplo, caminar, lanzar la
pelota, etc. El enunciado del problema es aprender a clasificar
el tráfico de acuerdo con el criterio de la acción realizada por
el objeto, a saber, encontrar la clase de acción más probable en
el tráfico [7]. En este articulo, se eligió un enfoque de bajo
nivel, porque es mejor que uno de alto nivel para resolver una
tarea.
Los cálculos en el RNS se pueden descomponer en tres bloques
de acuerdo con los parámetros:
1. Desde la entrada a un estado oculto.
2. Del estado latente anterior al estado latente actual.
3. Del estado oculto a la salida.
Fig. 6. Entrenamiento Red Neuronal LSTM [8]
VII. SOLUCIÓN PRONOSTICO
Es claro que las redes de Elman son potencialmente
adecuadas para pronosticar (en particular, series de tiempo).
Sin embargo, también se sabe que las redes neuronales de
distribución directa hacen frente con éxito a esta tarea; sin
embargo, no en todos los casos. Como ejemplo, proponemos
considerar una de las variaciones más populares del problema
de pronóstico: las series de tiempo de pronóstico (. La
declaración del problema se reduce a la elección de un
arbitrario con N muestras. A continuación, los datos se dividen
en tres muestras: capacitación, pruebas y control, y se envían
a la entrada de la RNN. El resultado se presentará como el
valor de la serie temporal en el momento requerido.
El único problema es que solo se puede usar para series de
tiempo predichas. En nuestro caso, no todas las métricas son
predecibles. En la Figura 7 se muestra un intento de aplicar
RNN LSTM para una serie temporal.
Fig.7. Curva de precisión y perdida, Fuente Propia
VIII. CONCLUSIONES
Se puede afirmar que los modelos de redes neuronales
recurrentes, recientemente presentados en forma de LSTM y
GRU, son algoritmos de aprendizaje automático efectivos y
prometedores para una amplia gama de problemas aplicados.
REFERENCIAS
[1] Y. Zhu, J. Fei and X. He, "A Deep Learning Approach for
Intrusion Detection Using Recurrent Neural Networks," A
Deep Learning Approach for Intrusion Detection Using
Recurrent Neural Networks, vol. 5, no. 2169-3536, pp.
21954 - 21961, 2017.
[2] M. I. Sameen and B. Pradhan, "Severity Prediction of Traffic
Accidents with Recurrent Neural Networks," MDPI, vol. 1,
no. 12, p. 7, 2017.
[3] R. Aguilar, "grupo," 1 9 1997. [Online]. Available:
http://grupo.us.es/gtocoma/pid/pid10/RedesNeuronales.htm.
[Accessed 18 05 2020].
[4] B. v. M. C. G. D. B. F. B. H. S. Y. B. Kyunghyun Cho,
"Learning Phrase Representations using RNN EncoderDecoder for Statistical Machine Translation," Cornel
University, vol. 1, no. https://arxiv.org/abs/1406.1078, p. 3,
2014.
[5] S. Hochreiter, "LONG SHORT-TERM MEMORY," in
Neural
Computation,
Germany,
https://www.bioinf.jku.at/publications/older/2604.pdf,
1997, p. 32.
[6] "stackoverflow.com," stackoverflow, 3 08 2017. [Online].
Available:
https://stackoverflow.com/questions/48817914/how-tobuild-a-recurrent-neural-net-in-keras-where-each-inputgoes-through-a-lay. [Accessed 18 05 2020].
[7] S. P. K. C. D. S. &. Y. L. Zhengping Che, "Recurrent Neural
Networks for Multivariate Time Series with Missing
Values,"
17
04
2018.
[Online].
Available:
https://www.nature.com/articles/s41598-018-24271-9.
[Accessed 18 05 2020].
[8] J. I. GARZÓN, «Cómo usar redes neuronales (LSTM) en la
predicción de averías en las máquinas,» 6 11 2018. [En
línea]. Available: https://blog.gft.com/es/2018/11/06/comousar-redes-neuronales-lstm-en-la-prediccion-de-averias-enlas-maquinas/. [Último acceso: 18 06 2020].
.