Algoritmo meta-heurístico Firefly aplicado al pre-entrenamiento de redes neuronales artificiales

• Main Authors: Jairo Rojas Delgado, Rafael Trujillo Rasúa
• Format: Article
• Language: Spanish
• Published: Universidad de Ciencias Informáticas 2018-03-01
• Series: Revista Cubana de Ciencias Informáticas
• Subjects: aprendizaje profundo; firefly; mínimo local; pre-entrenamiento; redes neuronales artificiales
• Online Access: http://rcci.uci.cu/?journal=rcci&page=article&op=download&path%5B%5D=1496&path%5B%5D=598

El campo de investigaciones referente a las Redes Neuronales Artificiales (RNA) es uno de los más activos en la comunidad científica con múltiples aplicaciones recientes. El algoritmo Firefly ha sido empleado con éxito en el pre-entrenamiento de RNAs con el objetivo de evitar la convergencia en mínimos locales de métodos de entrenamiento convencionales como el algoritmo Stochastic Gradient Descent (SGD). Sin embargo, en redes con un considerable número de parámetros, el pre-entrenamiento pasa a ser un problema de optimización en espacios de elevada dimensionalidad, y la aplicación del algoritmo Firefly, así como cualquier meta-heurística, presenta limitaciones computacionales a considerar. En este trabajo se investiga una variante del algoritmo Firefly que permite entrenar una RNA con un subconjunto del conjunto de patrones de entrenamiento original sin disminuir la precisión.