Eficacia de diferentes reglas hebbianas en el Aprendizaje Supervisado

Efficacy of different Hebbian rules in Supervised Learning

  • Fernando Javier Aguilar Canto
Palabras clave: Aprendizaje hebbiano, Aprendizaje Supervisado, Redes Neuronales Artificiales, Redes Neuronales Biológicas, Regla de Oja, Hebbian learning, Supervised learning, Artificial Neural Networks, Biological Neural Networks, Oja Rule

Resumen

Desde 1949, numerosos neurocientíficos han estudiado los principios implícitos del llamado aprendizaje asociativo (o hebbiano) entre neuronas. Varios algoritmos basados en Hebb (incluyendo la Regla de Hebb Simple, la Regla de la Covarianza y la Regla de Oja) han sido propuestos como modelos teóricos del cambio de la fuerza de conexión sináptica (o pesos) y son aplicables para entrenar redes neuronales en lugar de usar algoritmos artificiales como Descenso de Gradiente. En este artículo, se evaluó el rendimiento de los algoritmos basados en Hebb en diferentes contextos. La simple aplicación de los mencionados métodos fue incapaz de alcanzar la exactitud de los métodos existentes. No obstante, algunos algoritmos combinados con el uso de k-celdas arrojaron mejores resultados comparativos, obteniendo 97.6% de exactitud en tareas como el problema de clasificación de círculos mientras que otros métodos arrojaron 97.4% o menos, haciendo de esta estrategia una alternativa adecuada a algunos métodos clásicos.

Since 1949, many neuroscientists have studied the underlying principles of the so-called associative learning (or Hebbian learning) between neurons. Several Hebbian-based algorithms (including the Simple Hebb Rule, the Covariance Rule, and the Oja Rule) have been proposed as theoretical models of the change of synaptic strength (or weights) and can be applied to train Neural Networks rather than using artificial algorithms such as Gradient Descend. However, these Hebbian-bases algorithms still not being considered in many Supervised Learning tasks. In this paper, we evaluated the performance of Hebbian-based algorithms in different contexts. The simple application of the mentioned algorithms was unable to reach the accuracy of current methods. Nevertheless, some combined algorithms with k-cells yielded better comparative results, getting 97.6% of accuracy in tasks such as circle classification problem whereas other methods yielded 97.4% or less, making this strategy a suitable alternative for some classical methods.

Publicado
2019-08-30