Diseño de una aplicación de entrenamiento maestro-estudiante en redes neuronales para uso en sistema embebido

Abstract

Este trabajo consiste en la implementación de una técnica de entrenamiento maestro estudiante para llevar a cabo la reducción de una red neuronal de gran tamaño, capaz de detectar automáticamente a personas por medio de cuadros delimitadores, sin que esta red pierda su precisión mAP. Con esto se busca disminuir el tiempo de inferencia y el consumo de la memoria del modelo para poder eventualmente, en un futuro, llevar a cabo la implementación del modelo resultante en un sistema embebido de bajo coste. Además, se aplican distintas pruebas por medio de la validación cruzada con el fin de darle una confiabilidad a los resultados. El modelo final es capaz de reducir el tiempo de inferencia y el consumo de memoria en más de un 10 % mientras que disminuye su precisión en un valor menor al 8 %.

This work consists of the implementation of a master-student training technique to carry out the reduction of a large neural network, capable of automatically detecting people by means of bounding boxes, without this network losing its mAP accuracy. The aim is to reduce the inference time and memory consumption of the model in order to eventually implement the resulting model in a low-cost embedded system in the future. In addition, different tests are applied by means of cross validation in order to give reliability to the results. The final model is able to reduce the inference time and memory consumption by more than 10 % while reducing its accuracy by less than 8 %.