Tecnológico de Costa Rica
  • xmlui.mirage2.page-structure.upload_to_repository_title
  • xmlui.mirage2.page-structure.policies_title
  • xmlui.mirage2.page-structure.rea_title
  • Contact us
    • español
    • English
  • español 
    • español
    • English
  • Login
View Item 
  •   DSpace Home
  • Portal de Revistas del Instituto Tecnológico de Costa Rica
  • Tecnología en Marcha
  • View Item
  •   DSpace Home
  • Portal de Revistas del Instituto Tecnológico de Costa Rica
  • Tecnología en Marcha
  • View Item
JavaScript is disabled for your browser. Some features of this site may not work without it.

Browse

All of DSpaceCommunities & CollectionsBy Issue DateAuthorsTitlesSubjectsxmlui.ArtifactBrowser.Navigation.browse_typexmlui.ArtifactBrowser.Navigation.browse_userThis CollectionBy Issue DateAuthorsTitlesSubjectsxmlui.ArtifactBrowser.Navigation.browse_typexmlui.ArtifactBrowser.Navigation.browse_user

My Account

LoginRegister

Statistics

View Usage Statistics

Benchmarking the NXP i.MX8M+ neural processing unit: smart parking case study

Evaluando la unidad de procesamiento neuronal NXP i.MX8M+: el caso de estudio de parqueos inteligentes

Thumbnail
View/Open
https://revistas.tec.ac.cr/index.php/tec_marcha/article/view/648710.18845/tm.v35i9.6487
Author
Chaves-González, Edgar
León-Vega, Luis G.
Metadata
Show full item record
Description
 
Nowadays, deep learning has become one of the most popular solutions for computer vision, and it has also included the Edge. It has influenced the System-on-Chip (SoC) vendors to integrate accelerators for inference tasks into their SoCs, including NVIDIA, NXP, and Texas Instruments embedded systems. This work explores the performance of the NXP i.MX8M Plus Neural Processing Unit (NPU) as one of the solutions for inference tasks. For measuring the performance, we propose an experiment that uses a GStreamer pipeline for inferring license plates, which is composed of two stages: license plate detection and character inference. The benchmark takes execution time and CPU usage samples within the metrics when running the inference serially and parallel. The results show that the key benefit of using the NPU is the CPU freeing for other tasks. After offloading the license plate detection to NPU, we lowered the overall CPU consumption by 10x. The performance obtained has an inference rate of 1 Hz, limited by the character inference.
 
Actualmente, el aprendizaje profundo se ha convertido en una de las soluciones más populares para la visión por computador y ha incluido también el Edge. Esto ha influenciado a los productores de System-on-Chip (SoC) a integrar aceleradores para tareas de inferencia en sus SoC, incluyendo a NVIDIA, NXP y Texas Instruments. En este trabajo se explora el rendimiento de la unidad de procesamiento neuronal (NPU) de la NXP i.MX8M Plus como una de las soluciones de tareas de inferencia. Para las mediciones de desempeño, proponemos un experimento basado en un pipeline de GStreamer para la inferencia de placas de vehículos, el cual consta de dos etapas: la detección de placas y la inferencia de sus caracteres. Para ello, este benchmark toma muestras de tiempos de ejecución y uso de CPU dentro de sus muestras cuando se corre la ejecución de la inferencia de manera serial y paralela. Los resultados obtenidos demuestran que el beneficio en el uso del NPU radica en la liberación del CPU para otras tareas. Después de descargar la detección de placas al NPU, reducimos el consumo total de CPU 10 veces. El desempeño obtenido tiene una tasa de inferencia de 1 Hz, limitado por la inferencia de caracteres.
 
xmlui.dri2xhtml.METS-1.0.magazine-source
Tecnología en marcha Journal; 2022: Vol. 35 special issue. IEEE International Conference on Bioinspired Processing; Pág. 26-30 , Revista Tecnología en Marcha; 2022: Vol. 35 especial. IEEE International Conference on Bioinspired Processing; Pág. 26-30 , 2215-3241 , 0379-3982 .
URI
https://hdl.handle.net/2238/18147
xmlui.dri2xhtml.METS-1.0.share-button
       
xmlui.dri2xhtml.METS-1.0.metric
Collections
  • Tecnología en Marcha [1993]

|Contact us

Repositorio Institucional del Tecnológico de Costa Rica

Sistema de Bibliotecas del TEC | SIBITEC

© DERECHOS RESERVADOS. Un sitio soportado por DSpace(v. 6.3)

RT-1

 

 


|Contact us

Repositorio Institucional del Tecnológico de Costa Rica

Sistema de Bibliotecas del TEC | SIBITEC

© DERECHOS RESERVADOS. Un sitio soportado por DSpace(v. 6.3)

RT-1