Інтелектуальний модуль моніторингу продуктивності та енергоефективності моделей глибокого навчання на вбудованих обчислювальних пристроях

Abstract

Метою роботи є розроблення інтелектуального модуля моніторингу продуктивності та енергоефективності моделей глибокого навчання на вбудованих обчислювальних пристроях, який забезпечує збір, аналіз і оцінювання ключових характеристик роботи моделі. Методи досліджень включають аналіз наукових джерел, системний аналіз, методи оцінювання продуктивності та енергоефективності, методи статистичного узагальнення. Розроблено інтелектуальний модуль моніторингу продуктивності та енергоефективності моделей глибокого навчання на вбудованих обчислювальних пристроях, який забезпечує завантаження моделей, запуск їх виконання, збір системних даних, фіксацію часових показників, обчислення метрик продуктивності й енергоефективності, визначення стану моделі та формування рекомендацій щодо підвищення ефективності її роботи. Результати дослідження можуть бути використані для побудови систем моніторингу моделей глибокого навчання на embedded- і edge-платформах, порівняння різних архітектур нейронних мереж, вибору раціонального режиму виконання моделей, розроблення програмних засобів інтелектуального аналізу продуктивності.

The purpose of the work is to develop an intelligent module for monitoring the performance and energy efficiency of deep learning models on embedded computing devices, which provides the collection, analysis, and evaluation of key characteristics of model operation. The research methods include analysis of scientific sources, system analysis, methods for evaluating performance and energy efficiency, and methods of statistical generalization. An intelligent module for monitoring the performance and energy efficiency of deep learning models on embedded computing devices has been developed. It provides model loading, execution launch, collection of system data, recording of time-based indicators, calculation of performance and energy efficiency metrics, determination of the model state, and generation of recommendations for improving its operational efficiency. The research results can be used to build monitoring systems for deep learning models on embedded and edge platforms, compare different neural network architectures, select a rational mode of model execution, and develop software tools for intelligent performance analysis.