Применение CUDA и тензорных ядер в задачах обнаружения и распознавания объектов

Цель - исследование способа ускорения процессов распознавания объектов на изображениях, при помощи аппаратных видеоускорителей, имеющих в своём составе ядра CUDA и TENSOR.

Методы. Использован метод программного взаимодействия с аппаратными вычислительными средствами видеоускорителя, обладающего ядрами CUDA и RT, при помощи языка программирования Python; контейнеры Docker из NVIDIA GPU Cloud (NGC), OpenCV для запуска канала с камеры и TensorRT для ускорения вывода потока данных, сеть обнаружения одиночных выстрелов с InceptionV2 в качестве магистрали. Для исследования производительности и ускорения процессов распознавания проектируется среда, взаимодействующая с оборудованием и рядом библиотек для рендеринга изображений. Внутри данной среды происходят процессы распознавания объектов, применяя различные вычислительные ядра CUDA и TENSOR, а также различные алгоритмы и классы точности.

Результаты. Применение ядер TENSOR ускоряет процесс распознавания при использовании точности FP16, а также при применении комбинированной точности FP16 и FP32. Одиночная точность INT8 показывает значительно большую производительность при применении TensorRT на ускорителе, имеющем ядра TENSOR.

Заключение. Исследованы возможности аппаратных видеоускорителей при применении их для задач распознавания объектов. Проведено исследование производительности ядер CUDA и TENSOR при их взаимодействии с движком TensorRT. Предложено программное решение взаимодействия видеоускорителей, имеющих в своём составе ядра CUDA и TENSOR с движком TensorRT. Данное решение демонстрирует высокие показатели скорости распознавания объектов при точности INT8 и чуть меньшую производительностью при использовании точности FP32.

1. Информационные технологии и вычислительные системы. Вычислительные системы. Компьютерная графика. Распознавание образов. Математическое моделирование / под ред. С. В. Емельянова. М.: Ленанд, 2015. 100 c.

2. Математические модели социально-экономических процессов. Моделирование характеристик деятельности отраслевых и региональных подсистем. Динамические системы. Математические проблемы динамики неоднородных систем. Информационные технологии: труды ИСА РАН / под ред. С. В. Емельянова. М.: Ленанд, 2015. 112 c.

3. Гендерная классификация по изображению лица / Л. А. Шмаглит, М. Н. Голубев, А. Н. Ганин, В. В. Хрящев // Цифровая обработка сигналов и ее применение (DSPA- 2012): доклады XIV Международной конференции. М., 2012. Т. 2. С. 425.

4. Елисеева И. И., Рукавишников В. О. Группировка, корреляция, распознавание образов (статистические методы классификации и измерения связей). М.: РГГУ, 2014. 144 c.

5. Бойко И. А., Гурьянов Р. А. Распознавание объектов на основе видеосигнала, полученного с камеры, установленной на подвижной платформе // Молодой ученый. 2013. № 6 (53). С. 34-36.

6. Работягов А. Основы распознавания образов. М.: LAP Lambert Academic Publishing, 2014. 273 c.

7. Фукунага К. Введение в статистическую теорию распознавания образов. М.: Наука, 2013. 368 c.

8. Системное моделирование. Наукометрия и управление наукой. Распознавание образов: труды ИСА РАН / под ред. С. В. Емельянова. М.: Ленанд, 2015. 104 c.

9. Дударев В. А. Методы распознавания образов в компьютерном конструировании неорганических соединений. М.: Синергия, 2014. 325 c.

10. Емельянов С. В. Информационные технологии и вычислительные системы. Вычислительные системы. Компьютерная графика. Распознавание образов. Математическое моделирование / под ред. С. В. Емельянова. М.: Мир, 2015. Вып. 2. 662 c.

11. Миленький А. В. Классификация сигналов в условиях неопределенности. Статистические методы самообучения в распознавании образов. М.: Советское радио, 2017. 328 c.

12. Алгоритмы распознавания объектов / А. А. Цветков, Д. К. Шорох, М. Г. Зубарева [и др.]. // Технические науки: проблемы и перспективы: материалы IV Междунар. науч. конф. (г. Санкт-Петербург, июль 2016 г.). СПб.: Свое издательство, 2016. С. 20-28.

13. Автоматическое управление и вычислительная техника. Распознавание образов. М.: Машиностроение, 2016. Вып. 10. 256 c.

14. Информационные технологии и вычислительные системы. Вычислительные системы. Математическое моделирование. Распознавание образов. Прикладные аспекты информатики / под ред. С. В. Емельянова. М.: Высшая школа, 2014. Вып. 3. 160 c.

15. Гренандер У. Лекции по теории образов. М.: Мир, 2014. Т. 1. 571 c.

16. Обнаружение, распознавание и определение параметров образов объектов. Методы и алгоритмы / под ред. А. В. Коренного. М.: Радиотехника, 2012. 112 c.

17. Потапов А. Автоматический анализ изображений и распознавание. М.: LAP Lambert Academic Publishing, 2017. 292 c.

18. Гренандер У. Лекции по теории образов. М.: Мир, 2014. Т. 2. 342 c.

19. Гренандер У. Лекции по теории образов. М.: Мир, 2014. Т. 3. 432 c.

20. Информационные технологии и вычислительные системы. Обработка информации и анализ данных. Программная инженерия. Математическое моделирование. Прикладные аспекты информатики / под ред. С. В. Емельянова. М.: Ленанд, 2015. 104 c.