Быстрее мысли: ученые СКФУ нашли способ оптимизировать работу нейронных сетей

14.08.2023

Математики Северо-Кавказского федерального университета предложили уникальный способ повысить быстродействие и уменьшить объем используемых вычислительных ресурсов у свёрточных и глубоких нейронных сетей. Идея ученых поддержана Российским научным фондом.

Сейчас на пике популярности такие нейронные сети, как ChatGPT или Stable Diffusion, генерирующие изображения по текстовым описаниям. Остается в тени целый класс продуктов, которые могут выполнять рутинные, но важные функции. Речь идет о свёрточных и глубоких нейронных сетях, которые могут имитировать человеческий глаз и распознавать различные объекты. Для их работы требуются значительные аппаратные ресурсы, что представляет проблему для использования нейросетей на практике. В СКФУ нашли способ повысить скорость работы программных продуктов, в основе которых лежат нейронные сети.

bystree_mysli_uchenye_skfu_nashli_sposob_optimizirovat_rabotu_nejronnyh_setej_ncfu_ru_01_3.jpg

– Наши ученые предложили способ оптимизации нейронных сетей, который может быть применим везде, где требуется отличать, анализировать и классифицировать входящие данные: в медицине, транспорте, промышленности. Данное исследование нашло поддержку в Российском научном фонде, который в июле этого года одобрил проект СКФУ «Перспективные методы интеллектуальной обработки сигналов на основе глубоких нейронных сетей и модулярных вычислений» со сроком реализации до 2026 года, – прокомментировал ректор университета Дмитрий Беспалов.

Научный коллектив авторов изобретения подметил, что цифровая обработка сигнала нейронной сетью содержит большое количество операций сложения и умножения. А это именно то, где модулярные вычисления проявляют себя лучше всего и позволяют упростить математические действия. Ученые предположили – если операции с большими числами заменить на обработку остатков от деления на взаимно простые основания, то системы смогут работать с меньшими числами, что значительно сокращает вычислительные мощности.

Первые исследования проводились с целью повышения скорости работы нейронной сети AlexNet при обработке медицинских данных.  Результат исследователей удовлетворил. По их мнению, метод может быть использован в различных областях, например, в сельском хозяйстве, где необходим анализ снимков, полученных из космоса и от беспилотных летательных аппаратов.

bystree_mysli_uchenye_skfu_nashli_sposob_optimizirovat_rabotu_nejronnyh_setej_ncfu_ru_01_2.jpg

– Нейронные сети и модулярная арифметика – редкое сочетание. Кроме трудов нашего коллектива я видел работы математиков из Индии. В этом наше конкурентное преимущество и большой потенциал. Пока исследования находятся в плоскости фундаментальных знаний, и мы применили их в отдельных практических проектах, но исследования будут продолжены, – определил перспективы научной работы заведующий кафедрой математического моделирования факультета математики и компьютерных наук СКФУ Павел Ляхов.

Коллектив СКФУ решительно нацелен на дальнейшие изыскания с тем, чтобы предоставить различным отраслям народного хозяйства практические возможности использования нейросетей.