CUDA, GPU и AI-видеоаналитика: как видеокарта изменила видеонаблюдение

Долгое время видеонаблюдение работало по понятной схеме: камера передаёт изображение, регистратор пишет архив, оператор смотрит экран или ищет нужный фрагмент после события. Такая архитектура была надёжной, простой и местами почти вечной, как чугунная батарея в старом доме. Но у неё был принципиальный предел: система видела пиксели, но не понимала сцену.

Для классической CCTV или CMS-программы человек, автомобиль, дым, лицо, номерной знак и тень от дерева были просто изменениями изображения. Простая детекция движения могла сработать на дождь, насекомое перед объективом, свет фар или колышущуюся ветку. Она отвечала на вопрос: «Что-то изменилось?» Но не отвечала на более важный вопрос: «Что именно произошло?»

AI-видеоаналитика изменила эту логику. Современная система наблюдения уже не ограничивается записью потока. Она анализирует кадры, выделяет объекты, классифицирует события, находит лица, номера автомобилей, признаки дыма или огня. Видео становится не только архивом, но и источником структурированных данных.

Главная техническая причина этого перехода проста: нейросетевые вычисления стали возможны в реальном времени на обычных объектах, а не только в лабораториях и серверных залах. Ключевую роль здесь сыграли GPU, CUDA и cuDNN.

CPU хорошо подходит для универсальной работы. Он управляет приложением, сетью, диском, интерфейсом, базой данных, логикой событий и многими другими задачами. Это центральный диспетчер системы.

Но нейросетевая видеоаналитика устроена иначе. Ей нужно выполнять большое количество однотипных математических операций над изображениями. Каждый кадр нужно декодировать, подготовить, изменить размер, нормализовать, передать в модель, выполнить inference, получить результат и обработать его.

Одна камера с потоком 25 FPS даёт 1500 кадров в минуту. Десять камер дают 15 000 кадров в минуту. Если поверх этого включить обнаружение людей, автомобилей, лиц, номеров, дыма и огня, нагрузка перестаёт быть обычной задачей для офисного процессора.

CPU может выполнять такую аналитику, но часто вынужден идти на компромисс: анализировать не каждый кадр, снижать частоту обработки, уменьшать разрешение, ограничивать количество моделей или камер. В результате короткие события могут выпадать между обработанными кадрами. Человек быстро прошёл через коридор, номер автомобиля был виден меньше секунды, лицо повернулось к камере на мгновение, дым появился тонким пятном. Система не всегда успевает это поймать.

GPU решает эту проблему не магией, а архитектурой. Видеокарта изначально рассчитана на массовые параллельные вычисления. Нейросети как раз состоят из операций, которые хорошо распараллеливаются: матричные умножения, свёртки, активации, нормализация, операции над тензорами. Поэтому GPU не просто ускоряет систему, а меняет практическую применимость AI-видеоаналитики.

Важно не приписывать GPU лишнего. Видеокарта не улучшает качество нейросети на одном отдельном кадре. Если модель, входной кадр и настройки одинаковые, результат определяется моделью и качеством изображения.

Но GPU позволяет обработать больше кадров за то же время. А это уже напрямую влияет на практическую точность системы в реальных условиях.

Видеонаблюдение редко работает с идеальными сценами. Объекты движутся, перекрывают друг друга, попадают в кадр частично, меняется освещение, камера шумит ночью, номер автомобиля виден не постоянно, лицо появляется под углом. Чем больше кадров система успевает проанализировать, тем выше шанс поймать момент, где объект различим лучше всего.

Поэтому GPU повышает не «интеллект» модели, а плотность анализа видеопотока. Для безопасности это критично. Записать архив можно почти на любом современном компьютере. Обнаружить событие в реальном времени на нескольких потоках одновременно, уже совсем другая задача.

CUDA, если убрать рекламную пыль, это вычислительная платформа NVIDIA, которая позволяет использовать GPU не только для графики, но и для общих вычислений. Для AI-видеоаналитики CUDA служит прослойкой между приложением и видеокартой.

Через CUDA программа может передавать данные в память GPU, запускать вычислительные задачи, управлять потоками выполнения и получать результат обратно. Без CUDA видеокарта может быть установлена в системе, отображаться в Windows и нормально работать с графикой, но приложение не сможет использовать её как ускоритель нейросетевой аналитики.

В контексте видеонаблюдения CUDA нужна для выполнения тяжёлых вычислений: обнаружения объектов, распознавания лиц, анализа номерных знаков, поиска дыма, огня и других задач компьютерного зрения.

Грубо говоря, CUDA отвечает на вопрос: «Как программе заставить видеокарту считать?»

cuDNN находится уровнем выше. Это библиотека NVIDIA для ускорения операций глубокого обучения на GPU. Если CUDA даёт общий доступ к вычислительным возможностям видеокарты, то cuDNN предоставляет оптимизированные реализации типовых нейросетевых операций.

Большинство моделей компьютерного зрения используют похожие вычислительные примитивы: свёртки, матричные операции, pooling, activation, normalization и другие операции над тензорами. Реализовать их можно самостоятельно, но эффективно оптимизировать под разные поколения GPU сложно. Этим и занимается cuDNN.

Для AI-видеоаналитики это означает, что модель выполняется быстрее и стабильнее по производительности. Особенно когда одновременно обрабатываются несколько потоков и несколько типов аналитики.

Если коротко: CUDA позволяет использовать GPU, cuDNN ускоряет нейросети на этом GPU.

Типовая обработка видеопотока состоит из нескольких этапов.

Сначала система получает поток с камеры. Это может быть RTSP, HTTP или другой протокол. Затем поток разбирается, декодируется и превращается в последовательность кадров.

Дальше кадр подготавливается для модели. Исходное изображение обычно не подходит для нейросети напрямую. Его нужно привести к нужному размеру, изменить цветовое пространство, нормализовать значения пикселей, иногда выделить область интереса. После этого кадр превращается в тензор.

Затем данные передаются в память GPU. Это важный участок, потому что копирование между оперативной памятью и видеопамятью тоже стоит времени. Хорошая архитектура старается избегать лишних пересылок. Чем меньше кадры бегают туда-сюда, тем меньше задержка.

После этого выполняется inference. Нейросетевая модель обрабатывает кадр и выдаёт результат: координаты объектов, классы, вероятности, признаки лица, область номерного знака, признаки дыма или огня.

Затем начинается постобработка. Система фильтрует результаты по порогам уверенности, удаляет дублирующиеся рамки, сопоставляет объекты между кадрами, формирует события и применяет пользовательские правила.

Последний этап, реакция системы. Это может быть запись события, сохранение кадра, уведомление, сообщение в Telegram, включение записи, вызов внешнего API, управление реле, воротами или другим оборудованием.

С технической точки зрения GPU здесь нужен не только для «быстрее посчитать модель». Он нужен для построения устойчивого потокового конвейера, где несколько камер анализируются параллельно и без постоянного упора в CPU.

Раньше главный вопрос был: «Сколько камер система может записывать?» Это зависело от сети, дисков, кодеков, битрейта и общей стабильности ПО.

Теперь вопрос стал сложнее: «Сколько камер система может анализировать в реальном времени, с какими моделями, на каком разрешении и с какой задержкой?»

Это другой класс требований. Здесь важны не только мегапиксели и объём архива, но и GPU, видеопамять, CUDA, cuDNN, частота обработки кадров, очереди, задержки, качество моделей и архитектура приложения.

Из-за этого изменилась роль программного обеспечения. Классический NVR в основном пишет и воспроизводит видео. AI Surveillance Software анализирует поток, создаёт события, фильтрует шум, помогает искать нужные фрагменты и может автоматически реагировать на ситуацию.

Обычная IP-камера в такой схеме становится источником данных. Даже если камера сама по себе не имеет сложной аналитики, поток можно обработать на сервере или рабочей станции с GPU. Это продлевает жизнь уже установленной инфраструктуре. Камеры остаются, но уровень системы меняется за счёт программного анализа.

SmartVision относится к этому классу систем: классическая база видеонаблюдения совмещается с AI-видеоаналитикой. Программа подключает IP-камеры, пишет архив, показывает потоки, но также может выполнять обнаружение объектов, распознавание лиц, распознавание автомобильных номеров, обнаружение дыма и огня, создание событий и отправку уведомлений.

В версии 6.1 добавлена работа с GPU-ускорением. В настройках появилась вкладка GPU, через которую программа проверяет наличие необходимых компонентов и может использовать NVIDIA GPU для задач видеоаналитики.

Для этого требуется CUDA 12.6 и cuDNN 9.5 для CUDA 12.6. Это не декоративное требование, а вопрос совместимости вычислительной среды. Видеокарта сама по себе недостаточна. Нужны драйвер NVIDIA, CUDA runtime и подходящая версия cuDNN.

Цепочка выглядит так:

SmartVision использует эту связку для обработки видеопотоков и модулей AI-аналитики.

Если CUDA и cuDNN не установлены, SmartVision может продолжить работу на CPU. Это важная практическая деталь. Система не превращается в приложение «только для GPU». Небольшая конфигурация может работать на обычном компьютере, а объект с большим числом камер и активной аналитикой может использовать NVIDIA GPU.

В GPU-ускорении совместимость важнее, чем кажется. Недостаточно поставить «какую-нибудь CUDA» и надеяться, что всё соберётся само. Версии драйвера, CUDA, cuDNN и библиотек приложения должны совпадать по требованиям.

Если установлена неподходящая версия CUDA, отсутствует cuDNN или библиотеки лежат в нестандартных путях, GPU-ускорение может не подключиться. В таких случаях программа видит, что видеокарта есть, но не получает рабочую среду для нейросетевых вычислений.

Это типичная инженерная реальность GPU-приложений. На бумаге всё выглядит как три строки в инструкции. На практике иногда начинается археология PATH, Program Files, версий DLL и тихий разговор с Windows в стиле: «Мы же оба знаем, что файл где-то здесь».

Поэтому отдельная диагностика GPU в приложении полезна не как красивая настройка, а как способ быстро понять, что именно доступно системе: видеокарта, CUDA, cuDNN, пути к библиотекам и возможность включить ускорение.

Разница не только в наличии нейросети. Разница в назначении системы.

Классическая CMS отвечает на вопрос: «Где посмотреть видео?»

AI Surveillance отвечает на вопрос: «Что произошло?»

Старая система фиксирует поток. Новая система выделяет события.

Старая система реагирует на изменение пикселей. Новая система пытается определить тип объекта и контекст.

Старая система требует постоянного внимания оператора. Новая система снижает объём ручного просмотра.

Старая система хранит архив. Новая система превращает видео в события, метки и данные для поиска.

GPU стал техническим мостом между этими подходами. Без него AI-видеоаналитика возможна, но быстро упирается в ограничения CPU. С GPU она становится применимой на реальных объектах: складах, парковках, проходных, офисах, частных домах, торговых точках и производственных площадках.

Для одной-двух камер с умеренной аналитикой CPU может быть достаточным. Особенно если поток невысокого разрешения, обработка идёт не на каждом кадре, а задержка не критична.

Но при росте числа камер ситуация меняется. Если одновременно работают детекция людей, автомобилей, лиц, номеров, дыма и огня, нагрузка складывается быстро. CPU остаётся занят сетью, записью, интерфейсом, базой данных и логикой приложения. Добавлять к этому интенсивные нейросетевые вычисления не всегда разумно.

GPU позволяет разделить обязанности. CPU управляет системой. GPU считает нейросети. Это более естественная архитектура для современной VMS с AI-функциями.

Такой подход особенно важен там, где нужно не просто записать архив, а получать события в реальном времени. Например, обнаружить человека в зоне, распознать номер на въезде, зафиксировать лицо, среагировать на дым или огонь, отправить уведомление, запустить внешнее действие.

С практической точки зрения переход к GPU-аналитике меняет не интерфейс, а поведение системы.

Архив становится не просто длинной лентой видео, а набором событий. Поиск становится не только поиском по времени, но и поиском по фактам: был человек, появился автомобиль, обнаружен номер, найдено лицо, зафиксирован дым.

Оператору не нужно постоянно смотреть на пустые коридоры и парковки. Система может сама отфильтровывать значимые моменты. Разумеется, это не отменяет проверки человеком и настройки правил. AI-видеоаналитика не является абсолютной истиной. Она даёт вероятностный результат, зависящий от модели, камеры, освещения, угла обзора и качества потока.

Но даже с этими ограничениями разница существенная. Система перестаёт быть пассивным архивом и становится инструментом первичной интерпретации происходящего.