Edge-устройство для компьютерного зрения: почему недостаточно выбрать нейросеть

Модель может хорошо работать на рабочей станции разработчика и при этом не подходить для запуска на производстве. Причина не обязательно в самой модели. На объекте появляются ограничения по питанию, охлаждению, памяти, количеству камер, скорости обработки и условиям эксплуатации.

Поэтому вычислительное устройство выбирают вместе с камерой и программной частью. Важен не максимальный показатель в спецификации, а то, сможет ли конкретная конфигурация стабильно выполнять нужную задачу.

В типовой системе камера передаёт изображение на вычислительное устройство. На нём выполняются подготовка кадра, запуск модели и обработка результата. На выходе система может сформировать событие: например, обнаружить отсутствие компонента, зафиксировать дефект или определить нарушение в зоне.

Обработка непосредственно на объекте позволяет не передавать весь видеопоток в облако. При подходящей архитектуре Edge продолжает распознавание и при временном отсутствии внешней связи, а результаты синхронизируются после восстановления соединения, если это предусмотрено конкретной конфигурацией.

Но надпись Edge AI сама по себе не гарантирует автономность или промышленную надёжность. Нужно проверить, как устройство получает видео, сколько потоков обрабатывает, где сохраняются результаты и что происходит при перезапуске или потере связи.

Нагрузка зависит от разрешения и частоты кадров, числа видеопотоков, размера модели, предварительной и последующей обработки, а также от того, нужно ли запускать несколько моделей параллельно.

Компактной платформы может хватить для одного простого сценария с небольшим потоком кадров. Для высокой скорости линии, нескольких камер, тяжёлой модели или нескольких задач одновременно потребуется более производительная конфигурация.

Не всегда есть смысл брать устройство с максимальной вычислительной мощностью. Оно может оказаться дороже, потреблять больше энергии и требовать более серьёзного охлаждения. Но чрезмерная экономия тоже опасна: если система не успевает обрабатывать кадры, результат перестаёт соответствовать требованиям производственного процесса.

В заказных и вычислительно требовательных проектах Acmenra использовала платформы на базе NVIDIA Jetson Orin Nano Super и NVIDIA Jetson Orin NX. Они позволяют запускать модели компьютерного зрения непосредственно на Edge и подбирать конфигурацию под конкретную задачу.

NVIDIA также анонсировала Jetson Orin Nano 2 25 августа 2026 года. По официальному сообщению NVIDIA, доступность модуля и developer kit ожидается в первой половине 2027 года. Поэтому мы рассматриваем его как возможного кандидата для будущих испытаний по мере доступности, а не как платформу, уже включённую в рабочие конфигурации. Источник: NVIDIA.

Платформы NVIDIA не являются обязательным выбором для каждого проекта. Для простого сценария они могут быть избыточными; для тяжёлого — всё равно потребуется измерять производительность всей системы, а не ориентироваться только на название модуля или заявленное количество операций в секунду.

В проектах, где важны требования к российскому происхождению оборудования, закупочной документации или соответствию конкретным реестрам, мы также прорабатываем переход на аппаратные платформы отечественных производителей.

Здесь необходимо проверять два независимых вопроса. Первый — подходит ли платформа по производительности, интерфейсам, питанию, охлаждению и совместимости с программным стеком. Второй — подтверждены ли требуемые сведения о происхождении и статусе именно той модели, которая войдёт в комплект. Нельзя автоматически переносить статус производителя на каждую плату или на готовую систему целиком.

Поэтому выбор российской платформы — не только вопрос происхождения. Её необходимо испытать на целевой модели и в целевых условиях. Если конкретный модуль не обеспечивает нужную скорость или программную совместимость, это следует выявить до поставки, а не после установки на объекте.

Перед закреплением устройства в конфигурации мы проверяем:

• фактическую скорость обработки выбранной модели на нужном разрешении;
• задержку и поведение при длительной непрерывной работе;
• загрузку CPU, GPU или NPU и использование памяти;
• количество камер и доступные интерфейсы;
• питание, охлаждение и температурный режим;
• программную совместимость, возможность обновления и диагностики;
• доступность оборудования, условия поставки и ремонта.

Если задача допускает обработку с небольшой частотой кадров, это можно учесть при выборе конфигурации. Если требуется не пропустить короткое событие на быстро движущейся линии, требования будут совершенно другими. Универсального набора характеристик для промышленного компьютерного зрения не существует.

Сравнивать два Edge-устройства только по названию чипа или TOPS недостаточно. На итог влияют конкретная модель, формат, точность вычислений, разрешение, предварительная обработка и программный runtime. Поэтому производительность нужно измерять на той связке, которая будет использоваться в проекте.

В статье «Собственный стек компьютерного зрения» мы подробнее рассказываем о наших компонентах для работы с моделями и датасетами, а также о Benchmark — инструменте сравнения моделей и аппаратных платформ. Его задача — помогать принимать решение по измерениям, а не по предположениям.

В готовом комплекте мы стремимся закрепить одну проверенную аппаратную конфигурацию для стандартного сценария. В кастомном проекте сначала определяем требования, а затем тестируем подходящие варианты.

Есть задача для Edge AI на производстве? Обсудить пилот компьютерного зрения. На этом этапе можно оценить не только качество распознавания, но и фактическую скорость на целевом или сопоставимом оборудовании.