Aceleración de la inferencia de la IA Edge con NPU Vitis AI en las placas Versal AI Edge de iWave

La Inteligencia Artificial (IA) Edge está transformando rápidamente la forma en que los sistemas integrados procesan y responden a los datos en tiempo real. Para satisfacer esta creciente demanda de inteligencia en el borde, iWave Global integró con éxito la Unidad de Procesamiento Neural (NPU) Vitis AI en el sistema en módulo Versal™ AI Edge VE2302 y su plataforma de evaluación.

Esta integración demuestra el compromiso de iWave por empoderar a los desarrolladores con soluciones de inferencia de IA de alto rendimiento, eficientes en consumo y latencia ultra baja. Al estar construida sobre el SoM iW-RainboW-G57D, la plataforma acelera cargas de trabajo complejas de IA como la detección de objetos en tiempo real, proporcionando inteligencia en el borde más cerca del lugar donde se generan los datos.

Vitis AI: Llevar la aceleración FPGA a las cargas de trabajo de IA

Vitis AI es la pila unificada de software de inferencia de IA de AMD diseñada para plataformas de hardware basadas en FPGA, incluyendo los SoC adaptativos de Versal. Permite una migración fluida de modelos de IA entrenados para GPU a arquitecturas FPGA sin grandes reestructuraciones.

Con soporte de frameworks populares de aprendizaje profundo como TensorFlow, PyTorch, ONNX y Caffe, Vitis AI permite a los desarrolladores implementar redes neuronales entrenadas de forma eficiente en hardware optimizado para paralelismo y bajo consumo.

El resultado es una cadena de aceleración de IA que combina la flexibilidad FPGA con el rendimiento de aceleradores neuronales especializados, ideal para aplicaciones de borde críticas en latencia.

Visión general del sistema y configuración de la demo

La demostración en vivo de la NPU Vitis AI ejecutándose en el Kit de evaluación VE2302 Versal AI Edge de iWave muestra capacidades de detección de objetos en tiempo real.

Componentes de la demostración:

• Kit de desarrollo VE2302 Versal AI Edge de iWave
• Pantalla HDMI
• Cámara web USB para entrada de video en directo
• Fuente de alimentación 12 V/5 A y cable de depuración

Proceso de flujo de datos para inferencia de IA

El flujo de trabajo de inferencia de IA en iW-RainboW-G57D aprovecha los módulos de la API VART X y está estructurado para procesamiento en tiempo real. Se crea un script para ejecutar la aplicación NPU en el SoM. Este script captura video usando la cámara USB y lo convierte al formato NV12. El video convertido es procesado por la NPU y los objetos detectados se resaltan en la pantalla HDMI.

El proceso de flujo de datos es el siguiente:

Demo en directo en acción

¡Experimente la detección de objetos en tiempo real con el SoM VE2302 Versal AI Edge! Mire la demostración en la que los expertos de iWave muestran la inferencia de IA usando IP NPU para una detección precisa y eficiente de objetos.

¿Por qué Versal IA Edge por IA Edge?

La familia Versal AI Edge de AMD combina lógica programable, motores de IA y un sistema de procesamiento heterogéneo en un solo chip. Esta arquitectura permite la fusión de sensores, el análisis de visión y la inferencia de IA en una sola plataforma, manteniendo un control determinista en tiempo real.

Entre las características destacadas se incluyen:

• Motores de IA y motores DSP para cargas de visión, radar y LiDAR
• Soporte MIPI nativo para resolución de hasta 8MP
• Soporte de punto flotante de precisión simple y media para diversas tareas de IA y procesamiento de señales

La combinación del cálculo de IA con la lógica programable proporciona una base escalable para una amplia gama de casos de uso de IA en el borde, desde la robótica hasta la automatización industrial.

Características del sistema Versal AI Edge de iWave en el módulo

• Compatible con dispositivos VE2302 / VE2202 / VE2102 / VE2002
• Procesadores Arm de doble núcleo Cortex-A72 y Cortex-R5F
• Hasta 328K celdas lógicas y 150K LUT
• 8 transceptores GTYP a 32 Gbps
• Hasta 8 GB de RAM LPDDR4 y 128 GB de almacenamiento eMMC
• Conectores dobles de alta velocidad de 240 pines para expansión
• Conectividad: PCIe Gen4, Ethernet, USB 3.0

Con medidas compactas pero sólidas, el SoM admite Ethernet 40G, interfaces de cámara MIPI y 122 E/S configurables, asegurando una integración fluida en sistemas de IA edge que exigen movimiento de datos a alta velocidad e inferencia en tiempo real.

Aplicaciones del mundo real

La NPU Vitis AI en el SoM Versal AI Edge de iWave desbloquea nuevas oportunidades en un amplio espectro de sectores:

• Vigilancia inteligente: Reconocimiento en tiempo real de objetos y rostros para monitorización inteligente
• Automoción y ADAS: Detección de alta velocidad para señales de tráfico y peatones
• Automatización industrial: Análisis en dispositivo para la detección de defectos y el mantenimiento predictivo
• Atención de la salud: Imagen diagnóstica impulsada por IA y monitorización de pacientes
• Venta al por menor inteligente: Pago automatizado y análisis de clientes
• Ciudades inteligentes: Gestión adaptativa del tráfico mediante análisis de vídeo en directo

La solución combina procesamiento de IA de alto rendimiento con eficiencia energética, ofreciendo un rendimiento preciso y en tiempo real en entornos donde los milisegundos importan.

Empoderar a los desarrolladores con herramientas de IA Edge

iWave ofrece un conjunto completo de herramientas de software, bibliotecas y paquetes de soporte de placa (BSP) para simplificar el ciclo de desarrollo de IA en plataformas Versal. Con soporte para Vitis AI, OpenCV y desarrollo basado en Linux, los ingenieros pueden implementar, probar y optimizar cargas de trabajo de IA más rápido.

Al estar respaldado por una documentación exhaustiva, disponibilidad a largo plazo (10+ años) y servicios de diseño ODM, iWave garantiza que los clientes puedan escalar desde prototipo hasta producción con confianza.

iWave Global es un proveedor de soluciones de ingeniería de confianza especializado en servicios de diseño de sistemas sobre módulos (SoM) basados en FPGA y ODM para los mercados industrial, automotriz, médico y de defensa. Al aprovechar décadas de experiencia integrada, iWave permite la innovación en el borde mediante plataformas de hardware fiables, escalables y de alto rendimiento.

Para explorar cómo el SoM Versal AI Edge puede impulsar su próxima innovación en IA, visite www.iwave-global.com o comuníquese con mktg@iwave-global.com