Accélérer l'inférence Edge AI avec l'unité NPU Vitis AI sur les cartes Versal AI Edge d'iWave

L'intelligence artificielle (IA) en périphérie transforme rapidement la manière dont les systèmes embarqués traitent et réagissent aux données en temps réel. Pour répondre à cette demande croissante d'intelligence en périphérie, iWave Global a intégré avec succès l'unité de traitement neuronal (NPU) Vitis AI sur le système sur module (SoM) Versal™ AI Edge VE2302 et sa plateforme d'évaluation.

Cette intégration démontre l'engagement d'iWave à fournir aux développeurs des solutions d'inférence IA hautes performances, écoénergétiques et à latence ultrafaible. Architecturée sur le SoM iW-RainboW-G57D, la plateforme accélère les charges de travail d'IA complexes telles que la détection d'objets en temps réel, offrant une intelligence en périphérie plus proche du lieu de génération des données.

Vitis AI : accélération FPGA pour charges de travail d'IA

Vitis AI est la pile logicielle d'inférence IA unifiée d'AMD, conçue pour les plateformes matérielles basées sur FPGA, y compris les SoC adaptatifs Versal. Elle permet la migration transparente des modèles d'IA entraînés pour les processeurs graphiques vers les architectures FPGA sans avoir à effectuer de changements majeurs.

Prenant en charge les frameworks d'apprentissage profond populaires tels que TensorFlow, PyTorch, ONNX et Caffe, Vitis AI permet aux développeurs de déployer efficacement des réseaux neuronaux entraînés sur du matériel optimisé pour le parallélisme et la faible consommation d'énergie.

Il en résulte un pipeline d'accélération IA qui associe la flexibilité des FPGA aux performances des accélérateurs neuronaux spécialisés — idéal pour les applications critiques en termes de latence.

Présentation du système et configuration de démonstration

La démonstration en direct de l'unité NPU Vitis AI sur le kit d'évaluation VE2302 Versal AI Edge d'iWave illustre les capacités de détection d'objets en temps réel.

Composants de la démonstration :

• Kit de développement iWave VE2302 Versal AI Edge
• Écran HDMI
• Webcam USB pour entrée vidéo en direct
• Alimentation 12 V/5 A et câble de débogage

Processus de flux de données pour inférence IA

Le flux de travail d'inférence IA sur iW-RainboW-G57D exploite les modules API VART X et est structuré pour le traitement en temps réel. Un script est créé pour exécuter l'application NPU sur le SoM. Ce script capture les vidéos à l'aide de la caméra USB et les convertit au format NV12. La vidéo convertie est ensuite traitée par l'unité NPU et les objets détectés sont mis en évidence sur l'écran HDMI.

Le processus de flux de données se déroule comme suit :

Démonstration en direct

Découvrez la détection d'objets en temps réel sur le SoM VE2302 Versal AI Edge ! Regardez la démo dans laquelle les experts d'iWave présentent l'inférence IA avec IP NPU pour une détection d'objet précise et efficace.

Pourquoi Versal AI Edge pour l'Edge AI

La gamme Versal AI Edge d'AMD combine la logique programmable, les moteurs d'IA et un système de traitement hétérogène dans une seule puce. Cette architecture permet la fusion de capteurs, l'analyse de la vision et l'inférence IA sur une seule plateforme tout en maintenant un contrôle déterministe en temps réel.

Les principales caractéristiques sont les suivantes :

• Moteurs d'IA et moteurs DSP pour les charges de travail de vision, radar et LiDAR
• Support MIPI natif pour une résolution jusqu'à 8 MP
• Prise en charge des nombres à virgule flottante simple précision ou demi-précision pour diverses tâches d'IA et de traitement des signaux

La combinaison du calcul IA et de la logique programmable constitue une base évolutive pour un large éventail de cas d'utilisation Edge AI — de la robotique à l'automatisation industrielle.

Fonctionnalités du système sur module Versal AI Edge d'iWave

• Compatibilité avec les dispositifs VE2302 / VE2202 / VE2102 / VE2002
• Processeurs Arm Cortex-A72 et Cortex-R5F double cœur
• Jusqu'à 328 000 cellules logiques et 150 000 LUT
• 8 émetteurs-récepteurs GTYP à 32 Gbps
• Jusqu'à 8 Go de RAM LPDDR4 et 128 Go de stockage eMMC
• Deux connecteurs haute vitesse à 240 broches pour les extensions
• Connectivité : PCIe Gen4, Ethernet, USB 3.0

À la fois compact et robuste, le SoM prend en charge 40G Ethernet, les interfaces de caméra MIPI et 122 E/S configurables, garantissant l'intégration transparente dans les systèmes Edge AI qui exigent le transfert de données haute vitesse et l'inférence en temps réel.

Applications pratiques

L'unité NPU Vitis AI sur le SoM Versal AI Edge d'iWave ouvre de nouvelles perspectives dans un large éventail d'industries :

• Surveillance intelligente : reconnaissance faciale et d'objets en temps réel pour surveillance intelligente
• Automobile et ADAS : détection haute vitesse des panneaux de signalisation et des piétons
• Automatisation industrielle : analyse sur le dispositif pour détection des défauts et maintenance prédictive
• Santé : imagerie diagnostique et surveillance des patients basées sur l'IA
• Commerce de détail intelligent : paiement automatisé et analyse des clients
• Villes intelligentes : gestion adaptative du trafic avec analytique vidéo en direct

La solution fusionne le traitement IA haut débit et le rendement énergétique, offrant des performances en temps réel précises dans les environnements où chaque milliseconde compte.

Outils Edge AI pour les développeurs

iWave fournit une suite complète d'outils logiciels, de bibliothèques et de BSP (Board Support Package) pour simplifier le cycle de développement IA sur les plateformes Versal. Grâce à la prise en charge de Vitis AI, d'OpenCV et du développement basé sur Linux, les ingénieurs peuvent déployer, tester et optimiser plus rapidement les charges de travail d'IA.

Grâce à une documentation complète, une disponibilité à long terme (10+ ans) et des services de conception ODM, iWave garantit à ses clients une évolutivité en toute confiance, du prototype à la production.

iWave Global est un fournisseur de solutions techniques de confiance, spécialisé dans les systèmes sur modules (SoM) basés sur FPGA et dans les services de conception ODM pour les marchés industriels, automobiles, médicaux et de la défense. Affichant des dizaines d'années d'expertise dans le domaine des systèmes embarqués, iWave favorise l'innovation en périphérie grâce à des plateformes matérielles fiables, évolutives et hautes performances.

Pour découvrir comment le SoM Versal AI Edge peut dynamiser votre prochaine innovation en matière d'IA, visitez www.iwave-global.com ou contactez mktg@iwave-global.com.