EUR | USD

L'apprentissage automatique est là : utilisez-le judicieusement

L'apprentissage automatique, sous-ensemble de l'intelligence artificielle (IA), est déjà utilisé de manière efficace dans des applications comme le diagnostic médical, le traitement d'images, la classification, la prévision ou le test de régression, entre autres. Lorsque vous envisagez d'utiliser l'apprentissage automatique, sachez qu'il existe généralement deux zones de risque : la sécurité de son utilisation et la compromission de la validité des résultats.

Figure 1 : L'Internet industriel des objets (IIoT) présente de nombreuses interconnexions qui peuvent être gérées de manière plus efficace en intégrant l'apprentissage automatique au système. (Source de l'image : SlideShare.net)

Les attaques informatiques ciblant l'IA ne sont pas nouvelles, mais sont de plus en plus sophistiquées. La surface d'attaque, le nombre de points où un utilisateur non autorisé peut secrètement saisir ou extraire des données, peut être exploitée. Trois domaines sont vulnérables : les données saisies, la conception des algorithmes et les décisions qui en résultent.

L'apprentissage automatique est réalisé en accédant à d'importantes quantités de données permettant un apprentissage difficilement atteignable par les humains. Les attaques incluent des modèles formés, corrompus par la création de « portes dérobées » et l'insertion d'une charge utile ou d'un déclencheur malveillants. Dans ce segment de l'IA, les algorithmes sont complexes et imprévisibles, ne sont pas soumis à des normes ni à des régulations, et sont basés sur des données propriétaires, ce qui rend toute altération encore plus difficile à déceler.

Outre la sécurité, il existe un autre domaine qui présente des risques. Étant donné que les modèles d'apprentissage automatique sont créés par des humains, ils peuvent être influencés par des partis pris intégrés aux modèles. Les partis pris liés aux données sont dangereux et doivent être gérés avec le plus grand soin. La gestion des partis pris est un aspect majeur de la gestion des risques liés à l'apprentissage automatique.

Les risques concernent également les données insuffisantes et l'existence de données correctes ou appropriées. Le manque de données variables présentant suffisamment de points de données pour trouver les meilleures entrées afin de générer des résultats optimaux peut être un gros problème. Les données qui entrent en jeu dans les modèles d'apprentissage automatique doivent être variées en termes de types de données, de périodes et d'autres caractéristiques variables.

Enfin, il existe différentes interprétations des résultats. Ces interprétations peuvent parfois être erronées. Les modèles fournissent des estimations et un cadre, mais il est important de prendre en compte la manière dont un modèle a été conçu, les suppositions qui ont été faites et ce qu'indiquent les résultats, afin de donner de la valeur aux interprétations.

Il existe déjà de nombreux cas de ce qui peut mal tourner :

  • Les algorithmes sont responsables de la chute de 6 % de la livre sterling en deux minutes lors du référendum de 2016 sur le Brexit.
  • Les algorithmes utilisés par les systèmes de justice pénale aux États-Unis pour prédire les taux de récidive présentent des partis pris quant à l'appartenance ethnique.
  • Les résultats de nombreuses études sur le cerveau sont remis en question suite à la découverte de bugs et de suppositions statistiques erronées dans l'imagerie par résonance magnétique fonctionnelle (IRMf).
  • Lorsque les prix du Bitcoin ont brusquement augmenté en 2017, les pirates informatiques ont procédé à un minage en utilisant gratuitement des instances de Google Cloud. Le système de détection d'anomalie de Google Cloud était activé pour les instances Google Cloud et les clients ont donc été avertis.

Les systèmes d'apprentissage automatique permettent de résoudre des problèmes complexes. L'impact négatif qu'ils subissent en termes de sécurité et de précision dépend grandement de la technologie utilisée et de la croissance des applications l'utilisant avec succès.

Avancées récentes de l'apprentissage automatique

STMicroelectronics a récemment annoncé la première application d'apprentissage automatique sur son système STM32G4 par son partenaire Cartesiam, membre du Programme des partenaires de ST pour l'apprentissage automatique. ST a lancé STM32Cube.AI pour que les développeurs puissent facilement former un réseau neuronal en recueillant des données puis en les traitant dans un système de formation de réseau neuronal sur PC, afin de reconnaître des activités spécifiques comme la marche, la course ou la natation. Les résultats sont ensuite convertis en code permettant aux microcontrôleurs STM32 de reconnaître ces activités.

Figure 2 : Carte d'évaluation SensorTile de STMicroelectronics. (Source de l'image : STMicroelectronics)

L'IA NanoEdge de Cartesiam exécute la phase d'apprentissage sur le microcontrôleur. Les ingénieurs se tournent vers cette solution lorsqu'ils ne peuvent pas créer de modèles pré-formés avec soin pour des situations spécifiques, mais qu'ils souhaitent néanmoins utiliser l'apprentissage automatique afin de mettre au point des solutions intelligentes. La phase de formation est exécutée sur le microcontrôleur afin d'apprendre le comportement normal d'un dispositif dans son environnement prévu. Des inférences sont ensuite exécutées sur ce même microcontrôleur afin de détecter et de signaler les anomalies de comportement.

Avec l'intelligence artificielle NanoEdge, les développeurs peuvent facilement intégrer au code C des capacités locales de formation et d'analyse IA. Le code C est par ailleurs optimisé pour les microcontrôleurs STM32. Dans ses démonstrations, Cartesiam a illustré la manière dont ses bibliothèques d'apprentissage automatique peuvent utiliser le module SensorTile de STM, la carte d'évaluation SensorTile (Figure 2), pour apprendre le comportement d'un moteur CC sans balais grâce à l'analyse des vibrations, afin de détecter et de signaler toute anomalie par le biais du microcontrôleur STM32L4 embarqué.

Les capteurs avancés de STMicroelectronics, comme le LSM6DSOX iNEMO, sont également équipés d'un cœur d'apprentissage automatique. Le cœur, combiné à une machine à états finis (FSM) et à des fonctions numériques avancées, permet de passer d'un état ultrabasse consommation à des capacités IA hautes performances et haute précision pour les dispositifs électroniques alimentés par batterie (IoT, jeux vidéo, dispositifs corporels et dispositifs grand public). Prenant en charge les exigences de système d'exploitation standard, il offre des capteurs réels, virtuels et en lot avec 9 ko de RAM disponibles pour le groupage dynamique de données.

Si l'intelligence artificielle et l'apprentissage automatique sous toutes leurs formes continuent de nous surprendre, c'est grâce à de nouvelles applications, à la puissance de leurs résultats et à la possibilité de garantir leur sécurité qu'ils pourront continuer à être utilisés.

À propos de l'auteur

Image of Carolyn Mathas

Carolyn Mathas occupe des postes d'éditrice et de rédactrice dans des publications comme EDN, EE Times Designlines, Light Reading, Lightwave et Electronic Products depuis plus de 20 ans. Elle fournit également du contenu personnalisé et des services marketing à une variété d'entreprises.

More posts by Carolyn Mathas