IA embarquée : où placer l'intelligence, sur le capteur, la passerelle ou le cloud ?
Les microcontrôleurs et les NPU de 2026 rendent l'inférence locale réaliste, y compris sur de petits appareils. Les critères pour décider ce qui s'exécute où.
Pendant des années, « IoT intelligent » voulait dire : le capteur mesure, le cloud réfléchit. En 2026, cette répartition est remise en question par le matériel. Les microcontrôleurs ultra-basse consommation intègrent désormais des accélérateurs capables d'exécuter des modèles d'apprentissage compacts (le « TinyML ») directement sur l'appareil, et des NPU de quelques watts traitent des flux vidéo en périphérie (Promwad, Texas Instruments).
Trois niveaux, trois rôles
- Sur le capteur ou le microcontrôleur : détection d'anomalie simple, classification de signaux (vibration, courant, son), réveil conditionnel. Contraintes : mémoire et énergie très limitées, modèles compacts, quantifiés.
- Sur la passerelle ou le calculateur de périphérie : agrégation de plusieurs capteurs, vision par caméra, modèles plus lourds. Les analyses sectorielles citent des NPU de l'ordre de quelques TOPS pour quelques watts, suffisants pour de la classification d'images en temps réel.
- Dans le cloud ou un serveur central : entraînement, ré-entraînement, analyse de flotte, tableaux de bord, modèles volumineux.
Cinq critères pour décider
La latence. Une réponse qui doit tomber en quelques dizaines de millisecondes — arrêt d'une machine, rejet d'une pièce — ne peut pas dépendre d'un aller-retour réseau.
La connectivité. Un site isolé, un sous-sol, une liaison bas débit (LoRa, sub-GHz) imposent de décider localement et de ne remonter que l'essentiel.
L'énergie. Sur batterie, transmettre coûte plus cher que calculer : filtrer à la source prolonge l'autonomie.
La confidentialité. Garder l'image ou le son brut sur l'appareil et n'envoyer qu'un résultat réduit l'exposition des données personnelles.
Le coût de flotte. Transmettre des données brutes depuis des milliers d'appareils coûte en connectivité et en stockage ; l'inférence locale déplace le coût vers le matériel, payé une fois.
Les pièges
- Le cycle de vie du modèle. Un modèle déployé dérive : les machines vieillissent, les conditions changent. Il faut prévoir la mise à jour à distance (mises à jour OTA signées) et la mesure de la dérive.
- La donnée d'entraînement. Un bon modèle embarqué se construit sur des données représentatives du terrain, pas du laboratoire.
- La sécurité. Un appareil qui embarque un modèle et ses données devient une cible. Chiffrement, stockage sécurisé des clés et durcissement du firmware deviennent des prérequis (voir notre article sur le CRA et la directive RED).
- Le surdimensionnement. Beaucoup de cas d'usage n'ont besoin que d'un seuil statistique ou d'un petit classifieur. Choisir la solution la plus simple qui tient la précision requise.
Notre lecture
L'IA ne doit pas être ajoutée parce qu'elle est disponible, mais là où elle rend le système plus utile : détecter plus tôt, décider localement, réduire le trafic. Le bon point de départ est la question métier — que doit-on détecter, avec quelle rapidité, dans quelles conditions d'exploitation — et non le choix du composant.
Sources
Questions fréquentes
Qu'est-ce que l'IA embarquée ?
L'IA embarquée désigne l'exécution d'un modèle d'apprentissage directement sur l'appareil qui mesure — capteur, microcontrôleur, passerelle — au lieu d'envoyer les données brutes à un serveur distant pour les faire analyser. L'appareil ne transmet alors qu'un résultat : une anomalie, un comptage, un état.
Quelle est la différence entre IA embarquée, edge AI et TinyML ?
Les trois décrivent la même direction à des échelles différentes. Le TinyML désigne des modèles très compacts tournant sur un microcontrôleur à quelques milliwatts. L'edge AI couvre plus largement tout traitement en périphérie, y compris sur une passerelle dotée d'un NPU de quelques watts capable de traiter un flux vidéo.
Faut-il mettre l'intelligence sur le capteur, la passerelle ou le cloud ?
Le capteur convient à une détection simple, répétitive et à très basse consommation. La passerelle convient dès qu'il faut corréler plusieurs sources, traiter de l'image ou décider en quelques dizaines de millisecondes. Le cloud reste le bon endroit pour l'entraînement, l'historique long et les vues d'ensemble multi-sites.
Quels avantages concrets à traiter localement ?
Trois : la latence, puisque la décision n'attend pas un aller-retour réseau ; le coût, puisqu'on ne transporte ni ne stocke des flux bruts ; et la confidentialité, puisque les données sensibles — une image, un son, une donnée de santé — peuvent ne jamais quitter le site.
Quelles sont les limites de l'IA embarquée ?
La mémoire et la puissance disponibles bornent la taille du modèle, et la mise à jour d'un modèle déployé sur un parc d'appareils est un problème d'exploitation à part entière. Un modèle embarqué doit donc être pensé avec son cycle de vie : versionnage, déploiement progressif, et moyen de revenir en arrière.
Un projet IoT en tête ?
Décrivez votre contexte, on vous propose une solution sur mesure.