Pourquoi l'IA boîte noire échoue en maintenance.

Ce que boîte noire veut dire sur le plancher d'usine

En maintenance prédictive, un modèle boîte noire est un modèle qui relie les données de surveillance (vibration, température, courant moteur, analyse d'huile) à une sortie (un score d'anomalie, une probabilité de défaillance, une estimation de durée de vie restante) au travers de paramètres internes sans aucune signification d'ingénierie. Le réseau de neurones profond en est le cas typique : des millions de poids, dont aucun ne correspond à une longueur de fissure, à un jeu de roulement ou à une charge. Demandez-lui pourquoi il a levé une alerte : il n'y a rien à inspecter. Le raisonnement est réparti dans les poids, et les poids ne signifient rien individuellement.

L'étiquette ne renvoie ni au secret, ni à la complexité en soi. Un modèle peut être propriétaire et interprétable, ou en code ouvert et opaque. Les outils d'explication a posteriori ne changent pas non plus la catégorie : comme Cynthia Rudin l'a soutenu dans son article influent de Nature Machine Intelligence, une explication générée après coup est un second modèle qui approxime le premier, et elle peut être plausible tout en étant infidèle à ce que le modèle original a réellement calculé. Une boîte noire avec une explication boulonnée dessus reste une boîte noire.

Rien de tout cela ne pèse bien lourd quand le modèle recommande un film ou classe des publicités, parce que s'y tromper ne coûte rien. La maintenance est un contexte à enjeux élevés : agir sur une prédiction coûte une fenêtre de maintenance et de la production perdue, l'ignorer risque une panne. Cette asymétrie explique pourquoi les trois modes d'échec qui suivent mordent plus fort ici que presque partout ailleurs.

Premier échec : les données d'entraînement n'existent pas

Un modèle supervisé n'apprend la panne qu'à partir d'exemples de pannes. Pour prédire le grippage d'un roulement, il lui faut de nombreuses trajectoires complètes jusqu'à la défaillance, enregistrées dans des conditions semblables aux vôtres, avec le mode de défaillance étiqueté. Les équipements industriels critiques sont entretenus précisément pour que ces trajectoires ne s'achèvent jamais. Une flotte de turbines produit peut-être une poignée de vraies pannes en dix ans, chacune d'un mode différent dans des conditions différentes. La réussite du propriétaire en maintenance est la famine de données du modèle.

La littérature du domaine le concède elle-même. La revue systématique du pronostic des machines de Lei et ses collègues a constaté que la plupart des méthodes publiées sont validées sur des données de laboratoire ou de simulation, les déploiements industriels étant bien plus rares que le volume de publications ne le suggère. Fink et ses collègues, dans une revue écrite avec des praticiens des industries ferroviaire et aéronautique, classent la rareté des données de panne étiquetées parmi les obstacles centraux au déploiement de l'apprentissage profond en pronostic et gestion de santé des équipements.

Sur le plancher d'usine, les conséquences prennent deux formes familières. Un modèle entraîné surtout sur des données saines peut signaler que quelque chose semble inhabituel, mais ne peut ni nommer le mode de défaillance ni le dater, ce qui transforme chaque alerte en enquête. Et un modèle entraîné sur les pannes d'autres usines se transfère mal, parce que les signatures de dégradation dépendent de la machine précise, de son montage et de son régime. Un modèle qui n'a jamais vu votre panne ne peut ni la reconnaître ni la prédire.

Deuxième échec : il se brise en silence quand l'usine change

Une usine change constamment. Un nouveau mélange de produits déplace les charges, l'été élève les températures ambiantes, une révision remet les surfaces d'usure à neuf, un capteur est réétalonné ou dérive. Un modèle boîte noire a appris des corrélations qui tenaient dans ses données d'entraînement; quand la distribution d'exploitation se déplace, ces corrélations cessent discrètement de tenir. Le modèle continue de produire des nombres avec la même assurance qu'avant, parce que rien en lui ne peut remarquer que le monde a bougé.

La recherche en apprentissage automatique a donné un nom précis à cet échec. D'Amour et ses collègues ont montré que les procédés d'entraînement modernes sont sous-spécifiés : de nombreux modèles différents obtiennent des scores de test identiques, puis se comportent très différemment une fois les conditions changées, et les métriques de validation ne disent pas lequel vous avez déployé. Traduit en maintenance : un bon score de test ne dit pas si le modèle a appris quelque chose qui suit la physique, ou un raccourci qui lui était simplement corrélé pendant l'entraînement.

Un modèle physique échoue autrement. La fatigue suit la même loi après un changement de régime; la conservation de l'énergie survit à un changement de production. La physique continue de contraindre les prédictions exactement là où les données s'épuisent. Une boîte noire n'a aucun recours de ce genre : son échec caractéristique est une erreur tranquille découverte plus tard. En maintenance, la pire version est le feu vert confiant émis précisément pendant la période où le changement de conditions a rendu le modèle aveugle.

Troisième échec : des prédictions sur lesquelles personne ne parie un arrêt

Imaginez la décision que le modèle existe pour déclencher. Une alerte annonce qu'une boîte d'engrenages tombera en panne d'ici trois semaines et recommande d'avancer le prochain arrêt, au prix de six chiffres de production perdue. L'ingénieur fiabilité demande pourquoi. La réponse honnête d'un système boîte noire est qu'un score a franchi un seuil. Pas de charge, pas de mécanisme d'endommagement, pas de marge restante, rien à confronter à la machine. La réponse rationnelle est d'attendre une corroboration, et quand la corroboration arrive, la prédiction n'a plus rien apporté.

Après la première fausse alerte traitée ainsi, la prudence rationnelle durcit en lassitude des alertes, et le système est rétrogradé au rang de courbe de plus que quelqu'un survole. Ce n'est pas de l'entêtement d'opérateur. Fink et ses collègues classent le manque d'interprétabilité, et le manque de confiance qui en résulte, parmi les principales raisons pour lesquelles les solutions d'apprentissage profond s'arrêtent avant le déploiement industriel. Une prédiction invérifiable ne se contente pas de ne pas aider : elle dépense le crédit dont la prédiction suivante aurait eu besoin.

L'argument de Rudin frappe le plus fort exactement ici : pour les décisions à enjeux élevés, cessez d'expliquer les boîtes noires et utilisez des modèles interprétables dans les termes propres du problème. En maintenance, les termes propres du problème sont des grandeurs physiques. Une prédiction énoncée en charges, état d'endommagement et marge restante peut être confrontée à la machine réelle, discutée, et suivie d'action. Un score, non.

Les mêmes questions, posées aux deux types de modèles

Le contraste devient concret quand on pose les mêmes questions opérationnelles à un modèle boîte noire et à un modèle construit autour de la physique de l'équipement :

Comparaison directionnelle; les implémentations individuelles varient. Les approches informées par la physique sont recensées dans Karniadakis et coll. (2021).

Voilà pourquoi la réponse du domaine de recherche au problème de la boîte noire n'a pas été de meilleurs outils d'explication, mais une autre classe de modèles. L'apprentissage automatique informé par la physique intègre les équations gouvernantes au modèle lui-même et s'attaque en même temps au problème des données et au problème de la confiance : la physique fournit ce que les données de panne manquantes ne peuvent pas fournir, et les prédictions restent dans des termes qu'un ingénieur peut vérifier. Notre guide sur les réseaux de neurones informés par la physique explique ce fonctionnement en détail.

Cinq questions à poser avant de faire confiance à une IA de maintenance

Quoi que vous pensiez de l'argument informé par la physique, les modes d'échec ci-dessus se traduisent directement en questions d'approvisionnement. Un système digne de la confiance qu'exigent des équipements critiques devrait avoir une réponse convaincante aux cinq :

1. Montrez-moi une prédiction en termes d'ingénierie. Charges, températures, état d'endommagement, marge restante. Si le système ne peut montrer qu'un score, chaque alerte finira en débat plutôt qu'en bon de travail.
2. Dites-moi ce qui se passe hors des conditions d'entraînement. Comment le modèle se comporte-t-il après un changement de régime, une révision ou un remplacement de capteur, et comment signale-t-il qu'il a quitté son territoire connu?
3. Énoncez honnêtement les données que vous exigez de moi. Si la réponse est des années d'historique de pannes étiqueté, demandez combien de vos modes de défaillance critiques possèdent ne serait-ce qu'un exemple complet enregistré.
4. Quantifiez l'incertitude. Une estimation de durée de vie restante sans intervalle de confiance est une supposition déguisée en nombre. La largeur de l'intervalle est en soi une information dont un planificateur a besoin.
5. Prouvez qu'il ne peut pas prédire l'impossible. Quel mécanisme empêche le modèle de produire un état qui viole les lois de conservation ou les limites physiques de la machine elle-même?

Ces cinq questions ne sont pas neutres : elles tombent précisément là où les systèmes boîte noire n'ont pas de bonne réponse et où les systèmes ancrés dans la physique en ont. C'est le but. Les questions qu'une équipe fiabilité pose naturellement avant de parier un arrêt sur une prédiction sont celles auxquelles un modèle sans connaissance de la machine ne peut pas répondre.

Comment Vermilion y répond

Vermilion a été construit de l'autre côté de cette ligne dès le départ. Son modèle de raisonnement à grande échelle raisonne contre des jumeaux numériques de premiers principes des équipements qu'il surveille (dynamique des roulements, harmoniques d'engrènement, stabilité de film fluide), avec des paramètres constitutifs ajustés par actif sous des a priori physiques connus. La dégradation est suivie comme un état physique, pas comme un score, et chaque prédiction est le résultat de la projection de cet état sous le régime d'exploitation attendu de l'actif.

Cette conception répond directement aux cinq questions. Les prédictions arrivent en grandeurs d'ingénierie qu'une équipe fiabilité peut confronter à la machine. La physique continue de contraindre les estimations après les changements de régime, là où les données d'entraînement s'épuisent. Aucune année d'historique de pannes étiqueté n'est requise, parce que les équations encodent déjà comment les défaillances se déroulent. L'incertitude est propagée jusqu'à chaque estimation. Et un état qui violerait la physique est refusé avant même d'atteindre un opérateur.