L’armée chinoise alerte sur les « hallucinations » des IA dans ses bases de données

L’armée chinoise s’inquiète des erreurs factuelles et des fausses caractéristiques techniques générées par ses IA, qui menacent la fiabilité de ses systèmes de décision. Des biais persistants dans les bases de données alimentent ces défaillances.

Des IA qui inventent des spécifications militaires

Des modèles d’intelligence artificielle utilisés par l’armée chinoise produisent des données techniques erronées, comme des caractéristiques de matériel militaire inexistantes ou des performances surévaluées. Ces « hallucinations » — terme désignant les réponses inventées par une IA — concernent notamment les fiches de maintenance, les manuels d’utilisation ou les simulations tactiques.

Le problème prend de l’ampleur avec l’intégration croissante de l’IA dans les chaînes de commandement. En juillet 2026, des rapports internes, relayés par des experts en cybersécurité, soulignent que jusqu’à 15 % des données générées automatiquement pour des systèmes critiques contiennent des incohérences majeures. Ces erreurs peuvent fausser des décisions opérationnelles, comme le choix d’un armement ou la planification logistique.

Des bases de données contaminées par des biais

L’origine du phénomène réside dans les bases d’apprentissage des IA, souvent nourries de documents techniques obsolètes, de rapports non vérifiés ou de données issues de sources non officielles. Les modèles reproduisent alors des stéréotypes ou des approximations, comme l’association systématique de certaines nationalités à des risques de sécurité — un travers déjà observé dans des outils grand public, où une requête neutre peut déclencher des alertes disproportionnées.

Les correctifs appliqués en urgence par les développeurs chinois se limitent souvent à des ajustements superficiels. Or, comme le notent des ingénieurs interrogés sous couvert d’anonymat, « colmater une faille sans nettoyer la source revient à mettre un pansement sur une hémorragie ». Les biais racistes ou xénophobes, par exemple, persistent tant que les corpus d’entraînement ne sont pas audités en profondeur.

Une priorité pour Pékin, mais des solutions lentes

La Chine, qui mise sur l’IA pour moderniser son armée, a fait de la fiabilité des données une priorité. Pourtant, les solutions peinent à suivre. Les modèles génératifs, conçus pour simuler des déductions humaines, peinent à distinguer une information vérifiée d’une probabilité statistique. Résultat : une IA peut « inventer » une vitesse maximale pour un char ou une portée pour un missile, simplement parce que ces valeurs apparaissent souvent dans les documents qu’elle a ingérés.

Les détecteurs d’IA, souvent présentés comme une parade, ont eux-mêmes des limites. Comme l’explique l’AFP dans une analyse sur la détection des images synthétiques, ces outils se basent sur des probabilités et non sur des preuves absolues. Appliqués à des données techniques, ils risquent de passer à côté d’erreurs subtiles, comme une coquille dans un schéma ou une valeur arrondie de manière abusive.

« Les modèles n’ont aucune morale, ce sont des éponges numériques. Ils recrachent les pires fractures du web. » — Expert en IA cité par Génération NT

À découvrirL’IA franchit un cap critique : perte de contrôle, énergie fossile et pouvoir concentréActu · 1 août 2026

Et après ?

La Chine rejoint ainsi le club des pays confrontés aux dérives de l’IA, après avoir déjà révélé les limites de ses systèmes autonomes. La question n’est plus de savoir si les IA mentent, mais comment les empêcher de le faire — surtout quand ces mensonges peuvent coûter des vies.