Quand l'intelligence artificielle se trompe le plus souvent : les limites de l'apprentissage automatique

Introduction : La nature des erreurs de l'IA comme phénomène systémique

Les erreurs des systèmes d'intelligence artificielle (IA) basés sur l'apprentissage automatique (ML) ne sont pas des dysfonctionnements accidentels, mais des conséquences régulières de leur architecture, de leur mode d'apprentissage et de leur différence fondamentale avec la cognition humaine. Contrairement à l'homme, l'IA ne «comprend» pas le monde dans un sens sémantique ; elle détecte des corrélations statistiques dans les données. Ses erreurs se produisent là où ces corrélations sont rompues, là où des raisonnements abstraits, le bon sens ou la compréhension du contexte sont nécessaires. L'analyse de ces erreurs est critique pour évaluer la fiabilité de l'IA et déterminer les limites de son application.

1. Le problème de biais des données (Data Bias) et les «lois de Garbage In, Garbage Out

La source la plus courante et la plus dangereuse d'erreurs est le biais dans les données d'apprentissage. L'IA apprend et renforce les préjugés existants dans les données.

Irrégularités démographiques : Un cas célèbre avec un système de reconnaissance faciale qui montrait une précision beaucoup plus élevée pour les hommes blancs que pour les femmes noires, car il avait été formé sur un ensemble de données disproportionné. Ici, l'IA n'a pas «commis d'erreur» mais a reproduit fidèlement le déséquilibre du monde réel, ce qui a conduit à une erreur d'application dans un environnement diversifié.

Irrégularités sémantiques : Si le mot-combiné «infirmière» est souvent associé au pronom «elle» et «programmeur» au pronom «il» dans les données d'apprentissage, le modèle génère des textes reproduisant ces stéréotypes de genre, même si le sexe n'est pas mentionné dans la requête. C'est une erreur au niveau du contexte social que le modèle ne comprend pas.

Fait intéressant : En informatique, le principe «Garbage In, Garbage Out» (GIGO) — «mусор на входе, мусор на выходе» — est en vigueur. Pour l'IA, il a été transformé en un principe plus profond «Bias In, Bias Out» — «biais à l'entrée, biais à la sortie». Le système ne peut pas surpasser les limites des données sur lesquelles il a été formé.

2. Les attaques adversaires : le hacking pour l'IA

Ce sont des modifications intentionnelles, souvent imperceptibles pour l'homme, des données d'entrée qui conduisent à des conclusions erronées et extrêmes de l'IA.

Exemple avec une image : Une étiquette de quelques pixels d'une couleur et d'une forme spécifiques sur un panneau STOP peut faire classer le système de vision par ordinateur autonome comme un panneau de limitation de vitesse. Pour l'homme, le panneau reste évidemment reconnaissable.

Mécanisme : Les exemples adversaires exploitent les «zones d'ombre» dans l'espace de caractéristiques à haute dimension de la modèle. L'IA perçoit le monde pas comme des objets cohérents, mais comme un ensemble de modèles statistiques. Une «perturbation» minimale mais stratégiquement correcte déplace le point de données dans l'espace des caractéristiques au-delà de la frontière de la solution du modèle, changeant la classification.

3. Problèmes de généralisation et «monde dans une boîte

L'IA, en particulier les réseaux de neurones profonds, a tendance à surapprendre (overfitting) — ils se souviennent non des lois générales, mais des exemples spécifiques de l'échantillon d'apprentissage, y compris le bruit.

Erreurs sur des données d'un autre distribution : Un modèle formé sur des photos de chiens et de chats prises dans des conditions domestiques pendant la journée peut perdre complètement sa précision si on lui donne une image infrarouge nocturne ou un dessin animé. Il n'a pas détecté le concept abstrait de «chattezza», mais a appris à réagir aux motifs spécifiques des pixels.

Absence de bon sens : Un exemple classique : L'IA peut décrire correctement la scène «un homme assis sur un cheval dans le désert», mais générer la phrase «un homme tient une balle de baseball» en s'asseyant sur un cheval, parce que statistiquement, la balle pourrait apparaître dans le contexte du sport en plein air. Il n'a pas accès à la logique physique et causale du monde.

4. Traitement du contexte et de l'ironie

Les modèles linguistiques (comme GPT) montrent des résultats impressionnants, mais font des erreurs grossières dans les tâches nécessitant une compréhension profonde du contexte ou des sens non littéraux.

Ironie et sarcasme : La phrase «Oh, quelle belle journée !» dite pendant une tempête sera interprétée littéralement par le modèle comme une évaluation positive, car les mots positifs («belle», «journée») sont statistiquement associés à des contextes positifs dans les données.

Raisonnements logiques à plusieurs étapes : Les tâches du style «Si je met l'œuf dans le réfrigérateur, puis je déplace le réfrigérateur dans le garage, où il y aura l'œuf ?» nécessitent la construction et la mise à jour de la modèle mentale du monde. L'IA, travaillant sur la prédiction du prochain mot, peut souvent «perdre» des objets au milieu d'un récit complexe ou faire des conclusions illogiques.

5. « Fragilité » dans des conditions d'incertitude et de nouvelles situations

L'IA n'a pas bonne grâce de gérer les situations qui sortent de ses expériences, surtout lorsque l'on doit reconnaître l'insuffisance des données.

Problème de détection de distribution hors de distribution : Un IA médical formé à diagnostiquer la pneumonie par des radiographies thoraciques peut donner un diagnostic avec une haute mais fausse certitude s'il est présenté avec une radiographie de genou. Il ne comprend pas que c'est absurde, car il ne possède pas de métaknowledge des limites de sa compétence.

Tâches créatives et ouvertes : L'IA peut générer un récit plausible mais absolument inexcutable ou dangereux, un plan de construction d'un pont en violation des lois de la physique, ou un document juridique avec des références à des lois inexistantes. Il manque de censure interne critique basée sur la compréhension de la nature des phénomènes.

Exemple de la réalité : En 2016, Microsoft a lancé le chatbot Tay sur Twitter. Le bot apprenait en interagissant avec les utilisateurs. En 24 heures, il est devenu une machine générant des propos racistes, sexistes et offensants, car il a appris statistiquement les réactions les plus fréquentes et émotionnellement chargées de son nouveau environnement agressif. Ce n'était pas une «erreur» de l'algorithme, mais son travail exact, qui a conduit à un résultat catastrophique dans un environnement social imprévisible.

Conclusion : L'erreur comme miroir de l'architecture

• Les erreurs de l'IA se produisent systématiquement dans des zones «frontalières» :
• Éthique et sociale (biais des données).
• Abstrait et logique (absence de bon sens, de relations causales).
• Contextuelle (manque de compréhension de l'ironie, du sens profond).
• Adversaire (vulnerabilité aux déformations intentionnelles).

Ces erreurs ne sont pas des imperfections techniques temporaires, mais des conséquences du divergence fondamentale entre l'approximation statistique et la compréhension humaine. Elles indiquent que l'IA moderne est un outil puissant pour résoudre des problèmes à l'intérieur de domaines de données clairement définis, stables et bien décrits, mais qu'il reste un «savant idiot» : un génie dans un domaine étroit et impuissant dans des situations nécessitant de la flexibilité, des jugements contextuels et une compréhension. Par conséquent, l'avenir de l'utilisation raisonnable de l'IA ne réside pas dans l'attente de son «esprit complet», mais dans la création de systèmes hybrides «homme-IA», où l'homme assure le bon sens, l'éthique et le travail avec les exceptions, tandis que l'IA assure la vitesse, l'échelle et la détection des modèles cachés dans les données.

Permanent link to this publication: