Arrêt inventé : un procès miné par les hallucinations de l'IA

Les hallucinations de l'IA viennent de s'inviter dans un dossier pénal britannique. Le 21 avril, Ravinder Dhillon, procureure spécialisée dans les violences sexuelles, rédige une note pour justifier les poursuites engagées contre un garçon accusé d'avoir violé sa petite sœur. Au moment des faits présumés, il avait onze ans, elle en avait sept.

Pour écarter la demande d'abandon des poursuites portée par la défense, la magistrate s'appuie sur un arrêt de la cour d'appel qui aurait été rendu en 2024. Elle le cite à trois reprises, numéro de référence à l'appui. Cet arrêt n'existe pas, comme le rapporte franceinfo.

Ce que le dirigeant doit en retenir tient en une règle simple : toute sortie d'IA destinée à l'extérieur — devis, courrier, note — se relit et se vérifie avant envoi. Cette précaution ne se reporte pas à la fin du processus, elle s'applique dès la première version du document.

Une référence inventée repérée par la défense

Ce sont les avocats du garçon qui s'en aperçoivent en examinant la note. La procureure reconnaît son erreur et affirme avoir voulu citer une autre décision, datant de 2009. La Haute Cour de Londres, dans un jugement rendu la semaine dernière et consulté par franceinfo, qualifie cette explication d'« insatisfaisante ».

Selon une enquête du Guardian publiée mardi 3 novembre, la fausse référence proviendrait d'un résumé généré par intelligence artificielle lors d'une recherche sur Internet. Le parquet britannique reconnaît une erreur de recherche, sans donner davantage de détails.

Un registre de 101 signalements outre-Manche

L'épisode n'est pas isolé. Le Guardian rapporte qu'un avocat londonien, Matthew Lee, tient un registre des erreurs juridiques potentiellement liées à l'IA : il en recense 101, entre cas avérés, soupçonnés et contestés.

De nombreuses décisions des tribunaux britanniques ne sont jamais publiées, souligne-t-il, ce qui rend le décompte incomplet. La revue professionnelle Counsel Magazine faisait déjà état d'au moins 31 cas signalés d'hallucinations d'IA dans des procédures britanniques, et d'environ 800 à l'échelle internationale.

Un défaut documenté des modèles génératifs

Le phénomène porte un nom et il est décrit par les autorités françaises. France Num, le dispositif piloté par la Direction générale des entreprises, parle d'hallucination quand une IA générative fournit une réponse manifestement fausse à une question dont la réponse est connue par ailleurs, sans alerter sur la fiabilité de ce qu'elle produit.

La Banque de France, dans sa note thématique consacrée à l'IA, rappelle que ces erreurs sont inhérentes au fonctionnement des grands modèles de langage, qui estiment une réponse probable à partir des mots fournis. Elle cite le cas d'un article sur les résultats d'une entreprise, cohérent dans sa forme, mais bâti sur des chiffres financiers entièrement inventés.

Le sujet dépasse donc les prétoires. Selon l'Insee, 10 % des entreprises françaises de 10 salariés ou plus déclaraient utiliser au moins une technologie d'IA en 2024, contre 6 % en 2023, un niveau inférieur à la moyenne de l'Union européenne (13 %). Côté TPE et PME, le Baromètre France Num 2026, réalisé auprès de plus de 9 000 entreprises, chiffre à 40 % la part de celles qui recourent à l'IA, dont 34 % pour générer du texte, de la voix ou des images et 24 % pour des agents conversationnels ou de la recherche d'informations.

Taux d'adoption de l'IA par les entreprises (en %)

Entreprises 10+ salariés, 2023 (Insee)      ██████ 6
Entreprises 10+ salariés, 2024 (Insee)      ██████████ 10
Moyenne UE, 10+ salariés (Insee)            █████████████ 13
TPE/PME, un an plus tôt (France Num)        ██████████████████████████ 26
TPE/PME, Baromètre France Num 2026          ████████████████████████████████████████ 40

Le Baromètre France Num note par ailleurs que 68 % des entreprises utilisatrices jugent l'impact de l'IA positif sur leur activité, et 85 % parmi celles qui paient leur solution.

Ce que ça change pour votre entreprise

Une référence fausse se repère difficilement quand elle est bien formulée. Trois points de contrôle limitent le risque :

1. Vérifier chaque référence, chiffre ou citation produite par l'IA dans sa source d'origine, et pas dans un résumé généré automatiquement.
2. Ne jamais envoyer à un tiers un document généré sans relecture nommée : devis, courrier client, note juridique, un responsable identifié valide avant envoi.
3. Conserver une trace écrite des échanges automatisés (transcription, export), pour pouvoir contrôler après coup ce qui a été dit ou écrit.

Pour les usages où la sortie est tracée, comme l'accueil téléphonique, la transcription de chaque appel permet ce contrôle a posteriori : l'assistant vocal allo360 l'envoie après chaque conversation, à partir de 39,90 € HT par mois pour 300 minutes (voir les tarifs).

« partie émergée de l'iceberg », Matthew Lee, avocat londonien, auteur d'un registre des erreurs juridiques liées à l'IA.