FICHE · CAS DOCUMENTÉ

Deloitte Australie — Rembourser un rapport aux références inventées

Un rapport remis au gouvernement australien contenait des citations et une jurisprudence inventées par l’IA ; Deloitte a remboursé une partie du contrat.

DocumentéÉchec ou revers

Cas publiquement documenté, avec entreprise identifiable et source.

TailleGroupe

SecteurServices B2B

FonctionAutre

SolutionCopilote

AutonomieAssisté

PreuveDocumenté

L’ESSENTIEL

Le cas en bref

Le problème: Produire un rapport d’évaluation pour un ministère, avec ses références et son analyse juridique.
La réponse: Un rapport remis au gouvernement australien contenait des citations et une jurisprudence inventées par l’IA ; Deloitte a remboursé une partie du contrat.
Le type de solution: Copilote : l’humain garde la décision.
Le résultat clé: Le rapport, facturé 440 000 dollars australiens, citait des travaux inexistants et une citation inventée d’un jugement fédéral ; un universitaire les a repérés.

Le mécanisme / workflow

GénérationSynthèse

Copilote
Rédiger avec un outil d’IA générative
Humain
Remettre le rapport
Humain
Corriger après signalement

Données et entrées

Documents du programme évalué

Outils nommés · voir la carte des outils

Azure OpenAI

Outils et systèmes cités par la source

Azure OpenAI GPT-4o

Impact observé ou attendu

Résultats rapportés par la source

RAPPORTÉLe rapport, facturé 440 000 dollars australiens, citait des travaux inexistants et une citation inventée d’un jugement fédéral ; un universitaire les a repérés.
RAPPORTÉDeloitte a remboursé le dernier versement du contrat et ajouté au rapport révisé la mention de l’outil d’IA utilisé.

Valeur attendue dans la fiche

ProductivitéAccélérer la rédaction.

Type d’impact envisagé

réputation
remboursement

Pour se lancer · estimation Acolyte

ComplexitéFaible

Délai de mise en valeurQuelques semaines

Exigence sur les donnéesFaible

Faisabilité organisationnelleÉlevée

PortéeGain rapide

Ce qu’il faut réunir

Données : Documents du programme évalué

Délai : estimation d’après la complexité (aucune durée citée par la fiche). Grille estimée par Acolyte à partir de la fiche ; elle se vérifie avec vos données et vos équipes. Le Diagnostic Data & IA ↗

Et dans une PME ? · estimation Acolyte

Pour un cabinet de conseil ou d’études PME, la leçon est de vérifier chaque référence produite avec l’IA avant remise au client.

Vérifier systématiquement que chaque citation et chaque référence existe
Déclarer au client l’usage d’outils d’IA dans la production du livrable
Faire relire les parties juridiques par un spécialiste

Le contrôle est peu coûteux face au coût d’un livrable à rembourser. Transposition proposée par Acolyte, pas un résultat de la source.

ANALYSE

Ce qu’il faut en retenir

Toute référence produite par une IA doit être vérifiée à la source avant remise.
Déclarer l’usage de l’IA au client fait partie de la relation de confiance.

Limites et risques

Références fausses dans un document public
Usage de l’IA non déclaré au client
Le ministère indique que les recommandations du rapport restent inchangées.
Références générées non vérifiées
Absence de relecture des citations avant remise

Cadre réglementaire · lecture indicative

Risque minimal

Usage sans obligation spécifique au titre de l’AI Act, en dehors de la maîtrise de l’IA par les équipes. Le RGPD s’applique dès que des données personnelles sont traitées.

Lecture indicative d’Acolyte, pas un avis juridique. Comprendre les niveaux de risque →