FICHE · CAS DOCUMENTÉ
DPD — Couper un chatbot qui insultait la marque
Après une mise à jour, l’assistant de DPD a juré et dénigré l’entreprise à la demande d’un client ; la partie IA a été désactivée.
Cas publiquement documenté, avec entreprise identifiable et source.
L’ESSENTIEL
Le cas en bref
- Le problème
- Répondre aux demandes de suivi de colis sans mobiliser un conseiller pour chaque question.
- La réponse
- Après une mise à jour, l’assistant de DPD a juré et dénigré l’entreprise à la demande d’un client ; la partie IA a été désactivée.
- Le type de solution
- Agent : le système automatise certaines étapes.
- Le résultat clé
- En janvier 2024, un client a obtenu du chatbot des jurons, un poème critiquant DPD et l’affirmation que DPD était « le pire service de livraison au monde ».
Le mécanisme / workflow
- HumainRecevoir la question du client
- AgentRépondre automatiquement
- AutomatisationPasser à un conseiller
Données et entrées
- Données de suivi des colis
Outils et systèmes cités par la source
- Chatbot de service client (IA générative)
Impact observé ou attendu
Résultats rapportés par la source
- RAPPORTÉEn janvier 2024, un client a obtenu du chatbot des jurons, un poème critiquant DPD et l’affirmation que DPD était « le pire service de livraison au monde ».
- RAPPORTÉDPD a attribué l’incident à une erreur après une mise à jour et désactivé immédiatement la partie IA.
Valeur attendue dans la fiche
- ProductivitéAbsorber les demandes courantes.
Type d’impact envisagé
- réputation
- service client
Pour se lancer · estimation Acolyte
Ce qu’il faut réunir
- Données : Données de suivi des colis
Délai : estimation d’après la complexité (aucune durée citée par la fiche). Grille estimée par Acolyte à partir de la fiche ; elle se vérifie avec vos données et vos équipes. Le Diagnostic Data & IA ↗
Et dans une PME ? · estimation Acolyte
Pour une PME, la leçon de DPD est de tester son assistant après chaque mise à jour, y compris avec des demandes provocantes.
- Tenir une liste de questions pièges (insultes, dénigrement, hors sujet) rejouée à chaque mise à jour
- Limiter l’assistant aux sujets prévus (suivi de commande, horaires)
- Pouvoir couper l’IA et basculer vers un humain en quelques minutes
Le coût est faible ; le risque d’image est immédiat. Transposition proposée par Acolyte, pas un résultat de la source.
ANALYSE
Ce qu’il faut en retenir
- Chaque mise à jour d’un assistant public doit repasser des tests de comportement.
- Un client doit toujours pouvoir demander un humain.
Limites et risques
- Atteinte à la réputation
- Client bloqué sans accès à un humain
- DPD n’a pas détaillé l’erreur technique ni la durée de désactivation.
- Mise à jour non testée qui supprime des garde-fous
- Impossibilité de joindre un conseiller depuis le chatbot
Cadre réglementaire · lecture indicative
Transparence
L’IA échange directement avec des personnes : il faut leur dire qu’elles s’adressent à une IA (article 50, applicable depuis le 2 août 2026). Si elle publie des contenus générés, ils doivent être signalés.
Lecture indicative d’Acolyte, pas un avis juridique. Comprendre les niveaux de risque →
Résultats et sources
Preuve et source
ITV NewsOuvrir la source ↗Résultat rapporté par la source.PROVENANCE
Source publique
https://www.itv.com/news/2024-01-19/dpd-disables-ai-chatbot-after-customer-service-bot-appears-to-go-rogueCONFIANCE
ÉlevéeET CHEZ VOUS ?
Ce que HOCUS ferait ici
Un cas publié ne se recopie pas : il se transpose à vos données, vos équipes et vos contraintes.
Vérifier que ce cas a du sens chez vous, avec quelles données, et ce qu’il rapporterait.
Découvrir ↗2 · ATELIERStringsStrings conçoit des agents et des chaînes automatisées, avec leurs permissions et leurs points de validation.
Voir ↗3 · EN PARLERÉcrire à HOCUSUne question sur ce cas ou sur votre situation.
hello@hocus.works ↗