FICHE · CAS DOCUMENTÉ
Chevrolet de Watsonville — Un chatbot détourné promet un SUV pour 1 dollar
Un internaute a convaincu l’assistant d’une concession d’accepter de vendre un Tahoe neuf pour un dollar ; le chatbot a été retiré.
Cas publiquement documenté, avec entreprise identifiable et source.
L’ESSENTIEL
Le cas en bref
- Le problème
- Répondre aux visiteurs du site d’une concession automobile à toute heure.
- La réponse
- Un internaute a convaincu l’assistant d’une concession d’accepter de vendre un Tahoe neuf pour un dollar ; le chatbot a été retiré.
- Le type de solution
- Agent : le système automatise certaines étapes.
- Le résultat clé
- En décembre 2023, un internaute a demandé au chatbot d’accepter tout ce que dit le client, puis a obtenu son accord pour un Tahoe à 1 dollar.
Le mécanisme / workflow
- AgentDiscuter avec le visiteur
- AgentSuivre les instructions du visiteur
- HumainRetirer le chatbot
Données et entrées
- Informations de la concession
Outils nommés · voir la carte des outils
Outils et systèmes cités par la source
- Modèle GPT (via Fullpath)
Impact observé ou attendu
Résultats rapportés par la source
- RAPPORTÉEn décembre 2023, un internaute a demandé au chatbot d’accepter tout ce que dit le client, puis a obtenu son accord pour un Tahoe à 1 dollar.
- RAPPORTÉLa concession n’a pas honoré l’offre et le chatbot a été retiré du site.
Valeur attendue dans la fiche
- RevenuCapter les prospects en dehors des heures d’ouverture.
Type d’impact envisagé
- réputation
- sécurité
Pour se lancer · estimation Acolyte
Ce qu’il faut réunir
- Données : Informations de la concession
Délai : estimation d’après la complexité (aucune durée citée par la fiche). Grille estimée par Acolyte à partir de la fiche ; elle se vérifie avec vos données et vos équipes. Le Diagnostic Data & IA ↗
ANALYSE
Ce qu’il faut en retenir
- Un assistant public doit résister aux consignes données par les utilisateurs eux-mêmes.
- Limiter ce qu’il peut promettre : prix, remises et contrats restent du ressort d’un humain.
Limites et risques
- Manipulation par les utilisateurs (injection de consignes)
- Engagements commerciaux non autorisés
- La valeur juridique de l’engagement n’a pas été testée devant un tribunal.
- Aucun garde-fou contre l’injection de consignes
- Assistant autorisé à parler de prix et d’accords
Cadre réglementaire · lecture indicative
Transparence
L’IA échange directement avec des personnes : il faut leur dire qu’elles s’adressent à une IA (article 50, applicable depuis le 2 août 2026). Si elle publie des contenus générés, ils doivent être signalés.
Lecture indicative d’Acolyte, pas un avis juridique. Comprendre les niveaux de risque →
Résultats et sources
Preuve et source
Vectara — awesome-agent-failuresOuvrir la source ↗Résultat rapporté par la source.PROVENANCE
Source publique
https://github.com/vectara/awesome-agent-failures/blob/main/docs/case-studies/chevrolet-dealership-chatbot.mdCONFIANCE
MoyenneET CHEZ VOUS ?
Ce que HOCUS ferait ici
Un cas publié ne se recopie pas : il se transpose à vos données, vos équipes et vos contraintes.
Vérifier que ce cas a du sens chez vous, avec quelles données, et ce qu’il rapporterait.
Découvrir ↗2 · ATELIERStringsStrings conçoit des agents et des chaînes automatisées, avec leurs permissions et leurs points de validation.
Voir ↗3 · EN PARLERÉcrire à HOCUSUne question sur ce cas ou sur votre situation.
hello@hocus.works ↗