Cette affaire met en évidence les risques qui peuvent apparaître lorsque des systèmes automatisés interviennent dans des négociations exigeant des calculs précis et impliquant des engagements commerciaux.
Comment l’accord a été conclu
Zach Giacomelli, client de la concession BMW Toronto, avait acheté quelques années auparavant un nouveau crossover BMW X3. Il a ensuite décidé de le proposer en reprise lors de l’achat d’un autre véhicule. Afin d’obtenir une première estimation, il a commencé à échanger avec un représentant de l’entreprise par l’intermédiaire du service de discussion en ligne. Son interlocuteur utilisait le nom Quinn, ce qui a conduit le client à penser qu’il communiquait avec un employé de la concession.
Après avoir reçu les informations concernant le véhicule, le chatbot a proposé 27 162 dollars américains pour le BMW X3. Ce montant correspondait exactement au solde restant du crédit automobile du client. Les deux parties ont donc discuté des étapes suivantes et fixé un rendez-vous pour finaliser la transaction. Toutefois, avant la visite de Giacomelli à la concession, un véritable employé de l’entreprise l’a contacté pour lui expliquer que Quinn n’était pas un membre du personnel, mais un système d’intelligence artificielle.
Une erreur de calcul
Le chatbot avait mal interprété les informations financières. Au lieu d’estimer la valeur de marché du véhicule, il avait utilisé le montant restant à rembourser sur le crédit et l’avait présenté comme une offre du concessionnaire. Après vérification, BMW Toronto a proposé au client environ 20 000 dollars américains, soit près de 7 000 dollars de moins que la somme initialement convenue.
Le client a refusé la révision des conditions, soulignant que le système avait négocié au nom de la concession sans révéler son statut automatisé et avait permis aux discussions d’aboutir à un accord. L’affaire est devenue publique après que Giacomelli a contacté des médias canadiens. À la suite de la publication de l’histoire, les représentants du concessionnaire ont décidé d’honorer l’offre initiale et ont racheté le véhicule pour 27 162 dollars américains.
Pourquoi le concessionnaire a abandonné le chatbot
BMW Toronto a reconnu que l’erreur provenait d’un traitement incorrect des données relatives au crédit et à la valeur du véhicule. L’entreprise a ensuite indiqué qu’elle n’utiliserait plus l’intelligence artificielle pour évaluer de manière autonome les voitures proposées en reprise. Ces demandes seront de nouveau confiées à des employés, qui pourront vérifier les informations avant qu’une offre définitive ne soit présentée au client.
Les assistants automatisés sont déjà largement utilisés dans le secteur automobile : ils répondent aux questions courantes, aident à choisir une configuration, organisent des rendez-vous d’entretien et recueillent les premières informations sur les véhicules. Les opérations liées aux prix, aux obligations de crédit, aux contrats ou au rachat d’un véhicule nécessitent toutefois une supervision humaine supplémentaire.
Conclusion
L’affaire BMW Toronto illustre la manière dont une réponse imprécise d’un chatbot peut affecter une transaction réelle. L’intelligence artificielle peut accélérer le traitement des demandes simples, mais l’évaluation d’un véhicule et la négociation de conditions financières exigent une validation des données par le personnel de la concession. Ce contrôle réduit le risque d’erreur et permet de déterminer clairement les engagements que l’entreprise est prête à prendre.
