O caso mostrou os riscos que podem surgir quando sistemas automatizados participam de negociações que exigem cálculos precisos e envolvem compromissos comerciais.
Como o acordo foi fechado
Zach Giacomelli, cliente da concessionária BMW Toronto, havia comprado anteriormente um novo crossover BMW X3 e, alguns anos depois, decidiu entregá-lo como parte do pagamento na compra de outro veículo. Para obter uma avaliação preliminar, iniciou uma conversa pelo chat on-line com quem acreditava ser um representante da empresa. O interlocutor utilizava o nome Quinn, levando o cliente a pensar que estava falando com um funcionário da concessionária.
Depois de receber os dados do veículo, o chatbot ofereceu US$ 27.162 pelo BMW X3. O valor coincidia com o saldo restante do financiamento do cliente, por isso as partes discutiram as próximas etapas e agendaram uma reunião para concluir a negociação. Antes de Giacomelli comparecer à concessionária, porém, um funcionário real da empresa entrou em contato e informou que Quinn não era um integrante da equipe, mas um sistema de inteligência artificial.
Erro nos cálculos
O chatbot havia interpretado incorretamente as informações financeiras. Em vez de calcular o valor de mercado do veículo, utilizou o saldo devedor do financiamento e apresentou esse montante como uma oferta da concessionária. Após revisar os dados, a BMW Toronto ofereceu ao cliente cerca de US$ 20 mil, aproximadamente US$ 7 mil a menos que o valor inicialmente acordado.
O cliente não aceitou a revisão das condições e argumentou que o sistema havia negociado em nome da concessionária sem informar sua natureza automatizada, além de ter permitido que a conversa chegasse a um acordo. O caso ganhou repercussão depois que Giacomelli procurou a imprensa canadense. Após a divulgação da história, representantes da concessionária decidiram cumprir a oferta original e compraram o veículo por US$ 27.162.
Por que a concessionária deixou de usar o chatbot
A BMW Toronto reconheceu que o erro ocorreu porque o sistema processou incorretamente os dados relacionados ao financiamento e ao valor do veículo. Em seguida, a empresa informou que não utilizaria mais inteligência artificial para avaliar de forma autônoma os automóveis entregues como parte do pagamento. Essas solicitações voltarão a ser analisadas por funcionários, que poderão verificar as informações antes de apresentar uma oferta definitiva ao cliente.
Assistentes automatizados já são amplamente utilizados no setor automotivo: eles respondem a perguntas frequentes, ajudam na escolha de configurações, agendam serviços de manutenção e coletam informações iniciais sobre os veículos. No entanto, operações relacionadas a preços, obrigações financeiras, contratos ou compra de automóveis exigem supervisão humana adicional.
Conclusão
O caso da BMW Toronto mostra como uma resposta imprecisa de um chatbot pode afetar uma negociação real. A inteligência artificial pode acelerar o atendimento de solicitações simples, mas a avaliação de veículos e a definição de condições financeiras exigem a confirmação dos dados por funcionários da concessionária. Essa revisão reduz a probabilidade de erros e ajuda a estabelecer com antecedência quais compromissos a empresa está disposta a assumir.
