El caso mostró los riesgos que pueden surgir cuando los sistemas automatizados participan en negociaciones que requieren cálculos precisos y generan compromisos comerciales.
Cómo se acordó la operación
Zach Giacomelli, cliente del concesionario BMW Toronto, había comprado anteriormente una nueva SUV BMW X3 y, varios años después, decidió entregarla como parte de pago al adquirir otro vehículo. Para obtener una valuación preliminar, comenzó a comunicarse mediante el chat en línea con quien parecía ser un representante de la empresa. El interlocutor utilizaba el nombre Quinn, por lo que el cliente creyó que estaba conversando con un empleado del concesionario.
Después de recibir los datos del vehículo, el chatbot ofreció 27,162 dólares estadounidenses por la BMW X3. La cantidad coincidía con el saldo pendiente del crédito del cliente, por lo que ambas partes discutieron los siguientes pasos y programaron una cita para completar la operación. Sin embargo, antes de que Giacomelli acudiera al concesionario, un empleado real de la empresa se puso en contacto con él y le informó que Quinn no era una persona, sino un sistema de inteligencia artificial.
Un error en los cálculos
El chatbot había interpretado incorrectamente la información financiera. En lugar de calcular el valor de mercado del vehículo, utilizó el monto restante del crédito y lo presentó como una oferta del concesionario. Después de revisar los datos, BMW Toronto ofreció al cliente alrededor de 20,000 dólares estadounidenses, aproximadamente 7,000 dólares menos que la cantidad acordada inicialmente.
El cliente rechazó la modificación de las condiciones y señaló que el sistema había actuado en nombre del concesionario sin revelar que era automatizado, además de permitir que la negociación llegara a un acuerdo. El caso se hizo público después de que Giacomelli contactara a medios canadienses. Tras la publicación de la historia, los representantes del concesionario decidieron respetar la oferta original y compraron el vehículo por 27,162 dólares estadounidenses.
Por qué el concesionario dejó de usar el chatbot
BMW Toronto reconoció que el error se produjo porque el sistema procesó de forma incorrecta los datos relacionados con el crédito y el valor del vehículo. Posteriormente, la empresa informó que ya no utilizaría inteligencia artificial para realizar de manera autónoma las valuaciones de los vehículos entregados como parte de pago. Estas solicitudes volverán a ser gestionadas por empleados, quienes podrán verificar la información antes de presentar una oferta definitiva al cliente.
Los asistentes automatizados ya se utilizan ampliamente en el sector automotor: responden preguntas frecuentes, ayudan a elegir configuraciones, programan citas de servicio y recopilan información inicial sobre los vehículos. Sin embargo, las operaciones relacionadas con precios, obligaciones crediticias, contratos o compra de automóviles requieren supervisión humana adicional.
Conclusión
El caso de BMW Toronto muestra cómo una respuesta imprecisa de un chatbot puede afectar una operación real. La inteligencia artificial puede agilizar la atención de consultas sencillas, pero la valuación de vehículos y la negociación de condiciones financieras requieren la validación del personal del concesionario. Esta revisión reduce la probabilidad de errores y permite definir con claridad qué compromisos está dispuesta a asumir una empresa.
