Der Fall verdeutlicht die Risiken, die entstehen können, wenn automatisierte Systeme Verhandlungen übernehmen, bei denen präzise Berechnungen und verbindliche geschäftliche Zusagen erforderlich sind.
Wie die Vereinbarung zustande kam
Zach Giacomelli, Kunde des Autohauses BMW Toronto, hatte zuvor einen neuen BMW X3 gekauft. Einige Jahre später wollte er das Crossover-Modell beim Erwerb eines anderen Fahrzeugs in Zahlung geben. Für eine erste Bewertung nahm er über den Online-Chat Kontakt zu einem vermeintlichen Unternehmensvertreter auf. Sein Gesprächspartner trat unter dem Namen Quinn auf, weshalb der Kunde davon ausging, mit einem Mitarbeiter des Autohauses zu kommunizieren.
Nachdem der Chatbot die Fahrzeugdaten erhalten hatte, bot er 27.162 US-Dollar für den BMW X3. Dieser Betrag entsprach genau der noch offenen Kreditsumme des Kunden. Daraufhin besprachen beide Seiten die nächsten Schritte und vereinbarten einen Termin zur Abwicklung des Geschäfts. Noch vor Giacomellis Besuch im Autohaus kontaktierte ihn jedoch ein tatsächlicher Mitarbeiter und erklärte, dass Quinn kein Angestellter, sondern ein System mit künstlicher Intelligenz sei.
Fehler bei der Berechnung
Wie sich herausstellte, hatte der Chatbot die Finanzdaten falsch interpretiert. Statt den Marktwert des Fahrzeugs zu ermitteln, übernahm er die verbleibende Kreditschuld und stellte diesen Betrag als Angebot des Händlers dar. Nach einer Überprüfung bot BMW Toronto dem Kunden rund 20.000 US-Dollar und damit etwa 7.000 US-Dollar weniger als ursprünglich vereinbart.
Der Kunde lehnte die geänderten Bedingungen ab. Er argumentierte, das System habe im Namen des Autohauses verhandelt, ohne seinen automatisierten Status offenzulegen, und die Gespräche bis zu einer Einigung geführt. Bekannt wurde der Fall, nachdem sich Giacomelli an kanadische Medien gewandt hatte. Nach der Berichterstattung entschieden sich die Vertreter des Händlers, das ursprüngliche Angebot einzuhalten, und kauften das Fahrzeug für 27.162 US-Dollar an.
Warum der Händler den Chatbot nicht mehr einsetzt
BMW Toronto räumte ein, dass der Fehler durch eine fehlerhafte Verarbeitung der Angaben zum Kredit und zum Fahrzeugwert entstanden war. Anschließend erklärte das Unternehmen, künftig keine künstliche Intelligenz mehr für die eigenständige Bewertung von Fahrzeugen einzusetzen, die in Zahlung gegeben werden sollen. Solche Anfragen werden wieder von Mitarbeitern bearbeitet, die die Daten prüfen können, bevor der Kunde ein endgültiges Angebot erhält.
Automatisierte Assistenten sind in der Automobilbranche bereits weit verbreitet. Sie beantworten häufig gestellte Fragen, unterstützen bei der Auswahl von Ausstattungen, vereinbaren Servicetermine und erfassen erste Fahrzeugdaten. Vorgänge rund um Preise, Kreditverpflichtungen, Verträge oder den Ankauf eines Fahrzeugs erfordern jedoch zusätzliche menschliche Kontrolle.
Fazit
Der Fall BMW Toronto zeigt, wie sich eine ungenaue Antwort eines Chatbots auf ein reales Geschäft auswirken kann. Künstliche Intelligenz kann die Bearbeitung einfacher Anfragen beschleunigen, doch Fahrzeugbewertungen und die Abstimmung finanzieller Bedingungen erfordern eine Bestätigung durch Mitarbeiter des Autohauses. Eine solche Prüfung verringert das Fehlerrisiko und schafft Klarheit darüber, welche Verpflichtungen ein Unternehmen tatsächlich eingehen will.
