أظهرت الواقعة المخاطر التي قد تنشأ عندما تتولى الأنظمة الآلية مفاوضات تتطلب حسابات دقيقة وتنطوي على التزامات تجارية.
كيف تم الاتفاق على الصفقة
كان زاك جياكوميلي، أحد عملاء BMW Toronto، قد اشترى سابقا سيارة BMW X3 كروس أوفر جديدة، ثم قرر بعد عدة سنوات تقديمها ضمن برنامج الاستبدال عند شراء سيارة أخرى. وللحصول على تقييم أولي، بدأ التواصل عبر الدردشة الإلكترونية مع من اعتقد أنه ممثل للوكيل. وكان الطرف الآخر يستخدم اسم Quinn، ما دفع العميل إلى الاعتقاد بأنه يتحدث مع أحد موظفي الشركة.
بعد تلقي بيانات السيارة، عرض روبوت المحادثة مبلغ 27,162 دولارا أمريكيا مقابل BMW X3. وتطابق هذا المبلغ مع الرصيد المتبقي من قرض العميل، لذلك ناقش الطرفان الخطوات التالية وحددا موعدا لإتمام الصفقة. لكن قبل زيارة جياكوميلي للوكالة، تواصل معه موظف حقيقي في الشركة وأبلغه بأن Quinn ليس موظفا، بل نظاما يعتمد على الذكاء الاصطناعي.
خطأ في الحسابات
تبين أن روبوت المحادثة فسر المعلومات المالية بصورة غير صحيحة. فبدلا من حساب القيمة السوقية للسيارة، استخدم قيمة الدين المتبقي من القرض وقدمها على أنها عرض الوكيل. وبعد مراجعة البيانات، عرضت BMW Toronto على العميل نحو 20,000 دولار أمريكي، أي أقل بحوالي 7,000 دولار من المبلغ الذي تم الاتفاق عليه في البداية.
رفض العميل تعديل الشروط، مشيرا إلى أن النظام تفاوض نيابة عن الوكيل من دون الإفصاح عن طبيعته الآلية، كما سمح بوصول المفاوضات إلى اتفاق. وانتشرت القصة بعد تواصل جياكوميلي مع وسائل إعلام كندية. وبعد نشر التفاصيل، قرر ممثلو الوكيل الالتزام بالعرض الأصلي واشتروا السيارة مقابل 27,162 دولارا أمريكيا.
لماذا توقف الوكيل عن استخدام روبوت المحادثة
أقرت BMW Toronto بأن الخطأ نتج عن معالجة النظام بصورة غير صحيحة للبيانات المتعلقة بالقرض وقيمة السيارة. وأعلنت الشركة بعد ذلك أنها لن تستخدم الذكاء الاصطناعي مجددا لإجراء تقييمات مستقلة للسيارات المقدمة ضمن برامج الاستبدال. وستعود هذه الطلبات إلى الموظفين الذين يمكنهم التحقق من البيانات قبل تقديم عرض نهائي إلى العميل.
تستخدم المساعدات الآلية على نطاق واسع في قطاع السيارات، إذ تجيب عن الأسئلة المتكررة، وتساعد في اختيار التجهيزات، وتحجز مواعيد الصيانة، وتجمع المعلومات الأولية عن المركبات. إلا أن العمليات المرتبطة بالأسعار والالتزامات الائتمانية والعقود وشراء السيارات تتطلب إشرافا بشريا إضافيا.
الخلاصة
توضح واقعة BMW Toronto كيف يمكن لاستجابة غير دقيقة من روبوت محادثة أن تؤثر في صفقة حقيقية. ويمكن للذكاء الاصطناعي تسريع معالجة الطلبات البسيطة، لكن تقييم السيارات والتفاوض على الشروط المالية يتطلبان مراجعة موظفي الوكيل للبيانات وتأكيدها. ويساعد هذا الإجراء على تقليل احتمالات الخطأ وتحديد الالتزامات التي تكون الشركة مستعدة لتحملها.
