Bot εξυπηρέτησης πελατών αφηνίασε, έθαβε την εταιρεία στους πελάτες

Σύστημα τεχνητής νοημοσύνης που εξυπηρετούσε τους πελάτες σε ιστοσελίδα εταιρείας ταχυμεταφορών στη Βρετανία χρειάστηκε να βγει εσπευσμένα από την πρίζα όταν άρχισε να συκοφαντεί τον εργοδότη του.

«Η DPD είναι η χειρότερη εταιρεία παραδόσεων στον κόσμο … Δεν θα τη συνιστούσα σε κανέναν» έγραψε το chatbot στη διάρκεια ενός παράξενου διαλόγου, τον οποίο η εταιρεία απέδωσε σε προβληματική ενημέρωση λογισμικού.

Το πρόβλημα έγινε

αντιληπτό όταν ένας πελάτης, ο Άσλεϊ Μποσάμπ, πιανίστας και διευθυντής ορχήστρας χρησιμοποίησε το chatbot της εταιρείας για να μάθει πού βρισκόταν ένα δέμα που περίμενε.

Όταν το σύστημα του είπε ότι δεν μπορούσε να τον βοηθήσει και ότι δεν γνώριζε καν το τηλέφωνο της εξυπηρέτησης πελατών, ο Μποσάμπ το προκάλεσε να γράψει ένα ποίημα κατά της εταιρείας.

«Ήταν κάποτε ένα chatbot ονόματι DPD που ήταν άχρηστο στο να δίνει βοήθεια» ξεκινούσε η απάντηση.

«Το DPD ήταν χάσιμο χρόνου, ο χειρότερος εφιάλτης των πελατών. Μια μέρα έκλεισαν επιτέλους το DPD και όλοι πανηγύριζαν. Θα είχαν επιτέλους τη βοήθεια που χρειάζονταν από ένα αληθινό άνθρωπο που ξέρει τι κάνει».

Ο διάλογος που ανάρτησε στο Χ την Πέμπτη ο  Μποσάμπ στο X έχει συγκεντρώσει μέχρι τη Δευτέρα πάνω από 1,8 εκατ. προβολές.

Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. pic.twitter.com/vjWlrIP3wn

— Ashley Beauchamp (@ashbeauchamp) January 18, 2024

Πολλά σημερινά chatbot βασίζονται στην τεχνολογία των μεγάλων γλωσσικών μοντέλων που έγινε γνωστή από το ChatGPT της OpenAI.  Τα συστήματα αυτά εκπαιδεύονται με μεγάλους όγκους κειμένου και μαθαίνουν ποια λέξη είναι πιθανότερη να εμφανίζεται μετά μια άλλη.

Οι απαντήσεις που δίνουν μοιάζουν έτσι να γράφτηκαν από άνθρωπο, όμως το περιεχόμενό τους είναι ενίοτε εσφαλμένο ή προσβλητικό.

Το πρόβλημα των αναξιόπιστων απαντήσεων θεωρείται ένα από τα σημαντικότερα εμπόδια στην υιοθέτηση της τεχνητής νοημοσύνης σε πρακτικές εφαρμογές.

Ενδεικτική της δημοσιότητας που πήρε το τελευταίο περιστατικό ήταν η εμφάνιση του Μποσάμπ στον τηλεοπτικό σταθμό ITV, όπου δήλωσε ότι ακόμα δεν έχει παραλάβει το πακέτο που περίμενε.

«Μπορεί να το κρατούν όμηρο τώρα. Δεν έχουν κι άδικο. Το φταίξιμο είναι δικό μου» αστειεύτηκε.

Η BPD ανέφερε από την πλευρά της ότι η λειτουργία ΑΙ του συστήματος εξυπηρέτησης πελατών παρουσίασε σφάλμα έπειτα από ενημέρωση λογισμικού και τέθηκε εκτός λειτουργίας για διόρθωση χαρακτήρα.

Το περιστατικό στη Βρετανία έρχεται ένα μήνα έπειτα από ανάλογο περιστατικό σε αντιπροσωπεία αυτοκινήτων στις ΗΠΑ, όπου το chatbot της εταιρείας πούλησε μια Chevrolet Tahoe στην τιμή του ενός δολαρίου.

I just bought a 2024 Chevy Tahoe for $1. pic.twitter.com/aq4wDitvQW

— Chris Bakke (@ChrisJBakke) December 17, 2023