Φανταστείτε το συγκλονισμένο πρόσωπο του Julian Grupp, ιδρυτή και διευθυντή της ταξιδιωτικής εταιρείας Seyvillas, όταν έμαθε από… το ίντερνετ ότι το γραφείο του κήρυξε πτώχευση. Ποιος… απεφάνθη πως η εταιρεία του είχε πέσει στα βράχια; Η Τεχνητή Νοημοσύνη.
Σύμφωνα με τη γερμανική εφημερίδα Suddeytsche Zeitung, η Τεχνητή Νοημοσύνη της Google δημιούργησε μια «σύνοψη» για το ταξιδιωτικό γραφείο Seyvillas με έδρα το Μπίλεφελντ της ευρωπαϊκής χώρας και ειδίκευση στις Σεϋχέλλες, στην οποία ισχυριζόταν πως η εταιρεία είχε χρεοκοπήσει. «Είναι παράλογο, λανθασμένο και εξαιρετικά επιβλαβές για την εταιρεία μας», σχολίασε ο Grupp.
Η Τεχνητή Νοημοσύνη της Google εμφάνισε αυτήν την ψευδή πληροφορία στην κορυφή των αποτελεσμάτων αναζήτησης. Ο Grupp ζήτησε από το προσωπικό του να ελέγξει και εκείνο τι εμφανίζεται όταν ψάχνουν την εταιρεία. Και οι υπάλληλοι διαπίστωσαν ότι εμφανίζονταν διάφορες παραλλαγές του ίδιου ψευδούς ισχυρισμού: κάποιες έκαναν λόγο για διορισμό προσωρινού διαχειριστή, άλλες ότι οι πελάτες έπρεπε να απευθυνθούν είτε στην εταιρεία είτε στον διαχειριστή. Μια άλλη μάλιστα υποστήριζε πως η Seyvillas είχε ήδη εξαγοραστεί από την Dertour το 2019.
Πελάτες, τρελαμένοι από ανησυχία για τις κρατήσεις τους, άρχισαν να επικοινωνούν μαζικά με το γραφείο για να μάθουν τι συμβαίνει. Ο Grupp τούς διαβεβαίωσε πως δεν υπήρχε κανένα πρόβλημα: η εταιρεία ήταν οικονομικά υγιής και δεν αντιμετώπιζε καμία κρίση. Ωστόσο, η περιγραφή της υποτιθέμενης χρεοκοπίας ήταν τόσο λεπτομερής και φαινομενικά αληθοφανής, που ακόμα και ο ίδιος παραδέχεται: «Αν ήμουν πελάτης, πιθανόν να το πίστευα».
Ο ίδιος δεν κατάφερε να εξηγήσει πώς προέκυψε αυτό το λάθος από την Τεχνητή Νοημοσύνη της Google. Οι πηγές που παρετίθεντο στη σύνοψη δεν είχαν καμία σχέση με την εταιρεία του και αφορούσαν παλαιότερες αναφορές για… μια επικείμενη κρατική χρεοκοπία στις Σεϋχέλλες το 2008.
Οι «παραισθήσεις» της Τεχνητής Νοημοσύνης
Η γερμανική εφημερίδα αναφέρει πως το περιστατικό αυτό αποτελεί κλασικό παράδειγμα των λεγόμενων «παραισθήσεων» των συστημάτων Τεχνητής Νοημοσύνης: όταν δηλαδή δημιουργούν απαντήσεις βασισμένες σε ανακριβή ή ανύπαρκτα δεδομένα. Σε αντίθεση με την παραδοσιακή αναζήτηση, η Τεχνητή Νοημοσύνη της Google δεν εμφανίζει απλώς υπάρχοντα αποτελέσματα, αλλά δημιουργεί συνοπτικά κείμενα βασισμένα σε πιθανολογικούς υπολογισμούς, χωρίς να «κατανοεί» τις πληροφορίες όπως ένας άνθρωπος.
Στην περίπτωση της Seyvillas, φαίνεται μπέρδεψε άσχετες πληροφορίες με το όνομα της εταιρείας, κάτι που δεν είναι απίθανο να συμβεί.
Πρόσφατα υπήρξαν αρκετές χρεοκοπίες ταξιδιωτικών πρακτόρων, όπως της Thomas Cook ή της FTI, με αποτέλεσμα πολλοί χρήστες να αναζητούν πληροφορίες για την αξιοπιστία ενός πράκτορα πριν κάνουν κράτηση. Αυτό έχει οδηγήσει στο να εμφανίζονται συχνά σχετικές λέξεις-κλειδιά, όπως «πτώχευση» ή «σε χρεοκοπία», όταν πληκτρολογεί κανείς το όνομα κάποιου πρακτορείου, ακόμη κι αν δεν υπάρχει σχετική είδηση.
Τεχνητή Νοημοσύνη: Παρόμοιο περιστατικό με την Ecco Reisen
Δεν ήταν μόνο η Seyvillas που αντιμετώπισε πρόβλημα. Παρόμοιο περιστατικό σημειώθηκε και με την Ecco Reisen, μια εταιρεία με έδρα το Ανόβερο που προσφέρει ταξίδια στην Αίγυπτο και τον Νείλο. Τον Ιούνιο η Τεχνητή Νοημοσύνη της Google ανέφερε επίσης ότι η Ecco Reisen βρισκόταν σε διαδικασία χρεοκοπίας, επικαλούμενη μάλιστα ένα -ανύπαρκτο- άρθρο του «Tagesschau».
Η υπεύθυνη μάρκετινγκ της εταιρείας, Christin Reiber, ανέφερε ότι το προσωπικό πανικοβλήθηκε και οι πελάτες άρχισαν να ρωτούν επίμονα αν ισχύει κάτι τέτοιο. Χρειάστηκαν περίπου έξι εβδομάδες και πολλές επαφές με την Google για να αφαιρεθεί η λανθασμένη πληροφορία.
Η αντίδραση της Google και η νομική διάσταση
Η Google, που θεωρείται ηγέτης στον τομέα της Τεχνητής Νοημοσύνης, έχει εισαγάγει τις λεγόμενες «περιλήψεις Τεχνητής Νοημοσύνης», για να παρέχει σύντομες απαντήσεις πάνω από τα αποτελέσματα αναζήτησης. Στην περίπτωση της Seyvillas η ψευδής πληροφορία αφαιρέθηκε σχετικά γρήγορα, μέσα σε μία εβδομάδα, πιθανώς επειδή ο Grupp ζήτησε άμεσα σε νομική υποστήριξη.
Ο δικηγόρος του, Frank Hütten, δήλωσε πως σκοπεύουν να καταθέσουν αγωγή για παράλειψη και πιθανώς και για αποζημίωση. Αν και η Google συνοδεύει τις περιλήψεις της με προειδοποιήσεις ότι ενδέχεται να περιέχουν σφάλματα, ο Hütten θεωρεί ότι αυτές οι επισημάνσεις δεν είναι αρκετές όταν πρόκειται για τόσο σοβαρές επιχειρηματικές πληροφορίες.
Η διεκδίκηση αποζημίωσης ίσως αποδειχθεί πιο δύσκολη, καθώς θα πρέπει να αποδειχθεί πως οι πελάτες πράγματι ακύρωσαν κρατήσεις λόγω των ψευδών πληροφοριών.
