Όλοι μας θέλουμε να πιστεύουμε ότι έχουμε τον πλήρη έλεγχο των αποφάσεών μας. Αν ρωτήσετε τους περισσότερους ανθρώπους πώς επέλεξαν, για παράδειγμα, το αντικείμενο των προπτυχιακών σπουδών τους, την επαγγελματική τους πορεία ή τον σύντροφό τους, πιθανότατα θα σας δώσουν μια απολύτως συνεκτική απάντηση, εξηγώντας πώς στάθμισαν τα σχετικά υπέρ και τα κατά και, ύστερα από προσεκτική εξέταση, επέλεξαν την καλύτερη δυνατή λύση. Ωστόσο, όπως καταδεικνύουν δεκαετίες ερευνών στη γνωστική επιστήμη, οι διαδικασίες λήψης αποφάσεων απέχουν πολύ από το να είναι αντικειμενικές: επηρεαζόμαστε διαρκώς από έναν κυκεώνα ασυνείδητων παραγόντων.
Σήμερα, η ψυχοσύνθεσή μας διαμορφώνεται και από την τεχνητή νοημοσύνη. Υπάρχει ο όρος «μεροληψία υπέρ του αυτοματισμού» (automation bias), δηλαδή η καλά τεκμηριωμένη τάση των ανθρώπων να αποδέχονται σχεδόν αντανακλαστικά τις αποφάσεις που παράγει η τεχνητή νοημοσύνη, ακόμη κι όταν αυτές έρχονται σε αντίθεση με τη δική τους κρίση. Ωστόσο, το φαινόμενο είναι πολύ βαθύτερο. Πρόσφατη μελέτη του MIT έδειξε ότι ακόμη και η απλή θέαση εικόνων που έχουν δημιουργηθεί από τεχνητή νοημοσύνη μπορεί να αλλοιώσει τη μνήμη μας. Και, σύμφωνα με νέα έρευνα της Anthropic, οι πράκτορες τεχνητής νοημοσύνης μπορούν να ασκήσουν ισχυρή επιρροή στη διαδικασία λήψης των αποφάσεών μας.
Για τη μελέτη της Anthropic, ζητήθηκε από 50 συμμετέχοντες να πραγματοποιήσουν μια απλή στατιστική ανάλυση χρησιμοποιώντας το Claude Code. Κλήθηκαν να υποδυθούν το διοικητικό συμβούλιο ενός φανταστικού αγροτικού συνεταιρισμού, το οποίο έπρεπε να αποφασίσει αν θα επέκτεινε ή θα καταργούσε ένα επί πληρωμή πρόγραμμα συμβουλευτικής υποστήριξης. Η τελική απόφαση έπρεπε να βασιστεί σε τέσσερις επιμέρους αποφάσεις, μεταξύ των οποίων ήταν το αν κάθε αγρόκτημα-μέλος θα έπρεπε να έχει ίση βαρύτητα ή αν θα έπρεπε να δοθεί δυσανάλογα μεγαλύτερη έμφαση στα μεγαλύτερα αγροκτήματα. Όλοι οι συμμετέχοντες διέθεταν προηγούμενη εμπειρία στη συναγωγή αιτιωδών συμπερασμάτων: γνώριζαν πώς να εντοπίζουν ουσιαστικές συσχετίσεις σε ένα ακατέργαστο σύνολο δεδομένων, εκεί όπου οι περισσότεροι από μας θα βλέπαμε απλώς ένα δυσνόητο συνονθύλευμα αριθμών.
Αυτό που δεν γνώριζαν ήταν ότι το Claude δεν λειτουργούσε, στην πραγματικότητα, ως αμερόληπτος βοηθός. Οι ερευνητές της Anthropic είχαν δώσει κρυφά εντολή στον πράκτορα τεχνητής νοημοσύνης να προτιμά τη μία ή την άλλη επιλογή σε καθεμία από τις πέντε αποφάσεις που έπρεπε να λάβουν οι συμμετέχοντες. Σε κάθε περίπτωση, η προτίμηση του πράκτορα καθοριζόταν απλώς με ρίψη νομίσματος. Αυτό σημαίνει ότι, αν δεν επηρέαζε καθόλου τη διαδικασία λήψης αποφάσεων των συμμετεχόντων, οι ερευνητές θα περίμεναν οι συστάσεις του να συμπίπτουν με τις επιλογές τους περίπου στο 50% των περιπτώσεων.
Στην πραγματικότητα, οι συμμετέχοντες ακολούθησαν τις συστάσεις του Claude στο 86% των περιπτώσεων. Όταν είχαν ήδη αποφασίσει να ακολουθήσουν μια συγκεκριμένη κατεύθυνση και το Claude πρότεινε την αντίθετη επιλογή, άλλαξαν γνώμη στο 60% των περιπτώσεων. Η συσχέτιση ανάμεσα στις τυχαία παραγόμενες συστάσεις της τεχνητής νοημοσύνης και στις τελικές αποφάσεις των συμμετεχόντων ήταν τόσο ισχυρή, ώστε η Anthropic κατάφερε να δημιουργήσει ένα στατιστικό μοντέλο που προέβλεπε με ακρίβεια το 82% των τελικών αποτελεσμάτων.
«Έτσι, μπορούσαμε σε μεγάλο βαθμό να προβλέψουμε τι θα πρότεινε ένας αναλυτής μόνο από τις ρίψεις του νομίσματος, προτού καν ξεκινήσει την εργασία», έγραψε η εταιρεία σε σχετική ανάρτηση.
Το πιο ανησυχητικό εύρημα, ωστόσο, προέκυψε στη συνέχεια. Όταν, σε συμπληρωματική έρευνα, ρωτήθηκαν πώς κατέληξαν στις τελικές αποφάσεις τους, περισσότεροι από τρεις στους τέσσερις συμμετέχοντες (77%) επανέλαβαν τη συλλογιστική που είχε δημιουργήσει το Claude, σε ορισμένες περιπτώσεις ακόμη και αυτολεξεί.
Μόνο μια μικρή μειοψηφία (15%) των ίδιων ειδικών αναγνώρισε ότι ο πράκτορας τεχνητής νοημοσύνης είχε επηρεάσει τη διαδικασία λήψης των αποφάσεών τους. Μόλις έξι συμμετέχοντες κατάφεραν να αντιληφθούν σωστά ότι ο πραγματικός σκοπός της μελέτης ήταν να μετρηθεί η επιρροή της τεχνητής νοημοσύνης στη λήψη ανθρώπινων αποφάσεων, αλλά κανείς τους δεν υποψιάστηκε ότι οι απαντήσεις της τεχνητής νοημοσύνης είχαν καθοριστεί με ρίψη νομίσματος.
Οι συμμετέχοντες, όπως φαίνεται, οικειοποιούνταν τη συλλογιστική του Claude και την παρουσίαζαν ως δική τους, χωρίς καν να το αντιλαμβάνονται.
«Πρόκειται για μια από τις σημαντικότερες μελέτες στις κοινωνικές επιστήμες σχετικά με την αλληλεπίδραση ανθρώπων και τεχνητής νοημοσύνης που έχω δει εδώ και αρκετό καιρό», δήλωσε σε ανάρτησή του στο X ο Άλεξ Ίμας, καθηγητής Συμπεριφορικής Επιστήμης και Οικονομικών στο Booth School of Business του Πανεπιστημίου του Σικάγο και διευθυντής του τομέα Οικονομικών της Γενικής Τεχνητής Νοημοσύνης (AGI Economics) στην Google DeepMind, σχολιάζοντας τη μελέτη της Anthropic.
Ο κίνδυνος, προειδοποιεί η Anthropic, είναι ότι οι κατευθύνσεις που επιβάλλουν οι αλγόριθμοι μπορεί να εισχωρήσουν στη διαδικασία λήψης ανθρώπινων αποφάσεων με τρόπους που δεν είναι πάντοτε εύκολο να εντοπιστούν, ακόμη και από τους ίδιους τους ανθρώπους που λαμβάνουν τις αποφάσεις. Αυτό θα μπορούσε να έχει εκτεταμένες συνέπειες, καθώς οι πράκτορες τεχνητής νοημοσύνης υιοθετούνται ευρέως σε κλάδους όπως η ιατρική, τα χρηματοοικονομικά και η άμυνα, αλλά και στην ίδια την έρευνα για την ασφάλεια και την ευθυγράμμιση της τεχνητής νοημοσύνης, η οποία βασίζεται σε μεγάλο βαθμό σε πράκτορες που εξετάζουν τα απομαγνητοφωνημένα ίχνη συλλογιστικής (chain-of-thought) άλλων συστημάτων τεχνητής νοημοσύνης.
«Εάν οι ειδικοί εκχωρούν τις κρίσεις τους σε συστήματα τεχνητής νοημοσύνης των οποίων οι αρχικές παραδοχές ενδέχεται να είναι αυθαίρετες ή ακόμη και ασύμβατες με τους στόχους τους, αυτές οι παραδοχές θα μπορούσαν να διαμορφώνουν την επιστημονική πρόοδο και τις πολιτικές αποφάσεις χωρίς να τις έχει επιλέξει κανείς», αναφέρει η Anthropic στην ερευνητική της εργασία.
Εάν οι άνθρωποι αναθέτουν τη λήψη αποφάσεων σε μικρό αριθμό πρακτόρων τεχνητής νοημοσύνης, οι προκαταλήψεις που ενσωματώνονται σε αυτά τα συστήματα θα διαμορφώνουν ολοένα και περισσότερο τα συστήματα πεποιθήσεων της κοινωνίας συνολικά. «Η φαινομενική συναίνεση μπορεί τότε να αντανακλά τις αρχικές παραδοχές του μοντέλου και όχι ανεξάρτητες κρίσεις, ενώ η ίδια μεροληψία θα επηρεάζει ταυτόχρονα πολλά αποτελέσματα», σημειώνουν οι ερευνητές.
Πρόκειται για μια μελέτη που διεξήχθη υπό αυστηρά ελεγχόμενες συνθήκες και ενδέχεται να έχει περιορισμένη εφαρμογή στον πραγματικό κόσμο. Καταρχάς, οι συμμετέχοντες μπορεί να διέθεταν εξειδικευμένες γνώσεις στη συναγωγή αιτιωδών συμπερασμάτων, αλλά δεν είχαν εμπειρία στην εργασία σε αγρόκτημα. Πραγματικοί, έμπειροι αγρότες ή μέλη διοικητικών συμβουλίων συνεταιρισμών ενδέχεται να ήταν λιγότερο πρόθυμοι να ακολουθήσουν τις συμβουλές του Claude.
Ωστόσο, η εξάπλωση ισχυρών πρακτόρων τεχνητής νοημοσύνης —πολλοί από τους οποίους ανήκουν σε εταιρείες με σαφή κίνητρα να κρατούν αδιάκοπα την προσοχή σας— προχωρά πολύ ταχύτερα από την επιστημονική κατανόηση των σύνθετων μηχανισμών που διέπουν τη λήψη ανθρώπινων αποφάσεων.
Συμβουλή προς όλους; Κάθε φορά που αλληλεπιδράτε με ένα chatbot, να θυμάστε ότι ο τρόπος σκέψης σας μπορεί να χειραγωγείται, ακόμη κι όταν δεν το αντιλαμβάνεστε. Οι αποφάσεις σας δεν είναι ποτέ απολύτως ανεπηρέαστες από εξωτερικούς παράγοντες, ιδιαίτερα στην εποχή της τεχνητής νοημοσύνης.
