Μπορεί ένας αλγόριθμος να αποφασίζει ποιος θα προσληφθεί, ποιος θα πάρει αύξηση ή ποιος δικαιούται ένα κοινωνικό επίδομα; Μπορεί να συνδράμει έναν δικαστή στην αξιολόγηση μιας υπόθεσης ή να καθορίζει τον τρόπο με τον οποίο λειτουργεί μια δημόσια υπηρεσία; Τα ερωτήματα αυτά δεν αφορούν ένα μακρινό τεχνολογικό μέλλον ούτε παραπέμπουν σε κάποιο δυστοπικό μάτριξ. Οι επιχειρήσεις, οι δημόσιοι φορείς και οι οργανισμοί εντάσσουν ήδη την Τεχνητή Νοημοσύνη στις λειτουργίες τους και μεταφέρουν ολοένα και περισσότερες αποφάσεις στους αλγορίθμους. Άρα η συζήτηση δεν αφορά πλέον το αν θα κάνουμε ευρεία χρήση της ΑΙ, αλλά ποιος θέτει τα όρια, ποιος ελέγχει τις αποφάσεις των αλγορίθμων και πώς διασφαλίζεται ότι η τεχνολογία θα παραμένει εργαλείο στα χέρια του ανθρώπου και όχι υποκατάστατό του.
Αυτές τις «κόκκινες γραμμές» χαρτογραφεί η νέα μελέτη της διαΝΕΟσις για την ηθική και σύννομη χρήση της Τεχνητής Νοημοσύνης, ανοίγοντας μια συζήτηση που αφορά πλέον όχι μόνο τους ειδικούς, αλλά κάθε επιχείρηση, κάθε εργαζόμενο και κάθε πολίτη. Η μελέτη, την οποία υπογράφει 14μελής διεπιστημονική ομάδα με συντονίστρια την Καθηγήτρια στο Πανεπιστήμιο Αιγαίου Λίλιαν Μήτρου δεν αντιμετωπίζει την τεχνολογία ως μια αφηρημένη μελλοντική απειλή. Εξετάζει τις πραγματικές συγκρούσεις που γεννά ήδη στην εργασία, στη Δικαιοσύνη, στη δημόσια διοίκηση, στην ενημέρωση και στη δημιουργία.
Θυμίζουμε ότι σε πρόσφατη έρευνα της διαΝΕΟσις «Τι πιστεύουν οι Έλληνες για την Τεχνητή Νοημοσύνη», 9 στους 10 πολίτες απάντησαν καθαρά υπέρ της ύπαρξης περιορισμών στη χρήση της. Άρα η ρύθμιση της AI δεν αποτελεί μόνο αίτημα των ειδικών ως μια τεχνική ή νομική αναγκαιότητα «από τα πάνω», αλλά συνιστά -όπως διαπιστώνει η μελέτη- ευρύτερο κοινωνικό αίτημα.
Ο αόρατος προϊστάμενος
Μέχρι πριν από λίγα χρόνια, ένας προϊστάμενος αποφάσιζε ποιος θα προσληφθεί, ποιος θα αναλάβει μια νέα αρμοδιότητα ή ποιος θα πάρει μπόνους. Σήμερα, οι επιχειρήσεις χρησιμοποιούν συστήματα Τεχνητής Νοημοσύνης για να αναλύουν βιογραφικά, να επιλέγουν υποψηφίους, να οργανώνουν βάρδιες, να κατανέμουν εργασίες και να αξιολογούν την απόδοση του προσωπικού.
Η λεγόμενη αλγοριθμική διοίκηση αλλάζει τη σχέση εργοδότη και εργαζομένου. Οι αλγόριθμοι υπόσχονται ταχύτητα και αποτελεσματικότητα, αλλά συχνά κληρονομούν τις προκαταλήψεις των δεδομένων εκπαίδευσής τους. Η μελέτη της διαΝΕΟσις προειδοποιεί ότι ένα σύστημα προσλήψεων μπορεί να διαιωνίσει έμφυλες, ηλικιακές ή άλλες κοινωνικές διακρίσεις, ενώ θέτει ευθέως το ερώτημα: «Ποιος φέρει την ευθύνη όταν ένας αλγόριθμος λαμβάνει μια λανθασμένη ή άδικη απόφαση για έναν εργαζόμενο;»
Η Πράξη για την Τεχνητή Νοημοσύνη (ΑΙ Αct), η οποία έχει ήδη ενσωματωθεί και στο ελληνικό Δίκαιο, κατατάσσει τα συστήματα που χρησιμοποιούν οι εργοδότες για προσλήψεις και διαχείριση εργαζομένων στην κατηγορία υψηλού κινδύνου. Παράλληλα, απαγορεύει τη διάγνωση και καταγραφή των συναισθημάτων των εργαζομένων στον χώρο εργασίας. Μάλιστα, όπως επισημαίνει η μελέτη, η Επιθεώρηση Εργασίας έχει ήδη εκδώσει την πρώτη σχετική απόφαση στην Ελλάδα.
Όταν ο δικαστής συμβουλεύεται τον αλγόριθμο
Η Τεχνητή Νοημοσύνη μπορεί να αναλύσει χιλιάδες σελίδες νομολογίας μέσα σε λίγα λεπτά, να εντοπίσει προηγούμενες αποφάσεις και να βοηθήσει στην επεξεργασία πολύπλοκων υποθέσεων. Εκεί τελειώνει, όμως, ο ρόλος της και σίγουρα δεν μπορεί ένας αλγόριθμος να αναλάβει την ευθύνη της δικαστικής κρίσης, όπως επισημαίνει η μελέτη της διαΝΕΟσις. Ο δικαστής οφείλει να αξιολογεί τα πραγματικά περιστατικά, να σταθμίζει δικαιώματα και να αιτιολογεί την απόφασή του. Ο αλγόριθμος δεν γνωρίζει την ανθρώπινη εμπειρία, δεν κατανοεί πλήρως τις ιδιαιτερότητες κάθε περίπτωσης και δεν λογοδοτεί απέναντι στους διαδίκους.
Όπως τονίζει ο Παναγιώτης Περάκης, ο οποίος υπογράφει το κεφάλαιο της μελέτης για τη Δικαιοσύνη, η μετάβαση στην εποχή της Τεχνητής Νοημοσύνης «μας υποχρεώνει να αναστοχαστούμε τις βασικές αρχές που διέπουν τον θεσμό της Δικαιοσύνης». Υπογραμμίζει, πάντως, ότι οι αναγκαίες προσαρμογές μπορούν να αποτελέσουν ευκαιρία «για να κάνουμε τη Δικαιοσύνη καλύτερη». Το ζητούμενο, επομένως, όπως σημειώνει η διαΝΕΟσις , δεν είναι να αποκλείσουμε την τεχνολογία από τα δικαστήρια, αλλά να διατηρήσουμε σαφή τη διαχωριστική γραμμή ανάμεσα στην υποστήριξη και την υποκατάσταση της ανθρώπινης κρίσης. Σύμφωνα με τους υπογράφοντες τη μελέτη της διαΝΕΟσις, η μεγαλύτερη πρόκληση δεν είναι η χρήση της AI ως εργαλείου, αλλά η υπερβολική εμπιστοσύνη στις προτάσεις της.
Το κράτος απέναντι στα «μαύρα κουτιά»
Το ίδιο δίλημμα υπάρχει και όσον αφορά την εμπλοκή αλγορίθμων στη δημόσια διοίκηση. Η δημόσια διοίκηση μπορεί να χρησιμοποιήσει την Τεχνητή Νοημοσύνη για να επιταχύνει διαδικασίες, να εντοπίζει παραβάσεις, να διαχειρίζεται κοινωνικές παροχές και να περιορίζει τη γραφειοκρατία. Μπορεί επίσης να ενισχύσει την ισότητα απέναντι στον νόμο, να περιορίσει προκαταλήψεις και να μειώσει τα περιθώρια διαφθοράς.
Όπως όμως επισημαίνει η μελέτη, κάθε διοικητική απόφαση επηρεάζει δικαιώματα. Γι’ αυτό δεν αρκεί να παράγει ένα σύστημα τη σωστή απάντηση. Ο πολίτης πρέπει να γνωρίζει πώς και γιατί κατέληξε σε αυτήν. Γι’ αυτό δεν αρκεί μια απόφαση να είναι σωστή, αλλά πρέπει να μπορεί και να αιτολογηθεί. Αν ένας πολίτης χάσει ένα επίδομα ή βρεθεί αντιμέτωπος με έναν φορολογικό έλεγχο, δικαιούται να γνωρίζει ποια στοιχεία οδήγησαν στην απόφαση. Η διαφάνεια και η δυνατότητα ελέγχου των αλγορίθμων μετατρέπονται σε βασικές προϋποθέσεις για τη χρήση της AI στο Δημόσιο.
Η μελέτη αναδεικνύει την ανάγκη δημιουργίας ενός «μαύρου κουτιού» καταγραφής των διοικητικών αποφάσεων στις οποίες χρησιμοποιούνται αλγόριθμοι. Η απλή ενημέρωση του πολίτη ότι στη διαδικασία που τον αφορά χρησιμοποιήθηκε ένα σύστημα ΑΙ είναι μεν αναγκαία, αλλά ανεπαρκής. Αντίθετα, σε ένα πραγματικά διαφανές πλαίσιο, ο πολίτης μπορεί να γνωρίζει ποιος ήταν ο ρόλος της ΑΙ, ποια δεδομένα αξιοποιήθηκαν, ποια κριτήρια επηρέασαν το αποτέλεσμα και με ποιους τρόπους μπορεί ο ίδιος να την αμφισβητήσει.
Η Λίλιαν Μήτρου, η οποία υπογράφει το κεφάλαιο για το κράτος δικαίου και τη διοίκηση, αναδεικνύει τη διαφάνεια, την αιτιολογία και την ανθρώπινη παρέμβαση ως βασικές εγγυήσεις. Η μελέτη της διαΝΕΟσις επισημαίνει ότι τα συστήματα μπορεί να παράγουν συνεκτικά αποτελέσματα, αλλά συχνά αδυνατούν να λάβουν επαρκώς υπόψη τις ιδιαιτερότητες κάθε περίπτωσης.
Η παγίδα της «τυφλής εμπιστοσύνης»
Ο πιο ύπουλος κίνδυνος με την ΑΙ, όπως τονίζει η μελέτη, ίσως δεν βρίσκεται στον αλγόριθμο, αλλά στον άνθρωπο που σταματά να τον αμφισβητεί. Οι ειδικοί χρησιμοποιούν τον όρο automation bias, «μεροληψία αυτοματισμού» στα ελληνικά, για να περιγράψουν την τάση μας να εμπιστευόμαστε την πρόταση μιας μηχανής επειδή τη θεωρούμε ουδέτερη και αντικειμενική μόνο και μόνο επειδή προέρχεται από ένα αυτοματοποιημένο σύστημα.
Όπως διαπιστώνει η μελέτη, οι «παραισθήσεις» ή η αλγοριθμική προκατάληψη μπορούν να οδηγήσουν σε στρεβλή επιστημονική κατανόηση. Για παράδειγμα, παρατηρείται, πλέον, συχνά αυτό που ορισμένοι ονομάζουν «zombie citation», «ghost reference», «phantom paper» ή ακόμη και «Frankencitation», καθώς όλο και συχνότερα διαπιστώνουμε παραπομπές σε φανταστικούς συγγραφείς ή σε κείμενα ανύπαρκτα.
Στην πραγματικότητα, ο σχεδιαστής, τα δεδομένα και οι επιλογές εκπαίδευσης μπορούν να μεταφέρουν στο σύστημα παλιές προκαταλήψεις και διακρίσεις. Ένας υπάλληλος, ένας γιατρός, ένας δικαστής ή ένας δημόσιος λειτουργός μπορεί, χωρίς να το αντιλαμβάνεται, να σταματήσει να αμφισβητεί την πρόταση της AI. Η ανθρώπινη παρουσία -σύμφωνα με τη μελέτη- δεν αρκεί από μόνη της- καθώς η εποπτεία κινδυνεύει να εξελιχθεί σε «επίφαση ελέγχου», όταν ο αρμόδιος δεν διαθέτει επάρκεια, κατάρτιση, εξουσία και εργαλεία για να αμφισβητήσει ή να παρακάμψει το αποτέλεσμα του συστήματος.
Deepfakes, πνευματική ιδιοκτησία και εμπιστοσύνη
Η εξάπλωση της γενετικής Τεχνητής Νοημοσύνης ανοίγει ένα ακόμη μέτωπο με τη γενετική ΑΙ να θολώνει τα όρια ανάμεσα στο πραγματικό και το κατασκευασμένο περιεχόμενο. Τα deepfakes και τα ρεαλιστικά αυτοματοποιημένα προφίλ «επιμολύνουν», όπως αναφέρει η μελέτη της διαΝΕΟσις, το πληροφοριακό οικοσύστημα και ενισχύουν τη χειραγωγική στόχευση των πολιτών, καθώς δυσκολεύουν τη διάκριση ανάμεσα στο πραγματικό και το κατασκευασμένο περιεχόμενο.
Ταυτόχρονα, δημιουργοί, εκδότες και επιχειρήσεις θέτουν όλο και πιο πιεστικά ερωτήματα για τα πνευματικά δικαιώματα και τη χρήση έργων που αξιοποιούνται για την εκπαίδευση μοντέλων AI. Η απειλή δεν περιορίζεται στη διάδοση ενός ψεύτικου βίντεο. Όταν ο πολίτης δεν γνωρίζει πλέον τι να πιστέψει, αρχίζει να αμφισβητεί και το αυθεντικό περιεχόμενο. Οι συντάκτες της έρευνας αναφέρουν, για παράδειγμα, ότι, μετά την εκρηκτική διάδοση του ChatGPT, οι ιστοσελίδες που φιλοξενούσαν ψευδείς ειδήσεις δημιουργημένες με ΑΙ αυξήθηκαν κατά περισσότερες από 10 φορές. Ασφαλώς, παραπληροφόρηση υπήρχε και πριν από την ΑΙ, όμως πλέον κοστίζει λιγότερο, ενώ είναι πιο γρήγορη και πιο πειστική.
Η μελέτη προειδοποιεί ότι αυτή η αδυναμία διάκρισης μπορεί να οδηγήσει σε «κοινωνίες μηδενικής εμπιστοσύνης» και να διαβρώσει την εμπιστοσύνη στους θεσμούς. Άρα το διακύβευμα δεν είναι μόνο η προστασία της δημιουργίας, αλλά και η διατήρηση της εμπιστοσύνης στην ενημέρωση, στη δημόσια συζήτηση και τελικά στους ίδιους τους δημοκρατικούς θεσμούς. Για την αντιμετώπιση αυτής της απειλής, η μελέτη προκρίνει τον συνδυασμό νομικής ρύθμισης, θεσμικής εποπτείας και ψηφιακού γραμματισμού.
Η ανώτερη ευφυΐα των μηχανών και η ανθρώπινη ευθύνη
Υπό αυτά τα δεδομένα η Ευρώπη με την Πράξη για την Τεχνητή Νοημοσύνη δεν επιχειρεί απλώς να ρυθμίσει ένα νέο τεχνολογικό προϊόν, αλλά να περιορίσει μια νέα μορφή εξουσίας, η οποία αξιολογεί ανθρώπους, καθορίζει την επιλεξιμότητά τους και επηρεάζει αποφάσεις στον δημόσιο και τον ιδιωτικό τομέα. Η μελέτη ερμηνεύει την Πράξη για την Τεχνητή Νοημοσύνη ως προσπάθεια διατήρησης της ανθρώπινης εξουσίας και της δυνατότητας παρέμβασης απέναντι στην αυτοματοποίηση.
Το ερώτημα που θέτουν οι συντάκτες της δεν είναι αν οι αλγόριθμοι θα αποκτήσουν μεγαλύτερο ρόλο στην οικονομία και στο κράτος, αλλά ποιος θα λογοδοτεί για τις αποφάσεις τους και αν ο άνθρωπος θα διατηρήσει το δικαίωμα να τις κατανοεί, να τις αμφισβητεί και, όταν χρειάζεται, να τις ανατρέπει.
«Οι κίνδυνοι δεν απορρέουν από την ανώτερη ευφυΐα των μηχανών αυτών», παρατηρεί ο Ομότιμος Καθηγητής στο ΕΚΠΑ-ΗΡΩΝ Κέντρο Αριστείας στη Ρομποτική και ΤΝ, ΑΘΗΝΑ Ε.Κ., Σέργιος Θεοδωρίδης, «αλλά από το πώς θα συνυπάρχουν με τον άνθρωπο, όχι πια ως απλά εργαλεία για να επιτελέσουν συγκεκριμένες εργασίες (σε αντίθεση με προηγούμενες τεχνολογίες), αλλά ως συνεργάτες, “μιμούμενες/προσομοιάζοντας” την ανθρώπινη νοημοσύνη σε όλο και μεγαλύτερο εύρος δραστηριοτήτων, αλλά και με όλο και πιο προχωρημένους ανθρωπομορφικούς τρόπους συμπεριφοράς».
