Η Tεχνητή Νοημοσύνη (ΑΙ) έχει περάσει πλέον από το στάδιο της τεχνολογικής καινοτομίας στην καθημερινότητα.
Βοηθά γιατρούς να διαγνώσουν ασθένειες, τράπεζες να εντοπίσουν απάτες, επιχειρήσεις να προβλέψουν τη ζήτηση προϊόντων, δημοσιογράφους και συγγραφείς να γράφουν ταχύτερα και αποτελεσματικότερα και πολίτες να έχουν εξειδικευμένες πληροφορίες μέσα σε δευτερόλεπτα.
Ταυτόχρονα, όμως, διεισδύει και σε τομείς όπου μέχρι πρότινος θεωρούνταν αυτονόητο ότι τον τελευταίο λόγο θα είχε ο άνθρωπος και η κρίση του. Ένας από αυτούς είναι οι προσλήψεις προσωπικού ή αλλιώς το περιβόητο τμήμα ΗR.
Τα τελευταία χρόνια χιλιάδες επιχειρήσεις σε όλο τον κόσμο χρησιμοποιούν λογισμικό ΑΙ για να διαχειρίζονται τον τεράστιο όγκο βιογραφικών που λαμβάνουν. Σήμερα μια μεγάλη πολυεθνική μπορεί να δέχεται δεκάδες ή ακόμη και εκατοντάδες χιλιάδες αιτήσεις για μία μόνο θέση εργασίας.
Η τεχνητή νοημοσύνη υπόσχεται μείωση κόστους
Η αυτοματοποίηση υπόσχεται ότι θα μειώσει το κόστος, θα επιταχύνει τις διαδικασίες και θα εντοπίσει τους υποψηφίους που ταιριάζουν περισσότερο στις ανάγκες της εταιρείας.
Ένα λογισμικό του HR παίρνει πληροφορίες όχι μόνο από το βιογραφικό, αλλά από τα social media του υποψηφίου και τον βαθμολογεί από 0 έως 5. Αν δεν περάσει ένα μίνιμουμ, πχ. 2 ή 3, τότε το βιογραφικό του απορρίπτεται πριν καν το δεί άνθρωπος από το τμήμα προσλήψεων της επιχείρησης.
Πλατφόρμες όπως οι Eightfold AI, HireVue, SAP SuccessFactors, Oracle HCM, Workday Recruiting και Phenom χρησιμοποιούν μοντέλα ΑΙ για να ταξινομούν υποψηφίους, να αντιστοιχούν δεξιότητες με θέσεις εργασίας, να αξιολογούν πιθανότητες επιτυχίας και να βοηθούν τους υπεύθυνους ανθρώπινου δυναμικού να περιορίσουν γρήγορα τη λίστα των υποψηφίων.
Αντίστοιχες δυνατότητες έχουν ενσωματώσει και εργαλεία του LinkedIn Recruiter, ενώ πολλές μεγάλες επιχειρήσεις αναπτύσσουν και δικά τους εσωτερικά συστήματα.
Η χρήση τέτοιων εργαλείων δεν περιορίζεται στις Ηνωμένες Πολιτείες. Στην Ευρώπη, όμιλοι όπως η Siemens, η Bayer, η Unilever, η Vodafone, η Schneider Electric και άλλες πολυεθνικές έχουν ανακοινώσει κατά καιρούς ότι αξιοποιούν τεχνολογίες ΑΙ ή προηγμένες πλατφόρμες αυτοματοποίησης για τη διαχείριση ταλέντου, την αντιστοίχιση δεξιοτήτων και την επιλογή προσωπικού.
Επιτάχυνση προσλήψεων και εντοπισμός ταλέντων
Στόχος τους είναι να επιταχύνουν τις προσλήψεις και να εντοπίσουν υποψηφίους – ταλέντα, που διαφορετικά ίσως περνούσαν απαρατήρητοι. Παράλληλα, πολλές από αυτές υποστηρίζουν ότι εφαρμόζουν ελέγχους ώστε να περιορίζεται ο κίνδυνος μεροληψίας των αλγορίθμων.
Ωστόσο, όσο η ΑΙ αποκτά μεγαλύτερο ρόλο στις προσλήψεις, τόσο αυξάνονται και τα ερωτήματα γύρω από τη διαφάνεια αλλά και την ορθότητα των αποφάσεών της.
Μια δίκη με ιδιαίτερο ενδιαφέρον
Αυτό ακριβώς βρίσκεται στο επίκεντρο μιας ιδιαίτερα σημαντικής δικαστικής υπόθεσης που κατατέθηκε φέτος στην Καλιφόρνια. Η αγωγή στρέφεται κατά της Eightfold AI, μιας από τις μεγαλύτερες εταιρείες λογισμικού προσλήψεων στις ΗΠΑ, η οποία χρησιμοποιείται από μεγάλους οργανισμούς και εταιρείες του Fortune 500.
Σύμφωνα με το Reuters, η πλατφόρμα χρησιμοποιείται μεταξύ άλλων από εταιρείες όπως η Microsoft, η PayPal, η Salesforce και η Bayer, αν και καμία από αυτές δεν αποτελεί εναγόμενο στην υπόθεση.
Οι ενάγοντες υποστηρίζουν ότι η πλατφόρμα δημιουργεί κρυφές αξιολογήσεις για τους υποψηφίους αξιοποιώντας δεδομένα που αντλούνται από διάφορες πηγές και παράγει μια συνολική βαθμολογία σχετικά με την καταλληλότητά τους για μια θέση εργασίας. Σύμφωνα με το δικόγραφο, η βαθμολογία αυτή μπορεί να επηρεάζει καθοριστικά το αν ένας υποψήφιος θα φτάσει ποτέ στο στάδιο όπου το βιογραφικό του θα εξεταστεί από άνθρωπο.
Η υπόθεση έχει ιδιαίτερο ενδιαφέρον επειδή οι ισχυρισμοί δεν περιορίζονται στην ίδια την αξιολόγηση. Οι ενάγοντες υποστηρίζουν ότι οι υποψήφιοι δεν ενημερώνονται πως δημιουργείται ένα τέτοιο προφίλ, ούτε έχουν τη δυνατότητα να δουν ποια στοιχεία χρησιμοποιήθηκαν ή να διορθώσουν τυχόν λάθη πριν ληφθεί η απόφαση.
Η Eightfold AI απορρίπτει τις κατηγορίες, δηλώνοντας ότι δεν «σαρώνει» τα μέσα κοινωνικής δικτύωσης με τον τρόπο που περιγράφεται στην αγωγή και ότι τα συστήματά της βασίζονται στις πληροφορίες που παρέχουν οι ίδιοι οι υποψήφιοι και οι εργοδότες. Το δικαστήριο θα κληθεί να εξετάσει ποια από τις δύο πλευρές τεκμηριώνει τους ισχυρισμούς της.
Μιά άλλη παρόμοια δίκη έχουμε με την εταιρεία Workday. Ένας υποψήφιος (ο Derek Mobley) κατηγόρησε την εταιρεία ότι τα AI εργαλεία της τον απέκλεισαν συστηματικά από εκατοντάδες θέσεις εργασίας λόγω φυλετικών και ηλικιακών διακρίσεων.
«Ασκός του Αιόλου» για διακρίσεις και αποζημιώσεις
Η συζήτηση όμως δεν αφορά μία ή δύο εταιρείες, καθώς μετά τις πρώτες περιπτώσεις που δημοσιοποιούνται ανοίγει ειδικά στις ΗΠΑ ο ασκός του Αιόλου και των αποζημιώσεων.
Αντίθετα, αναδεικνύει μια ευρύτερη τάση που αναπτύσσεται ταχύτατα στη διεθνή αγορά εργασίας. Πολλά σύγχρονα συστήματα ΑΙ δεν περιορίζονται πλέον στην ανάγνωση ενός βιογραφικού.
Μπορούν να συνδυάζουν δημόσια διαθέσιμες πληροφορίες, επαγγελματικά προφίλ, ιστορικό καριέρας, δεξιότητες, πιστοποιήσεις, ακόμη και στατιστικές προβλέψεις σχετικά με τη μελλοντική εξέλιξη ενός υποψηφίου. Στόχος τους είναι να δημιουργήσουν μια συνολική εικόνα για το κατά πόσο κάποιος θεωρείται κατάλληλος για μια συγκεκριμένη θέση.
Η λογική πίσω από αυτά τα εργαλεία είναι απλή: όσο περισσότερα δεδομένα επεξεργάζεται ένα σύστημα, τόσο ακριβέστερες θεωρείται ότι είναι οι προβλέψεις του. Ωστόσο, η ίδια αυτή λογική γεννά και έναν από τους μεγαλύτερους προβληματισμούς της εποχής.
Ο υποψήφιος δεν γνωρίζει τίποτα για τον αλγόριθμο αξιολόγησης
Όταν η απόφαση βασίζεται σε έναν αλγόριθμο, ο υποψήφιος συνήθως δεν γνωρίζει ποια στοιχεία αξιολογήθηκαν, ποια αγνοήθηκαν και ποια πιθανόν ερμηνεύθηκαν λανθασμένα. Το αποτέλεσμα είναι μια διαδικασία που για πολλούς θυμίζει ένα είδος «κοινωνικού πιστωτικού σκορ», το οποίο λειτουργεί στο παρασκήνιο χωρίς ο ενδιαφερόμενος να έχει τη δυνατότητα να το ελέγξει.
Το βασικό νομικό ερώτημα της υπόθεσης αφορά τον αμερικανικό νόμο Fair Credit Reporting Act (FCRA), ο οποίος θεσπίστηκε για να προστατεύει τους πολίτες όταν πληροφορίες που αφορούν την οικονομική τους κατάσταση, το ιστορικό τους ή άλλα προσωπικά δεδομένα χρησιμοποιούνται για τη λήψη σημαντικών αποφάσεων, όπως είναι η πρόσληψη.
Οι ενάγοντες υποστηρίζουν ότι, εφόσον η ΑΙ δημιουργεί μια αξιολόγηση που επηρεάζει άμεσα την εργασιακή προοπτική ενός ανθρώπου, οι υποψήφιοι θα έπρεπε να ενημερώνονται, να έχουν πρόσβαση στα στοιχεία που χρησιμοποιήθηκαν και να μπορούν να διορθώσουν τυχόν ανακρίβειες πριν αποκλειστούν από μια θέση εργασίας.
Από την άλλη πλευρά, η Eightfold AI υποστηρίζει ότι οι υπηρεσίες της δεν εμπίπτουν στις συγκεκριμένες διατάξεις του FCRA και ότι η λειτουργία της είναι διαφορετική από εκείνη μιας παραδοσιακής εταιρείας παροχής πιστωτικών ή καταναλωτικών αναφορών. Η τελική ερμηνεία θα δοθεί από τα αμερικανικά δικαστήρια και ενδέχεται να αποτελέσει σημείο αναφοράς για ολόκληρο τον κλάδο.
Προς αυστηρότερους ελέγχους χρήσης της ΑΙ ως φίλτρο αξιολόγησης
Οι δύο αυτές υποθέσεις έχουν ανοίξει ήδη τον ασκό του Αιόλου. Οι νομικοί κύκλοι στις ΗΠΑ και την Ευρώπη προετοιμάζονται για ένα κύμα νέων προσφυγών για τους εξής λόγους:
Το «δεδικασμένο» είναι χρυσωρυχείο για τους δικηγόρους: Αν οι ενάγοντες κερδίσουν έστω και μία από αυτές τις δύο υποθέσεις, θα δημιουργηθεί νομικό προηγούμενο. Ειδικά στην υπόθεση της Eightfold (FCRA), ο νόμος προβλέπει αποζημιώσεις ανά παραβίαση (από $100 έως $1.000 για κάθε υποψήφιο). Με εκατομμύρια υποψηφίους να έχουν αξιολογηθεί από τέτοια συστήματα, μιλάμε για δυνητικές αποζημιώσεις δισεκατομμυρίων, κάτι που αποτελεί τεράστιο κίνητρο για μαζικές συλλογικές αγωγές (class actions).
Η «μετακύλιση ευθύνης»: Οι μεγάλες εταιρείες (ως εργοδότες) βρίσκονται σε πανικό. Από τη μία πλευρά, τα δικαστήρια αρχίζουν να θεωρούν τις εταιρείες AI ως «εκπροσώπους» των εργοδοτών. Από την άλλη, τα συμβόλαια που υπογράφουν οι εταιρείες AI με τους πελάτες τους (όπως η Microsoft ή η Salesforce) συνήθως ρίχνουν όλη τη νομική ευθύνη στον εργοδότη. Αυτό το κενό ευθύνης θα οδηγήσει σύντομα σε δικαστικές διαμάχες μεταξύ των ίδιων των εταιρειών και των AI παρόχων τους.
Η αυστηροποίηση της νομοθεσίας στην Ευρώπη: Μπορεί οι δίκες αυτές να γίνονται στις ΗΠΑ, αλλά στην Ευρώπη έχουμε πλέον σε πλήρη ισχύ το AI Act (Πράξη για την Τεχνητή Νοημοσύνη). Το AI Act κατατάσσει τα συστήματα που χρησιμοποιούνται για προσλήψεις και αξιολόγηση βιογραφικών στην κατηγορία «Υψηλού Κινδύνου» (High Risk).
Αυτό σημαίνει ότι οποιαδήποτε εταιρεία χρησιμοποιεί τέτοια εργαλεία στην ΕΕ χωρίς αυστηρούς ελέγχους, διαφάνεια και ανθρώπινη επίβλεψη είναι εκτεθειμένη σε εξοντωτικά πρόστιμα, κάτι που νομοτελειακά θα φέρει δικαστικές διαμάχες και στην Ευρώπη.
Αυτό σημαίνει ότι οι εταιρείες που τα αναπτύσσουν ή τα χρησιμοποιούν υποχρεώνονται να εφαρμόζουν διαδικασίες αξιολόγησης κινδύνου, να διατηρούν τεκμηρίωση για τον τρόπο λειτουργίας τους, να επιβλέπονται από ανθρώπους και να εξασφαλίζουν όσο το δυνατόν μεγαλύτερη διαφάνεια απέναντι στους πολίτες.
Η ευρωπαϊκή προσέγγιση δεν απαγορεύει τη χρήση της ΑΙ στις προσλήψεις, επιχειρεί όμως να διασφαλίσει ότι η τεχνολογία θα λειτουργεί ως εργαλείο υποστήριξης και όχι ως ένας ανεξέλεγκτος μηχανισμός λήψης αποφάσεων.
Παλαιότερες διακρίσεις και ανισότητες
Παράλληλα, ολοένα και περισσότερες εταιρείες αναγνωρίζουν ότι η αξιοπιστία των συστημάτων ΑΙ δεν εξαρτάται μόνο από την τεχνολογία αλλά και από τα δεδομένα με τα οποία εκπαιδεύονται. Εάν τα ιστορικά δεδομένα μιας επιχείρησης αντανακλούν παλαιότερες διακρίσεις ή ανισότητες, υπάρχει ο κίνδυνος οι αλγόριθμοι να τις αναπαράγουν αντί να τις εξαλείψουν.
Αυτός είναι και ο λόγος που αρκετοί μεγάλοι οργανισμοί πραγματοποιούν πλέον τακτικούς ελέγχους των μοντέλων ΑΙ, αναζητώντας πιθανές μεροληψίες ως προς το φύλο, την ηλικία, την εθνική καταγωγή ή άλλα προστατευόμενα χαρακτηριστικά.
Η συζήτηση αυτή δεν είναι θεωρητική. Τα τελευταία χρόνια έχουν καταγραφεί αρκετά παραδείγματα που έδειξαν ότι ακόμη και προηγμένα συστήματα ΑΙ μπορούν να οδηγηθούν σε λανθασμένα συμπεράσματα όταν εκπαιδεύονται σε προβληματικά δεδομένα.
Το παράδειγμα της Amazon
Το πιο γνωστό παράδειγμα είναι εκείνο της Amazon, η οποία εγκατέλειψε ένα πειραματικό σύστημα αξιολόγησης βιογραφικών όταν διαπιστώθηκε ότι υποβάθμιζε αιτήσεις γυναικών για ορισμένες τεχνικές θέσεις, επειδή είχε εκπαιδευτεί σε ιστορικά δεδομένα όπου κυριαρχούσαν άνδρες υποψήφιοι.
Η υπόθεση αυτή εξακολουθεί να χρησιμοποιείται διεθνώς ως χαρακτηριστικό παράδειγμα των κινδύνων που μπορεί να προκύψουν όταν η ΑΙ αναπαράγει ασυνείδητα τα πρότυπα του παρελθόντος.
Από την άλλη πλευρά, οι υποστηρικτές της τεχνολογίας επισημαίνουν ότι η ΑΙ μπορεί να συμβάλει σε πιο αντικειμενικές προσλήψεις, εφόσον σχεδιάζεται και χρησιμοποιείται σωστά. Υποστηρίζουν ότι ένας αλγόριθμος, όταν ελέγχεται συστηματικά και βασίζεται σε κατάλληλα δεδομένα, μπορεί να περιορίσει τις προσωπικές προκαταλήψεις που ενδέχεται να επηρεάζουν έναν άνθρωπο κατά την αξιολόγηση ενός βιογραφικού.
Επιπλέον, μπορεί να εντοπίσει υποψηφίους με δεξιότητες που δεν είναι άμεσα εμφανείς, διευρύνοντας τη δεξαμενή των ανθρώπων που εξετάζονται για μια θέση.
H ταχύτητα της ΑΙ ξεπερνά τις ικανότητες των θεσμικών πλαισίων
Παρά τα επιχειρήματα αυτά, οργανώσεις προστασίας προσωπικών δεδομένων, νομικοί και ειδικοί στην ηθική της ΑΙ προειδοποιούν ότι η ταχύτητα με την οποία υιοθετούνται τα νέα εργαλεία συχνά ξεπερνά την ταχύτητα με την οποία εξελίσσεται το θεσμικό πλαίσιο.
Το ουσιαστικό ερώτημα, τελικά, δεν είναι αν η ΑΙ θα συνεχίσει να χρησιμοποιείται στην αγορά εργασίας. Αυτό θεωρείται σχεδόν βέβαιο. Το πραγματικό διακύβευμα είναι ποιος θα ελέγχει τις αποφάσεις της, πόση διαφάνεια θα υπάρχει στη λειτουργία της και κατά πόσο ένας πολίτης θα έχει τη δυνατότητα να γνωρίζει γιατί απορρίφθηκε από μια θέση εργασίας.
Ανάγκη για σαφείς κανόνες και ανθρώπινη παρέμβαση
Όσο οι αλγόριθμοι αποκτούν μεγαλύτερη επιρροή σε αποφάσεις που επηρεάζουν την επαγγελματική και προσωπική ζωή εκατομμυρίων ανθρώπων, τόσο εντονότερη γίνεται η ανάγκη για σαφείς κανόνες, αποτελεσματική εποπτεία και ουσιαστική ανθρώπινη παρέμβαση.
Ίσως, τελικά, η μεγαλύτερη πρόκληση της εποχής της ΑΙ να μην είναι η ανάπτυξη ακόμη πιο ισχυρών αλγορίθμων, αλλά η διατήρηση της εμπιστοσύνης των ανθρώπων απέναντι σε αποφάσεις που επηρεάζουν το μέλλον τους.
Γιατί όσο εξελιγμένη κι αν γίνεται η τεχνολογία, η ευθύνη για μια τόσο κρίσιμη απόφαση όπως η πρόσληψη ενός ανθρώπου δύσκολα μπορεί να μεταφερθεί ολοκληρωτικά σε μια μηχανή.
