Για περισσότερες από δύο δεκαετίες, ο Hany Farid είχε αφιερώσει την καριέρα του στην προσπάθεια να απαντήσει σε ένα ολοένα πιο δύσκολο ερώτημα: αυτό που βλέπουμε στο διαδίκτυο είναι πραγματικό ή κατασκευασμένο;
Καθηγητής στο University of California, Berkeley και από τους σημαντικότερους ερευνητές της ψηφιακής εγκληματολογίας, ο Farid έχει γίνει σημείο αναφοράς για κυβερνήσεις, δημοσιογράφους, οργανώσεις ανθρωπίνων δικαιωμάτων και διωκτικές αρχές που αναζητούσαν τρόπους να εντοπίσουν deepfakes.
Σήμερα, όμως, παραδέχεται στους New York Times, ότι η ίδια η τεχνολογία που επί χρόνια προσπαθεί να αντιμετωπίσει έχει αρχίσει να ξεπερνά τις δυνατότητες ανίχνευσης.
Η ανησυχία του έγινε ιδιαίτερα έντονη όταν κλήθηκε να εξετάσει ένα βίντεο που φέρεται να κατέγραφε πυραυλικό πλήγμα αμερικανικής προέλευσης σε σχολείο στο Ιράν.
Το βίντεο είχε ήδη γίνει viral και είχε συγκεντρώσει περισσότερες από ένα εκατομμύριο προβολές. Για τον Farid, η πρώτη αντίδραση ήταν ότι επρόκειτο πιθανότατα για ακόμη ένα προϊόν ΑΙ.
Το ξαναείδε, όμως, καρέ προς καρέ.
Εξέτασε τις σκιές, την κίνηση της κάμερας, την πορεία του πυραύλου, την ταχύτητά του και τις διαστάσεις του. Χρησιμοποίησε γεωεντοπισμό για να προσδιορίσει την περιοχή και στη συνέχεια ανέλυσε τα εικονοστοιχεία. Όσο περισσότερο ερευνούσε, τόσο περισσότερο δυσκολευόταν να εντοπίσει στοιχεία που να αποδεικνύουν ότι το υλικό ήταν κατασκευασμένο.
Λογισμικό του Farid που διακρίνει αληθινά από fake βίντεο © Hany Farid
Μετά από μια ολόκληρη ημέρα ανάλυσης και διασταύρωσης με άλλους ειδικούς, το συμπέρασμα ήταν ότι δεν υπήρχαν πειστικές ενδείξεις παραποίησης. Παρ’ όλα αυτά, ο Farid δεν μπορούσε να απαλλαγεί από την αμφιβολία.
Το πρόβλημα δεν είναι πλέον ότι υπάρχουν μερικά πολύ καλά deepfakes ανάμεσα σε αληθινές εικόνες. Είναι ότι η πλαστή εικόνα έχει αρχίσει να γίνεται ο κανόνας, ενώ η αλήθεια απαιτεί χρόνο, τεχνική ανάλυση και εξειδικευμένα εργαλεία για να αποδειχθεί.
H επαλήθευση ενός βίντεο μπορεί να χρειαστεί ώρες
Αυτό δημιουργεί ένα κρίσιμο μειονέκτημα. Ένα ψεύτικο βίντεο μπορεί να δημιουργηθεί μέσα σε λίγα λεπτά και να εξαπλωθεί σε εκατομμύρια οθόνες σχεδόν αμέσως. Η επαλήθευσή του, αντίθετα, μπορεί να χρειαστεί ώρες.
Όπως εξηγεί ο Farid στους φοιτητές του, η δημιουργία deepfakes είναι πλέον εύκολη, φθηνή, γρήγορη και αξιόπιστη, ενώ η ανίχνευσή τους παραμένει δύσκολη και δαπανηρή. Η διαφορά αυτή έχει τεράστιες συνέπειες.
Το διαδίκτυο μπορεί πλέον να γεμίσει μέσα σε λίγες ώρες με ψεύτικες εικόνες από έναν πόλεμο, μια τρομοκρατική επίθεση, μια πολιτική κρίση ή ένα έγκλημα. Ακόμη και όταν αργότερα αποδειχθεί ότι ένα συγκεκριμένο υλικό είναι πλαστό, η αρχική εντύπωση μπορεί να έχει ήδη διαμορφώσει την κοινή γνώμη.
Ο Farid έχει αναπτύξει τεχνολογίες που εξετάζουν στοιχεία τα οποία δύσκολα αντιλαμβάνεται το ανθρώπινο μάτι. Μεταξύ άλλων, οι μέθοδοι που έχει μελετήσει μπορούν να αξιοποιούν τον συγχρονισμό στόματος και ήχου, τον φωτισμό, τις σκιές, την προοπτική, τις κινήσεις του προσώπου και ακόμη και ανεπαίσθητες αλλαγές στο χρώμα του δέρματος που συνδέονται με τον καρδιακό παλμό.
Διαρκής αγώνας δρόμου
Αλλά και αυτές οι μέθοδοι βρίσκονται σε έναν διαρκή αγώνα δρόμου.
Όσο βελτιώνονται τα εργαλεία παραγωγής ΑΙ, τόσο καλύτερα γίνονται τα ψεύτικα βίντεο, οι συνθετικές φωνές και οι ψηφιακοί χαρακτήρες. Ένα πρόσωπο μπορεί πλέον να αναπαραχθεί από μια φωτογραφία, ενώ μια σύντομη ηχογράφηση μπορεί να χρησιμοποιηθεί για την κλωνοποίηση της φωνής του.
Ο ίδιος ο Farid έχει πέσει θύμα μιας τέτοιας επίθεσης. Κάποιος πλαστογράφησε τον αριθμό του κινητού του και χρησιμοποίησε κλωνοποιημένη φωνή ΑΙ για να υποδυθεί τον ίδιο σε επικοινωνία με συνεργάτη του, προσπαθώντας να αποσπάσει ευαίσθητες πληροφορίες.
Από τότε, ο Farid και η σύζυγός του έχουν συμφωνήσει ακόμη και σε μια ειδική «λέξη ασφαλείας» για να επιβεβαιώνουν ότι μιλούν πράγματι ο ένας με τον άλλον σε κρίσιμες τηλεφωνικές επικοινωνίες.
Η αλλαγή αυτή έχει επηρεάσει και τον ίδιο ψυχολογικά. «Νιώθω σαν να τυφλώνομαι», έχει πει, περιγράφοντας την αίσθηση ότι δεν μπορεί πλέον να εμπιστευτεί αυτό που βλέπει.
Ένα αυθεντικό γεγονός μπορεί εύκολα να αμφισβητηθεί
Η κρίση δεν περιορίζεται στην παραπληροφόρηση. Ο Farid ανησυχεί για τις επιπτώσεις στη δημοκρατία, στη δημοσιογραφία, στην ασφάλεια αλλά και στην ίδια την κοινωνική αντίληψη της πραγματικότητας.
Όταν κάθε φωτογραφία, βίντεο ή ηχητικό μπορεί να είναι προϊόν ΑΙ, τότε ακόμη και ένα αυθεντικό γεγονός μπορεί εύκολα να αμφισβητηθεί.
Και αυτή ίσως είναι η πιο επικίνδυνη εξέλιξη.
Η δύναμη των deepfakes δεν βρίσκεται μόνο στην ικανότητά τους να κάνουν τους ανθρώπους να πιστεύουν κάτι ψεύτικο. Βρίσκεται και στην αντίστροφη δυνατότητα: να κάνουν τους ανθρώπους να αμφισβητούν κάτι αληθινό.
Ο Farid, που για χρόνια δίδασκε στους φοιτητές του πώς να αντιμετωπίζουν την τεχνολογική επανάσταση, έχει πλέον αρχίσει να βλέπει διαφορετικά το μέλλον. Σε μια διάλεξη στο Berkeley, ένας φοιτητής τον ρώτησε αν υπάρχει λύση στο άμεσο μέλλον ή αν η κοινωνία είναι ουσιαστικά καταδικασμένη να χάσει τη μάχη.
«Είμαστε καταδικασμένοι»
Η απάντησή του ήταν αποκαλυπτική: «Είμαστε καταδικασμένοι».
Παρά την απαισιοδοξία του, ο Farid δεν έχει εγκαταλείψει την έρευνα. Αντίθετα, συνεχίζει να εξετάζει καθημερινά βίντεο, εικόνες και ηχητικά που φτάνουν στα χέρια του από ολόκληρο τον κόσμο.
Παράλληλα, μαζί με τη σύζυγό του, την επιστήμονα όρασης Emily Cooper, αποφάσισαν να απομακρυνθούν από την ένταση της Silicon Valley. Αγόρασαν ένα σπίτι σε αγροτική περιοχή του Vermont, με δάση και μεγάλες εκτάσεις γης, αναζητώντας μια ζωή με λιγότερες οθόνες και περισσότερη άμεση επαφή με τον πραγματικό κόσμο.
Εκεί, ο Farid κόβει ξύλα, περπατά στα μονοπάτια και παρατηρεί το τοπίο. Η χειρωνακτική εργασία τού προσφέρει κάτι που η ψηφιακή έρευνα δεν μπορεί: ένα αποτέλεσμα που είναι απτό και αδιαμφισβήτητο. Ένας σωρός από ξύλα μεγαλώνει μπροστά στα μάτια του και δεν χρειάζεται αλγόριθμο για να αποδείξει ότι υπάρχει.
Ωστόσο, η αποσύνδεση αποδεικνύεται δύσκολη. Τα email συνεχίζουν να φτάνουν. Βίντεο από υποτιθέμενες επιθέσεις, αεροπορικά δυστυχήματα, εκρήξεις και εγκλήματα ζητούν την τεχνογνωσία του. Κάθε μεγάλη είδηση συνοδεύεται πλέον από ένα κύμα ψηφιακού υλικού, μέρος του οποίου είναι πραγματικό και μέρος του κατασκευασμένο.
Έτσι, ακόμη και βαθιά μέσα στα δάση του Vermont, η ίδια ερώτηση επιστρέφει στην οθόνη του.
Τι πραγματικά συμβαίνει;
Για έναν άνθρωπο που αφιέρωσε τη ζωή του στο να ξεχωρίζει την αλήθεια από την απάτη, η απάντηση γίνεται όλο και πιο δύσκολη.
Και ίσως το μεγαλύτερο πρόβλημα της εποχής των deepfakes να μην είναι ότι η ΑΙ μπορεί να δημιουργήσει μια πειστική ψεύτικη πραγματικότητα, αλλά ότι μπορεί να καταστήσει την ίδια την πραγματικότητα αδύνατο να αποδειχθεί.
