Μια σημαντική αλλαγή στον τρόπο λειτουργίας του ChatGPT στην Ευρωπαϊκή Ένωση δρομολογεί η OpenAI, καθώς τα κείμενα που παράγονται μέσω της δημοφιλούς εφαρμογής τεχνητής νοημοσύνης θα αποκτήσουν μια αόρατη ψηφιακή «υπογραφή». Το ιδιαίτερο χαρακτηριστικό της νέας τεχνολογίας είναι ότι η σήμανση θα παραμένει ενσωματωμένη στο κείμενο ακόμη και όταν ο χρήστης το αντιγράφει και το επικολλά σε άλλη εφαρμογή.
Σύμφωνα με το TechCrunch, η εταιρεία ανακοίνωσε τη Δευτέρα ότι θα ξεκινήσει την εφαρμογή ενός αόρατου ψηφιακού υδατογραφήματος (watermark) στα κείμενα που δημιουργούνται από το ChatGPT και το Codex στην ΕΕ, προκειμένου να συμμορφωθεί με τις απαιτήσεις του ευρωπαϊκού κανονισμού για την τεχνητή νοημοσύνη (AI Act).
Οι νέοι κανόνες διαφάνειας, που τέθηκαν σε ισχύ στις 2 Αυγούστου, απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να επισημαίνουν το περιεχόμενο που δημιουργούν τα συστήματά τους, ώστε να μπορεί να αναγνωρίζεται από κατάλληλα τεχνολογικά εργαλεία.
Η εφαρμογή του συστήματος θα ξεκινήσει σταδιακά τις επόμενες εβδομάδες και θα αφορά τους επιλέξιμους χρήστες όλων των συνδρομητικών προγραμμάτων του ChatGPT και του Codex στην Ευρωπαϊκή Ένωση.
Αντίθετα, οι προγραμματιστές που χρησιμοποιούν το API της OpenAI σε οποιαδήποτε χώρα θα μπορούν να ενεργοποιούν προαιρετικά την τεχνολογία σε επιλεγμένα μοντέλα.
Πώς λειτουργεί η αόρατη «υπογραφή» του ChatGPT
Το νέο σύστημα, με την ονομασία textGrain, δεν προσθέτει κάποιο ορατό σύμβολο, κρυφό χαρακτήρα ή ειδικό κώδικα στο κείμενο. Αντίθετα, επηρεάζει ανεπαίσθητα τις επιλογές λέξεων που πραγματοποιεί το μοντέλο κατά τη δημιουργία μιας απάντησης.
Μέσα από εκατοντάδες τέτοιες μικρές διαφοροποιήσεις σχηματίζεται ένα στατιστικό μοτίβο, το οποίο δεν γίνεται αντιληπτό από τον αναγνώστη, αλλά μπορεί να αναγνωριστεί από ειδικό λογισμικό ανίχνευσης.
Η τεχνολογία αναπτύχθηκε με τη συμμετοχή ερευνητών από τα πανεπιστήμια της Πενσιλβάνια και του Γέιλ και βασίζεται στη χρήση ενός μυστικού ψηφιακού κλειδιού.
Επειδή η σήμανση βρίσκεται ουσιαστικά στις ίδιες τις λέξεις και στον τρόπο επιλογής τους, μπορεί να διατηρείται ακόμη και μετά από αντιγραφή και επικόλληση του κειμένου.
Η OpenAI διευκρινίζει ότι το υδατογράφημα δεν αποκαλύπτει την ταυτότητα του χρήστη, ενώ οι δοκιμές της δεν έδειξαν ουσιαστική υποβάθμιση της απόδοσης των μοντέλων.
Πόσο εύκολα μπορεί να αφαιρεθεί
Παρά τις δυνατότητές της, η τεχνολογία παρουσιάζει σημαντικούς περιορισμούς. Σύμφωνα με τις δοκιμές της εταιρείας, η αντικατάσταση μόλις του 10% των λέξεων με συνώνυμες μείωσε το ποσοστό επιτυχούς ανίχνευσης από περίπου 92% σε 66%.
Ακόμη μεγαλύτερες δυσκολίες παρουσιάζονται σε σύντομα κείμενα, μαθηματικές απαντήσεις και μεταφράσεις, όπου η αναγνώριση του ψηφιακού αποτυπώματος γίνεται λιγότερο αξιόπιστη.
Για τον λόγο αυτό, η πρόσβαση στο εργαλείο ανίχνευσης θα περιοριστεί αρχικά σε εγκεκριμένους ερευνητές και εξειδικευμένους οργανισμούς.
Η OpenAI ξεκαθαρίζει επίσης ότι η απουσία υδατογραφήματος δεν αποτελεί απόδειξη ανθρώπινης συγγραφής, καθώς ένα κείμενο μπορεί να έχει τροποποιηθεί σημαντικά ή να προέρχεται από διαφορετικό σύστημα τεχνητής νοημοσύνης.
Αντίστοιχα, η ύπαρξη της σήμανσης δεν αποκαλύπτει πόση ανθρώπινη εργασία, δημιουργικότητα ή επιμέλεια έχει ενσωματωθεί στο τελικό αποτέλεσμα.
Η ανακοίνωση έρχεται δύο μήνες μετά την απόφαση της Anthropic να εφαρμόσει αντίστοιχη τεχνολογία στο Claude σε παγκόσμιο επίπεδο, προκαλώντας αντιδράσεις χρηστών που υποστηρίζουν ότι η τεχνητή νοημοσύνη αποτελεί απλώς εργαλείο για τη δημιουργία περιεχομένου.
Στην ευρωπαϊκή πρωτοβουλία για τη διαφάνεια του περιεχομένου τεχνητής νοημοσύνης συμμετέχουν, μεταξύ άλλων, οι OpenAI, Google, Meta, Microsoft και Anthropic.
