Από τις 2 Αυγούστου, τα νέα μοντέλα της Anthropic ενσωματώνουν στα κείμενα που παράγει ο Claude ένα αόρατο ψηφιακό σημάδι – υδατογράφημα, ενώ τα αρχεία που δημιουργεί συνοδεύονται από ψηφιακά υπογεγραμμένα μετα-δεδομένα (metadata).
Η αλλαγή έρχεται στο πλαίσιο του ευρωπαϊκού AI Act, αλλά η Anthropic εφαρμόζει τη σήμανση παγκοσμίως. Το κρίσιμο ερώτημα, όμως, δεν είναι αν ένα κείμενο πέρασε από AI, αλλά τι ακριβώς έκανε το AI σε αυτό.
Η σήμανση δεν εμφανίζεται ως κάποια ένδειξη πάνω στο κείμενο. Είναι ενσωματωμένη στον τρόπο με τον οποίο το μοντέλο επιλέγει και συνδυάζει τις λέξεις, ώστε να αποτελεί ένα στατιστικό αποτύπωμα που μπορεί να παραμένει στο κείμενο, ακόμη και μετά από αντιγραφή και επικόλληση (copy paste) και, σε ορισμένες περιπτώσεις, μετά από περιορισμένη επεξεργασία.
Για τις εικόνες, η προσέγγιση είναι διαφορετική. Τα αρχεία συνοδεύονται από μεταδεδομένα με ψηφιακή υπογραφή, ώστε να μπορεί να αναζητηθεί η προέλευσή τους.
Η κίνηση συνδέεται με το άρθρο 50 του ευρωπαϊκού AI Act, που προβλέπει απαιτήσεις διαφάνειας για περιεχόμενο που παράγεται ή τροποποιείται με τεχνητή νοημοσύνη.
Οι νέες υποχρεώσεις εφαρμόζονται σταδιακά και οι ήδη διαθέσιμες εκδόσεις μοντέλων έχουν διαφορετικό χρονοδιάγραμμα συμμόρφωσης. Η Anthropic, πάντως, επέλεξε να εφαρμόσει τη σήμανση στις απαντήσεις του Claude σε ολόκληρο τον κόσμο.
Ορίτζιναλ δημιουργία και απλή βοήθεια
Η λογική πίσω από τον κανόνα είναι απλή: όταν μια εικόνα, ένα βίντεο ή ένα κείμενο μπορεί να έχει παραχθεί από μηχανή, ο χρήστης θα πρέπει να έχει έναν τρόπο να το γνωρίζει. Το πρόβλημα αρχίζει όταν το ίδιο τεχνολογικό αποτύπωμα δεν μπορεί να ξεχωρίσει τη δημιουργία από την απλή βοήθεια.
Ας πάρουμε ένα απλό παράδειγμα. Ένας δημοσιογράφος γράφει μόνος του ένα 100% δικό του κείμενο και το δίνει στον Claude μόνο για μετάφραση ή για να διορθώσει τη σύνταξη. Το τελικό κείμενο μπορεί να φέρει το ίδιο υδατογράφημα με ένα άρθρο που δημιουργήθηκε σχεδόν εξ ολοκλήρου από τον Claude.
Η ένδειξη επομένως σημαίνει ότι το κείμενο πέρασε από τον Claude. Δεν αποδεικνύει ότι ο Claude το έγραψε.
Αυτό έχει ιδιαίτερη σημασία επειδή η ίδια η Anthropic επισημαίνει ότι το υδατογράφημα δεν αποτελεί απόδειξη πλήρους παραγωγής από AI. Αντίστοιχα, η απουσία του δεν αποτελεί απόδειξη ανθρώπινης συγγραφής. Μικρά κείμενα μπορεί να μην είναι ανιχνεύσιμα, ενώ η παράφραση, η μετάφραση ή η εκτεταμένη επανεπεξεργασία μπορούν να αποδυναμώσουν ή να εξαφανίσουν το σήμα.
Έτσι δημιουργείται μια παράδοξη κατάσταση: ένας άνθρωπος που χρησιμοποίησε την τεχνητή νοημοσύνη ως εργαλείο επιμέλειας μπορεί να αφήσει πίσω του ισχυρότερο ίχνος από κάποιον που έδωσε ένα πλήρες κείμενο για αναδιατύπωση.
Τι ζητά ο ευρωπαϊκός κανόνας
Εδώ χρειάζεται να ξεχωρίσουμε δύο διαφορετικές υποχρεώσεις του AI Act.
Ο νόμος προβλέπει δύο διαφορετικές υποχρεώσεις. Η πρώτη αφορά τις εταιρείες που αναπτύσσουν τα μοντέλα AI: πρέπει να ενσωματώνουν στο περιεχόμενο που παράγουν έναν τρόπο σήμανσης που μπορούν να αναγνωρίζουν τα ψηφιακά συστήματα.
Η δεύτερη αφορά όσους δημοσιεύουν περιεχόμενο που έχει παραχθεί ή τροποποιηθεί με AI. Σε ορισμένες περιπτώσεις, ιδίως όταν πρόκειται για ενημέρωση του κοινού σε θέματα δημοσίου ενδιαφέροντος, πρέπει να ενημερώνουν τον αναγνώστη ότι έχει χρησιμοποιηθεί τεχνητή νοημοσύνη.
Η ευρωπαϊκή προσέγγιση, ωστόσο, αναγνωρίζει ότι υπάρχει διαφορά ανάμεσα στην ουσιαστική δημιουργία περιεχομένου από μηχανή και στη χρήση ενός εργαλείου για βοηθητικές εργασίες, όπως η διόρθωση ή η μετάφραση. Όταν υπάρχει ανθρώπινος έλεγχος και σαφής συντακτική ευθύνη, το ποιος έχει την ευθύνη για το τελικό αποτέλεσμα παραμένει κρίσιμο.
Εδώ βρίσκεται και η βασική αδυναμία ενός αυτόματου watermark: δεν γνωρίζει τη διαδικασία που προηγήθηκε της δημοσίευσης.
Πιο αξιόπιστο από τους AI detectors, αλλά όχι αλάνθαστο
Το υδατογράφημα δεν πρέπει επίσης να συγχέεται με τους λεγόμενους AI detectors. Οι δεύτεροι προσπαθούν να εκτιμήσουν από το ύφος και τη δομή αν ένα κείμενο μοιάζει να έχει γραφτεί από μηχανή. Έχουν παρουσιάσει σημαντικά προβλήματα αξιοπιστίας, με έρευνες να δείχνουν ότι ανθρώπινα κείμενα μπορούν να χαρακτηριστούν λανθασμένα ως προϊόν AI.
Το watermark έχει διαφορετική βάση: δεν προσπαθεί να μαντέψει ποιος έγραψε το κείμενο, αλλά αναζητά ένα σήμα που το ίδιο το μοντέλο έχει ενσωματώσει στην παραγωγή του. Είναι επομένως πολύ πιο συγκεκριμένο. Παραμένει όμως στατιστικό εργαλείο και όχι πιστοποιητικό πατρότητας.
Και υπάρχει ακόμη ένα πρακτικό κενό. Η Anthropic έχει ανακοινώσει τη δυνατότητα ανίχνευσης του σήματος, αλλά δεν υπάρχει ακόμη ένας δημόσιος μηχανισμός που να επιτρέπει σε οποιονδήποτε καθηγητή, εργοδότη ή εκδότη να ελέγξει ένα κείμενο και να πάρει αυτομάτως απάντηση.
Παγκόσμια εφαρμογή αναγνώρισης ΑΙ περιεχομένου
Η αλλαγή δεν αφορά πλέον μόνο την Anthropic. Η αγορά κινείται συνολικά προς την πιστοποίηση της προέλευσης ψηφιακού περιεχομένου.
Η Suno έχει ανακοινώσει σήμανση για μουσική που δημιουργείται στην πλατφόρμα της, ενώ το Substack συνεργάζεται με την Pangram για τον εντοπισμό περιεχομένου που παράγεται από AI.
Παράλληλα, εταιρείες όπως η Google, η Meta, η Microsoft, η OpenAI, η Synthesia και η Black Forest Labs έχουν δηλώσει ότι θα ευθυγραμμιστούν με τις ευρωπαϊκές απαιτήσεις ή τα σχετικά πρότυπα διαφάνειας.
Η τάση είναι σαφής: όσο δυσκολότερο γίνεται να ξεχωρίσει ο άνθρωπος από τη μηχανή, με βάση το ίδιο το αποτέλεσμα, τόσο περισσότερο η τεχνολογία στρέφεται στην πιστοποίηση της προέλευσης.
Αλλά η προέλευση δεν είναι το ίδιο πράγμα με την ευθύνη. Ένα κείμενο μπορεί να έχει γραφτεί με τη βοήθεια AI και να έχει ελεγχθεί λέξη προς λέξη από έναν άνθρωπο. Μπορεί επίσης να έχει δημιουργηθεί σχεδόν εξ ολοκλήρου από μηχανή και να δημοσιευτεί χωρίς κανέναν ουσιαστικό έλεγχο.
Το watermark μπορεί να απαντήσει στο πρώτο ερώτημα: ποιο εργαλείο χρησιμοποιήθηκε; Δεν μπορεί από μόνο του να απαντήσει στο σημαντικότερο: ποιος αποφάσισε τι θα δημοσιευθεί και ποιος αναλαμβάνει την ευθύνη γι’ αυτό;
Και αυτή η διάκριση θα γίνει όλο και πιο σημαντική όσο η χρήση της AI περνά από την παραγωγή περιεχομένου στην καθημερινή εργασία ανθρώπων, που εξακολουθούν να είναι οι τελικοί δημιουργοί και υπογράφοντες.
