Μια φωτογραφία που μοιάζει απολύτως αληθινή, ένα βίντεο με πρόσωπα που φαίνεται να μιλούν ή μια ηχογράφηση με τη φωνή κάποιου γνωστού προσώπου μπορεί πλέον να έχουν δημιουργηθεί εξ ολοκλήρου με τεχνητή νοημοσύνη. Καθώς η τεχνολογία εξελίσσεται και η διάκριση ανάμεσα στο αυθεντικό και το ψηφιακά κατασκευασμένο περιεχόμενο γίνεται ολοένα δυσκολότερη, η Google διαθέτει πλέον στο ευρύ κοινό ένα νέο εργαλείο που βοηθά τους χρήστες να ελέγχουν την προέλευση του υλικού που βλέπουν ή ακούν στο διαδίκτυο, αναζητώντας ψηφιακά ίχνη δημιουργίας με AI.
Πρόκειται για το SynthID Detector, μια διαδικτυακή υπηρεσία που αναζητά αόρατα ψηφιακά υδατογραφήματα, τα οποία ενσωματώνονται σε περιεχόμενο παραγόμενο από συγκεκριμένα συστήματα τεχνητής νοημοσύνης.
Όπως αναφέρει το Infobae, η υπηρεσία ήταν αρχικά διαθέσιμη σε περιορισμένο αριθμό δημοσιογράφων, επαγγελματιών των μέσων ενημέρωσης και ερευνητών. Πλέον, η πρόσβαση έχει επεκταθεί στο ευρύ κοινό, προσφέροντας έναν επιπλέον τρόπο ελέγχου της προέλευσης του υλικού που κυκλοφορεί στο διαδίκτυο.
Πώς θα ελέγξετε αν μια φωτογραφία δημιουργήθηκε με AI
Η διαδικασία είναι σχετικά απλή. Ο χρήστης επισκέπτεται την ιστοσελίδα synthid.com, συνδέεται στην υπηρεσία και ανεβάζει τη φωτογραφία, το βίντεο ή το ηχητικό αρχείο που θέλει να εξετάσει.
Στη συνέχεια, το σύστημα αναλύει το αρχείο αναζητώντας το ψηφιακό υδατογράφημα SynthID. Εφόσον εντοπιστεί συμβατή σήμανση, ενημερώνει τον χρήστη ότι υπάρχουν ενδείξεις δημιουργίας ή επεξεργασίας του περιεχομένου με τεχνητή νοημοσύνη.
Η βασική διαφορά από άλλες μεθόδους εντοπισμού είναι ότι το εργαλείο δεν επιχειρεί απλώς να αναγνωρίσει παράξενα χαρακτηριστικά μιας εικόνας, όπως αφύσικα πρόσωπα ή παραμορφωμένα αντικείμενα. Αναζητά συγκεκριμένες ψηφιακές πληροφορίες που έχουν ενσωματωθεί κατά τη δημιουργία του αρχείου.
Η υπηρεσία υποστηρίζει πολλές μορφές αρχείων. Για φωτογραφίες δέχεται, μεταξύ άλλων, JPG, JPEG, PNG, WEBP, HEIC, TIFF και GIF. Για βίντεο υποστηρίζει MP4, MOV και WEBM, ενώ για ήχο δέχεται μορφές όπως MP3, WAV, AAC, FLAC και M4A.
Τι είναι το SynthID και πώς λειτουργεί
Η τεχνολογία SynthID παρουσιάστηκε από την Google το 2023 και βασίζεται στην προσθήκη ενός ψηφιακού υδατογραφήματος στο περιεχόμενο που δημιουργείται από συμβατά μοντέλα AI.
Το συγκεκριμένο αποτύπωμα δεν είναι ορατό στο ανθρώπινο μάτι ούτε αντιληπτό κατά την ακρόαση ενός ηχητικού αρχείου. Μπορεί, όμως, να ανιχνευθεί από ειδικά συστήματα ελέγχου.
Η Google χρησιμοποιεί την τεχνολογία σε μοντέλα και υπηρεσίες όπως τα Gemini, Nano Banana, Veo και Lyria, καθώς και σε εφαρμογές δημιουργίας περιεχομένου, όπως τα Flow και Google Vids.
Σύμφωνα με την εταιρεία, η τεχνολογία δεν περιορίζεται πλέον αποκλειστικά στα δικά της προϊόντα. Στο οικοσύστημα του SynthID συμμετέχουν επίσης εταιρείες όπως η OpenAI, η Nvidia και η Kakao, ενώ προβλέπεται να προστεθεί και η Apple.
Η Google έχει ενσωματώσει δυνατότητες επαλήθευσης και σε υπηρεσίες όπως το Gemini, η Αναζήτηση Google και ο Chrome, αναφέροντας ότι πραγματοποιούνται περισσότερα από ένα εκατομμύριο αιτήματα ελέγχου καθημερινά.
Γιατί το αποτέλεσμα δεν είναι πάντα ασφαλές
Παρά τις δυνατότητές του, το SynthID Detector δεν μπορεί να αναγνωρίσει κάθε περιεχόμενο που έχει δημιουργηθεί με τεχνητή νοημοσύνη.
Ο σημαντικότερος περιορισμός είναι ότι το σύστημα αναζητεί συγκεκριμένα ψηφιακά υδατογραφήματα. Εάν μια φωτογραφία δημιουργήθηκε από εφαρμογή που δεν χρησιμοποιεί συμβατή σήμανση, ο έλεγχος μπορεί να μην εντοπίσει τίποτα.
Επομένως, μια αρνητική ένδειξη δεν αποδεικνύει ότι η φωτογραφία είναι αυθεντική. Αντίστοιχα, η ανίχνευση υδατογραφήματος δεν αποδεικνύει από μόνη της ότι το περιεχόμενο είναι παραπλανητικό.
Άλλες εταιρείες, όπως η Microsoft και η Meta, αναπτύσσουν επίσης τεχνολογίες επισήμανσης και επαλήθευσης περιεχομένου, χωρίς όμως να υπάρχει ακόμη ένα καθολικό σύστημα που να καλύπτει όλες τις εφαρμογές AI.
Για τους χρήστες, η πρακτική αξία του νέου εργαλείου είναι ότι προσθέτει ένα επίπεδο ελέγχου απέναντι στις ψεύτικες φωτογραφίες, τα παραποιημένα βίντεο και τις τεχνητές ηχογραφήσεις.
Ωστόσο, όταν ένα αρχείο προκαλεί υποψίες, παραμένει σημαντικό να ελέγχεται η αρχική πηγή, να αναζητούνται προηγούμενες δημοσιεύσεις της εικόνας και να συγκρίνονται οι πληροφορίες με αξιόπιστες πηγές.
Το SynthID μπορεί να βοηθήσει στην αναγνώριση περιεχομένου που παράγεται με AI, αλλά δεν αντικαθιστά την ανθρώπινη κρίση και τη διασταύρωση των πληροφοριών.
