Η τεχνητή νοημοσύνη μπορεί να μετατρέψει μέσα σε λίγα δευτερόλεπτα μια σύντομη γραπτή εντολή σε εξαιρετικά ρεαλιστική εικόνα. Δυστυχώς, κακόβουλοι χρήστες αξιοποιούν αυτή την τεχνολογία για τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών και το φαινόμενο αυξάνεται με ταχύτατους ρυθμούς.
Σύμφωνα με τον Guardian, οι οργανώσεις που παρακολουθούν το διαδίκτυο έχουν εντοπίσει ήδη κατά το πρώτο εξάμηνο του 2026 περισσότερο τέτοιο υλικό απ’ ό,τι σε ολόκληρο το 2025.
Το Internet Watch Foundation (IWF), βρετανικός οργανισμός που εντοπίζει και καταπολεμά το παράνομο υλικό κακοποίησης παιδιών στο διαδίκτυο, εντόπισε 6.310 παράνομες εικόνες που δημιουργήθηκαν με AI μεταξύ Ιανουαρίου και Ιουνίου.
Κατά τη διάρκεια ολόκληρου του προηγούμενου έτους είχαν καταγραφεί λίγο περισσότερες από 4.500 τέτοιες εικόνες, γεγονός που σημαίνει αύξηση περίπου 40%.
Η πλειονότητα των εικόνων αφορούσε κορίτσια, κυρίως παιδιά ηλικίας 7 έως 13 ετών.
Παράλληλα, το εργαλείο Report Remove, που βοηθά στην απομάκρυνση προσωπικών και ευαίσθητων εικόνων από το διαδίκτυο, έχει λάβει 420 αναφορές από παιδιά τα οποία υποψιάζονται ότι κάποιος έχει επεξεργαστεί φωτογραφίες τους με τρόπο πορνογραφικό.
Ο αριθμός αυτός είναι ήδη μεγαλύτερος από τις 397 αναφορές που καταγράφηκαν συνολικά σε ολόκληρο το προηγούμενο έτος.
Η εξέλιξη αναδεικνύει έναν νέο κίνδυνο για τις οικογένειες: φωτογραφίες παιδιών που έχουν δημοσιευτεί νόμιμα στο διαδίκτυο μπορούν να αποτελέσουν πρώτη ύλη για τη δημιουργία κακόβουλου και παραποιημένου υλικού.
Αρκεί το ισχύον νομικό πλαίσιο;
Σε αρκετές χώρες, συμπεριλαμβανομένης της ΕΕ, η δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών με τη χρήση AI αποτελεί ήδη ποινικό αδίκημα. Παράνομη είναι επίσης η τροποποίηση κάποιου μοντέλου AI ώστε να παράγει τέτοιο υλικό, καθώς και η διανομή μοντέλου που έχει σχεδιαστεί γι’ αυτό τον σκοπό.
Ωστόσο, το IWF ζητά αυστηρότερους κανόνες. Η Hannah Swirsky, επικεφαλής πολιτικής του οργανισμού, ζητά δεσμευτική νομοθεσία για την τεχνητή νοημοσύνη, ώστε οι εταιρείες τεχνολογίας να υποχρεώνονται να ενσωματώνουν μηχανισμούς ασφαλείας στα μοντέλα τους ήδη από το στάδιο του σχεδιασμού.
Όπως χαρακτηριστικά ανέφερε: «Είναι ευθύνη των τεχνολογικών εταιρειών να δημιουργούν εργαλεία που δεν μπορούν να χρησιμοποιηθούν με αυτόν τον τρόπο».
Τι μπορούν να κάνουν οι γονείς
Τόσο η National Crime Agency όσο και το Internet Watch Foundation συμβουλεύουν τις οικογένειες να αποφεύγουν τη δημόσια ανάρτηση φωτογραφιών των παιδιών τους.
Όταν η κοινοποίηση φωτογραφιών θεωρείται απαραίτητη, οι γονείς καλούνται να διατηρούν τα προφίλ τους ιδιωτικά ή να περιορίζουν την πρόσβαση στις φωτογραφίες σε μικρό κύκλο στενών φίλων και συγγενών.
Η δημοσίευση μιας φωτογραφίας από την πρώτη μέρα του παιδιού στο σχολείο μπορεί να μοιάζει απολύτως αθώα και φυσιολογική. Ωστόσο, σ’ ένα διαδίκτυο όπου η τεχνητή νοημοσύνη μπορεί να μετατρέψει πραγματικές φωτογραφίες σε εξαιρετικά ρεαλιστικό παραποιημένο υλικό, ακόμη και λίγα λεπτά που θα αφιερώσει σήμερα ένας γονιός στις ρυθμίσεις απορρήτου μπορούν να αποδειχθούν ιδιαίτερα σημαντικά για την προστασία του παιδιού του.
