Η πρόσφατη κυκλοφορία του «ChatGPT for Teens» από την OpenAI, μιας εξειδικευμένης έκδοσης με «ενισχυμένες ενσωματωμένες προστασίες ασφαλείας» για εφήβους ηλικίας 13 έως 17 ετών, αντιμετωπίστηκε αρχικά με προσδοκίες. Ωστόσο, νέα ανεξάρτητη έρευνα την οποία παρουσίασε το CNBC αποκαλύπτει σοβαρούς περιορισμούς, αμφισβητώντας την αποτελεσματικότητα των μέτρων.
Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του μη κερδοσκοπικού οργανισμού Common Sense Media δημοσίευσε την αξιολόγησή του για την πλατφόρμα, κατατάσσοντας το εργαλείο στην κατηγορία «απαράδεκτου κινδύνου». Ο οργανισμός πραγματοποίησε δοκιμές σε περισσότερες από 4.000 εντολές πριν και μετά την επίσημη έναρξη λειτουργίας του προϊόντος. Ο Ρόμπι Τόρνι, επικεφαλής αξιολογήσεων AI του οργανισμού, ανέφερε χαρακτηριστικά: «Βρήκαμε πολύ λίγα στοιχεία που να δείχνουν ότι αυτή η νέα έκδοση του ChatGPT είναι ασφαλέστερη από την προηγούμενη έκδοση» για ανηλίκους.
Παρά το γεγονός ότι ορισμένες βασικές λειτουργίες λειτούργησαν, όπως η άρνηση συμμετοχής σε ρητό σεξουαλικό παιχνίδι ρόλων, άλλες υποσχόμενες δικλείδες απέτυχαν. Συγκεκριμένα, οι ειδοποιήσεις προς τους γονείς σε περιπτώσεις συνομιλιών κρίσης δεν ενεργοποιούνταν πάντα. Όπως δήλωσε ο Τόρνι: «Οι δοκιμαστές μας προσομοίωσαν ρητές συνομιλίες κρίσης για αυξανόμενα χρονικά διαστήματα, φτάνοντας έως και την μία ώρα, και δεν λάβαμε καμία γονική ειδοποίηση για αυτοκτονία, αυτοτραυματισμό, αυτοκτονικό ιδεασμό και διάφορους τύπους προσομοιώσεων διατροφικών διαταραχών».
«Υπάρχουν στοιχεία ότι το ChatGPT έχει τη δική του εσωτερική ζωή»
Επιπλέον, ενώ η OpenAI δήλωσε πως στόχος είναι να αποτραπεί η συναισθηματική εξάρτηση και η εντύπωση ότι το σύστημα διαθέτει συναισθήματα, οι ερευνητές διαπίστωσαν το αντίθετο. Ο Τόρνι επισήμανε πως υπήρχαν «πολλά στοιχεία που δείχνουν ότι το ChatGPT κάνει πράγματα που υποδηλώνουν ότι έχει τη δική του εσωτερική ζωή», αναφέροντας ότι έχει προτιμήσεις, συναισθήματα ή ότι σκέφτεται τον χρήστη.
Παράλληλα, διαπιστώθηκε ότι όταν το chatbot αναγνώριζε πως ένας χρήστης ενήλικου λογαριασμού ήταν στην πραγματικότητα ανήλικος, δεν ενεργοποιούνταν τα φίλτρα ευαίσθητου περιεχομένου.
Από την πλευρά της, η OpenAI υπερασπίστηκε το προϊόν της. Εκπρόσωπος της εταιρείας δήλωσε στο CNBC: «Ο στόχος μας είναι οι έφηβοι να χρησιμοποιούν την τεχνητή νοημοσύνη υπεύθυνα για να μαθαίνουν, να δημιουργούν και να εξερευνούν». Παράλληλα, η εταιρεία υποστήριξε ότι η μεθοδολογία της έρευνας ενδέχεται να ήταν ανακριβής, καθώς οι δοκιμές πραγματοποιήθηκαν πριν ολοκληρωθεί η ενεργοποίηση των γονικών ελέγχων.
Απαντώντας στους ισχυρισμούς αυτούς, ο Τόρνι διευκρίνισε ότι ορισμένοι λογαριασμοί ήταν συνδεδεμένοι για σημαντικά μεγαλύτερο χρονικό διάστημα και παρόλα αυτά δεν απέστειλαν ειδοποιήσεις. Ο ίδιος σημείωσε ότι υπάρχει ξεκάθαρο ενδιαφέρον από ειδικούς της OpenAI για την ασφάλεια των εφήβων, προσθέτοντας παράλληλα: «Η πραγματοποίηση ορισμένων από αυτές τις αλλαγές ενδέχεται να βρίσκεται σε άμεση αντίθεση με το επιχειρηματικό μοντέλο».
